일본은 민간피용자를 위한 소득비례 후생연금, 공무원 등 특수직역종사자를 위한 높은 수준의 소득비례 공제연금(이상의 두 제도를 피용자연금이라고도 함), 자영자 등을 위한 정액부담·정액급여형의 국민연금 등 직역별 분립된 다양한 연금제도를 도입·운영하여 왔다. 그로 인해 공적연금제도간의 불평등 문제(급여수준의 민·관 격차문제) 나아가 취업구조 및 인구고령화 등에 따른 재정문제가 심각하였다.

특히 취업구조가 변화하면서 구 국민연금의 재정문제가 문제가 되었으며 인구구조의 고령화는 동 제도의 재정문제를 더욱 악화시킬 것으로 예상되었다. 또 규모가 작은 몇몇 공제연금은 특수직역종사자들의 신규진입 제한 및 연금제도의 성숙 등으로 더욱 극심한 재정적인 불균형에 시달리고 있었다. 아울러 제도의 분립으로 인해(물론 연금제도간 연계제도가 있었지만) 제도이동자의 연금액이 적절하게 보장되지 못하는 문제점도 있었다.

이러한 문제점을 해결하고자 1985년 종전의 국민연금을 전국민 기초연금으로 전환하고 분립된 제도를 일부 통합하는 한편, 일원적 연금구조를 기초연금과 소득비례연금으로 이원화하는 큰 개혁을 단행하였다. 대부분의 선진복지국가가 기초연금을 먼저 도입·운영하다가 이후에 소득비례연금을 덧붙이는 방식으로 연금개혁을 해 온 반면에, 일본은 다양한 대상층에 대해 여러 개의 공적연금제도가 이미 분립된 형태로 자리를 잡고 발달된 이후에 기초연금을 도입하고 제도를 이원화한 점이 특징이라고 할 수 있다.

• 1942년 : 사업장 남성근로자 대상으로 노동자연금보험법 실시
• 1944년 : 후생연금보험법으로 개칭 (여성노동자 적용)
• 1961년 : 국민연금 도입 (자영자, 5인 미만사업장 근로자, 농민 등)
• 1985년 : 현행 국민 (기초) 연금, 후생연금, 공제연금으로 체계화
• 1999년 : 후생연금 급여율 5% 인하, 연금급여를 물가에만 연동하는 방식으로 전환, 소득비례연금
  수급개시연령의단계적 상향조정 (60세(2013년)→65세(2025년))
• 2004년 : 연금수준 (소득비례연금) 점진적 인하 및 국민/후생연금 보험료의 점진적 인상
• 2007년 : 70세 이후 소득활동 시 후생연금의 지급정지제도 시행 (노령후생연금과 임금의 합계가
  48만엔이 초과하는 경우에 전액 또는 일부정지), 노령 후생연금 연기지급제도 시행 (66세 이후
  수령하도록 신청가능)
• 2010년 : 5천만건의 개인의 연금기록이 매칭되지 않는 문제가 발생하여 2010년부터 새로운 관리기관을 두어
  사회보험청 (Social Insurance Agency) 을 일본연금기구로 재편
• 2012년 : 공적연금의 재정기반과 최저보장기능을 강화하기 위해 기초연금 국고부담 1/2 항구화, 관민격차
  해소를 위해 공무원 공제연금과 사립학교 공제연금을 모두 후생연금에 통합하는
  「피용자연금 일원화법」 제정

일본의 공적연금제도 요약