随着日本社会经济的高度发展和福利社会的深化，地方政府在管理地方事务和处理大量的行政事务的过程中，其政策能力和实施技术水平有了很大提高。有些地方立法开始超前于国家立法，制定了很多中央政府所预想不到的政策和地方性法规。同时，80年代以来，由于中央政府主导下进行的旨在维持国民基本生活的社会基础建设基本完成，又由于日本在国际社会中的地位逐渐提高，中央政府需要用大量的财力承担一些支援发展中国家发展等的义务，处理国与国关系的国家事务日益增多，“国际化”就成了日本政府的重要政策课题。因此，中央政府本身为了更好地适应当前出现的新的政策课题的变化，在财政状况恶化的，条件下，不可能一味扩大政府职能，像以往那样包揽过多的国内事务，因此就要考虑其自身作用、角色的调整，实行包括向地方放权在内的行政改革。
如前所述，90年代行政改革是从1990年10月设立的第三次行政改革审议会的活动开始的。第三次行政改革审议会对推动地方分权发挥了一定的作用。该审议会在有关地方分权的报告中强调了从根本上实行分权的必要性，日本政府还根据该审议会的建议具体实施了“地方分权特例制度”、“中坚市”制度和地方“广域联合”制度，扩大了一些中型市的地方权力。在该审议会有关地方分权报告的影响下，1993年6月还通过了关于推进地方分权的国会决议，提出要制定从根本上推进地方分权的法律。这在日本宪政史上还是第一次，使地方分权的改革在社会上产生了很大的影响，有力地推动了自治化改革的进程。
同年10月第三次行政改革审议会向政府提交了总体报告，强调从根本上调整中央政府与地方政府的分工关系。
同时提出，中央政府的作用应该是重点负责推行与国家的存亡直接相关的政策，制定需要全国统一实行的有关管理社会经济活动和地方自治的法规，以及实施那些必须要从国家整体的角度才能有效完成的措施和建设。关于分权的改革当然应从调整中央政府与地方政府的作用着手，但正如日本法政大学武藤博己教授所言，该审议会的意见是在限定中央政府的作用，所以这种见解同以往的地方制度改革相比前进了一步。
1994年12月村山内阁会议通过了“关于推进分权的大纲方针”。紧接着根据这项内阁会议的意向，日本政府向国会提交了《地方分权推进法案》。1995年5月国会通过了《地方分权推进法》，并决定于同年7月3日开始实施。
这项立法的重要意义就在于它把地方分权的长期战略变得具体化。
根据《地方分权推进法》日本政府于1995年7月设立了地方分权推进委员会，其目的在于有计划地全面推进地方分权的改革。该委员会的活动按法律规定将延续到2000年的7月，其主要任务是调查审议有关推进地方分权的基本事项，就制定地方分权推进计划的具体方针提出建议，以及监督地方分权计划中的具体措施的实行情况并提出意见等。地方分权委员会同80年代以来历届有关行政改革的委员会的不同之处是，学术界的委员3人占委员总数的一半以上，特别是日本行政学界的权威东京大学西尾胜教授，在该委员会的运行和有关地方分权方针的审议上发挥了重要作用。另外，其他委员如长州一二（前神奈川县知事）等曾任过地方政府的最高首长，还有来自经济界的委员多是积极支持地方分权的人士，使“分权派偶然占了多数”。
地方分权推进委员会成立之后，积极开展有关地方分权问题的调查和审议，到1998年日本政府出台地方分权推进计划为止，共向政府提交了4次有关自治化改革的咨询报告。这4次报告的中心是要明确中央政府和地方政府的职能划分，提出了一些激进的加强地方自治的措施。虽然遭到了中央政府各部门的反对，但后来日本政府在制定具体的地方分权推进计划时还是基本参考了该委员会的建议。
地方分权推进委员会4次报告中提出了以下几点有关地方分权的具体改革措施：
①在明确地方政府不能是中央政府的附属机构的前提下，全面废除中央政府委托给地方政府的相关事务；②对中央政府的地方财政补贴制度实行合理化改革；③国家直接处理驻扎在日本的美军基地的租用手续问题；④专门设立“国家地方纠纷问题处理委员会”，处理和调节中央政府与地方政府间出现的矛盾纠纷。
桥本内阁推行的行政改革中，推进地方分权也是重要改革课题。特别是行政改革会议的《最终报告》也明确提出，必须减少中央政府对地方自治的干预，强调“公共性的空间”决非是中央政府“官”的垄断，应在这一基本前提下推进地方分权的改革，实现适应新的环境条件变化的“国民本位”的行政。
《最终报告》基本上承继了第三次行政改革审议会的改革方针，要求事关不同地区的行政，原则上应完全由地方政府完成。具体改革措施是：废除机关委任事务；中央政府向地方放权；废除或缩小中央政府的干预和限制；清理和缩小中央政府对地方的财政补贴；强化地方财政的自立性；有关地方分权制度的法制化要在2000年3月3旧以前完成并稳固实行。
日本地方分权改革的有效推行，其基本前提是要建立新的地方行政和财政制度。行政改革会议高度评价了地方分权推进委员会在改革机关委任事务和减少中央政府干预方面所做出的努力，同时也强调今后要真正推行扎实有效的地方分权必须把财政收入来源和权力下放到地方，为此行政改革会议提出了3点相应制度改革的具体要求：
①讨论地方制度的改革，包括实行“道州制”扩大地方政府的规模和管理范围；②财政上的自立是地方政府自立的前提。为了使地方政府的行政管理运营有财政收入来源的保证，能够使其真正成为处理地方事务的主体，除了要进行中央、地方税收制度的改革，还要改革阻碍地方自立的国家财政补贴制度等；③为了有效推行地方分权，如何确保地方政府自已的人才资源也是一个重要前提。为此应该改革当前存在的中央政府部门的人员挂职到地方政府任要职的问题。
1998年5月，日本政府在地方分权委员会提交的4次报告的基础上，制定了地方分权推进计划，来具体落实自治化改革的方针，改革高速经济增长时期形成的不适应社会文化和政治结构多元化的中央政府部门主导的均衡划一的政府体系结构。该项计划的指导思想是要明确中央地方的职能分工，把与市民生活密切相关的行政事务尽可能地交由地方政府处理，建立中央地方以及省级政府都、道、府、县与基层地方政权市、町、村的新型关系。在此基础上，地方分权推进计划就具体的政府间职能分工问题、调整中央政府的地方派出机关问题、确保地方财政来源问题等提出了具体方针措施：
①废除机关委任事务，重新划分自治事务，中央地方建立平等的协作关系，积极推动权力转移。为此确定，由中央政府直接执行的事务包括法定的委托事务、有关国家统治的根本的政务、需要制定全国统一的制度和标准的事务。
就个别的中央政府委派给地方的事务而言，要视其社会意义和经济效益，废除不合理的事务，有必要保留的也要改为自治事务。废除“地方事务官制度”，有关社会保险和维护劳动就业条件的事务交由厚生省和劳动省管理。
②在处理中央政府和地方政府的关系上，中央政府应通过与地方政府协商的方式进行，并把其影响控制在最小的范围之内。向地方政府施加影响发出指令时必须以书面形式说明理由。
③在总理府设立“国家地方纠纷处理委员会”，公平、独立地审查中央地方的矛盾。对中央政府部门的干预有不同意见的地方政府可向该委员会申请，由该委员会进行审查，提出处理意见进行调解。如果对处理意见不服，可向法院上诉。
④对中央政府的地方派出机构进行合理化改革，事务量减少的要缩编，力口J陕对其组织和事务结构的调整。
⑤有关中央政府的地方财政补贴制度，要每隔10年进行一次调整，还要严格限制新增。另外，尊重地方征税的自主权，着手研究中央和地方的中长期财政收入分配方案；交付给地方使用的税收，在确保重量稳定的基础之上，简化手续，允许地方对交付额度的计算方法提出异议；在协商的前提下，废除中央政府限制地方发行公债的许可制度；有关处理行政事务时手续费的收取，全国统一性的收费要由中央政府规定标准，并加以法制化。
⑥在处理都、道、府、县与市、町、村的地方政府间关系上，除了跨地区的事务之外都由基层政府处理；依照国家地方纠纷处理条例，对地方政府间的矛盾调解制度进行修正。
⑦推进地方政府的改革，完善地方政府的行政管理体制。尽快修正行政改革大纲，确定地方行政改革的新方针；推进市、町、村的合并；改革地方议会，使其充满活力；推进市民的政治参与，并使其多元化。
地方分权推进计划囊括了对中央地方权力的调整、地方财政制度的改革、地方行政管理体制的改革，是个多层面、全方位的自治化改革计划。显然，它对变革中央主导型的日本政府体系结构将会起到巨大的推动作用。地方分权推进计划的制定和实施，表明了日本政府推进自治化变革的决心，同时它的推行不但使地方政府的权力和社会管理的事务量大幅度增多，而且还会在很大程度上改变中央政府在国家管理中的作用和承担的角色。这无疑推进了日本政府行政改革战略目标的实现。
下放权力当然重要，但是如果不对接受权力、将要承担大量管理事务的地方政府的财政和行政系统结构进行改革，分权后地方政府的基础也不会牢固，也会出现回流。这样就会给中央政府的政策干预创造空隙，使地方分权和自治化成为一句空话。因此，地方分权的改革也是一个系统工程，无法从中独立出来仅凭理念行事。因此，改革的程序和步骤对保证改革的成功是十分必要的。