1949 年中华人民共和国成立以来，政府进行了多次机构改革。 1978 年改革开放后又先后于 1982 年、1988 年、 1993 年进行了三次机构改革。
始于 1998 年的第四轮改革正在进行之中。从以往机构改革的 历史 经验来看， 中国 政府机构存在着五个方面的 问题 。
一、政府机构设置不稳定 这种不稳定性是有迹可寻的，基本上是在三个层面进行周期性循环：从政府职能上看，是在中央政府与地方政府、政府与 企业 经济 管理权力之间的配置上进行权力下放与上收之间的循环；任何政府机构的设置都以职能为核心，职能的变化直接导致另外两个层面的变化——在政府机构设置上进行分开与合并、撤销与增加之间的循环；在机构内部工作人员的数量上进行精简与膨胀之间的循环。 在 1978 年前后两个时期导致政府机构出现有 规律 变化的原因有所不同。
此前是由计划经济体制运行的内在逻辑决定的 ; 此后则是由于从计划经济体制向市场经济体制的过渡造成的。 计划经济的主要特征是用行政力量来配置资源和主宰经济活动，本应由市场和企业承担的种种经济职能被集中到政府中来 ，它客观上要求一个规模庞大、复杂完备的政府机构以便承担和实现这些职能，其结果必然导致政府行政机构——主要是经济管理机构的不断细分和不断膨胀。
就是说，计划经济体制是巨型政府的经济基础 。美国著名经济学家约瑟夫·熊彼特在 1949 年发表的演讲《大步进入 社会 主义》中对此有过论述：几乎不可能设想，这种意义上的社会主义 可以没有庞大的官僚机构来管理生产和分配过程。
1949 年政务院 成立时，设立政法、财经、文教、人民监察四个委员会，分管 35 个部门，机构比较精简。 1953 年，由于第一个五年计划的实施，加强了中央计划指导，中央政府的经济管理职能开始向直接、微观方面 发展 ，综合管理部门分化为专业管理部门，如重 工业 部进一步细分为一机部、二机部、建筑工程部和地质部；从财政部中分出了粮食部；贸易部一分为二，变成商业部和对外贸易部。
这样，政务院的机构由 35 个增加到 42 个，经济管理部门增加到 21 个。 1954 年国务院成立，计划程度进一步提高。
为加强直接管理，撤销了四个委员会，改设八个办公室，实际上是管理权力的进一步细化，行政机构相应增加到 64 个，其中经济管理部门达到 35 个。到 1956 年，三大改造完成，社会主义体制的初步建立使中央政府集权的范围空前扩大，经济管理部门管理的产业越来越多，原来的机构设置已经无法适应庞大的管理业务，遂更细致地划分了管理系统：撤销了重工业部和燃料工业部，分设和增设了冶金工业、化学工业、建筑材料工业、煤炭工业、电力工业、石油工业、森林工业等部。
同时，为加强中央政府的宏观协调能力，又增设了国家经济委员会和国家技术委员会两个综合职能部门。这样，国务院的机构膨胀到 81 个，是建国后的第一个高峰 。
但这一体制的弊端也很快暴露出来——中央集权过多，统得过死，地方和企业都丧失了自主性和灵活性，经济发展陷入停滞状态，地方政府纷纷要求中央放权。 1956 年 4 月，毛泽东在中央书记处做的题为《论十大关系》的讲话中指出，传统的苏联体制的弊病，主要在于权力过分集中，损害了地方政府、生产单位和劳动者个人的积极性，必须加以改革。
他说：“我们不能像苏联那样，把什么都集中到中央，把地方卡的死死的，一点机动权也没有。” 于是，中央提出改革国家行政体制，开始下放权力；一部分由中央管理的企事业单位下放给地方政府，国务院各部门所属企事业单位由 1957 年的 9300 个减少到 1958 年的 1200 个 ；同时，国务院所属机构裁减了 21 个部门，机构减少到 60 个。
计划经济正常运行的前提是中央高度集权，政令统一，步调一致，只有这样才能保证经济的正常秩序。而一旦权力下放，政出多门，地方政府各自为政，又没有市场的调节，由中央政府宏观协调失控导致经济秩序的混乱是必然的。
到 1959 年，这种混乱已发展到比较严重的程度。于是，从 1960 年开始，中央重新强调集中统一，反对半无政府主义，被撤销的部门陆续恢复。
1962 年的七千人大会进一步
