第一，重视民众教育。社会教育司的设立，是中国教育史上把民众教育列入官制的开始。蔡元培多年留学欧洲，发现那里的社会教育十分发达，与他们国力的增强有直接关系。同时他深为我国文盲充斥、年长失学者过多而忧虑，认为国家如此下去非常危险。主持教育部工作后，他便大力提倡社会教育，以提高整个民族的文化素质。社会教育司的设置，对于我国近代文化体育等各项事业的发展都起了推动作用。
第二，注重初等教育的发展。我国历史上初等教育多为私学(称蒙养教学)，程度不齐，管理不善。民国教育部在普通教育司的章程中，强调了对于私塾的改良，提出要进行有关儿童入学的调查，要专门奖励小学老师，并要掌握专管初等教育的教育行政部门的变更事项等，使初等教育的管理在普通教育司中占有重要的地位。
第三，教育总长的地位、权限有所提高。教育部官制规定教育总长有权监督地方最高行政长官对教育的实施情况，使教育不完全从属于国家的行政机构，而有相对的“独立”性。
第四，开始建立近代教育行政视导机构。教育部内设立了视学室，这是我国近代教育部设立视导机构的开始。1913年，民国教育部公布了《视学规程》，规定将全国分为8个视学区，每区派视学2人，视察该区的普通教育和社会教育。视学分为定期、临时两种。规程还对视学人员的资格、视学的具体内容、视学的原则以及视学结果的汇报等作了规定。此后，又公布了《视学室办事细则》等法规，逐步建立了比较完整的视学制度。
总之，民国初年教育部的建制，比清代末年的学部有了长足的进步，它不同于封建官制，拥有一定的教育立法权力，其设置也有近代倡导的“组织法”作为依据，因此，可以称作是近代的中央教育行政机构。
2．地方教育行政机构
（1）省级教育行政机构
民国建立后，清末原有的提学使司宣告废止，各省在军政时期，一切行政均隶属于军政之下，省级教育行政也大多由省都督府兼管。各省都督府为了管理方便，在分署中设立了专管教育的教育科，管理全省教育行政事宜。学务比较发达的省区，如江苏省规定省立各学校，由都督府管辖；县立学校由民政长官管辖。京师地区则设学务局，其中设局长1人，主持局务；副局长1人，辅助局长工作。设总务、中学、小学、通俗四科，任用科长科员，分科治事。教育部曾试图划一地方教育行政制度，但没有结果。
（2）县级教育行政机构
民国初年，县级教育行政机构的设置十分混乱，有的县设立了学务委员会，有的仍保留着劝学所的建制，有的将劝学所并入县公署，有的设立教育公所，有的专设立县视学，如此等等。1914年12月，教育部正式公布了《劝学所规程》，通令各县设立劝学所，“辅佐县知事办理县教育行政事宜，并综核各自治区教育事务”。规程规定劝学所设所长1人，劝学员2-4人，劝学所经费在地方公款项下自筹等。自此，纷乱的县级教育行政机构才大体稳定下来。
可见，这一时期地方教育行政机构的改革，并没有像中央教育行政机构那样受到相应的重视，其教育管理的职能也没有得到应有的发挥。这必然会影响地方教育事业的发展。
（二）北洋政府的教育行政制度
北洋政府时期仍然沿用民国初年设立的教育部。但是，北洋政府在短短十余年间先后更换教育总长近30人次；最高教育行政长官的频繁更迭，反映了北洋军阀统治时期教育管理的混乱，也严重影响了民国初年教育的改革与发展。
1925年广州国民政府成立，各部组织改行委员制，教育部改设为教育行政委员会。但仅实行一年多就被大学院所取代。这一时期教育行政体制的完善，主要体现在地方教育行政机构的建设和发展上。大致到上世纪20年代，我国近代的教育行政体制建成了自中央教育部到省教育厅、县教育局这样一个完整的系统，标志着近代教育行政体制的建成。
1．省教育厅的建立
民国建立以后，各省的教育事业最初由都督兼管，使地方教育缺乏有力的领导，影响地方教育的发展。对此，教育界人士一直谋求改革。民国六年(1917年)，北洋政府接受教育界的建议，以大总统令公布了《教育厅暂行条例》，规定各省设立教育厅，隶属于教育部。教育厅设教育厅长，由大总统任命，为国家简任官(即文官第二级)。其职能为“秉承省长执行全省教育行政事务，监督所属职员暨办理地方教育之各县知事”。教育厅内分科理事，根据省的大小设置教育各科，但至多不得超过3科，每科科员不得超过3人。还规定教育厅设省视学4-6人，由厅长委任，承省教育行政长官之命视察全省教育事宜。
教育厅组织结构（参见图10-4）如下：
教育部有关教育厅长事权的法规与咨文还规定“各省教育行政事项，自该厅长到任之日起，一律划归教育厅主管；惟关于行政事项，应由该厅长视其性质之轻重大小，分别呈明省署及本部核准，或径行处理，呈报备案”，意在使教育厅行政尽可能少受普通行政干预，具有相对的独立权限。这与欧洲近代的教育管理体制大致接近，但在当时的中国却难以推行。因为中国仍处于半封建半殖民地社会，行政体制仍实行集权制。颁发了教育厅的设置条例后，各省公署内的教育科并未取消，只是改名为教育厅的第三科。所以，许多省的教育行政实权，仍在省公署的教育科。
2．县教育局的建立
民国初年县级教育行政机构的设置十分混乱。直到新文化运动兴起之后，教育界要求县教育行政保持相对的自主功能，实行专业化，从而推动了基层教育行政机构的建设。1921年第七届全国教育会联合会提出《改革地方教育行政制度案》，主张设立县教育局为全县的教育行政机构，揭开了县教育行政体制改革的序幕。1923年，教育部在民意的推动下，以大总统教育令的形式，公布了《县教育局规程》及《特别市教育局规程》，明确规定县市设立教育局为教育行政机关，教育局由局长1人、视学和事务员若干人组成。县教育局长商呈县知事主持全县教育行政事宜，并督促指导属于该县之教育事宜。
为了加强基层教育行政人员的专业性，《规程》明确规定了教育局长的资格，要求有一定的学历、教育理论修养和教育实践阅历等。其任命也有一定的程序规定：必须由县知事从有资格者中推选3人，呈请该省教育行政长官选任，然后报教育部备案。
《规程》还规定以董事会为教育局的参议机构，其职能在于参议和筹集教育经费。董事均为名誉职员。为保证董事会发挥参议作用，规定开会时教育局长可以参加，但没有表决权。这一细节，多少表现了教育管理的民主精神。
（三）南京国民政府的教育行政制度
1．大学院和学区制
1919年爆发的“五四”运动，使反对帝国主义列强和反对封建主义的斗争深入人心，在教育上也掀起了与之相呼应的教育独立运动。教育独立运动，是针对反动的封建军阀克扣教育经费、破坏教育事业和帝国主义列强推行奴化教育而兴起的。
教育独立运动的基本要求可大致归结为：第一，要求教育经费独立。政府应拨固定教育专款，不得移作他用。建立独立的教育会计制度等。第二，要求教育行政独立。各省须设专管教育的行政机构，不得附设于政府部门，由懂教育的专业人士主持，教育总长不可随政局的变动而频繁更换；第三，要求教育学术和内容独立。教育方针应保持稳定，不受政治的干扰。能自由编辑、出版、选用教科书。第四，教育脱离宗教而独立。
蔡元培是这个运动的主帅，在教育行政体制上，他力主实行法国创行的大学院制。因为辛亥革命后，教育行政机关多由官僚政客把持，任用人员不问是否具有教育管理的才能，劣绅、贪官，人尽可为，使教育行政部门充满官僚气息，腐败不堪。蔡元培对此深恶痛绝，力图改革，以克服教育行政管理上的官僚化，使之“学术化”，有教育自主权。1927年6月，国民党中央政治会议通过蔡元培等人的建议，实行大学院制。任命蔡元培为大学院院长。
大学院由中央与地方两级教育行政机构组成，其中央的教育行政机构称大学院，其地方教育行政机构称大学区。
大学院为全国最高学术和教育行政机关，受命于国民政府。大学院设院长1人，负责全院事务，兼任国民政府委员。大学院还设立大学委员会，为最高评议机关。院长之下设有秘书处，处理本院事务。学术及教育管理机构则有教育行政处、学术与教育的各种专门委员会、学术研究机关。教育行政处是管理教育行政事务的主要机构，它分设学校教育、社会教育、法令统计、图书馆、国际出版品交换、书报审查等6组。学术与教育的专门委员会分设有大学院政治教育委员会、大学院经费计划委员会、大学院艺术教育委员会、大学院华侨教育委员会、大学院体育指导委员会等。学术研究机关设有中央研究院、国立劳动大学、图书馆、博物馆、美术馆、观象台等机关。
实行大学院制，要求划分大学区。基本上是每一大学区内设国立大学1所，设校长1人，综理大学区内的一切学术与教育行政事务。每区设一评议会，是审议机关；设研究院为学术研究机关，并担任“设计”事务(即规划文化与教育的发展规划)，其办事机构有高教处、普教处、扩充教育处等等。
蔡元培创立大学院制，目的是要变“教育官僚化”为“教育学术化”，但是，由于教育独立是不科学的幻想，加上大学院要推行的是“独立型”的教育行政体制，与中国几千年实行的中央集权制相悖，与当时的政体不合，在实行中，学术化未见成效，而官僚化却难以铲除。因此，大学院制实行之初就受到一些人的责难和非议，实行年余即被取消。
2．重建教育部、教育厅和教育局
1928年12月11日，国民政府公布了《国民政府教育部组织法》，规定教育部负责全国学术和教育事业的行政事务，从而取消了大学院制，恢复了教育部的建制。