从传统书院、义学、社学等脱离而来的各类学堂，到底怎样开办，怎样管理，在当时社会，几乎无人能懂，许多方面只能沿袭旧儒学的套路。光绪二十八年（1902年）由兰山书院改建的甘肃大学堂，对外招生时，报考的学生多为秀才，或各地推荐来的秀才。年龄最大者40岁，最小者十六七岁。1903年甘肃大学堂迁入新校舍，更名为甘肃文高等学堂。新校舍包括一座图书楼，三院斋舍，六间教室，一座理化教室。当时有100多学生。扩建后的学社，初步搭建起了近代学堂的框架。在课程的设置上，文高等学堂的课程是中西兼备，既开设传统儒学温经阅史的科目，又开设西方自然科学方面的课程，有经学、史学、地理、外文、理化、博物、教育、心理、数学、体操、法制、兵学、图画、修身等。另外，因毗邻新疆，考虑到当时边境危机，还特设俄文班，试图培养与俄国交涉人才，这部分学生主要为宁夏、凉州、平番（今永登县）满营的八旗子弟。八旗子弟一向骄横跋扈，养尊处优，在学堂内常招惹是非，令先生难以管教。在文高等学堂先后任总教习的有陕西人刘古愚，地方翰林刘尔炘。另外，甘肃大学堂还先后聘请了六位外籍人士（有日本人、比利时人、法国人）任“洋教习”，先后讲授英文、日文、博物、理化等课程。
学生除了设本科（也称为正科）、预科、附中，还设师范馆，各科学制不同。本科学生每人每月发津贴白银二两四钱，每月考试一次，成绩优秀者，可得奖金一二两和几百制钱不等。师范馆学生每人每月津贴白银八两，由各县筹解藩署，交由学堂转发。学校提供学生需要的课本、笔墨等用品。学堂的总负责人称为“提调”，后改为总办、监督。甘肃大学堂是甘肃近代第一所具有高等教育性质的学堂。
大学堂更名为文高等学堂后，学制比原来较短，但比中学堂又长。1907年、1908年毕业了两批学生，有的留学海外，有的服务本省，有的随学堂初期的提调杨增新赴新疆就职。刘尔炘任总教习时，尝试办好文高等学堂，在教学理念上，既固守传统文化，又吸收西方科学技术，并寻找将两者很好结合的路子，但因他的思想在总体上比较守旧，又不通西学，因此，办得也并不是很理想。他在为1907年毕业班的学生题写的书联颇为大雅，联云：“四海风云，安得猛士，三年毕业，当有传人。”为1908年毕业班的书联云： “万古斯文，要成绝学，四年毕业，是为小成。”当时兰州的中学堂为兰州府属，是光绪三十一年（1905年）由兰州五泉书院改建来的，这是清末兰州府唯一的一所中学堂。其他如速成师范、陆军小学、法政学堂、农矿学堂等，均以培养学生的专业能力为主，具有职业教育的性质。
为了培养近代矿业人才，清廷在1906年设立的农工商矿总局，开办了农矿学堂。该学堂创办之初，招收正额学生30名，副额学生30名，学堂统一配发学生的衣服、书籍等用品，每人每月还发伙食费银子3两。1912年学堂停办。
新式教育在发展过程中，问题丛生，其中最突出的问题是师资奇缺。培养具有近代知识的合格教师，事关近代教育的正常发展。鉴于此，近代师范教育便应时而生了。甘肃近代师范教育与近代普通教育基本是同步出现的。1904年，在甘肃文高等学堂内，就附设了师范馆，这是师范教育的萌芽。该师范馆修业期限为一年，开设人伦道德、经史、国文、算术、教育、体操等六门课程。学生为各府州县按配额选送的举人和贡生，每月有一定的津贴。初步设立的师范教育，教学条件很不完善，不少课程因师资缺乏，形同虚设。如算术一课，因无人讲授而缺额，以后由刘尔圻勉强讲授《周髀算经》和清代梅文鼎的数理学知识。1904—1905年的两年时间里，在师范馆学习期满正式毕业，或学习虽未期满而学校承认予以毕业的学生共有135名。毕业的学生绝大多数被派往各府、州县去创办高等小学堂。最初的师范教育不是很规范，但它们培养的学生仍然将接受的近代教育的点滴知识带到了社会底层，还是具有开创性的业绩。
1905年，甘肃成立学务处，决定开办甘肃优级师范学堂以代替附设在文高等学堂内的师范馆，以培养中学师资；同时还开办速成师范学堂，以培养小学师资。1906年，将兰山书院改为优级师范学堂，求古书院改为速成师范学校。
优级师范学堂的修业期限为预科1年，本科2年，开设伦理、经学、子学、国文、算学、史学、地理、博物、理化、英文、日文、俄文、教育、心理、图画、体操等16门课程。有些课程因师资缺乏，徒有虚名。入学者多为各府州县选送的贡生、生员（廪、增、附）、监生。年龄最大者已近不惑之年，最小者不到20岁。初步规定名额为120名，实际各县送来的学生约有200名。当时这些秀才们在观念上对新式学堂教育难以接受，幻想科考重开，再考举贡，荣登龙门榜首，踏上仕途。他们不适应新式学堂的教育方式，感到十分困惑，认为无前途可奔，纷纷辍学回家。到首期预科毕业时，仅剩80余人了。以后再令各府县选送学生，总共招得学生140名。师范学生属地方官府资助，每位学生每月发膏火二两四钱，每年发单、棉制服各一套，草帽一顶，羽绫靴一双，并供给全部学具。学期末，大考成绩好的还发给奖银八钱或四钱，最多可奖励二两银子。
1908年，创建两年的速成师范学堂改为初级师范学堂，先后招收了两届学生，每届一班，约60名，两届共毕业118名。最初开设11门课程。学生待遇优厚，每月8两津贴，以后改为4两。在当时这个津贴是比较高的，省城一般官署的文书缮写人员的月薪仅也仅为4～6两，每百斤面粉的售价也仅8钱左右（县城还要少些）。而初级师范学堂的学生除全部书籍文具照发外，每月还能领到8两银子的膏火，比较起来已经很优厚了。1907年，首期毕业的学生年龄最大者51岁，最小者18岁，相差悬殊。以后两所师范学堂合并为两级师范学堂，1911年夏，又改为初级师范学堂。
早期师范教育处在起步阶段，西学课程因师资缺乏无法开设，能开设的还是适合科举考试的经学、修身、史学等传统课目。学堂里的科举气氛很浓，学生仍然为白面书生，以读经阅史为主，清高斯文，缺乏社会实践。两所师范学堂都有大量的“夫役”，为师生服务。在速成师范学堂里，其编制按规定每期有学生有定额60名，教职员13名（4名领班），实际上，另外还要设门禁2人，号房1人，听事2人，茶房1人，打扫夫1人，斋夫5人，伙夫6人，马夫，轿夫若干人等九个工种的杂役，服侍教职员和学生，称教职员为大人，学生为老爷，为他们端茶送饭。可见在新式学堂里，还带有浓厚的封建等级习气。
这一时期的专科学校为法政学堂。1909年，清廷学部改法政馆为法政学堂，学生除原来法政馆人员愿意入堂肄业者10余人外，还有兰州府保送旅居本省具有生员、监生、捐生资格的20余人以及其他府州、县保送的地方举人、贡生、生员、监生等60余人，共有百人。一堂之中，有官班（候补人员）、绅班（本省籍的举、贡、生、监）、客班（外籍有功名者）之分。年龄最大者60余岁，小者12岁，每月有8两、4两的津贴。该校管理松散，教员只编讲义，课堂印发后，学生自学，或在教室，或在宿舍，悉听自便。有些学生常年不在学堂，由他人代领津贴。
光绪时期，甘肃也出现了近代留学生教育，当时把留学生也有称为游学的，泛指由清廷令各省选派到外地或国外学习的学生。光绪三十二年（1906年），甘肃首次选派留学生；民国1—8年（1912—1919年）甘肃派往国外的留学生共26人（日本23人，美国3人）；民国7～15年（1918～1926年）甘肃派出留学生94人；民国17—23年（1928—1934年）甘肃派出留学生11人。甘肃由于地域偏远落后，留学生学成回省工作的很少。据1933年的统计，派往国外的留学生学成回国的23人，服务本省的有10人。据朱允明的《甘肃乡土志稿》统计，自清末至民国29年（1940年），甘肃留学外国的学生有56人。