从齐白石第一次跟祖父识字起，直到白石满6岁，齐十爷认为他自己认得的字，已经全部教完了，他觉得自己再没有办法教孙子识字了。
实际上，齐白石也真的将爷爷教的这几百个字认完了，就连每个字的意义，他都能讲解得清清楚楚。齐十爷一面夸奖孙子能干，已和自己认识一般多的字，一面却又为自己家中太穷供不起孙子上学而着急。
周氏是个聪明的人，她发现了公公的忧愁，就对齐十爷说：“儿媳今年椎草椎下来的稻谷，积了四斗，存在银匠家里，原先打算再积多一些，跟他换副银钗戴的。现在可以把四斗稻谷的钱取回来，买些纸笔书本，预备阿芝上学。我父亲明年要在枫林亭开个学馆，阿芝跟外公读书，学费是一定免了的。我想，阿芝白天去晚上回，这点钱虽不多，也许够他读一年的书。让他多认识几个字，会记记账，写写字条儿，有这么一点识字的底子，将来就算不能干个别的，也可以做个掌柜什么的。”
齐十爷非常赞同儿媳的话，就决定让小白石过完年去上学。
1870年春，齐白石的外祖父周雨若在枫林亭附近的王爷殿，开设了一所学馆，也就是那个时候的小学堂。
枫林亭位于白石铺北边山坳上。这里是著名的五岳之南岳衡山山脉的一部分。衡山逶迤数百公里，从南到北，像奔腾着的一条蛟龙，横卧在苍茫的云海之中。
这里千山万岭，陵谷相间，错落有致。丛林修竹，迭翠堆青，绝壑深涧，苍郁葱蔚，是自古以来的名胜去处。枫林书馆就坐落在这山明水秀的衡山怀抱之中的王爷庙里。
枫林亭离齐家有1.5公里，过了这年的正月十五，母亲给小白石缝了一件蓝布新大褂，包在黑布旧棉袄外面，打扮得整整齐齐，由齐十爷领着，来到外祖父的学馆。
王爷庙前是用青石头砌成的台阶，齐白石和祖父一老一少拾级而上。
走进王爷殿，小齐白石禁不住东张西望，在殿内有四尊天神，分列两旁，面貌狰狞、凶恶，好像随时都能跳下来一样。
见到神像，齐白石吓得立即将脸藏在了爷爷的衣襟下，拉爷爷的手也下意识地更紧了。
王爷殿里面是小庙的天井，这是一处很宽敞的地方，一群小孩子正在那里追逐、打闹。
天井的左边，有一棵百年古柏，曲折、苍劲的枝干，青翠茂盛的叶子，给人以生命永恒的情思。天井的右边，是一株清香四溢的腊梅，花朵盛放的势头快要过去，枝头已吐出嫩黄色的小叶。鹅蛋石铺成的通道从山门直到正殿的台阶下。庭院打扫得十分洁净，给人一种圣洁的印象。
庭院的东西两厢，过去是僧人的住所，现在他们都搬到后院去了，这里便成了课堂。
天井正面是供着菩萨的正殿，这间房子四周的围墙歪歪斜斜的，房子的大门挂着一把大锁。
正殿东西两侧各有一间屋子，这两间房经过人工修理了一下，看上去稍微整齐一些。
在天井的孩子们一见有人进来，马上停止了打闹，疑惑地望着齐白石爷孙俩。
齐十爷弯下腰向其中一个小男孩问道：“请问你们的周先生在那间屋？”
没等这孩子开口，从正房东侧的屋内传出了这样的声音：“在这里，在这里，亲家公来啦！”
齐十爷抬眼一看，只见齐白石的外祖父周雨若快步走出了门，沿着台阶，来到了天井里。
齐十爷迎上前去，一把握住了他的手，脸上露出了重逢的喜悦。
周雨若抬手拍拍齐十爷的肩膀，亲热地说：“亲家公最近身体可好！”
齐十爷笑眯眯地回答：“不行咯，老啦！”说完，他转身拉了拉身后齐白石的衣角说：“阿芝，还不快来叫人！”
齐白石大大方方地走到周雨若面前。学着临走前母亲教给他的，深深地向周雨若鞠了一躬，轻声叫道：“外公好。”
齐十爷在一旁纠正说：“阿芝记着，以后在学馆要称外公为先生，在学馆外边才能叫外公。”
周雨若高兴地笑了起来，慈祥地抚摸着齐白石的头：“好好好！看得出来，我这个小外孙天资聪明。亲家公，请进屋里谈吧！”
齐十爷感激地说：“给你添麻烦真过意不去，以后劳你费心了。”
周雨若感慨地摇摇头说：“亲家公瞧你说的，我们是一家人嘛！”说着，他扶着齐十爷，拾级而上。
周雨若的屋里整洁、简朴。靠正墙上的一张八仙桌上，供着孔圣人的牌位，前面有一个香炉。房子的左边摆着一张床，床上挂着陈旧却洗得很干净的蚊帐。临窗一张硬木的桌子上，整齐地堆放着书籍、笔、砚之类。右边进门处，放着两把藤椅，中间有一张茶几。茶几上方挂着一幅条幅，装裱得十分精美，上面写着：“一代师表”几个大字。这是周雨若的门生送给他的。
按照古人读书的规矩，小白石先在孔夫子的神牌前磕了几个头，算是先拜至圣先师，再向着外祖父拜了三拜。当时认为，只有经过这样的隆重大礼，读过书之后才能当上相公，也就是上层社会的人。
从此，齐白石正式进入了学堂。
从那天起，每天清早，齐白石都由祖父送去上学，傍晚又接回家。这1.5公里的路程，不算太远，但却都是黄泥路，平常日子走起来倒也轻松，但要是遇到下雨天，黄泥就都成了泥浆，走起路来，一不小心，就得跌倒下去。
在这样的天气，齐十爷总是右手撑着雨伞，左手提着饭箩，一步一拐，仔细地看准了路面，扶着小白石走。若是路上的泥浆太深了，他还把小白石背在背上。泥地里走路非常辛苦，常常累得他气喘吁吁。
上学之后，外祖父教齐白石先读了一本《四言杂字》，这是当时启蒙的必读书。由于小白石先前就有一定的认字基础，很快就将此书背得滚瓜烂熟了。外祖父高兴极了，随后又教小白石《三字经》《百家姓》。
在同学中间，小白石是班上学习最好的一个，外祖父非常喜欢他，常对齐十爷说：“这孩子，真不错！”
齐十爷听了亲家这样夸自己的孙子，也高兴得不得了，后来，外祖父又开始教齐白石读《千家诗》。
这诗引起了齐白石的强烈兴趣，他刚一读，就觉得读起来很顺溜，音调也挺好听，便越读越起劲。
旧时候上学，就是死读书，读熟了要背，背会了就行，可以不用知道书中文字的意思，这叫作读“白口子”书，小白石在家里认字的时候，知道了一些字的意思，但进了外祖父的学堂，虽然读的都是白口子书，但他从学堂回家后还是要用一知半解的见识，琢磨书中的意思，将书中的文字大致自我解释一些。
尤其是齐白石在读《千家诗》时，因为读着顺口，他就更加津津有味地咀嚼起来，有几首他认为最好的诗，更是经常挂在嘴边，简直成了个小诗迷了。
由于齐白石的《千家诗》读得好，所以为他后来读唐诗和写诗都打下了良好的基础。
齐白石读书特别努力，从这个时期起，他经常都是手不离书，口不离诗，这种刻苦读书的精神一直保持到老。
后来，他还曾雕刻过一枚“一息尚存书要读”的印章来勉励自己。