舂陵起兵，初露头角
公元17年，王莽的政权已经在水、旱、蝗、雹等各种天灾人祸间摇摇欲坠了。此时荆州又遭到严重的饥荒，当地民众为了争挖野荸荠而互相斗殴，幸有王匡、王凤两个比较有名望的人出来调节，才让当地的态势平息下来。他们在这次事件的处理中积累了威信，被人们推举为首领，立即集合起几百人。随后又有一些亡命罪犯慕名而至，使得队伍更加壮大。他们占领了荆州的绿林山，以此为据点日益扩张实力，很快组建起一支七八千人的军队，因此得名“绿林军”。
绿林军成立后，遇到了来自政府军的威胁。公元21年，两万荆州军队攻向绿林军，但很快就被这支由贫民和亡命徒组成的军队打得落花流水，一路向北逃去。绿林军在王匡等人的率领下顺势打进附近的竟陵、安陆，获得了一些粮食，然后又回到绿林山中度日，希望当灾荒结束时，他们能够重返家园，继续过安居耕种的生活。
但让他们没有想到的是：第二年，绿林山中就爆发了瘟疫。此时的绿林军人数已经增加到五万余人，在疫病中一下就死去了将近一半。在这种情况下，他们只得分头出山行动，一支由王匡、王凤等人率领，向北进取南阳，称“新市兵”；另一支向西进入南郡，亦即今天的湖北江陵，称为“下江兵”。当新市兵攻打随县时，随县东北的平林人陈牧、廖湛率几千人响应，并因此称为“平林兵”。
当新市兵和平林兵距离南阳越来越近时，刘秀的生活开始改变了。公元22年，一场大灾荒席卷了整个南阳地区，连树皮草根都被饥饿的难民剥食殆尽；山间、田野上遍地饿殍，到了晚间，飘忽着从死尸中释放出的磷火，一片凄凉恐怖的景象，老百姓再也生存不下去了。这年十月，刘秀兄弟与李通等人在南阳各地起兵，这一年刘秀28岁。
刘氏兄弟决定起兵是经过仔细筹划的。当时，在刘氏兄弟左右，聚集了一批异姓豪强地主，如刘秀的姐夫新野人邓晨，宛人李通（他后来娶刘秀的妹妹伯姬为妻）等。这些豪强地主看到全国各地到处发生农民起义，预测到王莽的统治不会长久，为了获取更大的利益，他们聚集在刘氏宗族周围，密谋起兵反莽。李通、李轶兄弟曾亲见刘秀，陈述了起兵的利弊，鼓励刘氏迅速起兵，而且编出谶言“刘氏复兴，李氏为辅”，此举坚定了刘氏举事的决心。刘召集当地豪强在一起商议后，订出了起兵计划：刘氏兄弟在舂陵起兵，邓晨起兵于新野，李通、李轶起兵于宛。但是，由于李通的不慎，他在宛起兵的计划泄漏，只好独自离宛逃跑，一家老小64人被杀。刘秀兄弟在舂陵起兵后，刘秀的亲属，诸如叔父刘良、二哥刘仲及舂陵侯嫡子刘祉兄弟也都相继从军，族兄刘赐听到起兵的消息后，也“随从攻击诸县”。在长安游学的阴识（阴丽华之兄，后成为刘秀的大舅子）等也组织起一支队伍投奔。以刘氏为首的南阳人组成了一支浩荡的反莽军队，史称“舂陵军”。
舂陵军建立后，在诸多起义军的队伍中，实力是比较弱的，为了壮大力量，刘派宗室成员刘嘉前往新市、平林兵驻地，向王匡、陈牧等将转述合兵的意图。大敌当前，两部农民军首领当即表示赞同。于是，他们将部队整编重组，组成了一支联合部队。联军显示了宗室武装与农民军的互补性。南阳宗室具有较高的文化素质和组织才能，熟悉政治风云的变幻，具备治国的能力，但宗室子弟纨绔者多，娴习军旅者寡；而农民军却有顽强的战斗力，意志比较坚定，其薄弱之处在于缺乏深远的战略眼光和用兵谋略。双方合作的基础在于民心思汉，南阳宗室故能应运而起。
联军一路西攻长聚，斩新野县尉，初战告捷，装备简陋的起义军获得了第一批战利品，刘秀的坐骑也由耕牛改为马匹。小胜之后，联军又进攻湖阳西南的唐子乡，再度得手，杀掠甚多，士气大振。两次成功使义军将领的目光转向更大的目标，不远处的湖阳就是首选目标。起义军在逼近湖阳之后，派人假扮江夏官吏，诱杀了湖阳县尉，并夺得了大批辎重。
出人意料的是，大量的战利品竟引发了南阳宗室与农民军的冲突。新市、平林军因为分得财物较少，十分气愤，于是聚集部众，准备向南阳宗室讨一个公道。就在双方剑拔弩张、一触即发的紧急关头，刘秀毅然命令宗室人员收集财物，全部送给农民军，贪恋财物的农民军这才皆大欢喜，双方重归于好。刘秀不动声色地平息了这一无谓的冲突，他正要依靠农民军的力量成就大事，绝不能为了一点小利而影响大局。刘秀的志向、谋略和城府，都不是一般农民军将领所能相比的。
不久，联合部队又乘胜攻占棘阳县（今河南南阳南）。这时，从宛城（今河南南阳）的大屠杀中死里逃生的李通也辗转来到棘阳，与刘秀兄弟会合。李通痛述官兵在宛城的杀戮，激起众人满腔的义愤。与此同时，在新野起义的邓晨也率领宾客来到棘阳，军容更盛。复仇心切的起义军当即开往宛城，准备大战一番。
选择重兵设防的宛城作为攻击目标，无疑是战术上的一大错误。未经整编和训练的起义军缺乏大规模作战的经验，新市、平林两部农民军也缺少优秀的军事指挥员。在未知敌情的情况下，贸然进击宛城，决不是明智的决定。果然未到宛城，就发生了遭遇战。
在宛城南面一个叫小长安的村落里，起义军与南阳太守甄阜、都尉梁丘赐率领的大批官兵相遇，两军展开激战。战斗的突然性和气候的特殊性，都有利于人数众多、训练有素的南阳官兵。起义军仓猝应战，不久就在大雾之中溃不成军，被官军杀得大败。刘氏宗族死者达数十人，刘秀的姐姐刘元及其三个女儿为救刘秀而死，二哥刘仲也在战斗中阵亡。刘只得收拾残兵，退守棘阳。小长安之战，几乎使舂陵军全军覆没，为了寻求生机，重振军威，刘再次设法与绿林军联合。而此时恰好另一支起义队伍下江兵到达了比阳县的宜秋，刘秀、李通与下江兵的首领王常谈判，双方决定联合作战。
公元23年正月，王莽派来的军队将军用物资留在棘阳东面的兰乡，轻装渡过黄淳水，企图一举消灭汇集在棘阳和比阳之间的绿林军主力。但绿林军转守为攻，派出精锐部队夜间偷袭兰乡，夺得敌军全部辎重。接着全军出击陷于黄淳水和沘水间无援的王莽军队。绿林军勇猛杀敌，将十万王莽军队歼灭了二万，甄阜和梁丘赐被当场打死，其余敌军纷纷逃窜。王莽派来的纳言严尤、秩宗将军陈茂听说甄阜和梁丘赐兵败阵亡，于是据守宛城。刘不给宛城的王莽军以喘息的机会，乘胜追击，在清阳城下与严尤、陈茂军展开激战，王莽军大败，被斩首三千余人；严尤、陈茂弃军仓皇而逃，刘自号柱天大将军，率军顺利占领了宛城。
刘氏兄弟起兵后，军队的主要领导者是刘，刘秀并没有引起多大的注意。刘秀的军事才能是在着名的昆阳大战中显露出来的。而起兵之举，正是刘秀军事、政治、治世生涯的开始。光武帝刘秀从一个乡间甘于平淡的小地主，逐渐成长为雄才大略的军事指挥家，成为那个时代历史舞台上的风云人物。
镇抚河北，稳固根基
公元23年十月，刘秀获准以破掳将军行大司马之职，奉命前往河北宣抚，取得了主持河北战局的主动权，从此挣脱了牢笼，获得了独立发展的机会。
抵达河北后，刘秀详细地考察了当地的情况，认真考察官吏，按其能力的高低分配财富的多少；平反冤狱，遣散牢中关押的无辜平民；实行怀柔政策，废除王莽苛政，恢复西汉时的官职名号和制度。所到之处，受到地方官员和百姓的拥护，“争持牛酒迎劳”，刘秀一律婉言相拒。
刘秀曾在一个大雪飞扬的日子里倚门远眺，若有所思，说出一番意味深长的话：“房舍由椽檩柱子支撑而成。朝吏驾驭郡县，需要各级官吏治理，就像房舍需要椽檩柱子一样。椽檩柱子必须坚固适用，房舍才不会倒塌。官吏就是朝廷的椽檩柱子。没有一批善于治理乱世的官吏，新兴的政权就会像房舍一样倒塌。我们经略河北，既要审理冤狱，广布惠泽，更要考察官吏的政绩。”用心之良苦，让众部下无不为之感动。
刘秀在河北的路，最初走得并不顺利，经历了一段相当艰辛的日子，甚至是一种近似逃兵的生活，根本谈不上宣抚。在这种恶劣的情势之下，刘秀一直致力于人才的网罗，这些人如邓禹（也是他读长安太学时的老友）、耿弇、吴汉等，都是才华横溢的人。后来，这些人也都成为刘秀对之推心置腹的部下，为刘秀缔造东汉做出了贡献。
为什么刘秀在这样孤立无援的情况下，还有人要归顺他呢？当时天下虽为更始帝所有，但刘玄不懂得如何治理政事，只知掠夺，使长安、洛阳附近的人民不得安宁，怨声四起，更始政权的名声也就一落千丈。而相比之下，刘秀除了有正宗的汉室血统及他在昆阳之战中卓越的表现外，其谦虚的胸怀和宽大的度量，也是吸引豪杰志士齐来归顺的原因。
刘秀到达邯郸时，赵王刘彭祖的曾孙刘林前来献计说：“如今黄河东边有赤眉军在活动，你只要掘开河堤让水灌过去，纵然他们有百万军队，也只能化为鱼鳖。”但刘秀处事的态度一向很温和，他暂时还不急于消灭赤眉军，更不忍心淹死无辜百姓，便拒绝了。
刘林觉得自己受到了冷落，转而拥立了一个名叫王郎的方士当了皇帝，并谎称是汉成帝刘骜的儿子刘子舆。此时的刘秀已经去了真定（今河北正定），刘林和王郎便在邯郸建都，派出使者去周边郡国招降。
由于打出了汉成帝之子的旗号，周边郡国一时真假莫辨，不少势力起兵响应。于是刘林和王郎的势力轰轰烈烈地发展起来。第二年初，他们发出了檄文，重金悬赏捉拿正在蓟城（今天津蓟县）附近的刘秀。而蓟城的宗室刘接又准备起兵响应王郎，一时间城中震动，人心惶惶，刘秀的境况也变得十分危急，他不敢入城，只能向南逃去，一路饥寒交迫来到饶阳。他们看到路边有一个传舍（驿站，相当现在的旅社），再也顾不得危险，自称是王郎从邯郸派来的使者，大摇大摆地进了驿站。但他们很快露出了马脚：当传吏送上食物时，这些官兵饥不择食、狼吞虎咽的样子引起了传吏的怀疑。为了辨别这些人的身份，传吏在舍外击鼓，大声喊着：“邯郸的军队来了！”在传舍中的刘秀和手下官兵们一听，皆大惊失色，大家准备起身逃跑。刘秀却显得异常冷静，拦住众人，让他们坐回原处，煞有介事地吩咐传吏道：“太好了，那就把邯郸的将军请进来见我吧！”但他们等了很久也没能等来传说中的邯郸将军，刘秀放下心来，让大家大快朵颐了一餐之后，方才大摇大摆地出了驿馆，平安地离开了饶阳城。刘秀以他的智慧与镇定，躲过了这次危难。
此后刘秀的脱险经历更是充满了传奇色彩。在北方的寒风霜雪中，一行人昼夜兼行，手脚、脸部都被冻裂，凛冽的北风夹杂着沙粒打在脸上，更是如刀割一般。在饥寒交迫中，众人的体力不断下降，快要支撑不下去了。
天黑时一行人赶到滹沱河边，刘秀让众人下马歇息，派探马到渡口找船。探马找了半天，但见星月闪烁、波光粼粼，片帆只舟皆无踪影。探马恐众人怪罪，回来欺骗大家说道：“不用坐船，河水都结冰了。”
众人信以为真，上马准备过河。此时，天公作美，寒风呼啸，气温骤降，河面上果然结了厚厚的冰，大家驱马在冰上缓行，渡过河去，回头再望，坚冰又开始融化，气温又回升了。刘秀率众人来到下曲阳（今河北晋县），进了废弃的空房睡下。破晓时开始降雪，众人被冻醒，发现冯异不知从哪里弄来一把麦子，熬了一锅热气腾腾的稀粥。大家喝罢，又上马冒雪继续赶路。寒风夹着雪花漫天飞舞，打得人睁不开眼，天地间白茫茫一片，没有道路，众人迷失了方向。忽然，一位白衣长者出现在刘秀面前，用手指示方向，说道：“从这里往南八十里就是信都郡（今河北冀县），太守任光反对王郎，大司马找他去吧。”
刘秀又惊又喜，正要下马感谢，一阵暴风雪袭来，吹得战马在地上转圈儿，待到暴风雪过后，老汉已踪迹皆无。刘秀按老汉指示的方向，策马赶到信都，这时，刘秀终于时来运转了。
原来，这里的太守任光曾是刘秀的部下，任光见到刘秀，大喜过望，赶紧请来和戎郡（今河北晋县）守邳彤，聚集一堂，共商对策。接着他们协助刘秀收服了附近的几个县，又有一些周边势力前来归附，终于聚集起了数万人。此后平定河北的路更加顺利，在攻下了几座城池、形势有所好转之后，更始帝派来讨伐王郎的尚书仆射谢躬也到了。两路大军联合作战，四月间围住邯郸，五月间就攻破城池，诛杀了王郎。
刘秀在河北势力的发展，引起更始帝的不安，他遂派使节赶到河北，封刘秀为萧王，并命令刘秀停止一切军政活动，与有功的将领一起到长安去受封。这表明刘玄已经对刘秀不放心，要削弱他的力量，夺回他的权力。刘秀自然明白这一意图，而且，此时他羽翼已丰，决心脱离更始政权的控制，便以“河北未平”为理由，拒绝应诏去长安，坚持留在当地。从此开始，刘秀与更始政权分道扬镳，在河北独立地发展自己的势力，并进行了一系列建立政权的活动。
河北称帝，众望所归
公元24年秋，刘秀调集各郡兵力，先后在馆陶等地击败并收编了铜马、高湖、重连等地的农民起义军，大大加强了自己的军事实力。
走在坦途上的刘秀依然遵循着宽仁平和的处事原则。新投降的军队中有许多人忧心忡忡，担心刘秀总有一天会除掉自己。久经沙场的刘秀当然了解他们的心思，让降军各自回营，依然归他们原来的将官管辖，而自己轻骑简从，坦然地去各营看望他们。这让归降的将士们非常感动，他们纷纷说：“萧王这样推心置腹地对待我们，倘若再不拼死效力，真是不应该了。”在确认了降兵们已经真心归顺后，刘秀把他们重新编组，分配到各部将领手下，集合起来一支几十万人的军队。当地的人们只知道铜马的名声最响亮，看到刘秀成了他们的首领，就称呼刘秀为“铜马帝”。
此时，河北的形势已逐渐明朗，而更始政权也已经走到了覆灭的边缘。在山东一带活动的赤眉军原本想要和更始帝合作，但刘玄对他们存有戒心，只是把他们封为列侯，却没有给他们提供领土和经济支援。失望之余，赤眉军在首领樊崇、逢安、徐宣等人的领导下脱离了更始政权，西进关中，更始、赤眉两大军事集团的火并在所难免。而一旦赤眉攻下长安，刘玄败逃，就会出现一个夺取关中的良好时机。刘秀感到争夺天下的时机即将到来，争夺天下的架势应当拉开了。于是，他开始了新的战略部署：任命足智多谋的邓禹为前将军，率精兵两万由晋南向关中挺进，伺机进取长安。选定北据太行山、南临黄河，地势险要、财物富实的河内郡作为进取中原的立足点；拜文武兼备的良将寇恂为河内太守，冠以“行大将军事”的御号，为自己把守后方，保证军需供应。