身在濠州的孙德崖得知朱元璋接替郭子兴成为义军统帅，十分气愤，要除掉朱元璋。孙德崖的部将吴通就献计道：朱元璋占有滁州、和州两座城市，气势旺盛，如果发兵进攻，实为不利。摆下鸿门宴，乘机除掉他。孙德崖连连称妙，便修书一封，派人送到和州。朱元璋接到信后，明知是计，但仍决定前往。部将徐达告诫道：“孙德崖桀骜无赖，恐有诈谋，元帅不宜前行。”朱元璋说道：“鸿门宴上刘邦也不曾被害，只要有适当的人护卫，就不用担心。”部将吴祯愿随朱元璋前往，两人便带少许士卒去濠州赴宴。为防万一，朱元璋令徐达、胡大海率军驻屯濠州城外，以便随时接应。在酒席上，孙德崖威逼朱元璋交出帅印，朱元璋针锋相对。孙便喊出埋伏的武士。吴祯抢先制住孙德崖，和朱元璋一起出了城。胡大海、徐达早在城外接应朱元璋，殿后的胡大海趁机杀了孙德崖，朱军进占了濠州。兵法上说：凡敌有谋，我从而攻之，使彼计衰而屈。朱元璋正是用了将计就计，反算对手的高招。他与孙德崖争夺帅位的斗争是迟早要来的，两人也只能留下一个。如果朱元璋不去赴宴，在心理上就先输一势，让义军们瞧不起，给孙德崖留下口实。所以，他冒险一去，而又精心准备，趁对手以为大功告成，防备松懈的时机，一举反击，以微小代价解决了争端。且对手无礼在先，他吞并在后，不致在义军中造成恶劣影响。至此，朱元璋的实力大增。他手下已经聚集了一批能人，他们能文能武，谋士武士一应俱全，实力已经明显扩大了，仅仅占据着滁、和两州等地已经不足以提供更大的发展空间，需要更大的根据地以图霸业。早在朱元璋刚刚离开郭子兴独立闯荡，进军滁州的时候，在关于是否建立一个稳固的根据地的问题上，冯国用对朱元璋提出了非常重要的建议。冯国用认为集庆(今南京)虎踞龙盘，是王者之都，得了这个地方，将可以作为根据地，在此经营，然后可以四处出击，荡平天下的敌人。为了实现占领集庆的目标，冯国用还指出：在目前的情况下，只有通过安抚民心，使得万民归顺，才能达到占领集庆的目的。但当时朱元璋还是郭子兴的部下，凡有大的军事行动他都需要向郭子兴请示，如果郭不答应，朱元璋是很难采取行动的。郭子兴不能容人，也不允许他的部下比他强，因此，如果说朱元璋在那个时候提出攻取集庆，那肯定是自讨没趣。这个计划一定会受到掣肘，所以朱元璋就选择了进攻和州，而不是进攻集庆。但是现在好了，随着抗元斗争的发展，以及郭子兴去世后自己受封于小明王，朱元璋成了宋政权的一个将军，也就有了自我发展的权力。此时经在滁、和一带打了几次胜仗，朱元璋明显体会到自己的发展空间实在太有限了，根本不可能再扩大势力，军队的粮草是发展受限的显著标志，这一切都促使朱元璋把建立一个巩固的根据地作为首要目标，重新转移到冯国用以前所提到过的经略集庆这一战略步骤上来。在冷兵器时代的战争中，根据地起着至关重要的作用。它是军队的最佳的防守阵地，最具天时、地利、人和，进可攻，退可守。如果在战争中参与战斗的一方没有一个稳固的根据地作为后盾，将会遇到非常大的麻烦，自己的粮草、兵源得不到保证，而这两项却正是保证一场战争胜利的首要因素。自古就有兵马未动，粮草先行之说，如果没有后备援军，被困的士兵还可以坚持一段时间待援，但如果是缺少了粮草，则是一天也坚持不下去。要想继续发展，必须有一个民康物阜、资源充足的丰饶之地为后方依托。
考虑到对更大的根据地的紧迫需要，考虑到集庆地区的诱人前景，朱元璋决定打过长江去，进攻集庆。集庆虎踞龙盘，形势险要。历史上孙吴、东晋、南朝都曾在此定都。而且，以集庆为中心的江南地区是当时全国最大的产粮区，资源丰富。当朱元璋向众部将透露了自己的想法之后，李善长也非常高兴，而且他思考得似乎更多一些。在经过分析之后，李善长却不无沮丧地告诉朱元璋：虽然我们的战略目标很正确，但是却有着致命的缺点，那就是我们没有足够的船只发动进攻。朱元璋也知道缺少船只是自己的硬伤，因此非常着急。真是天随人愿，正在朱元璋为没有渡船而发愁的时候，士兵忽报巢湖水寨的红巾军首领李普胜、赵普胜派部下俞通海找上门来，请求救援。朱元璋眼睛一亮，兴奋地冲着李善长、徐达等人说：“天助我也！巢湖水师自天而降，我的大事可以成了。”原来，当刘福通红巾军起义的时候，彭莹玉的门徒金花小姐和赵普胜、李普胜在巢湖区域起兵响应，庐州巢县的俞廷玉和三个儿子俞通海、俞通源、俞通渊等人前往归附。赵普胜据守含山寨，李普胜据守无为州，他们联合附近另一支起义军首领廖永安、廖永忠兄弟，势力迅速壮大。后来，金花小姐战死，赵普胜和李普胜等人退守巢湖，建立水寨，拥有大小战船1000多艘和水军1万多人。因为这支红巾军的首领是彭莹玉的门徒，人们也把水寨叫彭祖水寨。当初，他们与另一位起义军首领左君弼结势联合，但左君弼攻取庐州后割地自保，投降了元朝，反过来攻打他们。赵普胜等人怕被左君弼吞并，就先后3次派人向朱元璋求救，表示愿意投靠。这是一个绝好的消息，朱元璋喜出望外，他亲自赶到巢湖水寨，劝说李普胜、赵普胜二人跟随自己一同抢占江南、进攻集庆。李普胜、赵普胜二人觉得以目前的形势只能如此，也就同意了。朱元璋一下子得到了水师1万多人，船只1000多艘，外带着大量的粮食。按理说，进攻集庆的条件已经完全具备，连多谋善断的李善长听到了这个消息，也忙向朱元璋进言，说是上天的旨意，现在进攻是最佳时机。而此时朱元璋反而冷静下来，一生都主张持重的朱元璋，打仗更是谨慎行事。攻打集庆是一场硬仗，他是绝对不会盲目进攻的。朱元璋经过反复思考，征求了李善长等人的意见，说出了自己的想法：先取采石，占据险要，再克太平，扫清外围，最后顺流而下攻打集庆。朱元璋说：“采石像一个龟头。突出大江，形势险峻，为集庆上游的咽喉，攻取集庆必须先拔掉这个"钉子"。从历史上看，西晋武帝司马炎灭东吴，南北朝侯景灭萧梁，隋朝大将韩擒虎灭陈，北宋大将曹彬灭南唐，都是先取采石，再克建业的。”正如朱元璋所说，如果直接进攻集庆，会冒很大的风险，弄不好还可能会全军覆没；如果进攻采石，则是最稳妥的进攻策略。因为采石山突出于大江南岸，地势险峻，扼守着集庆的上游地区，恰似集庆的咽喉，得了采石，再攻太平，抢占险要之地，再取集庆简直就是易如反掌，而且有利于集庆攻克后的防守。此计一出，众将都觉得有道理，连连称是。于是，先定采石，再攻太平，最后攻打集庆的战略形成了。大战即将开始的时候，朱元璋在城郊巡视时，又收留了一员猛将。他就是怀远人常遇春。常遇春出身农家，自幼喜欢习拳练武，长大后武艺出众。他膂力过人，擅长骑马射箭，能百步穿杨。至正十二年(1352年)，他参加了本县刘聚的起义军。刘聚见他武艺高强，任他为十夫长。但时间一长，常遇春发现刘聚只满足在附近乡里称王称霸，掳掠财物，没有远大志向，因此萌发了另择明主的念头。一次，他带着一帮人到和州城外去寻找食物。到了中午，由于困乏，他仰卧在田间一棵大树下睡着了，据后人讲他还做了一个梦。在梦里，有一位身披铠甲，手执金盾的神人走到他面前，大声说：“起来吧！你的主公就要到来，快快起来吧。”常遇春随即惊醒。这时正好有人带着护卫从前面走过，他连忙起身上前拜迎。互通姓名之后，才知道站在眼前这位年龄同样不大，但是一身正气的年轻人就是朱元璋。他早就听说朱元璋的大名，现在邂逅，真是大喜过望，恳请朱元璋把他收入帐下。为表示诚意，他自荐愿做先锋。虽然朱元璋一见面，就对常遇春产生了好感，但只因不知底细，没有贸然答应，而是以探询的口吻问：“你是因为缺粮才投奔我的吧？你的主人还在，我怎么能收留你。如果你真是有诚意的话，那以后再跟我也不迟嘛。”常遇春一听，竟然急得直跺脚，他说：“刘聚只会打家劫舍，成不了大事业。我心甘情愿跟随您，出生入死，决无怨言！”朱元璋见他态度坚决，这才勉强答应下来。常遇春后来在明朝开国武将中位列第二，仅次于徐达。
在做好准备之后，朱元璋开始了实现战略计划的第一步，攻打采石（今安徽马鞍山西南）。朱元璋调集赵普胜的水师从巢湖前往和州一起攻打采石，赵普胜却在前往和州的途中突然反悔起来。赵普胜善使双刀，曾是叱咤巢湖的一员猛将，如今却要寄人篱下，受制于一个年轻人，心里很不是滋味，于是想拉出队伍，再去自己闯荡。赵普胜对手下人透露了这个想法，有人向朱元璋告发了他。朱元璋马上采取措施，控制了赵普胜的部队，并派人监视他。赵普胜见他的意图被朱元璋察觉，连夜带了几个亲信，渡江投了徐寿辉。为防止夜长梦多，朱元璋想立即把船队带出巢湖。他们打算通过马肠河口出去，但不料元朝江南行台御史中丞蛮子海牙在这里布设了重兵，阻挡了他的部队的去路。只有一条小河道未被封锁，又因水浅大船无法行驶。如果这时与蛮子海牙硬拼，并无获胜把握。天无绝人之路，正在朱元璋犯愁的时候，这天晚上忽然电闪雷鸣，狂风大作，顿时雷雨交加。一夜之间，河水猛涨，舟行无阻。朱元璋立刻命人带领全部水师驶离巢湖，向和州地区进发。蛮子海牙发现后，挥师追赶。朱元璋命廖永安、俞通海等人断后，挫败了追兵。朱元璋把巢湖水师带回和州，从此有了水军。为了确保渡江作战的胜利，朱元璋认为先要消灭蛮子海牙的水师，以免渡江时腹背受敌。于是朱元璋任命廖永安、俞通海为水军统帅，加紧训练这支刚加入义军的队伍，他还调集了一批商船，挑选精兵，演习水战。至正十五年(1355年)五月中旬，朱元璋率战船抵达峪溪口蛮子海牙驻地，指挥水师作战。由于蛮子海牙的楼船高大，行驶不便，廖永安等人驾驶轻舟，左右冲击，采用游击战术搅乱了元军水师的阵形，朱元璋的主力乘机大举进攻，结果义军大获全胜，而蛮子海牙则狼狈败逃。从此，水上的潜在威胁已经不存在了，朱元璋可以放心大胆地挺进采石了。渡江前，朱元璋命令把所有将士的家属全部留在和州，他自己也不携带家属出征。他对这种做法的解释是为了保护家属的安全，其实这是把这些将领的家眷作为人质留在大后方，防止将士叛逃的一种招数。他还发布了一项筹集粮食的命令：“进入敌境后，任凭捎粮。攻城时遇到抵抗，将士可以检括；如果敌人投降，即令安民，一无所取。”捎粮是一种征粮于民的做法，即在敌人境内的乡村张贴告示，招安百姓，让他们纳粮。这是筹集军粮的主要手段。检括就是指抄掠。至正十五年(1355年)六月初二日，朱元璋带领李善长、徐达、汤和、常遇春、邓愈、冯国用、邵荣、耿君用、廖永安等文武官员乘风渡江。1000多艘战船扬帆竞发，朱元璋与廖永安的船在前面开路。按照朱元璋的命令，大军直抵采石旁边的牛渚矾。牛渚矾位于采石南部，元军在采石设重兵把守，这里的守军相对薄弱。靠近牛渚矾时，元军用弓箭猛射，船队无法靠岸。这时，朱元璋突然想起常遇春投奔他时的誓言，便命他去冲锋，以证明他的忠心。常遇春接到命令立刻行动，独自一人驾舟飞驶上前，强行靠岸，挥戈直刺守军。岸上守军见他单独闯阵，便想将他活捉，邀功受赏，于是抓住了他的戈矛，不想常遇春顺势跃上江岸，呼喊着杀向敌阵。元军被他的这种无畏的举动吓破了胆，纷纷后退。朱元璋指挥众将士乘机登岸，然后一鼓作气向北横扫，攻占了采石。
采石城是一个比较富庶的沿岸城池，该城一破，红巾军以千军万马之势如潮水一般涌向城中的各个角落。对于久困和州、粮食供应紧缺、吃过伙食供应不足苦头的将士来说，出现在他们面前的那些牲畜、粮食，在他们心目中比任何东西都珍贵，尽管军纪严明，但出于囤粮为公的心理，他们都想把所有的东西抢到自己的部队里去，因而采石城破之后，各路将士争先恐后，不管是仓里的还是囤里的，也不管是官家的还是平民百姓的，无论粮草衣服，猪马牛羊，统统你抢我夺，抢到手的就往船上装载，弄得满城鸡飞狗跳，此时军纪已难以约束，将士们全抢红了眼，此时就是杀上几个人也难以遏止。将士们心同此理：饿苦了，饿怕了的他们，就是死也要饱掠一番，以便能吃上一段时间的好饭。朱元璋赶紧把几位将领叫到跟前，对他们说：“今天出师顺利，应该乘胜攻打太平。如果听任将士搬运财物回和州，就会前功尽弃，再想过江就绝非易事了。”接着，他让人把徐达叫到面前，吩咐道：“我们经过千辛万苦，如今好不容易才打下今天这种局面，前面还有事要做，还有许多的仗要打，大家努力向前看才是正理，像这种打家劫舍的样子怎能成就大业，大家都以抢点财物回去为满足，还说什么下江东，占金陵，成大事！你赶紧带人去砍断缆绳，把装财物粮食的船只推到急流去。”徐达是朱元璋手下极善用兵的一位大将，从小跟朱元璋一起长大，对朱元璋的想法更是了如指掌，自然明白要行军打仗不能背这些财货的包袱，于是领命放船。将士们赶到江边装货，发现好多满载和未满的船只顺流漂走了，不觉十分诧异，不知是何因何故，都惊呆了，秩序一下子好了起来。这时，朱元璋说：“我们渡江是为了成就大事，不能贪图眼前的这些小利。前面有个地方叫太平路，那里的财富比这里多上百倍。大家应该继续前进，攻下太平，那时候再好好享受一番。”经过一番鼓励，将士们冷静下来，抱怨也算消退了。朱元璋是个重军纪的人，他为自己军中的一些未直接管辖的部队犯忌而生气，于是抓紧派人组成了纠缉队在街头巡逻，城中秩序才渐归平静。接着便是犒赏军队，好吃好喝，饱餐一顿。酒足饭饱之后，红巾大军又开始向太平出发了。占领了江南重镇采石之后，朱元璋的红巾军就成了插入到元朝江南地区的一把尖刀，以凭江而守的有利地位，使得元朝的追击部队面临着渡江作战的不利情况。在采石地区，朱元璋进可以在此发兵，进攻集庆等江南重镇，退可以在战局极端不利的情况下再次回到江北岸，从而立于不败之地。接着，朱元璋开始战略计划的第二步，进攻太平（今安徽当涂）。太平在采石东南，相距只有20多里。几个时辰的工夫，朱元璋的大军即兵临城下。守城的元平章完者不花与佥事张旭等弃城逃遁，万户纳哈出交战被俘，太平被朱元璋的军队攻占。经过采石的士兵抢夺财物的事件后，朱元璋担心在攻占太平城之后军队会有同样的行为，便在从采石出发以前命掌书记李善长紧急起草了《戒缉军士榜》，意在约束军队，防止扰民。果然，在太平城，战斗刚一结束，士兵们准备动手抢掠、大发横财的时候，却见城中的大街小巷贴满了榜文，上面赫然写道：敢有抢掠财物杀害百姓者，杀无赦。这份《戒缉军士榜》果然很起作用，那些刚要行抢的士兵们见了这个通告无不傻了眼，一个个都退了回去。但也有少数几个大胆妄为、不知死活的家伙公然进行抢劫，结果，朱元璋言出即行，真的把他们的脑袋砍了下来，并被飞马游街，传首示众。这种杀鸡给猴看的办法果然起到了效果，城内混乱纷扰的现象立刻安顿下来，变得井然有序。朱元璋之所以让李善长起草《戒缉军士榜》，目的在于防止扰民。然而，朱元璋也是个赏罚分明的人，为了保持队伍高度的战斗积极性，适当的物质刺激也是必不可少的。所以朱元璋考虑到战事结束后，还是把从元军仓库中获得的金银财物按功行赏的好。最后，在战后的按功受赏之时，军士们果然人各有份，个个兴高采烈没想到自己的主公竟然真的做到了当初在采石所说的话。这样朱元璋才总算安抚了他们。
太平城破后，城中百姓第一次见到不杀不掳的部队，于是议论纷纷，无不称赞。看来这《戒缉军士榜》确实起了不小的作用，它表面上虽是一种约束军纪的军令，实际则是朱元璋一种爱民思想的集中体现。红巾军部队在太平城好吃好住地休整了一个多月。这期间，朱元璋多次指挥部队打败了元军，使元军不敢再轻易发动进攻。攻下了采石、太平以后，朱元璋在江南站稳了脚跟。他进可攻，退可守，增加了攻击集庆的保险系数。朱元璋投身从戎，以自己的勇敢和聪明，从一个普通的士兵成长成为郭子兴的得力助手，由九夫长到和州总兵，他协助郭子兴建立了滁州与和州两个根据地，并两次救郭子兴于水火。朱元璋的人生因投军而改写，踏上了不断强盛之路。