蓬勃高涨的工人运动有力地支援了北伐军，工人群众在共产党的领导下，积极地同反动武装做着不屈不挠的斗争。
北伐军在汀泗桥、贺胜桥战役中歼灭北洋军阀吴佩孚主力部队，并乘胜占领武昌之后，立即将主力调往江西方面，向控制东南地区的军阀孙传芳发起进攻。孙传芳在江西战场作战失利，他的后方上海的兵力也日益空虚。当时上海的工人运动受中国共产党江浙区委员会直接领导。为了配合北伐军进攻，在中共江浙区委员会领导下，由上海总工会出面组织，分别在1926年10月和1927年2月，发动了两次武装起义。但由于时机不成熟，准备不充分，致使起义失败，数十人英勇牺牲。
1927年3月上旬，孙传芳军队已处于全线崩溃、不可收拾的境地。中共中央决定派中央军委书记周恩来到上海领导第三次武装起义。
周恩来和中共江浙区书记罗亦农、江浙区委组织部部长兼上海总工会党团书记赵世炎等，认真总结了前两次失败的教训，并且成立了指挥部。他们在工人中建立严密的组织，武装5000名工人纠察队，进行秘密操练和射击训练。
周恩来、赵世炎制定出统一指挥、分区作战的计划。考虑到枪支弹药的不足，因此指示各纠察队队长，起义开始后首先攻打各区警察署，夺取枪支弹药。
3月21日中午12时正，起义正式打响！南市的工人纠察队，主要是由法商的电车、电气、自来水公司和求新造船厂的工人组成。当司机把电车开回公司的时候，周恩来赶到那里。他鼓励工人们说：“你们有才能，有志气，有组织，能服从革命听指挥，是一支英勇战斗的队伍！”纠察队员们很尊重周恩来同志，听了他鼓励的话语信心百倍。
周恩来又赶到上海其他区去指挥战斗了。南市100多名纠察队员列好队，每人在衣袖上别了一根红布条。人那么多，武器却只有3条枪，以及40把斧头和一些绳索。他们很快从街道执勤的两个警察身上夺下了枪支。为了迅速扩大战果，纠察队兵分两路，同时向两个警察署派出所冲去。
一支队伍奔到蓬莱路口，那里派出所看门的警察见那么多工人迎面冲来，远远地就把枪用双手高高地举过头顶，表示自动缴械，唯恐纠察队员们看不出他们投降的意思而开枪。纠察队员一鼓作气，冲进了大门，见里面连个人影也没有。原来警察们早都闻风而逃了。
另一路纠察队也取得了胜利。几支纠察队完成了夺取枪支弹花的任务，就汇集到一起，成为一支庞大的队伍，一起浩浩荡荡地向警察厅进发。快到目的地时，纠察队决定分成两路，一路攻正门，一路打后门。
纠察队员们纷纷上好弹药准备与敌人进行一场殊死搏斗。谁知近前一看，警察厅大楼上已经扯起了一条白被单。门口的大铁门敞开着，门前站立着两排手持乐器的警察。他们见大批纠察队员开到，马上热热闹闹地吹打起来。队员们忍住笑，威严地走进了大门。就这样，仅有几支枪的工人纠察队，一枪未放，就占领了警察厅。他们在这里搜到了一批步枪和30多支手枪，每人都分到了一支。
这时，南市各路工人纠察队已先后攻占了电话局和南火车站，汇合起来的武装队伍已有1000多人。于是，他们向高昌庙制造局（是个兵工厂）发动进攻。
驻守在这里的敌人有一个连，连长早已逃跑。纠察队员到达那里，首先向里面喊话：“你们已经被包围了，赶快投降吧，缴枪不杀！”没等纠察队员喊完，早已准备好的白旗已经扯了出来。这样，又缴获到了一大批武器。到下午4点钟，南市的战斗胜利结束了。
沪东、沪西、虹口、吴淞等区的工人纠察队也先后取得了胜利。但是，闸北区还没有拿下来，那里还在进行着激烈的战斗。
闸北，位于上海市北。敌人的大部兵力集中在这里。这里军警据点达20个，因此是起义的重点进攻地区。闸北的得失，关系到这次起义的成败。
在上海工人举行第三次武装起义之前，北伐军东路军前敌总指挥白崇禧已率部队占领了上海市郊的龙华。起义过程中，上海总工会曾派代表与白崇禧联系，要求北伐军进攻上海，里应外合地解除上海的反动武装。但是，白崇禧却根据蒋介石的旨意，置之不理。周恩来闻讯后，气愤地对工人纠察队说，不要依靠他们，要凭自己的力量消灭军阀部队。
根据起义总指挥部的部署，为夺取闸北一战的胜利，工人纠察队集中力量，分别进攻6个主要目标：北火车站、东方图书馆、湖州会馆、闸北第五警察署，以及其他两个警察分署。
攻打第五警察署的，是商务印书馆的工人武装队伍，由分队长徐文思带领。这个警察署的署长无恶不作，人称“地头蛇”，警察署也被工人们称为“黑狗窝”。“地头蛇”听说外面风声很紧，一有动静就紧闭大门，在窗台上架起步枪，不让外人随便接近。
徐文思考虑到自己队伍枪支很少，要硬攻是不行的。和大家商量后，决定将队员分成两路，一路由他带领，佯攻正门，吸引敌人主要火力。同时，又准备了一些火油箱、油墨桶和许多鞭炮。另一路担任主攻，从后门突入。
正门的进攻开始后，队员们劈里啪啦地放起了鞭炮，同时大声喊道：“喂！黑狗们，你们被包围了，快快投降吧！不然要劈大门啦！”他们不断地喊着话，放着鞭炮。敌人听着喊话，听着密集的“枪声”，胆战心惊，集中起来商量对策。在后门附近的队员乘机发动进攻。
战斗很快取得了胜利，徐文思在战斗中英勇牺牲。其他各区的战斗也先后胜利结束。到第二天下午4点多钟，就只剩下北火车站一个敌人据点了。
北火车站盘踞着大量敌兵，他们拥有机枪、迫击炮、铁甲车等重型装备。而且车站附近是一片空旷的开阔地带，纠察队员进攻时几乎没有掩蔽物。敌人的司令也坐镇在这里亲自指挥。这一切，都增加了拔除这个据点的困难。然而，北火车站是敌人在上海的最后一个据点，云集在这里的工人武装队伍，人人同仇敌忾，斗志昂扬，决心一鼓作气攻克它。
激战不到半小时，亲自坐镇指挥的敌军总司令就逃到租界去了。守敌得知他们的司令已逃跑了，丧失了斗志；加上无人统一指挥，敌人阵线很快陷于混乱。各路纠察队员更是加紧了总攻步伐。下午6点钟终于全部占领了北火车站。
这样，在中国共产党的领导下，在周恩来等的指挥下，英勇的上海工人阶级经过30小时的浴血奋战，击溃北洋军阀在上海的驻军，占领了上海除租界以外的地区，全歼北洋军阀部队3000多人，反动警察2000多人，解放了上海这座中国最大的城市，为中国现代革命史写下了光辉的一页。这是大革命时期中国工人阶级的一次壮举。在起义过程中，工人英勇牺牲者达300多人，负伤者达1000余人。上海工人阶级用自己的鲜血解放了大上海。
上海工人第三次武装起义的胜利，充分体现了中国工人阶级及其先锋队顽强的斗争精神、巨大的组织力量和对武装斗争的领导艺术，是世界无产阶级武装起义史上的成功范例。