当时，为了便于在敌人的眼皮底下开展革命工作，中共中央提出了“以绝对秘密为原则”，实现党的“机关群众化和负责干部职业化”的要求，中央领导同志之间互不知道他人的住址，并且要不断变换居住地点和姓名。像周恩来这样的重要人物，几乎每隔一个月或半个月就要更换一次住处。
同时，党的各级机关也都分布在商店、住家、医院这些普普通通、毫不起眼的房屋中，如政治局联络点设在同孚路柏德里７００号（今石门一路３３６弄９号）一幢两楼两厢的普通石库门房子中，浙江路清河坊中央军委联络点的楼下是一间杂货铺等等。同时，住机关和来往机关的人员的穿着、语言和活动等都必须符合公开身份。住家要夫妻二人，进进出出的人员也不能太多，与国际接头的机关是古董店，这样外国人来往就不易引起怀疑。
据许多中共中央机关的工作人员回忆，在党中央从武汉迁到上海之后，为了秘密工作的需要，中央领导同志之间都互不知道别人的住处，“凡是负责同志到哪个地方去，可以到哪个地方去，不可以到哪个地方去，都要上面决定的。因为秘密工作，最怕发生问题以后受到牵连”。
作为中共中央秘书长，邓小平肩负了重要的责任。他不仅掌握着所有中央负责同志和各处中央秘密机关的地址，而且每天都要往来于各个秘密机关之间，接待来自各地的秘密交通，处理党组织的文件和情报，传达中共中央的指示。一旦稍有不慎，不仅会有生命危险，更会危及中央机关和各级组织。
因此，邓小平时时刻刻都十分小心谨慎，就连穿着也特别注意。到租界去的时候，就穿资本家的缎子袍子，穿马褂，到平民住的地方去，就穿工人服装，尽量不引人注意。正如后来邓小平自己所说的：“我们在上海做秘密工作，非常的艰苦，那时吊起脑袋干革命。我们没照过相，连电影院也没去过。”
对此，邓小平的胞弟邓垦印象十分深刻：
“后来我到上海去求学。临走的时候我父亲要求我，说你到上海去找找你哥哥。我到了上海就找吧。那儿情况很不熟悉，语言也不通，熟人也不多，找来找去没着落，结果我到当时的《时事新报》登了个寻人启事，就讲：邓希贤兄，我现在已到了上海，住到什么地方，希望你见报以后来找我。因为那时候，国民党特务用这种方法抓人的也有，登报用亲戚名义，结果你去找会碰到特务。后来据他们讲，他们还化装了之后，到我登报的那地方来了解，看有没有几个四川人在那里读书，其中有没有一个叫邓先修。有一天下午，我们四个青年人，都是四川我们的同乡、同学，正在一个小房子里聊天，突然之间进来一个人敲门，就问你们这儿有没有一个邓先修？当时我想，我在上海没有熟人啊，怎么会有人找我，一下子想到了我登的报，一看这个面孔还有印象，因为他走的时候我只有七八岁，隔了１３年了，变化很大，还有点印象。我就看出来了，我说我就是邓先修。他说：好好好，你登了个报我们知道了。你收拾收拾跟我走，马上跟我走。之后他简单地问了一下家庭情况，那时候我母亲已经去世了，我父亲还在。简单地说明一下，我这次到上海来，是来求学的。他说：不要多说了，其他的事情以后再说，现在你赶快回去，立刻搬家，越快越好，不仅你自己要搬，而且你那三个同学都要搬，全部离开这个地方。”
即便如此，邓小平在上海的近两年之中也曾多次遇到危险，其中有两次真可以说是只差毫厘：
一次是１９２８年４月５日在上海爱文义路望德里１２３９号半（现为北京西路１０６０弄内）罗亦农的住所。那天，邓小平与当时担任中共中央政治局常委的罗亦农接头。办完事后，他刚从后门离开，巡捕就从前门进入罗亦农的住处，逮捕了罗亦农。邓小平出门后，看见前门一名扮成鞋匠的特科同志向他悄悄用手一指。邓小平就知道罗亦农出事了，立刻快步离开。从邓小平离开，到罗亦农被捕，前后只差了一分钟的时间。后来，罗亦农被叛徒出卖，英勇就义。
还有一次是在邓小平自己的住处。当时，邓小平与妻子张锡瑗，和周恩来、邓颖超夫妇住在一起。后来，巡捕发现了周恩来的住处，要来搜查。由于当时特科事先得到了情报，并及时通知了周恩来，因此住在这里的同志都安全地撤退了。但邓小平当时恰好不在家，没有接到通知。当邓小平正要敲门进屋时，巡捕还在屋内搜查。幸亏搜查的人中有一名特科的内线，他故意答应了一声要来开门。机警的邓小平一听门内的声音不对，立刻转身就走。直到半年后，他们连那个弄堂也不敢经过。
多年后，邓小平还常常提到这两次危险的经历：“这是我遇到的最大的两次危险。那个时候很危险啊！半分钟都差不得！”
虽然身上的担子很重，但由于有着丰富的革命工作经历，邓小平还是以认真细致的工作作风将秘书处的各项工作处理得井井有条，为刚刚转入地下工作的中国共产党的整顿和重组作出了很大的贡献。
同时，在担任中共中央秘书长以后，邓小平有机会列席党中央的各种最高会议，看到全国各地的工作报告，了解全国革命形势的发展，并参加党的一些重大决策过程。这不仅使他的工作能力得到了全面的锻炼和提高，也促使他开始思考一些深层次的问题。
在第一次国共合作失败后，党的组织受到破坏，党员人数急剧减少。为了挽救革命，１９２７年８月７日，中共中央在武汉召开了八七会议。会议在总结了大革命失败教训的同时，确立了实行土地革命和武装起义的方针，用“平民式”的革命手段来解决土地问题，并有系统、有计划地在尽可能广大的区域内准备农民的总暴动，这使全党在白色恐怖下重新鼓起了与国民党反动派作斗争的勇气。但是，会议同时也容许和助长了盲目发动工人罢工和组织城市暴动的倾向。会后，中央先后调派了毛泽东、周恩来等一批斗争经验丰富的同志到各主要省区领导武装起义。虽然南昌起义、秋收起义和广州起义取得了一定的成功，但都未能实现夺取大城市的目标。从１９２７年７月到１９２８年６月的一年中，党虽然在武汉、长沙、上海等大城市发动和领导了有３４余万工人参加的４７次罢工斗争，但这些罢工斗争很快就被镇压下去。在广东、广西、湖南、湖北、江西等省区的广大农村发动的武装起义也只有少数取得一定的胜利，多数没有成功，或者根本没有发动起来。
在革命遭受严重失败的严峻形势下，年轻的中国共产党面临着艰难的选择：要不要坚持革命？如何坚持革命？是继续坚持“城市中心论”，还是探索新的革命道路？
对此，年轻的邓小平坚定地选择了后者。通过参与中央的会议和阅读各级地方组织的报告，邓小平认识到，在大革命失败后，国内的政治形势发生了巨大的逆转，反革命势力已经大大超过了共产党领导的有组织的革命力量。在这种形势下，坚持“城市中心论”，把城市工人运动的兴起看做新的革命高潮到来的决定条件的道路肯定是走不通的。邓小平的女儿毛毛在《我的父亲邓小平》一书中写到，曾担任中共中央机关工作人员的朱端绶曾对她说，“我们的机关在公共租界，我们这个机关一直没有被破坏，直到１９３１年顾顺章叛变，我和熊老板才撤离。你爸爸是中央秘书长，经常来我们这个机关，来了呆半天就走，有时只呆一两个钟头，办完事就走。中央政治局和政治局常委的会议都是在我们这个机关开。你爸爸管开会的议程，头一次开会定好下次开会的时间。常委会人少，在一间屋子里开。
政治局扩大会人多，有时两间屋子一起开。你爸爸常在会上发言。有一次他的发言我记得最清楚，就是李立三主张先取得一省数省的胜利，你爸爸反对，说国民党有几百万军队，我们刚刚组织起来，没有武装，土枪土炮的怎么打得赢？”
在白色恐怖下，中国革命的出路在哪里？当时正在江西井冈山创建革命根据地的毛泽东的报告深深地吸引了邓小平。
１９２７年９月，毛泽东受中共中央的委托，以中央特派员的身份前往湖南，发动“秋收起义”。但由于遭到远比自己强大的反革命军队的镇压，加上兵力分散，对敌情估计不足，又缺乏作战经验，在攻占湖南省会长沙的过程中遭到严重损失。据此，毛泽东迅速总结经验，放弃了“取浏阳直攻长沙”的原定计划，把革命力量转移到敌人力量比较薄弱的农村中去，开始了创建以宁冈为中心的井冈山革命根据地的艰苦斗争。１９２８年４月，毛泽东率部与朱德、陈毅领导的南昌起义部分起义军会师，成立工农革命军第四军（后改称为红军第四军），井冈山革命根据地进一步壮大。
１９２８年１１月２５日，毛泽东代表红四军前委在写给中共中央的报告（即《毛泽东选集》第１卷中《井冈山的斗争》一文）中，根据中国社会和中国革命的特点，论证了红色政权能够长期存在并发展的主客观条件，并提出了工农武装割据的思想，在敌人力量比较薄弱的农村建立革命根据地，保存和发展革命力量，最终武装夺取政权。这为１９２７年大革命失败后正在探索革命道路的中国共产党找到了一条推动中国革命走向胜利的道路。
对于毛泽东、朱德、陈毅等人领导的工农武装斗争，邓小平极为关注，他后来曾回忆道，他在广西右江开展土地革命的一些做法，就是他在上海党中央工作时，从毛泽东、朱德领导的红四军的报告和红四军到上海的同志向中央进行的口头报告中学习的经验。同时，邓小平还迫切地希望能够亲身参与到革命根据地的建设中，探索中国革命的出路。１９２９年夏，他欣然接受组织的安排，告别妻子张锡瑗，秘密前往广西，开辟新的革命根据地，这是邓小平在革命生涯中第一次独立负责一个地区的革命工作。
原中共中央机关工作人员张纪恩后来回忆道，离开的时候，他们也不晓得，党也不会公布的，只晓得他已经离开了。他们后来还是在报纸上看到邓小平的名字，才知道他到广西去了，而且是通过国民党的报纸才知道的。
（第三节）探索中国革命新出路
１９３０年１月的一天，奉命到广西开辟革命根据地的邓小平，从广西辗转回到上海。
回到上海后，他首先向党中央和中央军委汇报了半年来广西革命工作的情况，以及对今后工作的设想。
他谈到，根据中共中央的派遣，他化名邓斌于１９２９年７月初来到了广西。