产党人都曾在不同阶段使用不同的化名。对王明、博古等回国留学生来说，采用化名则是因为布尔什维克有使用假名的习惯，而其他许多人，像周恩来，他们使用化名都是出于地下工作者的安全考虑。而邓小平在选择化名时与众不同，这个名字并不十分隐蔽，保留了原姓，而且在以后不再必要时，仍一直继续使用。
8月7日，中央委员会在汉口召开紧急会议。会议选举了新的临时政治局，并通过四个文件，但未选出新的总书记。共产国际代表贝索·罗米那兹在其中的一份文件中谴责了前任党的领导的“机会主义”；其它三份文件号召全党推翻在南京和武汉的国民政府，组织武装起义，建立地方和省的苏维埃政府。但出于策略上的考虑，起义仍将打着国民党左派的旗帜。邓小平以党中央秘书的身份参加了会议，从而亲身经历了共产党从惨败转向全新战略的过程。
共产党人是在完全没有把握的情况下开始实行新的战略的。整个夏天，斯大林和共产国际都在强迫共产尝维持与国民党左派合作，现在他们又要求共产党加快取得革命胜利，而这恰恰是共产党所不可能达到的。在城市，共产党的工会领导人不是牺牲就是转入地下。在农村，农民的武装斗争在许多积极分子遭屠杀后转入低潮。在军队里，共产党人及其同情者倒是拥有一些军团，并且在其他武装力量的政治部门有很强的势力，但他们都是以国民党军官的身份执行任务的。另外，陈独秀下台后，一些毫无军事经验的人掌握了领导权。政治局的代理书记翟秋白是作家，而其他十名委员中无一名军人（作为中央候补委员的毛泽东，倒是穿过军装，那是1912年在一个湖南军阀的军队当兵，但从没有当过军官）。
在八七会议召开之前，已经举行过一次起义。这次起义是江西首府南昌附近驻扎的两个兵团发动的。起义者占领了南昌，并建立起第一支由共产党直接领导的拥有一万五干人的军队。但胜利并没有维持多久。这支新建的队伍在向广州以东海岸的长征途中，士兵不断逃跑，还有一名师长率部叛变，致使兵力锐减，最终被国民党军队打散，弄到无法整编的地步。起义部队的大部分领导人逃往香港或上海。领导整个起义的周恩来，抵达香港时身患重病，在九龙住了很长一段时间医院。后来的红军总司令末德，留下来继续带领他的部队，最后率领着仅存的六百人于1928年4月与毛泽东在井冈山根据地汇合。
随后的秋收起义也失败了，在湖北，拼凑起来的农民军队很快就被原以为是盟友的国民自卫队解除了武装。毛泽东是湖南农民起义的组织者，他率领着由起义士兵、矿工、农民和士匪组成的四个“团”。他接到的命令是攻占长沙，经过了一番苦战，他手下的两个团之间还发生了内讧。毛泽东认为自己手下的这支军队根本无法完成任务。于是，毛泽东在远离长沙的一个小镇集合起剩余的兵力，劝说其中的大部分人跟他上了井冈山。井冈山位于湖南、江西两省交界处，地理位置偏僻，地势险峻，自古以来土匪出没。当时有两伙土匪占领着井冈山，毛泽东说服了他们的首领与他结成同盟并驻扎下来，在这个中国南方最易守难攻的峭壁密林深处，度过了一个极其艰苦但相对安全的冬天。
当年的第三次起义12月份在广州爆发，也以惨败告终。起义者计划利用共产党领导的当地军队和武装工人占领城市，建立苏维埃市政府（公社），开辟一个长久的红色区域。但经过几天激战，结果共产党组织被彻底摧毁。几位全国著名的领导人牺牲，数以千计的工人遭屠戮，其中许多人手无寸铁。斯大林认为，广州起义还有另一笔损失：国民党军队在街上打死了几名俄国人并袭击了苏朕领事馆。斯大林竭力将派往中国的共产国际顾问和苏联外交官区别开来，但广州惨案表明国民党的军官并没有对他们加以区别。自此，苏联与中国国民党之间的合作，在这个孙中山和鲍罗廷曾为之牵线搭桥的城市，划上了一个蘸满鲜血的句号。
那年秋天，瞿秋白决定将共产党中央迁回上海。仍然担任党中央秘书的邓小平于9月底或10月初到了上海。和他一起去的是李维汉。李与邓早在法国时就已相识，当时李刚被提开到政治局工作。现在，邓小平转了一圈之后，又回到了阔别七年的上海。
邓小平到上海不久就被任命为中央秘书长，负责处里中央机关的文书、机要、交通、财务等工作②。在平常时期，这类工作原本就很繁琐，在当时的工作环境下就更繁重了。共产党在当时是非法组织，其党员随时都有被捕的危险。国民党的军队和警察逮捕到嫌疑犯后，会使用一切手段逼供，一个人若是叛变了，会牵连到许多人。在共产党人要积极重建党的影响的产业界，很多劳工组织都属于青帮或其他反共黑社会组织，到处都有密探。公共租界的巡捕、法国租界的警察和国民党的警察一样仇视共产主义和共产党人。他们经常主动搜捕共产党人，然后再把抓到的嫌疑犯引渡给国民党警察。
共产党的中央机关及其下属部门在上海分布很广。中央委员会的大多数部门集中在上海市中心；江苏省委机关设在闸北和虹口的工业区内；青年团的部分单位则设在法租界。周恩来当时负责中央机关的安全工作，他规定，政治局开会时，政治局委员不必全到，要有一至二人留外，以防警察局一旦突袭时不致于全体被捕。政治局会议常常在公共场所比如医院内的安全地点召开。据周恩来的传记记载，邓小平经常前往市中心威海卫路的一家医院开会。1929年8月，大约就是在邓小平离开上每去西南的同一时间，两名政治局委员被出卖后遭到逮捕和杀害。总的来讲，在邓小平做地下工作的两年之中，中共中央在上海的安全工作一直做得很出色。
在1928年或1929年年初的某一时间，邓小平结婚了。他的妻子张锡瑗是一名共产党员，曾经在江西、福建交界的山区某个小根据地任过职。邓小平是什么时候、怎么为她相识的不得而知，很有可能是在她奉命到上海送信时两人相遇的。
不管邓小平和张锡瑗是在什么情形之下结婚的，他们的婚姻只持续了很短的一段时间便悲剧性地结束了。张锡援死于难产。关于她去世的时间有不同的说法，但有一点是一致的，即当时邓小平不在上海。有关他在1928年和1929年间活动的记录很少。但作为中央的一名重要官员，他不可能经常离开上海。因此，合理的结论是，张锡援去世时，邓小平已离开了上海、凋任新的工作了。邓小平对自己的私生活一直保持沉默，他从不对外人谈他的感情，在他的官方传记里甚至没有提及到这次婚姻。
对共产党人来说，1928年主要的政治事件是召开了第六届党代表大会。由于在中国境内没有一个安全的地方允许几十名中共代表集中在一起，该次会议选在莫斯科郊外的一所旧式庄园举行。中国共产党的大多数政治局委员参加了这次会议。但李维汉留在上海没有参加，邓小平也和他一起留在上海。大会上布哈林作为共产国际常务委员会的主席出尽风头。布哈林曾与斯大林一起批判托洛斯基的对华政策，但不久就因其“右倾”，和“富农路线”受到攻击。他性情怪异，有时身穿猎装出现在主席台上，甚至手腕上还站着一只猎鹰。在他的主持下，大会通过的决议与2月份共产国际会议的决议口径一致。
经过整个6月份的争论，大会总结认为，中国革命尚处于“资产阶级民主革命”阶段（不属于社会主义革命），全国的形势处于两次“革命高潮”之间。大会谴责了“机会主义”（即所谓陈独秀执行的路线。陈未到会），但同时也谴责了“盲动主义”（即由瞿秋白下令发动的那种盲目的军事行动）。大会通过了十大纲领，其中的三大任务是推翻“国民党军阀政府”，没收地主阶级的一切土地，“联合世界无产阶级和苏联”。十六年以后，当毛泽东自己（此处有误。毛泽东是在1939年和1940年对中国革命的性质做出完整的总结的。——译注）总结出一口整套关于中国革命性质的理论时，肯定了这一纲领的正确性，但应该强调革命的持久性和“农村根据地的重要性”。
1929年中，邓小平的工作出现了新的转变。政治局免去了他中央委员会秘书长的职务，派他到广西执行一项特殊的任务：一，与广西省政府主席和绥靖公署主任联络。他们虽然都是蒋介石任命的，但正在策划反蒋的军事行动，并表示了与共产党合作的愿望；二，接管广西省所有党的工作；三，准备武装起义。这都是极其艰巨而危险的任务。尽管绥靖公署主任是秘密党员，省政府主（原文有误。绥靖公署主任不是秘密党员。广西省政府主席俞作柏的弟弟俞作豫是秘密共产党员。——译注）席同情共产党，但他们在当地的势力很弱。而且，如果他们采取反蒋行动，失败的可能性更大。广西只与法属印度支那和广州保持着联系，而广州当时控制在坚定的反共分子手中。广西远离共产党军队所活动的任何地区。难怪当时在上海秘密活动的共产国际远东支局坚决反对接受他们两位的倡议。
邓小平先从海路到达海防，然后于9月初经陆路抵达广西首府南宁。随后又有几名党员相继来到广西，包括曾在苏联接受过军事训练的张云逸。邓小平见到省主席后，立即说服他任命张云逸为广西省警备大队的大队长和教导总队的队长。邓小平和张云逸开始等候省主席出征反蒋。后来省主席的确和绥靖公署主任一道出发了。他们刚一启程，两位共产党员便命令南宁警备部队的一个营向西北进驻山区，另一个营镇守南宁通往河内的必经之地。他们还派可靠的人占领了省军械库，军械库里有五干支步枪，一些山炮、迫击炮和机关枪，几台无线电装置和大量的弹药。这些战利品是当时率领二三千人在江西南部活动的毛泽东做梦都想不到的。
省主席和公署主任的冒险很快就结束了。他们的军对在广西、广东交界处被击溃，他们两人双双逃亡。邓小平和张云逸一听到这个消息，立即将军械库的全部军火转移到早已在南宁港准备好的轮船上，命令他们的部队撤出南宁。邓小平率领一支部队乘轮船沿邕江及其北边两条支流逆流而上，在平马（现在的田东）等待张云逸率领的第二支部队。两支部队汇合后，接着进军广西省西部一个偏远的集镇百色。在那里邓小平和张云逸开始策划起义，它标志着中国共产党又把苏维埃运动扩展到了中国一个新的地区。
为了纪念广州起义两周年，他们在12月11日这天，以中国工农红军第七军的名义在百色镇中心升起了镰刀斧头交叉的腹帜。在下游的平马，工人、农民和士兵的代表集会选举出工农苏难埃政府。两个镇均未遇到武装抵抗。邓小平担任了部队的政委和前委书记。然后他又前往龙州地区，组织了第二次起义。（早在前一年的秋天邓小平就派南宁警备大队的一个营占领了这一地区）。
1930年2月初，在临近印度支那边界的龙州，成立苏维埃政府以及中国工农红军第八军。
就在这一关键时刻，邓小平神秘地回到了上海。据他的官方传记记载，他此行的目的是向党中央汇报工作。他可能是通过无线电（经香港中转）收到了上海的指示。但更有可能的是他自行决定回去的，党中央不太可能（邓小平赴上海汇报工作，是同李明瑞、许卓商议后决定的，——译注）在两个新建的根据地尚待巩固的时刻把他召回。另一方面，他至少面临着一个政治上的难题：如何安排绥靖公署主任李明瑞。李明瑞在广西东部受挫后逃回了龙州并一直在那儿协助邓小平组织起义。李明瑞当然想在新建的军队中谋得某项职位，邓小平也许是想与中央商量这件事。更富人情味的原因也许是他在为妻子担心。
邓在上海呆了两个月，4月份才离开。在上海，党中央决定任命李明瑞为红七军和红八军两支部队的总指挥，邓小平为政委。这一方面解决了李明瑞的安排问题，另一方面也表示中央对邓小平这一段时间的工作是满意的。当时总书记向忠发已不负责党中央的工作，而由组织部长李立三执掌。
邓回到了广西。这里的情况在他离开的这段时间急转直下。李宗仁和白崇禧，这两个在1926年参加北伐战争之前统治广西的军阀，已经回到南宁并迅速调兵进攻红八军。红八军只有大约不到二千人的兵力，战败后被赶出根据地。红七军出师南宁试图缓解红八军的压力，但也受挫被迫撤退到百色城外偏僻的山区里。
当年的春天和夏天，在几乎没有红军存在的地区，邓小平冒着个人的生命危险开展了“土地改革运动”。协助他实施这项计划的是韦拔群和李明瑞。韦拔群是一名当地的共产党员，几年前就开始带领一伙农民在山区活动。邓小平“发动群众，打土豪，分田地，进行土地革命”③。这似乎是很大胆的行动，完全按照当时中央的精神，没收地主的土地。它比毛泽东当时在江西实行的土地政策还要过激，后来邓自己也采纳了毛的政策。也许他意识到，全面的土地改革往往造成土地收成减产，使农民的处境更艰难，而农民正是红军主要的政治支柱和经济支柱。
1930年6月红七军离开山区，在百色周围重新开始活动。邓小平此时重返红七军并积极抓部队训练。他还着手政治和行政工作，帮助创建了几个县级苏维埃政府。夏末，百色根据地已经控制了约二十个县镇，共一百万人口。
如果党中央允许邓小平、李明瑞和张云逸按照自己的想法行事，百色根据地是很有可能继续存在下去的，只是边界不断发生一些变化。但和所有其他在前线战斗的共产党须导人一样，他们也沦为所谓“立三路线”的牺牲者。李立三推行的是共产党“一省或几省”�