了《中央巡视条例》，建立了派巡视员指导各级党部的所谓“活的领导”体制。实行这种委派“钦差大臣”式的领导方法，目的只有一个，就是保证王明路线在各地“百分之百地执行”。
在这种情况下，张国焘提出了作为中央代表去鄂豫皖的要求。他回忆说： “我是自愿去鄂豫皖的。当时鄂豫皖区还保有较多的立三路线的残余，负那个区域领导责任的曾钟圣（曾中生）就是著名的立三路线的拥护者，我的同志们觉得我去那里纠正立三路线的错误是游刃有余的。我自己也觉得我对那一带的情况较为熟悉，而且大好中原，正是便于驰骋的所在，我为之向往。”张国焘： 《我的回忆》（第2册），现代史料编刊社1980年版，第487—488页。
同时，中共中央亦认为，应当对鄂豫皖苏区予以特别关注。3月28日，中央政治局常委会议讨论鄂豫皖苏区问题时，周恩来发言说： 此地较中央苏区为好，更易发展，而形成对敌人京汉铁路的威胁，必须加强。《周恩来年谱》（1898—1949）修订本，中央文献出版社1998年版，第212页。因此，会议决定由中央常委委员张国焘前去鄂豫皖担任中央分局书记兼军委书记。这表明中共中央对鄂豫皖苏区最高领导人的人选是非常慎重的。派张国焘赴鄂豫皖贯彻四中全会路线，也表明了王明等人对张国焘的信任和器重。
决定由中央政治局常委张国焘出任鄂豫皖中央分局书记、军委书记职务后，中央不得不改变原来由沈泽民任鄂豫皖中央分局书记的决议。5月6日，中央正式作出《中央关于鄂豫皖省委的决议》，该决议说： “中央指定张特立，沈泽民与陈昌浩为中央局的委员，特立为书记，特立同志兼革命军事委员会主席，泽民同志兼鄂豫皖省委书记。”《中共中央文件选集》第7册，中共中央党校出版社1991年版，第254页。
鄂豫皖革命根据地处于湖北、河南、安徽三省边界地区，气势雄伟的大别山脉位于根据地中央，其间有木兰山、天台山、万紫山、大雾山、大悟山、白马尖、天堂寨、九峰山、鸡龙尖、古角、桐山诸峰纵横盘结，绵亘数百里，横贯鄂豫皖三省交界处，襟长江而带淮河。这里可以北窥豫中，南瞰武汉，东控江淮平原，西扼平汉铁路，战略地位十分重要。此地河流众多，水泊棋布，土地肥沃，物产丰富，地势险要，为历代兵家囊括大江南北、逐鹿中原的必争之地。
鄂豫皖地区的人民群众有着光荣的革命传统，在近百年来的中国近代历史上有过多次反抗封建剥削压迫的英勇斗争经历。1921年中国共产党成立后，鄂豫皖边区很快就有了共产党的组织。大革命时期，随着国民革命军的北伐胜利进军，鄂豫皖边区的农民运动蓬勃发展起来，极大地动摇了封建地主阶级的反动统治。
蒋介石和汪精卫相继叛变革命后，鄂豫皖边区的革命势力同全国一样，遭到严重摧残。但是，鄂豫皖边区的共产党人，按照中共“八七”会议所确定的实行土地革命和武装反抗国民党反动派的总方针，组织和武装农民群众，在1927年秋冬至1929年秋冬之间，相继举行了黄（安）麻（城）起义、商南起义、六（安）霍（山）起义，创建了红军和革命根据地。至1930年夏，基本形成鄂豫皖苏区。其基本经过是：
1929年9月，中共中央为统一鄂豫边、豫东南根据地和红军的领导，决定将黄安、麻城、黄陂、黄冈、罗田、商城、光山、罗山八县划为鄂豫边特区，改组鄂东北特委为鄂豫边特委。
1930年2月25日，中共中央发出给湖北省委、河南省委、六安中心县委的指示信，决定将湖北的黄安、麻城、黄陂、黄冈、孝感、罗田，河南的商城、光山、潢川、固始、息县，安徽的六安、英山、霍山、霍丘、颍上、寿县、合肥等县划为鄂豫皖特别区，在中共湖北省委领导下建立中共鄂豫皖特别区委员会。
3月18日，中共中央又发出给鄂豫皖特委和红三十一师、红三十二师、红三十三师的指示信，决定将这三个师编为中国工农红军第一军。中共鄂豫皖特委由郭述申、许继慎、曹大骏、何玉琳、王平章、姜镜堂、周纯全、甘元景、徐朋人等九人为常委，郭述申任特委书记。红一军以许继慎为军长、曹大骏任政治委员、徐向前任副军长、熊受暄任政治部主任，全军共2100余人。1931年1月，红一军与红十五军合编为红四军。
6月下旬，鄂豫皖边界第一次工农兵代表大会召开。大会经过选举产生了鄂豫皖边区苏维埃政府，甘元景当选为苏维埃政府主席。
至此，鄂豫皖苏区正式形成。
在鄂豫皖苏区形成的过程中，改编为红四军的鄂豫皖红军发挥了重大作用，并在巩固和扩大根据地的斗争中建立了巨大的功勋。但由于立三“左”倾冒险主义军事路线的影响，也使红军和根据地遭到很大损失。为了有力地领导根据地的斗争，1931年2月初，鄂豫皖临时特委召开扩大会议，正式组成中共鄂豫皖特委和鄂豫皖革命军事委员会，由曾中生任特委书记兼军委主席，蔡申熙、郑行瑞任军委副主席。
两个月后，当鄂豫皖红军正处于第二次反“围剿”的激战之中时，张国焘等人来到了鄂豫皖根据地。
张国焘和陈昌浩是在4月初离开上海前往武汉的。据张国焘回忆： 4月1日凌晨3时，他扮成普通商人，在杨树浦码头搭上了一条货船奔赴武汉。与他同行的陈昌浩扮成了他的伙计，并摆出一副侍候老板的神气多方照顾他。张国焘： 《我的回忆》（第3册），现代史料编刊社1980年版，第3—4页。
几天后，张国焘和陈昌浩安抵武汉，随即住进一处僻静的地方等候鄂豫皖根据地派来的交通员。
在中央特科负责人顾顺章的安排下，张国焘、陈昌浩很快便与鄂豫皖派来的秘密交通员接上了关系。在秘密交通员的带领之下，张国焘和陈昌浩乘上了经黄陂到麻城李家集的公共汽车。
破旧的公共汽车散发着浓烈的汽油味，在简易公路上颠簸着向前行驶。经过数次国民党军队的检查之后，张国焘等人逐渐接近目的地。下午4时左右，汽车到达离李家集四公里远的一个小站。张国焘、陈昌浩随同交通员下了车。然后沿着乡间小道远离公路而去。
张国焘和陈昌浩跟着交通员疾步而行，翻过几个小山坡后，才放慢了脚步。交通员告诉他们，要到达目的地还要走一个钟头，为了避免人们的注意最好在黄昏以后进入村庄。在那个村庄藏着一支鄂豫皖苏区专门派来迎接他们的特务队。天黑时，交通员终于把张国焘和陈昌浩引入一个村庄。当他们走进一家店堂时，突然围上来一群人。正在他们惊疑之余，交通员上前介绍说： “这是专门来迎接你们的特务队。”张国焘和陈昌浩这才如释重负地与这些年轻战士们一一握手致意。
饭后，稍事休息，张国焘、陈昌浩便跟着特务队踏着茫茫夜色上路了。漫无边际的黑暗中，为了远离村庄和敌人哨兵，他们不得不走山冈小径。崎岖不平的山路，弯弯曲曲的田畦，布满树丛的沟壑，很不好走。尚不习惯走夜路的张、陈二人，深一脚，浅一脚，步履十分艰难地挪动着。张国焘后来对这天夜里的行军情形作了如下描述： “我这个不习惯行夜路的人，越走越觉得我这双脚有些不济事。我在黑夜中急行，高一脚，低一脚，有时脚被石块打着发痛，有时跌跤，我用尽气力还不免掉队几步。”经过一整夜的行程，一行人到达鄂豫皖革命根据地的黄安县高桥区。
鄂豫皖中央分局旧址
一夜的紧张奔波使得张国焘、陈昌浩疲惫不堪。张国焘回忆说： “我赶紧解脱我的鞋袜，看看我的双脚，使我自己也为之惊奇，原来双脚已布满了水泡和由鞋带子所勒成的血渍印。”张国焘： 《我的回忆》（第3册），现代史料编刊社1980年版，第9—10页。张国焘成了“伤兵”，前来迎接他的特务队不得不将他抬着上路。
4月11日，张国焘和陈昌浩到达打虎山特委和特苏政府所在地后，得到当地同志报告： 红四军已决定到长江下游去行动，以策应中央红军的反“围剿”斗争。张国焘当即指出： 单独军事行动，使红军脱离这一赤区，在严重“围剿”期内，放弃了巩固这一赤区的任务而空谈截断长江，是错误的。他提议目前四军的任务是应迅速肃清商城之亲区河南商城县在1910年划分为城区、康区、和区、乐区、亲区、安区、平区七个区，1922年改用数字排列为一区（即城区）、二区（即康区）、三区（即和、乐区）、四区（即亲区）、五六两区（即安区）、七区（即平区）。亲区位于商城南部，当时亲区由反动土豪顾敬之控制，顾敬之有枪700余枝，抽捐、抽税，建营房、审讯庭，倚仗山高林密，熟悉地形，与苏维埃政权对抗为敌。民团，打通商（城）光（山）路线，将黄麻、光山与皖西连成一片，巩固和扩大这一赤区，只有这样才能帮助中央苏区。这一提议得到当地同志的同意。《张国焘给中央政治局的报告——关于鄂豫皖区的工作》（1931年5月24日），《鄂豫皖革命根据地》第1册，河南人民出版社1990年版，第237页。红四方面军战史也这样记载： 张国焘“十一日，得悉红四军已决定到长江下游行动，即加以制止，并按照当时中央指示精神，决定红四军去肃清商城亲区的民团，打通商、光路线，将黄、麻、光与皖西连成一片，以巩固和扩大这一根据地”（《中国工农红军第四方面军战史》，解放军出版社1989年版，第125页）。
制止红四军南下截断长江，威吓武汉，并要求红四军迅速肃清商城亲区民团，是张国焘到达鄂豫皖根据地后做出的第一个重大决策。但由于红四军此时已到达商城亲区，正准备经由皖西到长江下游去，因而，张国焘又决定亲自赶往亲区以改变红四军的行动计划。
在亲区，张国焘陈述了自己的意见后，红四军领导人均表示赞同。不过，此时由于皖西方面敌人已开始进攻，皖西形势紧急，使得红四军已不能从容肃清亲区。张国焘见事已至此，也不得不暂时搁置肃清亲区的计划，当即决定集中主力首先打击深入皖西根据地之敌。之后，张国焘便与陈昌浩、旷继勋带领红四军赴皖西打击进犯根据地的敌人陈调元部。
红四军主力第十师、第十一师在张国焘、陈昌浩、旷继勋带领下由商南亲区向东行动，与红十二师会合。4月24日，红十师、十一师自金家寨以北地区出发，经石婆店向独山前进；红十二师经过敌正面向麻埠以北迂回，进占东西香火岭。4月25日，红十一师及红十师各两个团猛攻敌侧后的独山据点，红十二师于麻埠外围阻击敌援。在附近群众支援下，红四军经四小时激战，全歼敌陈调元部一个团一个营，毙、伤、俘敌2000余人，缴枪1200余枝，给乘隙进犯的敌人以迎头痛击。同日，麻埠、诸佛庵之敌惧怕被歼，仓皇逃回霍山。皖西之危遂解。这是张国焘在鄂豫皖首次参与指挥红军的反“围剿”行动。
敌人在皖西遭到打击后，又重新部署，准备实施第二步合击金家寨、麻埠的计划。红四军主力解皖西之危后立即西返，通过敌人阻击线到达鄂豫边与红二十八团会合，在新集北部浒湾与敌人展开激战，毙、伤、俘敌近千人。
5月下旬，红军为进一步打破敌人“围剿”和保卫夏收，乃转向南线黄安地区。5月28日，红军围攻黄安、宋埠间之敌桃花镇据点，歼敌四十四师一个营，后又在十里铺设伏歼敌第二六三团两个营和二六四团一个营大部。
至此，敌人发动的对鄂豫皖根据地的第二次“围剿”被粉碎。
六 确立威信
1931年5月12日，张国焘以中共中央代表身份在新集召开了鄂豫皖边特委会议，宣布中共中央关于撤销鄂豫皖边特委、成立中共鄂豫皖中央分局的决定。中共鄂豫皖中央分局由张国焘、陈昌浩、沈泽民、曾中生、王平章、蔡申熙、舒传贤、旷继勋、周纯全、郭述申、高敬亭等11名正式委员和甘元景等15名候补委员组成，张国焘任分局书记。
在鄂豫皖中央分局成立的同时，还改组了鄂豫皖革命军事委员会。军委会由张国焘、曾中生、旷继勋、徐向前、郑行瑞、沈泽民、陈昌浩等七人组成。张国焘兼任军委主席，曾中生、旷继勋任副主席；另设鄂豫皖军委会皖西分会，姜镜堂任主席（后为许继慎）。
鄂豫皖中央分局、军委会成立不久，即对红四军的领导干部做了调整。军长仍为旷继勋，原鄂豫皖特委书记曾中生调任红四军政治委员，陈定侯任军政治部主任。红四军所辖各师的主要领导人为： 第十师，师长刘英、政治委员康荣生；第十一师，师长周维炯、政治委员余笃三；第十二师，师长许继慎、政治委员庞永俊；第十三师，师长徐向前、政治委员陈奇。
中共鄂豫皖中央分局的成立，军委会的改组，一方面为张国焘等人推行六届四中全会路线做了组织准备，使张国焘控制了鄂豫皖革命根据地和红军的主要领导权；另一方面也推动了鄂豫皖根据地和红军的发展。
张国焘任鄂豫皖中央分局书记和军委主席后，深知自己要真正起到第一把手的作用，树立一呼百应之威信，就必须大刀阔斧地干好几件事。于是，他首先抓了两件事： 一是整顿党的组织，一是解决当时最急迫的粮食问题。
整顿党的组织是与推行王明路线结合在一起的。张国焘通过对鄂豫皖工作的考察，认为： “的确自中生同志等到后，虽然有了相当的转变，但仍然是对立三路线的调和。”鄂豫皖根据地的工作还没有得到彻底的转变，“当前的任务是加紧两条战线的斗争，在实际工作中彻底的转变”。《张国焘给中央政治局的报告——关于鄂豫皖区的工作》（1931年5月24日），《鄂豫皖革命根据地》第1册，河南人民出版社1990年版，第24