次于蒋。军校正式开办，他立即被委任为少将教授部主任。
当时蒋苦于人手不够，正在极力网罗日本士官同学协助。听了王柏龄的介绍，便以军校筹备委员会委员长身份，电召何应钦赴广州；何到后即被委以重任，先是主持考选军校干部，后出任军校总教官，兼教练部主任，成为仅次于王柏龄的人物。
历史偏爱有准备的头脑。挨过两枪的何应钦，在一番跌荡起落之后，对历史的机缘作好了充分准备。
黄埔党军之所以未能称为“蒋王”，而被称“蒋何”，问题皆在王柏龄自身。
王是蒋介石在黄埔军校视为心腹股肱的头号人物。但他对教学兴趣不大，成天不务正业，去广州吃喝嫖赌，抽鸦片，每每有事找不着。他完全没有意识到处在怎样一个历史关口，处于一个怎样有利的地位；而在这个关口这个地位，稍微谨慎一些、敬业一些、“每每有事”找得着一些，历史将会向他提供多么丰厚的报偿。
何应钦与王柏龄的不一样，恰恰集中在这里。他无不良嗜好，且以军校为家，勤勤恳恳，兢兢业业，无论上班下班，一找必到。于是蒋对何日加信任，开始把托付王柏龄的事交他去办。何见蒋对自己如此信任，大为感激，带领属下刘峙、顾祝同、钱大钧、陈继承等一批军事教官越干越出色。蒋则更欣慰地认为总教官没有选错，两人关系愈加密切。1924年年底，黄埔组建党军，第一期毕业生编为两个教导团，蒋任命何为第一团团长，王为第二团团长，何之地位开始超过王。
蒋的视线由王转向何的关键，还是通过实战。
1925年1月，陈炯明分兵三路进攻广州，大元帅府成立东征联军，分路迎击叛军。何应钦率领教导第一团沿广九铁路开进，担任攻击淡水城之主力，王柏龄率领教导第二团作为预备队。这是黄埔学生军成立以来首次投入实战。何应钦为消除官兵紧张心理，率部一面行军，一面搞野外演习，每天只走一二十里，部队还以为是实弹演习。结果攻击淡水城第一团打得勇猛又放松。攻击拂晓发起，正午突入城内，全歼守军一个旅，缴枪千余支。
第一团城内告捷，第二团却城外败北。王柏龄率领第二团没用上攻城，却与后续增援之敌遭遇。战斗一展开，王柏龄临阵脱逃，第二团部队立即败退。何应钦得知城外战况危殆，立即命令本团第二营营长刘峙率全营出城反攻。此时已是黄昏，敌军在昏暗中以为出城部队是逃出来的自己人，及至跟前才看清是黄埔学生军端着雪亮的刺刀冲锋，措手不及，纷纷溃退。
第一团完成了攻城任务又挽回第二团的颓势，何应钦首战告捷，名声大振。
淡水一仗，使蒋介石看出来，领兵打仗，靠王柏龄是不行的。于是以教导一团一营长钱大钧接替王柏龄，出任教导二团团长职务。
何应钦漂亮地完成了事业开局。
但真正奠定何应钦在蒋介石心目中的地位的，是棉湖之役。
此役是黄埔军生死存亡的关键。何应钦率领教导一团为决战主力，于3月12日在棉湖西北山地与陈炯明部林虎之主力相遇。战斗从拂晓直到下午4时。第二团由于行动迟缓，未能及时攻击敌人侧背，结果敌军全力对付第一团。第一团迎击十倍于己之敌，压力巨大。双方不顾一切，都将总预备队全部投入战场。至午后，何部官兵伤亡三分之一以上，整个战线开始动摇。一位营长见官兵伤亡将尽，失声痛哭。几股敌人冲到了指挥所附近。何应钦当年的司书回忆说：
此次战役，存亡之机，间不容发！假如何先生，不决心牺牲自己，则阵线动摇，教导第一团，势必全被敌人消灭；敌人便乘势进攻我孤立无助的第二团，第二团亦被各个击破，无法幸存。于是黄埔训练数年的成绩，殆不免同归于尽，革命的前途，也就不可得而知了。
何也认识到不是鱼死就是网破，只有拼死一战。他一面严令部队不论伤亡多大，都须坚持，不容稍退；一面亲率卫士队机枪排反击突入的敌军。双方犬牙交错，险象横生，战况甚为惨烈。幸而钱大钧的第二团于下午5时绕过敌后，攻入敌司令部，直入夜幕，敌军终于渐渐不支而退。
当然，关键还是黄埔军能打，教导一团能打。作为预备队的粤军许济旅中午赶到，一个团拥上去，才不到半小时就被敌人打瘫了。教导一团却连打带顶带反击，任伤亡再大也坚如磐石。而黄埔学生军的英勇善战，从此威名远扬。
棉湖之役当天，蒋介石和苏联顾问加伦将军皆在何应钦的指挥所。蒋事后云：“棉湖一役，以教导第一团千余之众，御万余精干之敌，其危实甚。万一惨败，不只总理手创之党军尽歼，革命策源地亦不可复保。此战适当总理逝世之翌日，盖在天之灵有以默相其成也。”
此战若败，党军尽歼，那么也就绝对没有了后来的蒋介石。于是蒋将3月12日作为纪念他与何应钦同生死、共患难的纪念日。
党军的“蒋何”之称，由此役后广泛传开。
蒋介石最念何应钦的是棉湖之役，何应钦自己最得意的则是龙潭之役。
1927年8月蒋介石第一次下野，孙传芳率部反攻南京。当时南京只有警备师及第二十一师守卫，顶不住孙军攻势，3天下来溃兵便到了麒麟门。何应钦深知此战一败，不但江浙闽赣皖5省重归孙传芳，北方的阎锡山也不会加入北伐行列，甚至北伐军能否回广东重整旗鼓也大成问题；于是率不满300人的特务营亲临前线。溃败官兵见何应钦来了，大呼：“总指挥到了！怕什么？冲回去！”居然一举夺回东阳镇，稳定住已溃败之局面。这时恰逢白崇禧从上海筹款返回，因铁路破坏受阻于无锡车站，临时用车站的民用电话指挥沪杭一带部队反击，形成对孙传芳的前后夹击之势，孙部攻势大挫。
龙潭一役为北伐成败关键。此役全歼孙军50000人，缴枪40000支，何应钦获“捍卫党国”奖旗一面。
何应钦用兵谨慎细致，颇有眼光和头脑，在国民党新军阀混战中也表现不凡。令蒋颇为头痛的桂系第四集团军，几乎就崩溃在他手里。
1929年3月蒋桂战争爆发，何应钦任讨逆军总参谋长，帮助蒋介石运筹方略，一举打败桂系。同年11月，张发奎与桂军联合反蒋，何应钦又主持讨伐张桂联军。12月张桂联军刚被平定，驻郑州之唐生智与驻安徽之石友三又兴兵反蒋，何应钦再度走马武汉，主持讨唐一事。1930年1月唐通电下野，何应钦获一等宝鼎勋章。
1930年5月中原大战爆发后，蒋介石率全部主力北上与冯、阎作战，何应钦在武汉行营坐镇后方，指挥一堆杂牌军对付倾巢出动、骁勇善战的桂军。桂军占领长沙、直逼武汉时，形势一度非常紧张。他蹲在满铺军用地图的作战室地上用铅笔勾勾画画，冥思苦想，把个军用地图标得五颜六色，不向蒋要增援就拿出了解决办法。
他以夏斗寅部死守岳阳，将火车全数开往武汉，否则就地炸毁；又命溃败的何键部退入湘西而不退向武汉，既免武汉受溃兵之扰，又使桂军侧翼受到威胁，不敢长驱直入；最后以粤军精锐蒋光鼐、蔡廷锴两师，跟踪追击桂军后尾，以湘军李韫珩（李抱冰）部支援蒋、蔡两师，共同夹击桂军战略重地衡阳。
衡阳被占，李宗仁、白崇禧的桂军被迫掉头回击粤军。何键部乘势从湘西进袭长沙。东、北两路也有何应钦指挥的军队压向桂军。衡阳一役，桂军遭建军以来空前大败，只有少部分部队逃出何应钦布置的三面夹击，避免了全军覆灭。但也几乎因此丧失了老本，从此一蹶不振。
独自对付了桂军的何应钦，不但不要蒋介石增兵，还能抽出手来，调三个师到津浦线支援北线蒋军主力作战。
享有“干才”之誉的何应钦，当之无愧地坐在蒋介石“八大金刚”中的头一把交椅。
所以蒋介石调兵遣将开始“围剿”红军时，头一个想到的，便是何应钦。
就在蒋、冯、阎的中原大战尚未结束之时，蒋介石便从河南前线向南京发出密电，要求立即任命何应钦为“鄂、湘、赣三省剿匪总指挥”。
北伐与新军阀混战中无役不与、无往不胜的何应钦，三次指挥对红军的“围剿”作战，却三战败北。
何应钦在第二次“围剿”中担任总司令，亲自制定“稳扎稳打、步步为营”的战略方针，集中4个军、11个师共计20万兵力，组成一条800里长的弧形战线拉网推进，席卷红军。结果却被红军横扫700里，损失30000人，丢枪20000支。
第三次“围剿”他担任前敌总指挥，用“长驱直入”方针连连扑空，始终找不到红军主力所在，陷入盲人骑瞎马的苦境；不经意之中又被红军消灭17个团，俘虏20000余人。
第四次“围剿”何应钦任赣粤闽边区总司令，实际是“围剿”中央苏区的总指挥，却弄得三个主力师被歼，两个师长被俘，连蒋军精锐十一师也未逃脱覆灭命运，败得最惨。蒋介石因此雷霆震怒，撤前敌总指挥陈诚之职杀鸡儆猴，还叹曰：“唯此次挫败，惨凄异常，实有生以来唯一之隐痛。”
何应钦找了个借口回南京，再不参加这样的“围剿”。一想起与红军作战和蒋介石怒不可遏的训斥，“惨凄异常，实有生以来唯一之隐痛”的首先便是他。
虽同是蒋介石“八大金刚”，但刘峙与顾祝同最得何应钦信任，又被人称作何应钦的“哼哈二将”。
顾祝同与共产党有两笔账。
一是第五次“围剿”中任北路军总司令，直接指挥蒋军主力进攻中央苏区。先抢占黎川，切断中央苏区与闽浙赣苏区的联系；继在浒湾战斗使红三军团、红七军团严重受损；三在大雄关使红一军团、红九军团蒙受重大伤亡；四则强攻广昌、建宁、古龙冈；血战高虎脑、万年亭；最后再陷石城，迫使中央红军提前长征。
红军突围长征后，在后尾紧追不舍的薛岳、吴奇伟、周浑元部共9个师，皆为顾祝同的北路军部队。
二是抗日战争中发动皖南事变。蒋介石原以为需两至三个月、最少也需一个月才能吃掉项英、叶挺率领的9000余新四军精锐部队，结果实际战斗只用了7天。其中与项英、叶挺的先后指挥失误有关，也与顾祝同的精心谋划和指挥相联。
如果说顾祝同与共产党最少有两笔账，那么刘峙最少就有三笔。
第一笔是1926年中山舰事件，刘峙任党军第二师师长，蒋介石召集卫戍部队讲话，他紧跟着宣读要逮捕的共产党人名单，随即扣押了第二师和海军中所有党代表及共产党员。当晚，包惠僧质问刘峙为何如此，刘回答说：“我也不完全了解，我是以校长的意思为意思，校长命令我干什么，我就干什么。”
第二笔是1927年“四一二”反革命事变。事变前蒋介石问上海警备司令白崇禧需要多少部队，白答：“只要调出薛岳之第一师，留下刘峙之第二师及周凤歧之二十六军便够了。”蒋、白皆认为刘峙是反共最坚决的力量。第二师旋即进入上海，原第一师驻防的闸北兵工厂、吴淞口一带，均被第二师接防。
第三笔是1932年6月，对鄂豫皖根据地的第四次“围剿”，刘峙任中路军副司令官（司令官为蒋介石），指挥6个纵队和一个总预备队计16个师另2个旅，“纵深配备，并列推进，步步为营，边进边剿”，攻占鄂豫皖根据地的心脏新集和金家寨。蒋介石高兴异常，以刘峙的字改新集为“经扶县”，以刘峙麾下第六纵队司令卫立煌之名改金家寨为“立煌县”。
其实，攻占金家寨的原本应该是蒋介石的另一个金刚：陈继承。
陈继承长期为刘峙部下。1926年中山舰事件，他在刘峙的第二师任第四团团长，将该团官兵集中于北校场，党代表、政工人员和中共党团员一律被缴械拘禁。后来参加对鄂豫皖根据地第四次“围剿”，担任刘峙的中路军第二纵队指挥官，指挥四个师担任主攻。陈继承8月13日占黄安；9月上旬占新集，14日克商城，三处皆为鄂豫皖根据地的核心地带。唯有在金家寨遭到顽强阻击无法前进，让卫立煌抄小路立了头功，否则蒋介石就不会叫金家寨为“立煌县”而要叫“继承县”了。
因陈继承作战异常卖力，甚至不惜拼光，蒋介石调他参加对中央苏区的第五次“围剿”。陈继承率领第三纵队，1933年11月在阳新、紫金山一带布置伏击阵地，使红九军团第三师陷入伏击，部队损失达三分之二。1934年4月，蒋又令陈继承任湘鄂赣“剿匪”总指挥。陈到任后指挥部队包抄龙门山区的中共湘鄂赣省委，省委几次突围未成，机关和部队一千多人大部分牺牲。
红军长征突围后，蒋介石让陈继承当上了国民党中央执行委员。
攻下鄂豫皖苏区首府新集的是刘峙，攻下中央苏区首府瑞金的是蒋鼎文。
国民党军队战史评价蒋鼎文“勇敢善战”，属于能打敢拼的人。但首先发现他的不是蒋介石，而是苏联顾问加伦。一次黄埔军校学生野外演习，观操的加伦将军当场就战术上的几个动作，连续向担任连指挥的学生队区队长蒋鼎文发问，一旁的蒋介石都为他捏一把冷汗。但蒋鼎文应付自如，对答如流；加伦对蒋介石说了一句“这人可以重用”，从此奠定了蒋鼎文飞黄腾达的军事生涯。
苏联顾问首先发现了他，他对苏联顾问却并不客气手软。1926年中山舰事件发生，率第五团包围苏联顾问团和省港罢工委员会、强行收缴顾问团卫士和罢工委员会枪械的，就是这位加伦将军发现的蒋鼎文。
关系黄埔党军生死存亡的第一次东征棉湖之役，蒋鼎文接任教导团第一营营长，于棉湖西北山地向林虎部主力发起勇猛冲击时，胸部中弹，被送进医院抢救。蒋介石当即犒赏5000元，并在撰写黄埔一期同学录时，亲笔在前言提及“蒋营长鼎文等十余人尚在危病中，死生未卜”。
何应钦不信蒋鼎文如此奋勇，怀疑是怯敌背逃时为流弹所伤。派人验明，子弹是从左肋穿入。枪伤也不争气，侧面穿入的子弹，即可说明伤者在进，也可说明伤者在退。独蒋介石宁愿相信其忠勇，因此在医院伤期内，蒋鼎文就被升