地施行自己的计划：先是购买钓钩之类的民船进行改造；后奏请到一笔四万两的饷银设立制造总厂，自造战船；然后花重金从广东购置大批洋炮，最终建立起一支拥有大小战船361艘，大小炮470门，在技术与装备上大大超过太平军的内河水师，真可谓“赤地立军，别开生面”。
曾国藩识见高出他人，付诸行动时又有条不紊，具有不达目的誓不罢休的决心，也就难怪他能够成其大业，达到他人难以达到的高度了。
正如当初所料，曾国藩“出山”不久，便受到了来自包括同僚及最高统治者在内的方方面面的制约、掣肘、猜疑、嘲讽与攻讦。
在长沙练勇时，曾国藩所带团练常与绿营官兵发生冲突，最终酿成一出“永顺兵事件”。一群绿营提标兵夜闯曾国藩行辕，枪伤其亲兵，他本人也险些中弹。事发之后，新任湖南巡抚骆秉章既未对肇事的永顺兵进行处罚，也未对其首领鲍起豹予以弹劾。遭受惊吓与羞辱的曾国藩不仅没有奏报朝廷惩办凶手，反而劝阻欲提兵火并，为他报仇雪恨的部下。通过这一给他心灵极大创伤的事件，曾国藩清醒地认识到，绿营已病入膏肓无可救药，要想成事，只有完全甩掉绿营另起炉灶。于是，他主动迁出长沙，移驻衡州，避开不必要的人事纠纷，一门心思埋头训练湘勇。
曾国藩有一句告诫自己的常用名谚，那就是“好汉打脱牙和血吞”。在深沉而无言的压抑与忍受中，分明透出一股直薄云天的血性与豪气。
曾国藩一心一意训练湘勇，欲成就一番大业，可湖南的一帮官吏、同僚、士绅，却总想看他的笑话。曾国藩奉旨出师衡阳，初战不利，湖南官绅议论纷纷，一时间“群疑众谤”，有的骂他无用，有的主张解散湘勇。靖港之战，太平军以少胜多，打得湘勇溃不成军。曾国藩更被推到了风口浪尖，这下可就不是议论了，而是恶毒攻击，那些与他有隙的官吏，更是推波助澜，要求参劾曾国藩。幸而战局很快好转，塔齐布取得湘潭大捷，太平军遭到前所未有的惨败，曾国藩的“募勇成军”获得咸丰皇帝的支持，他才在湖南官场的明争暗斗中逐渐胜出，由弱转强，站稳脚跟。
湘勇挟湘潭完胜之勇，一鼓作气地将太平军逐出湖南，咸丰帝特赏曾国藩三品顶戴。然后，湘勇又沿江而下，出湖南，入湖北，向占据武汉的太平军发起总攻。这也象征着曾国藩统率的团练脱颖而出，由守卫故土的地方业余武装，成为一支超越八旗、绿营的能征善战、最具实力的职业军队。然而，这支实质上的正规军仍称为湘勇，直到七年之后曾国藩攻克安庆，清廷才在上谕中一改成例，直呼湘军，不得不承认早已存在的事实。
曾国藩攻克武昌，咸丰帝总算在困顿糜烂的局势与极度的悲观失望中生出复兴的希望，不禁大喜过望地说道：“不意曾国藩一书生，乃能建此奇功。”当即任命他官至二品，署湖北巡抚，顶戴花翎。首席军机大臣祁隽藻乘机进言道：“曾国藩以侍郎在籍，犹匹夫耳。匹夫居闾里，一呼崛起，从之者万余人，恐非国家之福。”一席话说得咸丰帝心惊肉跳，当即吓出一身冷汗。
曾国藩收到署理湖北巡抚的上谕，正为自己替清廷出力卖命整整八年，好不容易才授了一个实职而感到欣慰，自己的谦辞奏疏还未到京，没想到咸丰帝已经改变主意降下新旨：“曾国藩着赏给兵部侍郎衔，办理军务，毋庸置理湖北巡抚……”
曾国藩接旨，仿佛兜头被人泼了一瓢冷水，失望之余，犹有一种被人玩弄的羞辱。满人当权，对汉人处处设防，比如六部尚书，虽满汉各设一人，但握掌实权者非满人莫属。清圣祖康熙皇帝曾立下遗训，在宫中勒石立碑道：“谕满大臣知悉，本朝君临汉土，汉人虽悉为臣仆，然究非同族，今虽用汉人为大臣，然不过羁縻而已。我子孙须时时省记此意，不可轻授汉人以大权，但可使供奔走之役而已。各部院满大臣等宜时至大内敬谨阅看此碑，不可懈怠。”
面对不可重用汉人的清廷祖制，曾国藩除了认命领受，再次“好汉打脱牙和血吞”，又能怎样？
领兵在外，没有实权，仅受一兵部侍郎虚衔，曾国藩不仅地位身份十分尴尬，且“无土无财，无位无民”，在阿谀奉承、腐败黑暗的晚清官场，不禁时时受掣，事事遇阻。“第一不能干预民事”，“第二不能接见官员”，“第三不能联络绅士”，最为关键的是，湘军的饷银无法落实。依照成例，清廷对民间武装不给官饷。曾国藩自办团练以来，所有饷银都得自筹。随着队伍日渐扩大，活动范围也由湖南转入湖北、江西，以客军的身份与太平军作战。如果没有地方大吏支持，就难以筹集军饷。而没有军饷，湘军将不战自溃。作为清廷唯一倚靠的军事力量，曾国藩不得不寄人篱下，事事仰仗于人。在江西的时间一长，饷银难以到位，曾国藩只有自己聘用官员抽厘筹饷。这便侵犯了江西地方官员的利益，他们除了攻击谩骂外，自然要对曾国藩处处刁难，事事设防。长期处在夹缝之中如履薄冰的曾国藩，感到自己的日子过得实在是太窝囊了，一肚子苦水无处倾泻。
正在这时，他接到父亲曾麟书病逝噩耗，马上向朝廷奏报丁忧，陈请开缺。不待谕旨下达，便离军而去。一向谨小慎微的曾国藩，一则出于对父亲的孝敬，更主要是太过压抑急需发泄之故，竟犯了清廷之大忌，身负重任的领兵大臣自行委军而去，当从严治罪。幸而湖南巡抚骆秉章、湖北巡抚胡林翼反复上疏说情，才得以开脱：委军一事免于追究，准予三个月开缺假期，假满后仍回江西办理军务。
眼看三月假期将满，只要回想这些年来的艰辛磨难与掣肘羁縻，曾国藩心中就愤愤不平。一向韬光养晦、涵养深厚的他忍无可忍，不禁露出了少有的锋芒，在给咸丰帝的奏折中以替父守制三年相要挟，公然要官：“非位任巡抚，有察吏治权者，决不能以治军。”
谁知曾国藩一生中唯一的一次要挟，“出台”得不是时候，正赶上太平天国内讧后处于军事收缩与少有的低潮时期，咸丰帝以为撇开曾国藩，马上便可攻下天京。他本来就对汉人有所疑忌，此时更不可能授予曾国藩实权，便顺水推舟，批准了曾国藩在籍终制的请求。曾国藩以退为进，结果与本意大相径庭，不禁深感意外，更加苦闷惆怅。更令他没有想到的是，他的要挟之举遭到了来自方方面面的指责与非议，不少人都认为他是一个虚伪之徒，与平日所标榜的理学家面目相去甚远。处处碰壁，事与愿违，曾国藩忧心痛苦之余，不由得陷入深深的反思之中。他感到招讥引谤，实则咎由自取，怪只怪自己修养不够，常怀自命不凡之感，导致一叶障目，固执己见，一味蛮干。同时，也缺少超脱出世的潇洒，“歧、黄可医身病，黄、老可医心病，”他决心多从黄老之学中吸取养料，做到能屈能伸，能出能入，能沉能浮。
就在曾国藩守制反思之时，咸丰帝的日子并不好过。原以为荡灭太平天国指日可待，没想到离京出走的石达开实力尚存，在与清军的战斗中屡屡得手，扼制了皖、赣、浙三省交通枢纽，兵锋指向浙东，使得清廷富裕的后方战略基地严重告急。此时，各地战事正处于胶着状态，咸丰帝环顾四周，已是无兵可用，无将可派，不仅占领天京遥遥无期，就连自己屁股下的宝座也有摇摇欲坠之感。不得已，这才下了一道谕旨，再次起用曾国藩。已在家中闭门思过一年有余的曾国藩得到复出机会，再也不提统兵非任实职之类的要求，匆匆收拾行装，复任效命。
再次出山后的曾国藩变得比过去圆融通达了，他深刻地认识到仅凭个人一己之力，根本无法扭转官场腐败弊端。为了达到自己所追求的目的，不得不收敛锋芒、委曲求全，变得日趋世故、左右逢源。对自己的这一改变，曾国藩在一封家书中写道：“吾往年在官，与官场落落不合，几至到处荆榛。此次改弦易辙，稍觉相安。”
曾国藩复出不久，太平天国新任将领李秀成以其卓越的军事才能，一举再度攻破清军江南大营。为使湘军竭力效命，咸丰帝不得不做出一定的妥协与让步，授曾国藩兵部尚书衔，署理两江总督。后由署理改为实授，并以钦差大臣身份督办江南军务，大江南北所有水陆各军，尽数归其调遣。
经历千辛万苦，曾国藩终于如愿以偿地成为执掌实权、威震一方的地方诸侯。
作为一名从未经历战阵的书生，曾国藩自出山第一天起，就已作好不计成败得失，不顾安危祸福，抛却身家性命的准备。正如他在给江忠源的一封信中所言：“大局糜烂至此，不欲复执守制不出之初心，能尽一份力必须拼命效此一分，成败利钝，付之不问。”
在征剿太平天国的历次战阵中，曾国藩两次自杀，多次留下遗嘱，随时作好自杀效命的思想准备，真可谓提着脑袋干革命。正是这种不成功、便成仁的精神，影响了后代无数热血青年。
湘军初从衡阳出师，便遭靖港大败，水陆两千余人被击溃，四十多艘战船大半被损毁。曾国藩在座船上神情沮丧，灰心至极，决定一死了之。他乘机支开随从，纵身跃入水中，幸被机警的幕僚觉察，派人跟踪，将他从水中救出。湘潭大捷一举扭转颓势，他才打消了再次自戕的念头。
湘军攻下武昌后，挟胜利之威顺江东下，攻克田家镇，占领黄梅，战事重心由湖北移至江西九江、湖口一带。湘军被一连串胜利冲昏了头脑，弃却了稳扎稳打的战术原则，轻敌骄躁，在九江尚未攻下的情况下，东进湖口，兵力分散，水陆隔绝，犯下兵家之大忌，结果被太平军所利用，导致湖口水师惨败。曾国藩的座船遭太平军聚攻，管驾官、监印官被击毙，座船被掳，湘军大量文卷册牍、粮台银两尽数落入太平军之手。曾国藩愤不欲生，再次投水自杀，再次被人救起。此次失败，湘军水师被分割，一部退回上游，一部封死在鄱阳湖内无法突围。这也是他平生最为孤立无援、进退两难、痛苦不堪的艰难时期。正当曾国藩日益困窘、无力苦撑的紧要关头，石达开接到杨秀清调令，命其回军南京，参加第一次会攻江南大营战役。不久，太平军内部又爆发了天京事变的内讧，差点遭受灭顶之灾的曾国藩这才绝处逢生，重获转机。
曾国藩接任咸丰帝命他署理两江总督的圣谕，自是喜不自禁，决定驻节之地时，在展开的地图上一番搜寻，一下便看中了群山环绕的安徽祁门。他认为祁门东连浙江，南达江西，既可有效地节制两江属下的江西、江苏、安徽、浙江四省，周围又有天然大山屏蔽，是一个理想的军营驻扎之地。及至实地勘察，发现情况并非如此：祁门地势形如釜底，仅一条官马大道、一条蜿蜒小径、一条极狭的小河与外界相通，如果与这三条出路被切断，祁门便是一处兵家所谓的绝地。曾国藩后悔不该匆匆作出驻扎祁门的决定，可奏折已上报朝廷，只有硬着头皮暂且住下。幕僚们则纷纷劝说他及时离开祁门，别寻合适之地。正在这时，上谕已经到达，曾国藩认为随意更改决策，会给自己的刚刚接任造成极其不利的负面影响，便一意孤行，没有采纳幕僚的建议，并对再三劝谏的李鸿章厉声斥责不已。战事瞬息万变，不久，曾国藩的祁门大营便遭到了太平军威胁，两度陷入险境。1860年11月30日，李秀成部将刘官芳率大军攻入安徽黟县羊栈岭，离祁门大营仅六十华里。而曾国藩身边只有三千士卒可用，他已写好遗嘱，准备殉职。幸而李秀成的目标并非进攻祁门大营，只是借道羊栈岭而已。1861年4月，祁门大营受到三路太平大军围攻，与外界的所有通道联系被切断，曾国藩又一次陷入险境，情绪极度悲观，再次写下遗嘱。自进驻祁门后，曾国藩便将自己置于险象环生、危机四伏之境，一刻也无法轻松，床前始终悬挂一把利剑，随时准备自刎。
胜利于曾国藩而言，来得真是太不容易了！然而，只要存有一份希望与可能，他就做出十分努力，不达目的誓不罢休。
曾国藩的成功，还与他的个人“定力”密不可分。凡是确定的方向，认准的事情，拟定的决策，他总是尽其所能地排除一切干扰，坚决贯彻执行。
移师衡阳练兵不久，因太平军攻击迅猛，兵锋所指，四处告急。清廷兵源有限，明知湘勇刚刚组建，却一个劲地催促不已，命其出征作战。曾国藩心里十分清楚，一支未经战事且尚未练好的军队，仓促拉出去与势头正健、能征惯战的太平军相搏，无疑虎口投食。与其全军覆没，不如抗旨不遵。因此，面对一份比一份措辞更加严厉的谕旨，他硬着头皮，以兵勇不足、船炮不齐等各种借口拒绝出征。直到条件基本成熟，才率所练陆军、水师，以整肃的军容从衡州出发，入湘江北上。
曾国藩署理两江总督后，同僚及部下都劝他放手大干，尽快进军东南。而他则坚持自己的进攻方略，将重心放在安庆。只有拔掉安庆这颗“钉子”，才能以上制下，反客为主，掌握两军对垒的战争主动权，最终达到围攻南京，彻底消灭太平天国的目的。为实现自己的战略构想，曾国藩紧紧围住安庆死命不放。太平军为解安庆之围，先是直接救援，被湘军击退。尔后又施行“围魏救赵”的军事行动，陈玉成与李秀成同时进军湖北，即使武昌危如累卵，曾国藩就是不为所动，不肯撤安庆之围增援。第二次鸦片战争期间，英法联军进攻北京，曾国藩冒着抗旨不遵、革职查办的风险，置咸丰帝命他带兵进京、北上“勤王”的谕旨而不顾，全力攻打安庆。后咸丰帝又下令，要他放弃即将得手的安庆，赶去即将失守的苏州救援，他又一次抗旨坚决不去。哪怕祁门大营危在旦夕，曾国藩置身惊涛骇浪之中，一天到晚提心吊胆，随时作好献身准备，也不肯调动围攻安庆之兵给自己解困。面对曾国藩如此坚韧而强劲的“定力”，尽管安庆城内的太平军将士苦苦坚守，洪秀全、李秀成�