与杨坊二人为“管带”（实际上杨坊只管筹款）。
常胜军的员额规定为三千人，其后扩充到四五千。
同治元年三月，英国外务大臣罗瑟尔咨请海军大臣通令英国在华海军，保护上海及其他通商口岸，以及航行于长江的商船。从此，英国不再中立于清军及太平军之间，而公开地站在清军的一方。法国的志度与英国一致。
英国的一部分陆军，约有二千七百名左右，由斯泰夫莱率领，从天津调来上海，会同英、法两国的海军与常胜军，共同保卫上海租界，及其三十英里半径的外围。事实上的总司令，由何伯担任。
包括在这三十英里半径以内的重要城镇，是松江、青浦、嘉定、柘林、闵行。松江已在华尔的手中，青浦等地于同治元年四月间—一被“联军”及常胜军占领，使得李秀成遭受到很大的打击。
这一月，法国兵在宁波行动，把太平军逐出宁波，虽则太平军从来不曾“侵犯”宁波城外的洋人居留地。
三个月以后，“联军”与常胜军进攻余姚，拿下余姚。华尔赶到余姚率军再打慈溪，负伤而死。
华尔断气以前，立下口头遗嘱，说吴煦欠他十一万两，杨坊欠他三万两。这十四万两银子，他要留五万两银子给他的中国寡妇（也就是杨坊的女儿），其余的分送在美的一弟、一妹。
华尔初来中国之时，是年仅二十一岁的货船大副。开始担任“洋枪队队长”之时，也仅是二十九岁的炮船大副而已。何以在作战两年多以后，能够留下这样多的“债权”呢？
原来，攻下松江之时，他应领奖金三万两；其后每攻下一城，他应领奖金三万六千。此外，凡是洋枪队及常胜军所劫掳的“敌人”财宝，他均有一份。再加上他本人的薪饷每个月三百两。
他在遗嘱中，指定何伯与美国公使蒲安臣为遗嘱执行人。但是这两人费尽心机，索不到杨坊与吴煦所欠的十四万两银子。这件事，一直等到几十年之后，才被列在《辛丑和约》之中，作为《拳乱赔款》的附带要求，折合美金十八万元，由清朝政府付出。
华尔出缺以后，常胜军的指挥官改由白齐文担任。白齐文也是美国出生的冒险家，这时候年方二十七岁（比华尔小五岁），自从洋枪队成立以来，一向是华尔的副手。
白齐文立下两次战功。一次是在同治元年九月初二日（10月24日），因太平军再占嘉定，白齐文将嘉定夺回。另一次是在九月二十八日（11月19日），太平军来攻青浦，他与淮军程学启部前往援救，大败太平军，俘了六百，杀了八百，逼到水里去溺死的有两千左右。
然而，他与李鸿章合不来。李鸿章已经继薛焕之后担任江苏巡抚，有权节制常胜军，派了一个英国人浩伦德作常胜军的秘书，对白齐文掣肘。同时，杨坊又拖欠常胜军应领的薪饷。
曾国藩在同治元年十一月（12月底）调常胜军去南京，参加围攻。常胜军全体官兵抗令，说要等领到欠饷才走。白齐文去见杨坊，语言之间发生冲突，就打了杨坊一记耳光，抢走杨坊的现款四万两。他认为这四万两，正是杨坊该给的欠饷。
李鸿章一面将白齐文革职，一面请英国陆军司令斯泰夫莱保荐一个继任人选。斯泰夫莱保荐戈登，于戈登到任以前，暂由浩伦德代理。
浩伦德接管以后，在同治二年正月间去打太仓，吃了一个败仗，死了一百九十人，伤了一百七十四人。浩伦德显然不善指挥。
被革的白齐文不服这口气，乘船到北京去，向英、法两国的公使呈诉；两国公使替他报告恭亲王奕訢。奕訢把事情转请李鸿章考虑，李鸿章却不愿恢复白齐文的职务。
于是，同治二年六月十八日，白齐文叛清，向太平军投效。 他纠合了若干因拥护他而被常胜军开革或自动脱离常胜军的旧部，又增募了若干在上海的“国际滥仔”，在松江附近抢得一艘汽船后直驶苏州，向太平军投效。
太平军收了他的骨干，但并不将他重用。两个多月以后，白齐文与三十二名洋兵回到上海租界。美国领事将他逮捕，押解出境（送到日本），藉以保护他，免得他遭受清方官吏与人民的捕捉。
次年五月，南京城破以前不久，白齐文从日本潜回中国，在宁波登岸，步行到内地（可能是湖州），再度参加太平军，直至在福建漳州被俘为止。美国领事根据领事裁判权，要求清方将他交出。清方说，他在被押解由漳州北上之时中途落水而死。（传说，是清军把他推到河里淹死的。）
常胜军的司令一职，戈登在1863年3月底正式接任。
戈登与华尔、白齐文不同：他不是冒险家，而是正规军官，在英国陆军中已经官至少校。他的年纪也很轻．出生于1833年，这时候才三十一岁。
他旗开得胜，在阳历4月初，便会同清军解了常熟之围。清廷赏他一个总兵头衔。
他又进一步，在阳历5月1日（阴历三月十四日）打下太仓。太仓的太平军守军原有一万之多，以前浩伦德打它不下，最近李鸿章的弟弟李鹤章也试过一次，结果全军（三千人）覆没。
戈登的次一表现，是昆山之役。昆山为苏州、上海之间的重镇，四面是平地与湖沼，城区是突出的二百英尺以上的高地。太平军在昆山有军械库，也有炼铁厂，守军八千人皆是百战精兵，而外围又有谭绍光作为呼应。
程学启由东边攻昆山，反被太平军围住。戈登带了常胜军救他出围，叫程学启于出围以后继续攻城。戈登自己乘武装汽船，于阳历5月31日占领苏、昆之间的某镇，切断太平军的退路。次日，太平军弃昆山而走，八千人死了四五千，被俘两千。 他把常胜军的总部由松江移到昆山。军中有人抗命，他枪毙为首的一人，下令全体官兵愿留者留，愿去者去。结果，在三千九百名之中，愿去者是大多数，愿留者仅有一千七百人。
戈登颇有办法。他把新俘的太平军二千人编入常胜军中，常胜军的作战能力反而因此提高。
清方在取得昆山以后，次一目标是苏州。李鸿章决定，自己由北边（常熟）去打，叫程学启由东边（昆山）去打，常胜军绕到南边，先取吴江，再由吴江去打。
戈登于是带了两千二百名兵士、两艘武装汽船，在同治二年六月初十日出发，于十四日占领吴江。
到了八月中旬，他会同法国军官所指挥的“常捷军”（英文书籍中称为“中法混合部队”FrancoChinese Contingent），占领苏州南门外的八达桥，离开城区仅有五六华里。不久，他进占西郊与北部的几个据点，与李鸿章会师，合围。
围到十月二十四日，城内的太平军将领于纳王郜云官的主谋之下，杀了主帅慕王谭绍光，开城出降。
事前，在郜云官等人与程学启秘密洽降之时，戈登曾经参加，作为保证人，保证清方不杀降兵、降将。
事后，程学启于引了纳王郜云官等人拜见李鸿章以后，将纳王郜云官、比王伍贵文、康王汪安均、宁王周文佳，以及四个将军、两千多兵士，一概斩首。
戈登认为“杀降”是背信的不义之举，十分愤怒。他想杀李鸿章，想进攻程学启，想夺了苏州，交还给太平军。
经人调停，李鸿章亲自哭祭了郜云官等人一次，戈登才勉强离开苏州，退到昆山，仍坚持李鸿章必须引咎辞去江苏巡抚之职。上海租界及英国的舆论均对戈登同情，美，法两国的舆论也是如此。
结果，常胜军不再由李鸿章节制，而改由英国驻华陆军司令布朗节制。常胜军的任务，也改为限于保卫上海、苏州两地。英国公使布鲁斯通知恭亲王，请准许戈登以后不再与李鸿章有文字上的来往。
李鸿章知道事情闹大，不敢再对戈登下命令，却仍旧照常发给薪饷与给养，并且特拨两万两专款照料常胜军的伤兵。
清廷为了酬庸戈登，赏他一万两银子与一品顶戴。戈登虽则始终不收这一万两银子，始终只肯自称为“英军工兵少校”，但也气平了些。
过了几个月，总税务司英国人赫德替李鸿章作说客，才说动了戈登，重新在李鸿章的指挥之下对太平军作战。
这时候，无锡已被太平军放弃。戈登率领常胜军先到无锡，由无锡攻打宜兴，在同治三年正月二十三日打下。八天以后，又打下溧阳，与曾国荃会师。
其后，戈登连打金坛三次均未得手，死了着干兵，本人腿部受伤。
三月间，戈登会同清军围攻浒墅关，逐走守关的太平军两三万，杀了其中的三千人左右。
最后，在四月初六日，他又会同清军，打下太平军的重镇常州。这是一个决定性的胜利，虽则常胜军本身也死了五十，伤了二百七十九。
这时候，英国政府的训令已经来到，升戈登为工兵中校，命令他与其他的英籍军官一齐脱离常胜军。因此，李鸿章也就下令将常胜军解散。戈登后来在英军中，积功升至中将，官居英埃苏丹大总督，在光绪十年对当地人作战中阵亡。
《细说清朝》八七、太平天国残局
李鸿章拿下常州、解散常胜军以后，清廷叫他率领淮军，帮助曾国荃去打南京。他一再藉故拖延不去，原因是他很懂政治，不愿意分曾国荃的功。
曾国荃这时候屯兵南京城下已经超过两年，并无进展。倘若没有李鸿章用常胜军与淮军把松江、苏州、常州三府次第“克复”，左宗棠在浙江把浙东、浙西慢慢地剜空（仅余潮州一城），鲍超把皖南与南京外围的几个重镇，如青阳、石埭、太平、句容、金坛等一一占领，曾国荃是一辈子也奈何不了南京的。
曾国荃的另一助手，是洪秀全。洪秀全始终对李秀成不肯信任。李秀成用闪电战术消灭了和春与张国梁，取得了苏、常、松、杭四府以及浙东的富庶之区，差不多中兴了太平天国，而洪秀全却把李秀成硬留在南京城内，不许他出京有所施展。其后，苏州吃紧，李秀成花了七八万两银子贿赂洪仁发、洪仁达，才获得出京的“路条”，然而为时已晚，郜云官等叛志已决。李秀成又只得仓猝离开苏州而回，丢了苏州，也丢了常州。
常州丢了以后，李秀成劝洪秀全放弃南京，全军西上，由安徽取江西、湖北，再占上流。洪秀全不理。
再过一个月，到了同治三年（1864年）五月二十七日，洪秀全便完全丧失斗志，服毒自杀。
洪秀全死后，李秀成扶立他的儿子洪福（旧作洪福瑱，瑱字是玉玺上真主两字的合写，而主字又被误读为王字）。洪福的年纪才有十六岁，倒颇知好歹，一切听由李秀成主持。
洪仁发与洪仁达的势力，也衰了下去。较识大体的洪仁晌钪匾幕是住：槿诗是洪秀全的堂弟，参加拜上帝会甚早，到过香港，传说也到过美国。
曾国荃在五月三十日占领龙膊子山的“地保城”，完成了对南京的包围，使得李秀成虽想冲出南京，已不可能。
城内的粮食早就不够。这时候，清方彭玉麟的水军把长江江面控制得极紧，使得“粒米不能入城”。
在如此情形之下，李秀成依然守了十五天，到六月十六日南京才被清军攻破。
城破的前夕，李秀成还率领几百名敢死队出城攻击清军所掘地道的洞口。精军掘地道，埋炸药，炸毁城墙的一段，前后已有多次。每次均被李秀成挡住，或是被李秀成用“反地道”将地道穿破。
这一次，清军所掘的地道特别长，所用的炸药也特别多（三万斤以上），炸毁的城墙有二十几丈。而且，这一次，五万名左右的清军全体出动，一齐冲进了城。
城内十几万太平天国军民，已经饥饿疲劳没有作战能力，然而仍然抵抗到底（传说没有一个愿降）。
清军关了城门，大杀三日三夜。但是，李秀成与洪福依然冲出了城。
李秀成保护洪福出城，把好马让给洪福，自己骑了一匹坏马。结果，洪福得以逃去，自己却在孝陵卫附近被清军追上捉住。
曾国藩亲自讯问李秀成一次，又叫属僚讯问。李秀成站在囚笼内自写口供，写了十天，写出六七万字。这一篇供词，包含许多宝贵的史实，堪称为太平天国最重要的史料。可惜曾国藩把原稿藏了起来（存在家里），只抄了一份送到北京，而且改了若干与湘军军情不相符合的字眼，删了末尾的“败亡十误”与“招降十要”。
曾国藩于七月初六日李秀成写完供词以后，就把李秀成“凌迟处死”，“免致疏虞，以贻后患”。
洪福在与李秀成分手以后，遇到堵王黄文金的部队，被迎至潮州。湖州在七月间被清军攻破，黄文金在南走昌化之时战死，洪福于是在昭王黄文英（黄文金的弟弟）保护之下，再逃到淳安，三逃到了江西广信（上饶），四逃到了石城县黄谷涧，终于被捉，押解到南昌凌迟处死。
太平军的残余武力，要到了同治四年年底才被清军完全消灭。其中最重要的三支，是扶王陈得才，侍王李世贤及康王汪海洋所统率的部队。
扶王陈得才，是英王陈玉成的部下。他在英王失败以前，于同治元年正月会合遵王赖文光，由皖北的颍州（阜阳）进入豫南，围新蔡，攻南阳；又由豫西进入陕南，破了山阳、华阴；回师豫西，攻阌【wen】乡，围灵宝，大败清军于新安，再度进攻南阳，不成，西占紫荆关、南入湖北，攻枣阳、随州、京山，被清军败于襄樊；由襄阳北入桐柏、唐县、新野、邓州；经鄂北转入陕南，连破兴安（安康）、汉中、城固。这时候，是同治二年十月。
次年的春天，陈得才听说南京危急，决心放弃陕南地盘，回军东下。他回军到湖北，被清军名将（蒙古入）僧格林沁打败。此后，他就处于劣势，被僧格林沁追逼得喘不过气来。
南京城破，陈得才队伍的军心大受影响，三个月以后，有十一万多兵于部将马融和的主动之下，背叛他投降清方，他只好自杀。另一部将，启王梁成富于次年五月在甘肃阶州战败被擒。赖文光则继续以所谓“东捻”首领的地位，奋斗下去。
侍王李世贤于南京城破以前，率领若干万军民由浙江去江西夺粮，如入无人之境。江西有很多县被他占领。
南京城破以后，清军将主力移来江西，把他打走。他走入福建，于同治三年九月�