公孙表本是一员勇将，他一死，毛德祖便减轻了许多压力，虎牢关竟然因此又守了三四个月。
在山东方面，拓跋嗣命令叔孙建急攻东阳城，又任命刁雍为青州刺史，命令他率部协助叔孙建攻城。刁雍就是被刘裕杀掉的前豫州刺史刁逵的同族，刁逵被杀后，刁氏全族被杀。只有刁雍逃到后秦，后秦灭亡后又逃到魏国。
东阳守吏竺夔一共只有两千来人，他先派人把所有的庄稼都收割了，然后守城不出。魏军进入青州后，因为不能就地筹粮等待后勤补给，浪费了一些时间。济南太守桓苗趁这段时间赶到东阳城，与竺夔合兵一处共同守城。
魏军不惜代价地强攻，多次造成险情，并且有一次已经攻塌了一段城池，竺夔和桓苗在城缺口拼命抢堵，用尸体填埋缺口，总算击退魏军。这时魏军中流行起瘟疫，有一大半士兵染病。叔孙建要退兵，刁雍极力要求继续进攻。正在争执时，宋军的援军檀道济部到了，魏军遂迅速撤退。
檀道济是扔了辎重急行军，到了东阳城时粮草已尽，士兵们也饿了一天了，所以也不能追击魏军，便留在东阳城修筑城防。
魏军在东部无法前进，而且碰到了宋军主力，只好把进攻重点全部集中在西边，集中了更多的兵力强攻虎牢关。拓跋嗣亲自在军中督战。
虎牢关已经被围七个多月，每天都在打仗，士兵已经死伤大半，在魏军前仆后继的强攻下，虎牢关在十多天后被攻破。但毛祖德已经事先在城内又修了三重城，魏军本来以为成功了，却见眼前又有一重城墙，只好又拼命往里攻。攻了一重又一重，攻到第三重时，宋军檀道济部已经兵至湖陆（今河南焦作），刘粹来到项城，沈叔狸一部则在高桥（今江苏东海东北）。檀部被魏兵阻住，而刘部和沈部则因畏惧魏兵强盛，不敢与之决战。魏军得以从容攻破虎牢关，参军范道基率二百人突围南逃，毛德祖被俘后受到很好的待遇，但因伤重而死。虎牢关被攻破后，司、兖、豫三州诸郡县（大约为河南省全境和山东省西部）全部为北魏占有。
拓跋嗣本来还想乘胜南征，但也因为身体原因，不得不罢兵回都。他回到平城后很快病死，太子拓跋焘继位。拓跋焘听从丞相崔浩的话，停止战争，休兵养民。宋军连打败仗，也失去了反攻信心。两国遂罢兵。
拉锯战
宋国丢失了大片土地，这让当年跟着刘裕打江山的这帮将臣很是窝心，但皇帝刘义符倒没觉得有什么，照玩不误。这引起了下面这帮老将老臣的不满。徐羡之、傅亮和谢晦三人虽然掌握朝纲，但他们更想要的是一个能带领宋国一统天下的明君，而不是一个大权旁落，只知玩乐的昏君。于是，三个人和太后商量要废掉刘义符。但废掉刘义符后会出现一个问题，那就是更让他们难受的刘义真会名正言顺地成为皇帝。刘义真就是当年丢掉长安的那一位，后来又因为夸夸其谈，被刘裕认为不能担当未来天子的重任。而且这个人建立私党，拉拢有自己的一批人，根本不把这帮老臣们放在眼里。也就是说如果刘义真当上皇帝，这帮老臣都将被打击下台。于是在废掉刘义符之前，他们先一齐攻击刘义真，以“潜怀异图”、“讪主谤朝”的罪名将刘义真废为庶人，送到新安郡监视居住。后又派人把他勒死。
除掉刘义真后，三个人通过太后发动兵变，废掉刘义符，拥立刘裕的三子刘义隆为帝，刘义隆时年十七岁。刘义符被废为营阳王，徙往吴郡，在路上又被徐羡之派人杀死，时年一十九岁。
徐羡之、傅亮和谢晦把这一切都干完之后，突然后怕起来。废帝、杀帝，这是历代权臣才会做的事。刘义隆和他们并不怎么亲近，拥立刘义隆的事也并非是刘义隆的意愿。如果刘义隆要计较起来，他们三个就是每个人长九个脑袋也不够砍的。
傅亮决定面对现实，刘义隆要算后账，他也认了；徐羡之则心存侥幸，他问傅亮刘义隆可以和历史上哪个皇帝相比。傅亮说可以和晋文帝司马昭、晋景帝司马师（司马炎的伯父）相比。徐羡之说，既然皇帝是个明君，那一定能理解我们的一番苦心。傅亮回答他说：“那也未必。”谢晦则请调为荆州刺史，并且暗中把所有自己用过的旧兵和部将都调到荆州，以防不测。
刘义隆上台后处理朝政，批阅奏章，管理国家，每天都过得很忙，从来不提三位辅政大臣废帝杀君的事，这让徐羡之和谢晦渐渐放下了心。直到登基后的第三年，刘义隆突然利用自己的亲信士兵在京中将傅亮和徐羡之除掉。在荆州的谢晦得到消息，知道自己也不可免，遂举兵造反。刘义隆早就把檀道济召到建康为帅，并调集了兵力准备平叛。知道谢晦造反后，檀道济从建康出兵，江州刺史王弘、彭城王义康、豫州刺史刘粹等人也先后出兵，一齐讨伐谢晦。谢晦虽然善战，但出师无名，军心不定，再加上他的对手从各方面都要比他要强大得多。谢晦很快兵败，被押至建康后杀死。谢晦一党大多被诛。刘义隆加封檀道济为征南大将军，开府仪同三司，兼江州刺史，并提拔了一大批新进将领，很快朝中之人都成为刘义隆的亲信。刘义隆从此算是真正掌握了宋国的大权。
北魏拓跋焘登基以后，柔然趁拓跋嗣去世，再次大举南攻魏国。前文说过，柔然在豆代可汗的带领下变得十分强大，与北魏经常发生大规模战争，争夺北方霸权。公元410年5月，北魏和柔然曾进行了一次大战，柔然战败，豆代可汗在败退途中病死。他的弟弟蔼豆盖可汗继位，但四年后被北燕所杀，社仑的堂弟大檀，即纥升盖可汗继位。大檀继位后，继续和北魏开战，并放弃前嫌，实行联合北燕和后秦的策略，使北魏十分被动。双方多年战争，互有胜负。大檀这次率六万骑兵先攻陷了北魏故都盛乐，再包围云中城，北魏的北方边境一时吃紧。
拓跋焘早在十二岁时就在河套参加过抗击柔然的战争，所以对柔然的战术也颇为熟悉。他力排众议，亲自率三万骑兵急赴云中救援。柔然依仗人多，重重包围赶来救援的北魏太武帝拓跋焘及所部。拓跋焘命令所有弓箭手集中射向柔然大将于陟斤。于陟斤被北魏军射杀后，拓跋焘趁势率军大纵深地向前穿插突破，北魏将士气势大振，奋力突击柔然军。柔然军顿时被搅得一片混乱，大败而逃，一直逃到漠北才敢停下。北魏军遂解平城之围，并趁势收复盛乐。
第二年，赫连勃勃病逝。因为长子赫连与父亲赫连勃勃曾发生矛盾，赫连勃勃要废掉太子，赫连先行兵变，但被其弟赫连昌所杀，所以次子赫连昌成为太子，继承了帝位。拓跋焘决定趁机讨伐胡夏，但一些将臣认为，如果柔然趁北魏西征，国内空虚时进攻北魏本土，那是很危险的。建议先进攻柔然，把柔然灭掉或赶到沙漠的北部才能保证安全。崔浩道：“胡夏的统治很残暴，早就不得民心，赫连昌又是个愚蠢的人，胡夏国土也不大，此次进攻胡夏一定会迅速胜利。等柔然南攻时，我们早就已经班师回来了。”
拓跋焘遂派奚斤率五万骑兵向南袭击蒲阪，将军周几向西南袭击陕城，河东太守薛谨为先锋，拓跋焘亲领大军，向西进攻统万城。恰好遇到天气突然降温，黄河结冰，拓跋焘临时又做出决定，亲率两万骑兵，迅速过河，以急行军速度进兵到统万城下。赫连昌没想到拓跋焘来得这么快，根本就没有时间调集部队，也没有准备长期守城的储备，只能把城中的军队集合起来仓促应战。
双方大战不久，夏军即败，退回城中。魏将豆代田带一支小部队紧跟着杀入。夏军借助复杂城防，拼命抵抗，豆代田所带的魏军竟又被挡出城外。因为统万城十分坚固，城墙高大坚固，拓跋焘没有强行攻城，在城外劫掠一番，退兵回国。这时，周几攻破了弘农关（即函谷关），但不久在弘农病死。奚斤暂时接管周几的军队，继续进攻蒲阪。蒲阪被魏军攻破后，夏将乙斗逃往长安。长安守将为赫连助兴，是胡夏皇帝赫连昌的弟弟，他听说奚斤带八万大军来攻长安，弃长安，退守安定。关中险地竟不战而弃，被奚斤轻易得到。
北魏得关中后，便与凉州接壤。北凉王沮渠蒙逊，氐王杨玄，为了避免魏军乘胜灭了他们，都主动向北魏纳贡称藩。拓跋焘接受了两国的称藩后，继续操演士兵，准备攻城器具，打算对胡夏进行最后的一击。
不久，赫连昌派弟弟平原公赫连定，率两万骑兵南下，要收复长安。奚斤带兵与之激战，数月不分胜负。拓跋焘遂乘统万城空虚再次出兵西征。这次仍是率轻骑三万，全速前进，迅速到达统万城下。
拓跋焘这次先派三千士兵进攻统万城，其余士兵埋伏在深谷两旁。赫连昌见魏军人少，便出城迎战。魏军且退且战，一直退到深谷，伏兵四起，大败夏军。赫连昌想逃回统万城，但归路被切断，只得逃往上邽。魏司徒长孙翰率八千轻骑一路追击，但赫连昌实在是逃跑得太快了，还是没能追上。
拓跋焘乘胜攻城。统万城的城池虽然坚固，但由于主力在城外全部溃散，主将和皇帝都跑光了，城内既没有高级将领指挥，也没有足够的兵力，剩下的夏兵也全部逃散，所以魏兵很快攻入城中。胡夏的文武官吏以及后妃公主，全部被俘，只有赫连昌的母亲，被一些亲信侍卫护着拼命杀出，得以逃脱。
拓跋焘攻下夏都之后，把所有财物分给将士，留常山王拓跋素镇守统万城，自己率军回到平城。这时柔然则聚集起兵力来准备南征北魏，见魏军主力回师，只好作罢。拓跋焘又命令奚斤带兵北还。奚斤则上书称，这正是消灭胡夏国的时机，决不可放过。拓跋焘便命令宗正娥清，太仆邱堆，各率一万军队去支援奚斤。又调给奚斤精兵一万，良马三千匹。
在陕南与奚斤对峙的赫连定听说统万城失守，又见魏军不断有援兵到来，只好放弃与奚斤的对峙，退守上邽。奚斤打算先进军安定，与娥清、邱堆合兵后，再攻取上邽。但营中突然流行起马瘟来，许多马都病死了，由于缺马，行军速度和后勤补给都受到严重影响。奚斤只好停兵不进，并且派出小股部队四处寻粮。赫连昌趁机掩杀这些小股部队。魏军不但人马受到损失，粮草也难以为继，大家都是吃了上顿没下顿，整天靠喝稀饭度日。
监军侍御史安颉劝说奚斤与夏军决战，奚斤因为军中少粮而不敢出击，安颉道：“像你这样拖下去，只能是粮食越来越少，最后断顿。大军无粮，早晚会被夏军攻破。不如出兵，决一死战。奚斤仍是不听，只是等待援军。安颉干脆和将军尉眷私下挑选了一些精兵，把几天的口粮一齐领来，饱饱地吃了两顿。第二天安颉、尉眷带兵与赫连昌决战，正巧遇到了沙尘暴，魏军处于上风向，夏军只好纷纷撤退，夏军由于撤退得比较及时，兵力方面的损失并不大，但最惨的是赫连昌在混乱的撤退中被安颉给活捉了。胡夏的皇帝被活捉，这给胡夏以相当大的震动。
赫连昌长得很英俊，说话也谦和，而且善于骑射，因此被押到平城后，拓跋焘对赫连昌很喜欢，对他非常优待，封他为会稽公，又把妹妹始平公主嫁给他为妻。平时打猎什么的都带着他。
安颉则因功被封为建威将军，兼西平公，尉眷被封为宁北将军，兼渔阳公。奚斤没想到自己的裨将立下大功，将自己比了下去，深以为己耻。这时赫连昌的弟弟赫连定从上邽又转移到平凉并称帝。奚斤便把所有的军粮拿出来，率兵急速行军，去进攻平凉。没想到赫连定早在路上设下伏兵，大败魏军，并擒获奚斤、娥清、刘拔三将。这时太仆邱堆正好押着粮草来到安定，听说奚斤大败，连粮草也不要了，赶紧带兵赶回长安守城。赫连定乘胜进逼长安，邱堆所带士兵不多，不敢守城，又弃长安退到蒲阪。
拓跋焘听说邱堆不但把粮草都送给了敌人，还轻易放弃长安，立刻派安颉带兵去蒲阪，先将邱堆斩首，再带领所有士兵阻击夏军。拓跋焘为了彻底摆脱北面柔然的不断袭扰，以便专心对付南边的宋国并统一北方，于是决心集中力量打击柔然。
公元429年4月，拓跋焘与崔浩制定了一套非常严密的消灭柔然的战略计划。柔然是游牧民族，春夏的时候部族们各自放牧，秋冬的时候则集中起来向南进攻。拓跋焘利用柔然的这个规律，在他们放牧的时候，兵分两路，一路由司徒长孙翰领兵由西道通过大娥山，另一路拓跋焘亲自率军由东道通过黑山（今内蒙古巴林右旗北罕山），越过大漠，在可汗庭（今蒙古国哈尔和林西北）合击柔然。两路军队全部为轻骑兼马（每一骑兼有副马，副马为一到两匹），不带辎重，在栗水（今翁金河）时遇到柔然主力后迅速出击。柔然一点儿防备都没有，被杀得落花流水。大檀向西逃窜，大檀的弟弟匹黎一部在反击中被长孙翰的骑兵全部杀死。
六月，拓跋焘领军沿栗水西进至菟园水（今图音河），分兵搜捕大檀及其部众，在东西宽约五千里，南北纵深约三千里的广大土地上，魏军不断消灭逃散的小股柔然部队。原来被柔然征服的高车等部众三十余万人也乘机倒戈，归附北魏，帮助魏军对付柔然。拓跋焘一直追到涿邪山（约今阿尔泰山脉东南部）才引兵东还。大檀因为遭遇到几乎灭国的惨败，悒悒而亡。他的儿子吴提继位后，向魏国称藩乞和，拓跋焘遂以柔然为北藩。
这时宋国的刘义隆已经几次三番去信要求北魏还给宋国黄河南岸的地方，见北魏毫不理睬，便命右将军到彦之，安北将军王仲德，兖州刺史竺灵秀，共率五万精兵北伐。又命骁骑将军段宏，率骑兵一万，主攻虎牢，豫州刺史刘德武，领兵一万人作为后援，从弟长沙王刘义率兵三万，坐镇彭城，为总指挥。又派殿前将军田奇再一次去北魏告诫拓跋焘，宋国只是收复黄河南岸的地方，并没有打算去争夺黄河北岸领土，希望北魏能够主动让出来。
拓跋焘让田奇告诉刘