416年8月12日，刘裕亲率北伐军从建康出发，另派：龙骧将军王镇恶、冠军将军檀道济，从淮淝攻击许昌和洛阳；新野郡长朱超石、宁朔将军胡藩，攻击阳城；振武将军沈田子、建威将军傅弘之，攻击武关；建武将军沈林子、彭城郡长刘遵考，率水师舰队攻击石门，从汴水进入黄河；冀州督导官王仲德，率前锋各军，开掘钜野沼泽，直入黄河。
与建康留守官员一样，这五路大军的将领也全是刘裕的嫡系，刘遵考还是刘裕的堂弟，战斗力和凝聚力都非同寻常，刘裕一声号令，五路大军同时并进，直扑后秦领土。
临行前，刘穆之勉励王镇恶说：“总司令把讨伐秦国的重大责任交给你，盼望你不要辜负了总司令的信任啊。”
王镇恶异常坚定地说：“我若不能克复关中，发誓不再南渡长江！”
无论是刘裕的排兵布阵，还是刘穆之的谆谆劝勉，都表明王镇恶在此次北伐中扮演了重要角色。
并非他足够出类拔萃，虽然军事才能确实不错，但性情贪婪，素质低下，从综合能力来看，与其他将领相比，顶多也只能算是个二流人才，而之所以得到重视，还是因为其家族背景。
前秦与后秦是不共戴天的仇人，虽然后秦立国已久，但这一仇恨在许多上了年纪的关中百姓眼里，仍然不容小觑，而王镇恶作为前秦丞相王猛的孙子，对后秦更有别样的感受。
仇人见面分外眼红，但与毛修之不同之处在于，毛修之与西蜀的仇恨是双向的，但王镇恶与后秦的宿怨则是单向的，刘裕制止毛修之入蜀，是考虑到其负面效应，而力捧王镇恶北上则是发现了积极作用。
后来王镇恶果然不负众望，成了平定关中的一把利剑，让姚氏一族苦不堪言。
几天后，刘裕抵达彭城，授意朝廷加授自己兼任徐州督导官，然后任命居住在当地的太原人王玄谟为参谋长。
王玄谟是毛遂自荐，近届三十的他，仍旧一事无成，得知东晋大佬刘裕从家乡经过，顿时义气风发，准备到军中谋求富贵。刘裕正值用人之际，眼见这人神采奕奕，又一副初生牛犊不怕虎的模样，不禁想起了当年的自己，好一阵回味之后，决定也给眼前这大小伙子一个机会。
但刘裕却不知道，遭遇相同，未必就能有相同的收获，至少王玄谟远不如外表看起来那么精彩纷呈。
与此同时，檀道济和王镇恶等人，已经率先进入后秦境内，大军所指，全部传来捷报：后秦将领王苟生献出了基地漆丘，投降王镇恶，徐州督导官姚掌，献出州政府所在地项城，投降檀道济，于是其他边防重镇也都纷纷投降。
只有新蔡郡长董遵坚守城池，不肯屈服，但很快也被檀道济打败，不但城池没保住，脑袋也搬了家。
王檀二人一路所向披靡，乘胜向西推进，不久便攻克许昌，生擒了后秦颖川郡长姚垣，以及大将杨业。
东晋北征军的其他几路也都很顺利，沈林子的水师舰队从汴水进入黄河，襄邑人董神虎，聚集民众一千多人，投降沈林子，然后带头进攻仓垣，十分勇猛，直接迫使后秦兖州督导官韦华献城投降。
但董神虎到底随意惯了，目无军纪，不服主帅调遣，得胜之后居然兴奋地回老家炫耀功勋，沈林子毫不犹豫地斩了他，以正军威。
另一路王仲德率水师舰队进入黄河后，快要逼近北魏所属的滑台，北魏兖州督导官尉建，被敌军吓得魂不附体，直接放弃滑台，率部北逃。
王仲德于是顺势占领滑台，对外宣称晋政府本要用七万匹绸缎，向魏国借路，想不到守将跑得那么快，都没来得及交涉。
拓跋嗣听到这种羞辱，大为愤怒，立即派叔孙建、公孙表，从河内进军枋头。
两人接着渡黄河南下，把败逃的尉建带到滑台城外斩首，把尸体投入黄河，然后遥遥地质问晋军，为什么要侵入魏国国土。
王仲德让军政官竺和之回说：“刘总司令派征虏将军王仲德，顺着黄河攻击洛阳，为的是打扫和祭祀皇家祖先的坟墓，绝不敢与贵国为敌，而是贵国守将自己放弃滑台，王将军不过暂时借用这座空城，休整完兵马，立刻就要西上，对贵我两国的友好关系没有影响，何必挥旗擂鼓，耀武扬威？”
拓跋嗣越想越不痛快，派出两员大将之后，又派使者当面质问刘裕，刘裕赶快向使者道歉，一脸郑重地回说：“洛阳本是晋国故都，可是羌人却盘据不去，晋国整修皇家坟墓这件事，计划了很久，桓姓家族、司马休之、司马国璠兄弟、鲁宗之父子，都是晋国的蟊贼，而羌人却收容他们，给晋国制造无穷祸端，而今晋军大军讨伐，不过盼望贵国借一条通道，绝不敢有冒犯之举。”
得到使者的回报，拓跋嗣稍稍放松警惕，暂时让河内防卫司令于栗磾，在黄河岸上构筑营地，防备晋军的突然发难。