李过部同时遭到岸上曹军的攻击和水上船只的射击，抵挡不住，只得暂时后撤。但曹变蛟却并没有选择趁此机会扩大战果，而是下令撤退。
随着时间的推移，曹军兵力不足的问题便突出了，士兵的体力是有限的，如果没有足够的预备队来轮换，就无法长时间地作战。闯军有足够多的预备队，但曹变蛟从陕西带来的营兵只有两千人，山西本地部队则难以顶住闯军。起初曹镇老兵们体力充沛，可以压着闯军猛打，但一旦他们的体力被消耗，曹变蛟没有那么多人手可以接替他们。
官军从一开始就把希望寄托在用一波最猛烈的攻击直接打垮闯军的防御上，从来没打算把这场战斗打成持久战。既然三板斧抡完了还没能收拾掉闯军，那就该撤退了，死拼下去只是徒然损耗兵力。
曹变蛟和孙守法都在退却，官军此时战力尚强，又有船上小型火炮的火力掩护，虽然闯军尽力攻击，但始终打不垮官军的断后部队。李自成下令主力停止追击，只派小股兵马袭扰官军。曹变蛟稳扎稳打，缓步后撤，直到天黑才退回霍州。
闯军战死了约九百人，曹镇战死七百余人，另有一百多人被俘。但是曹镇老兵的损失并不大，还不到一成。被官军强征来的民夫在混乱中被打死数百人，大部逃散，还有六七百人被闯军俘虏。经过了一冬的整训，闯军的实力有所提高，而曹镇又用了太多的杂牌部队，所以伤亡数字比石楼山之战时接近了许多。
抓住的几百俘虏全是山西本地的百姓或乡勇，所以除了几十个主动想入伙的之外，李自成直接让其他的人统统滚蛋。就算把他们都拉出去砍了，曹变蛟也一点都不会心疼，随便到哪又能再抓一两千炮灰，杀之无益。
李自成环顾战场，今天又断送了两千多条人命，阴地关前尸体横陈，黄土浸血。李自成的卫队伤亡了一半，有二十多人战死。看着这些与自己朝夕相伴的人被一个个抬下去，纵然是见惯了死亡的李自成，心里也很不是滋味。这些人都是在他的命令之下赴死的，很可能因为他某方面的能力不足、某个命令的错误就白白牺牲。
然而如果李自成撂挑子不干，死人只会更多，所以李自成也就是稍微这么一想，便立刻去干自己该干的事了。
阴地关之战并没有达到预期的效果，虽然挫伤了官军的锐气，可是并没有给官军的主力造成沉重打击。曹镇实力仍在，闯军依旧无法在汾河谷地分散打粮，那么粮食危机就无法解决。
但闯军经过阴地关之战后，现在只能出动不足一万人的兵力，要强攻曹镇据守的霍州，也是力有未逮。
无奈之下，闯军只得选择分兵，李自成带着刘宗敏、李过、谷可成、刘芳亮四队留在阴地关防守，田见秀、赵胜、李文江、袁宗第四队兵分四路进入灵石县境内打粮。官军出动要给足赏银，连续作战的能力不强，一般来说，打了一场消耗较大的战斗之后都得休整一段时间，何况征船、装护板、抓民夫这些工作也都需要时间，李自成他们五千兵马守住阴地关还是能办到的。