当南京城破了以后，原本坚守南京城光华门阵地的新一团，被日军打得狼狈不堪，只能够跟随着大部分渡过长江往北撤退，突破日军的封锁线。
当时，作为新一团团长的孙文武，只带领着不到二百人，也就是一个连的兵力，跟随着突破日军包围圈和封锁线的大部队，朝着徐州的方向撤退，到了徐州附近以后，休整了大半个月的时间，补充了上千人的兵力，以及武器弹药，重新恢复了新一团的编制。
一九三七年十二月，侵略华东的日军侵占南京后，第十三师团北渡长江，进至安徽池河东岸的藕塘、明光一线；侵略华北的日军第十师团从山东青城、济阳间南渡黄河，占领济南后，进至济宁、蒙阴、青岛一线。
日本大本营为打通津浦铁路（天津-浦口），使南北战场联成一片，先后调集八个师团另三个旅团、两个支队（相当于旅团）约二十四万人，分别由华中派遣军（一九三八年年二月十八日由华中方面军改编）司令官畑俊六和华北方面军司令官寺内寿一指挥，实行南北对进，首先攻占华东战略要地徐州，然后沿陇海铁路（兰州-连云港）西取郑州，再沿平汉铁路（北京-汉口）南夺武汉。
中国军队由第五战区司令长官李宗仁指挥，先后调集六十四个师另三个旅约6六十万人，以主力集中于徐州以北地区，抗击北线日军南犯，一部兵力部署于津浦铁路南段，阻止南线日军北进，以确保徐州不落入日军之手。
一九三八年一月二十六日，日军第十三师团向安徽凤阳、蚌埠进攻。
中国守军第十一集团军第三十一军在池河西岸地区逐次抵抗后，向定远、凤阳以西撤退。到了一九三八年二月三日，日军先后攻占临淮关、蚌埠。
二月九日到十日，日军第十三师团主力分别在蚌埠、临淮关强渡淮河，向北岸发起进攻，中国守军第五十一军与日军展开激战，伤亡甚重，十二日向澥河、浍河方向撤退。
第五战区以第五十九军军长张自忠率部驰援，进至固镇地区，协同第五十一军在淮河北岸地区顽强抗击日军