日军第10、第5师团别离从枣庄和临沂西北南进，对守军第2个人军和第20、第3军团落第27军团第59军实施管束性打击。守军固执抗击，将日军禁止在韩庄、邳县和郯城一线。
台儿庄大捷的动静传回以后，蒋介石立即公布号外，同日，武汉停止了热烈的抗日胜利大游行活动，数万人走上街头高呼抗日标语，场面非常弘大。“”白飞等身为宪兵，也被派出去保持次序。
蒋介石在李宗仁、白崇禧等人的伴随下去台儿庄南车站会晤了池峰城，蒋拉着池的手说，你的长官说你是忠勇、精干兼备之人，明天看来此言不虚。
蒋介石说，王铭章师长与全师在滕县壮烈殉城前，我怜惜未曾与之会面，今池师长又将及存亡关头，我既来此，不成却步。
5月16日，第五战区下达撤退号令，徐州数十万雄师，便顺次朝西向豫皖山区撤离。日军阻一处，中国军队冲一处，无所不破，雄师向河南南部及湖北北部集结，各路都接踵冲出重围。留守徐州城的刘汝明部在萧县一带伏击日军第9师团，对日军形成近500人伤亡。日军见中国军队大部已走，诡计于徐州城围歼刘汝明部。刘汝明佯作死守，及见各路雄师撤尽，按照蒋介石的号令，放弃徐州城，奇妙地跳出日军数十万雄师的重围，得以安然转移。敌军不但没有击溃刘汝明部，乃至连一个上尉也没有捉到。
日军占据滕县后，骄狂之极，直扑台儿庄。日军兵力4万余，坦克车七八十辆，山野炮和重炮百余门，并以多量飞机助战，3月23日，冲到台儿庄北泥沟车站。24日凌晨，日军以狠恶的炮火轰击台儿庄防备工事，随后以坦克为前导，冲进城内。台儿庄一带宅室多为石头修建，故每一房屋皆为一堡垒。守军据房为垒，至死不退。日军猛攻三日夜。与守城将士产生狠恶巷战。
当然，这都是后话。此时蒋介石正忙着调兵遣将，筹算与日军在徐州决斗呢。
池峰城冲动的不可，说道：我师绝对战役到底，与阵地共存亡，以报国度，以报委座知遇之恩。蒋对池嘉许、鼓励一番，挥手告别。
日军开端从南北两个方面向徐州西侧迂回包抄。在南面，第9、第13师从蚌埠地辨别离沿北淝河、涡河西岸北进。至13日，蒙城、永城接踵被攻陷，日军遂向萧县、砀山打击；第3师由蚌埠进入大营集地区，向宿县打击。在北面，第16师由山东济宁渡运河，至14日，连陷郓城、单县、金乡、鱼台后，向江苏丰县、砀山推动；第14师从河南濮阳南渡黄河，陷山东菏泽、曹县后，直插兰封（今兰考）；同时，第10师将韩庄、台儿庄地区的作战交由第114师代替后，在夏镇四周度过微山湖，向沛县打击。
蒋介石返回时留下副参谋总长白崇禧、军政部次长林蔚，军令部第一厅厅长刘斐、初级参谋王鸿诏构成参谋团，在徐州帮手李宗仁批示作战。
5月中旬，火线越来越惨烈的战报不竭传到蒋介石的案前，徐州俄然面对的严峻危急，使他那因台儿庄的胜利冲得有点晕乎乎的大脑一下沉着下来。蒋介石俄然认识到：日军的企图是要围歼徐州中国军队主力。便当即叫来何应钦、白崇禧、陈诚、封裔忠等人一块研讨策划。日军的诡计已经透露，再死守徐州已不实际，何应钦等人亦主张从速突围。蒋介石决定放弃徐州，遂向李宗仁的口传电令令其部力避决斗，撤离徐州，敏捷突围。
趁便说一句，1938年2月，因为华中调派军在原司令官松井石根的带领下，在侵犯南京等地后，制造了震惊天下的大搏斗，迫于国表里的言论压力，日军大本营不得不撤回松井石根，由畑俊六接任华中调派军司令官。