几十万日本现代化部队对徐州的包围，已着手合拢，已造成任何防御措施和新的战略部署都无法挽回失败的局面了，亡羊补牢为时过晚。大批的日军开过来了，他们的脚步好像更快了，在日军装甲部队破坏砀山李庄铁路大桥后，不到两天的时间，敌人便窜到河南永城县。鲁西南下的日军也攻陷了丰县、沛县和砀山，由沛县又向徐州拉进，在九里山一带同孙连仲的部队干上了。徐州东西的敌人向运河全线攻击，通过一天的激战，他们突破运河车站、台儿庄阵地、禹王山阵地，朝徐州攻击。

徐州郊区炮声隆隆，就连李宗仁的司令部都飞落了两颗炮弹。李宗仁同一大群参谋人员，接到蒋介石撤退的电令后，围着地图研究了半天，打不好打，退也不好退，怎么个退法？第一线的部队全在战场上，他们被进攻的日军咬得紧紧的。李宗仁最后决定，将徐州战区剩余的50万大军分成五路，分别突围。

李宗仁下达的撤退命令是：

第一路：李宗仁长官司令部及廖磊集团军，由徐州沿津浦路南下，至宿县地区再折向西南，于界沟附近冲过涡河封锁线。

第二路：汤恩伯军团及机械化部队，由陇海路运河车站向西撤退，在符离集以北越过津浦路，突破宿县至永城间敌人封锁线，再从涡阳突破敌涡河封锁线。

第三路：孙连仲部及张自忠第五十九军，由台儿庄向西南退却，从徐州以南越过萧县以西的封锁线，在永城附近再次冲出封锁线。

第四路：关麟征部及川军一部，由徐州越过陇海铁路，向西北方向突围，突破黄口、李庄封锁线。

第五路：孙震部，由徐州以北柳泉向东南急进，跨过陇海铁路。经泗县折向西南而行，在固镇与蚌埠之间穿过津浦路，从怀远以西突破日军的涡河封锁线。

5月17日，李宗仁下令所属各部按序列，部署逐次突围。令汤恩伯军团向西突围，猛烈冲击日军；又令孙连仲、张自忠、庞炳勋在运河设防，凭险固守，以掩护大军撤退。

第五战区命令下达后，各参战部队便开始执行。计划始终是计划，在执行其撤退计划的过程中，同实际情况有很大的出入。汤恩伯军团的机械化部队，向西突围被日军堵住，不得不改道向南。在宿县城北十多里外的地方，才得到侦察员报告，说宿县被日军占领，不能通行。按照汤恩伯的主张，他想趁此拿下宿县，李宗仁没有同意，认为没有必要了，当务之急是脱离敌人的包围圈，至于一些小城镇的得失都无关紧要了。那时汤恩伯军团还有好几个师的兵力，并带有150毫米重炮随行。李宗仁从大局出发，极力保护这支精锐，他命令汤恩伯快走，朝西行，不要让日军咬住。

在徐州外围阵地上坚守的部队一撤退，日本军队就像开了闸的洪水，哗哗啦啦地涌了上来。中国军队遵照撤退命令各自行动，但在撤退的路上发生了新情况，退路被日军堵截后，不知道咋办了，不时发生混乱。

孙连仲在运河设防，率张自忠、庞炳勋等部队凭险固守，以掩护大军撤退。他同时命令卢汉的第60军向徐州以南的郊区开进，守卫徐州。卢汉到徐州后，首先侦察地形，规划守卫徐州的部署。但当卢汉去第五战区长官部时，院内空无一人，军政机关早已撤走了。卢汉有些紧张起来，他急忙率部赶往九里山，钢筋水泥筑成的工事阵地没有部队防守。卢汉又率部队进入徐州市区。徐州市行人稀少，敌机不停轰炸，硝烟滚滚，周围没有大部队，只有零星散兵朝南奔跑，大路两旁负伤官兵卧地呻吟。徐州火车站上，弹药、粮食、器材物资堆积如山，正在被放火焚烧。

卢汉在徐州近郊一个村庄找到了孙连仲总司令，他们正准备撤退。卢汉有些生气，质问孙连仲，你们令我守徐州，目的何在？守卫徐州，是掩护大部队撤退呢，还是要固守到不能守时，再突围打游击？现在鲁南的大部队都自动撤完，已再无掩护的必要。如要固守徐州，统帅部是否已作好反攻布置？有无其他部队协助？要守多久时间？孙连仲说不出什么道理来，最后回答说，局势已经到这般地步，你们60军也只好随大部队之后撤退了。

第60军在卢汉的率领下沿公路向南撤退。走了一天的路，到深夜时，前方报告说攻占宿县的日军已向北开来。紧接着后卫纵队又来报告，说日军从徐州派出轻装部队向第60军追来。腹背受敌，形势险恶。卢汉立即命令部队离开公路，向西往永城方向突围。一天一夜的急行军，沿途发生无数次小战斗，人困马乏，但突围要紧，他们不敢停留，继续西行。

当第60军到达濉溪口时，从鲁南撤退的大兵团全都汇集在这里，有孙震的川军、李仙洲的中央军、桂系的廖磊军，还有东北军的一部和西北军的一部，一旦遇到敌人飞机扫射，队伍很难行动。卢汉决定改变行军部署，全军分为两个梯队，两个梯队齐头并进，避免同其他部队发生混乱。

他们连夜出发，决定经铁佛寺向永城西南突围，到亳州集结。他们在铁佛寺附近同途中的友军部队发生了一场混战，友军见第60军车辆汽车开灯行驶，以为是日军的坦克前来袭击，一片漆黑，双方一交火，第60军两个梯队在这场大混乱中失掉了联系。

卢汉带一梯队，顺利到达皖北亳州。

有意思的是第60军第2梯队，他们在铁佛寺混乱中朝南行动，渡过了浍河，向涡阳突围，沿路收容了许多友军的团队。特别是一个野炮营和一个野炮连，在涡阳同日军的激烈战斗中发挥了重大作用，炮火一连摧毁好几处日军碉堡、据点，在部队受到重大伤亡之后，顺利地通过涡阳，突出了日军的包围圈，进入河南境内。

第60军在卢汉的率领下，要比孙连仲他们幸运。

李宗仁第五战区司令部率军政机关从徐州撤出后，满以为孙连仲他们会从后面跟上来，只是无法联系罢了。走了几天后，他们才知道自己同孙连仲的部队失去了联系。

按照突围计划，孙连仲、张自忠他们完成掩护任务后，应由台儿庄向西南退却，从徐州以南越过萧县以西的封锁线，在永城附近再次冲出封锁线，进入河南或皖北亳州一带。但是，战场形势发生了巨大变化，当鲁南、徐州一带的中国军队撤退后，日军像洪水猛兽一般涌了进来，同时堵住了向西突围的缺口。

日军把全部注意力都集中在西边的陇海铁路上，他们认为中国军队要突围，只会选向西或西南方向，因为那也是中国军队的大后方所在地。所以，日军后来对那个方向的封锁十分有力。孙连仲率领部队，没有去碰那个钉子，而是转身朝东，经灵璧到泗县去，事实证明这个方向是正确的。

鲁南兵团除第60军、第30军等部突围到淮阴外，其余第21集团军、第75军、第51军等部队，安全向东到达泗县。除韩德勤、于学忠奉命留在苏北敌后游击外，其他各部后来陆陆续续经五河、定远向安徽六安、璜川西进，回到国民政府最高统帅部指定的位置，进行整编补充。沿途战斗不断，部队是打散又集结，集结后又打散，一路上受尽苦难。

商震的第32军更是困难，日军卡住了陇海铁路，堵住了徐州朝西的交通线。商震的部队被土肥原师团咬得很紧，一时退不下来。开始他们想打通黄口、萧县这两个要点，但是他们对付不了眼前的日本军队，战斗打得异常激烈，隆隆的炮声传到几十里外。第五战区司令长官李宗仁在关键时刻，调张自忠的第59军前去接应。

第59军的108师打到萧县附近的张二庄、严家寨时，日军大量施放毒气弹。张自忠的第39旅官兵中毒严重，战斗力减弱，开始后退。后来，李宗仁命令第59军坚守徐州城西郊一带，掩护大部队离开为止。

李宗仁临行前，对张自忠交代，完成掩护任务后开到河南许昌集结。

其实第59军自淮河作战以来，连续打了3个月，全军5个旅只剩下不到两个整旅，是参战部队中最需撤出战场进行休整的。但是张自忠将军和全军官兵没有怨言，他们服从长官的调遣，让他们殿后就殿后。

完成掩护任务后，他们仍让一块儿执行任务的其他部队先行，自己的第59军走在最后面。由于他的部队在撤退时秩序井然，没有丝毫的惊慌，日军都不敢轻视他们，认为他们是有准备的，一路上未对第59军轻举妄动。张自忠来到濉溪口一带，见各路大军拥挤在那里，乱作一团。第59军不愿挤散自己的部队，让第59军官兵一律将军帽反戴，以便与其他部队相区别。

徐州到许昌，相距五百公里，全靠两条腿。张自忠将军不搞特殊，与士兵同甘共苦，他同士兵一样步行，脚上全是血泡。许多官兵走路歪歪倒倒，张将军把他们集合在一块儿，把鞋袜脱下，他脚上的血泡比谁都多，而他把脚抬起朝地下一顿，血泡全破了。他大声说，在战场上死都不怕的中国军人，还怕几个血泡吗？他顿完双脚，穿鞋就走。全军再也没有一个叫苦的，精神抖擞地开到许昌。

据说后来蒋介石听说张自忠的传奇故事，佩服得不得了，连连点头给予很高的评价。

同样担负掩护任务的刘汝明的第68军，也很机智。在最后时刻，他摆出同日军决一死战的架势，在坚守的阵地上作排兵布阵状。追赶的日军停住脚步，也同样调兵遣将，作出部署。日军不知是计，等到第二天，中国军队的阵地上早就没有人影了。一夜的急行军，第68军巧妙地跳出日军数十万大军的重围，去了安全的地方。