暂且按下康百万寻找武飞不表，且说在方绍舟部游击队、新四军配合淮河国军守军在苏皖一带与日军缠斗阻敌北上之际，徐州会战北线战斗因韩复榘放弃济南城和黄河天险，而使徐州东部战事骤然趋紧。
参加徐州会战南下的东路日军由板垣征四郎率第5师团跨过了黄河，再沿胶济铁路迅速东进，与其海军在山东青岛会师，在连续攻占了山东省沂水、蒙阴等地后，又沿台潍公路南下，试图夺取鲁南军事重镇临沂城，从临沂向西进攻徐州，这给苏皖一带防守淮河下游的南线韩德勤部国军也陡增了巨大的防守压力。
李宗仁在接到日军攻打临沂城的战报后，他立即电告靠近鲁南的江苏韩德勤，令其率领所部及苏皖各路游击军配合行动，在做好淮河下游一线防守的同时，再行调配兵力全力阻击这股南下日军从临沂城向西进攻徐州。
徐州会战开始后，韩德勤奉蒋介石和李宗仁命令，全权负责淮河下游的南线作战。
韩德勤此时兼任第24集团军副总司令，这新组建的第24集团军虽然由顾祝同担任总司令，但是实际上该集团军在成立后一直由韩德勤全权指挥。该集团军下辖新成立的第89军和原东北军的第57军，第89军由韩德勤兼任军长，第57军由缪澄流任军长。第57军下辖第111师和第112师两个师，111师师长常恩多，112师师长霍守义。
韩德勤此时除统辖第24集团军外，他还指挥着税警团第8军游击队、第五战区第5游击总队和洪泽湖水上游击总队。另外，韩德勤主政江苏，因此这时候他还指挥着驻苏北的省、县的各保安团。粗略估算一下，韩德勤这当儿手中掌管的兵力达10余万之众。
临沂城是鲁南的一个战略重镇，多条公路在此交汇，向南通往新安镇（今新沂）至徐海，向西南通往台儿庄、枣庄，向西北通往费县、泗水、蒙阴、新泰，向东北通往莒县、诸城，因此临沂城的战略位置十分重要。它关系到陇海、津浦两条铁路的安危，同时也是徐州东部的一个十分重要的屏障。
日军以坂垣第五师团猛攻临沂城，正是为了策应西路的矶谷第十师团进攻台儿庄。
最先赶到临沂守城的是庞炳勋的第三军团，该军团虽然对外号称兵团，但是实际上兵力只有5个团，共计13000余人。庞炳勋接到第五战区长官部李宗仁下达的坚守临沂城的命令后，因他深感李宗仁对他的知遇之恩，他立即带领部属进行布防。
面对日寇的猛烈进攻，第三军团虽然兵微将寡，但是全体官兵斗志昂扬，誓与日寇血战到底，誓与临沂城共存亡。
在日军猛攻临沂城的危急关头，韩德勤也因为接到了蒋介石的亲令，他紧急调派驻守海州的第57军王肇治旅前往临沂城增援，另外蒋军嫡系汤恩伯部的骑兵团接到第五战区长官部命令也赶来临沂城增援。
日军见久攻临沂城不下，徐州正面的台儿庄方面又陷入了苦战，于是转移了进攻方向，命令在临沂城下的日军停止进攻，抽出日军主力两个步兵联队和一个野炮兵联队星夜兼程赶往台儿庄支援。
到了1938年5月，徐州会战的北线中国军队在接连取得台儿庄大捷、邳县禹王山阻击战和临沂保卫战等一系列重大胜利重创日军后，面对从各路逐步向徐州逼近过来的日军，中国最高军事当局命令第五战区集中兵力于徐州附近，准备再次聚歼日军。
可是南下攻打徐州的日军在台儿庄和邳县禹王山接连受挫后，他们已经调整了战略部署，开始以部分兵力从正面牵制徐州守军，主力向西迂回，拟采取迂回战术，从侧后方包围徐州，然后一举歼灭在徐州一带的第五战区主力。
日军第10师团、第5师团分别从山东峄城（今属枣庄）和临沂西北的义堂地区南进，对守军国民第2集团军和第20军团、第3军团及第27军团第59军实施牵制性进攻。中国守军在进行了顽强抗击后，到了5月底，将日军阻止在韩庄、邳县（今邳州)和郯城一线。
从1938年5月底开始，日军从南北两个方面，向徐州西侧实施迂回包围。
在徐州南面，攻击淮河的日军第9师团、第13师团主力甩开在淮河南岸与之纠缠的方绍舟等地方游击军，绕过了蚌埠城北面的淮河段，避开了于学忠、韩德勤等部在蚌埠和“两淮”地区设立的防线，改从蚌埠的西北方向，分别沿安徽境内的北淝河和涡河西岸向北推进。
另北上日军到5月中旬，在接连攻占蒙城与河南的永城后，向东进攻到徐州附近的江苏萧县、砀山（今均属安徽）一带。此时，日军第3师团也由蚌埠西侧进入了大营集地区，进而向北面宿县（今宿州)进攻，进军到了两淮西侧，使两淮顿陷危机。
在徐州东北面，日军第16师团从山东济宁渡过了大运河，到了5月14日，日军第16师团在接连攻陷了郓城、单县、金乡、鱼台后，向江苏丰县、砀山推进；日军第14师团从河南的濮阳渡过了黄河，攻陷了山东的菏泽、曹县后，直插河南的兰封（今兰考)；同时，日军第10师团将韩庄、台儿庄地区的作战，交给了第14师团接替后，在夏镇附近渡过了微山湖，向江苏沛县展开了进攻。
在徐州东面，日军为了牵制国民党军在徐州以东地区的兵力，以配合徐州会战，于5月20日，由海军第四舰队司令乡板梯二郎指挥，率领日本海军第四舰队陆战队3个大队2000余人，军舰21艘（其中航空母舰1艘），对江苏省的连云港发起了登陆进攻。
接到日军攻打连云港的急报，韩德勤急命驻守连云港的税警第8军游击总队曾锡珪部组织防守。第8军游击队简称第8军，由黄杰的税警团改编而成，辖6个总队，总计兵力达10000余人。
这税警总团原是宋子文在1932年任财政部长期间，联合西方国家，并由西方国家从民国还款中出资建立的私人武装，是一支用于缉私征税的非正规部队。但是，这支武装在宋子文的大力经营下，变成了一支连国民党内甲级正规军都无法比拟的精锐部队，宋子文也以此为政治资本，拟增加自己在政局中的话语权。
抗战爆发后，蒋宋闹矛盾，蒋介石逼迫宋子文辞职，宋子文被逼去了美国，税警总团被蒋介石收编为自己的一支劲旅，此时蒋介石也把此团交由亲信韩德勤指挥。
曾锡珪接到韩德勤的命令后，他知道韩德勤与蒋介石的特殊关系，他哪敢懈怠，他立刻组织兵力防守。
曾锡珪命令李浩总队驻守连云港、孙家山及墟沟之间的火车站一线；命令黄登总队驻守黄窝、高公岛等地，并派出一个中队防守连岛；命令胡文臣总队驻守东陬山；其余3个总队分别配置在埒子口、灌河口、朱麻等地区，在西墅、高公岛一线及后云台山、连岛等地构筑有永久性工事。
1938年5月中旬，徐州前线越来越惨烈的战报，不断传到在武昌的国民党军事委员会委员长蒋介石的案前。在日军各路强大兵团一起向徐州方向云集的情况下，徐州突现了十分严重的危机，这使蒋介石被台儿庄大捷冲晕的大脑一下子冷静了下来。
待蒋介石清醒过来后，他突然意识到：日军的此番战略图谋比“南北对进计划"更大，那是想彻底围歼在徐州的中国军队主力呀，如果在徐州的这50个中国军队精锐师被日军一下子吃掉了，那他今后还拿什么去抗战呢？
于是，蒋介石立即叫来了何应钦、白崇禧、陈诚、封裔忠等人，与他一起紧急商讨对策。众人一致认为日军的此番战略企图已经暴露无疑，第五战区如果再继续死守徐州，已经不现实。就当前战局和未来局势发展来看，为了保存实力，何应钦等人主张赶紧组织徐州会战的中国军队立即向西突围，向己争取到布防时间的武汉一线靠拢，蒋介石据此决定放弃徐州。
于是蒋介石给李宗仁紧急口授十万火急电令如下：
第5战区司令长官李宗仁：军委会着令你部力避决战，撤离徐州，火速突围。
一、顾祝同、韩德勤第24集团军在苏北，第69军及海军陆战队在鲁中南，原地坚持抗战。
二、刘汝明第68军为全军后卫，掩护主力转移。
三、第5战区封少君率各部，立即向豫皖边区突围……
1938年5月16日，李宗仁根据蒋介石电令下达了徐州总撤退的命令，他命令各部队分别向豫、皖边界山区突围。中国军队各部且战且退，阵形不乱，按部就班地向西、向南撤退。日军阻击一处，中国军队就集中力量冲开一处，因此撤退大军所到之处无所不破，所有部队向河南南部及湖北北部有序集结，各路大军都相继冲出了日军的重重包围。
徐州大撤退时，根据蒋介石电令，负责留守徐州城的是第68军刘汝明部，该部在萧县一带伏击日军第9师团，对日军造成了重大伤亡。日军见中国军队大部分已经撤走，就企图在徐州城围歼刘汝明第68军。
第68军一开始佯装摆出死守徐州的架势，等到徐州各路大军撤退完毕，刘汝明部果断放弃了徐州城，巧妙地跳出了日军数十万大军的重围，安全转移。
