此时，一战区洛以东的队唯一没有溃退的只有巩东守军。5月3日，临汝失陷后，第四集团军侧后现日军，防御态势恶化。为防万一，第四集团军命令38军的工兵队在偃师以南的伊洛河上架设浮桥准备退路。

汤恩伯集团的队已经豫西山区，有一些退到了豫西南5战区的防区，还有一些甚至跑到了陕南8战区的区域。由于日军追击速度太快，汤军很多队在退却中被打了建制，许多队以营、团单位各自择路而逃，有时候还未到达规定的集合地，该地已经被日军占领。混在加剧。一些连排位单位的散兵游勇像无苍蝇一样到撞，一些没有给养供应的队沿途洗劫各村镇的中国百姓，**、杀人的案件也屡有发生。一些有组织的村镇，比如成立有民团自卫队、护寨队以及有中共地下党组织的地方开始组织百姓将溃兵缴械，特别是尚武之风较的嵩山周边地区，一些民众武装甚至把整连甚至整营的汤军缴械。

至5月5日，敌军已经现在洛南郊龙门一带，形势危急。是日，蒋介石亲自给第四集团军来电称：“孙总司令，兄阵地为此次中原战场之轴心，关系全盘作战之胜败与国家之存亡，务希督饬全忠勇将士，抱定与阵地共存亡之决心，发挥我国民革命军之战斗神，奋勇歼敌，达成使命，庶不愧为总理之信徒与本党之战士。此次作战，兄能屹立不动，指挥若定，至为念，希激励所，始终确保阵地，达成任务，是所厚望。中正手啓。”(辰歌酉)　第四集团军受此鼓励，遂继续守防线，此时巩东防线已经变成向东、南两面防御的态势。

军南北会攻西平，敌27师团与北上的敌独立11旅团会师，日军首次打通平汉铁路。落合甚九郎对冈村宁次佩服得五投地。

登封县一个镇的红枪会会长在把国军一个连缴械后，指着那个连长的鼻骂：“他妈的，你们这帮王八羔，老们这里的百姓卖儿卖女来钱、粮养着你们，平日里受你们的窝气也都认了，指望你们能打败鬼光复山河，可鬼来了，你们他妈的就会像兔一样逃命，你们跑了，想让老们当亡国？没门！这些家伙拿在你们手里真他妈的浪费，老要让你们看看拿到老们手里是咋用的。你们这群王八一个也别想跑，全都编到老的队伍里，一人发一木跟着，谁他妈不愿意，老现在就活埋了他个王八羔！”

地方自卫武装、共产党的民兵组织甚至当地的土匪队伍都有壮大。许多村镇开展武装自卫，小日军不敢离开通线到乡村四扰。正在执行作战任务的日军大队也无暇离开公路线去攻击“扫”这些个形形的武装组织。豫中战役，日军达到了打通平汉铁路的目标，但是要想巩固新占地区，以战养战却是不可能的。