及安徽省保安第２团防守小蚌埠至怀远、涡河北岸一带河岸阵地；第１１４师在其左翼，防守临淮关北岸至西门渡河岸阵地。军部位于固镇。

２月８日，日机２０余架轰炸小蚌埠，立即又以炮兵进行火力准备，将河岸防御工事全部摧毁。千余日军在炮火掩护下乘民船、汽艇实施强渡。守军顽强抗击，两次击退渡河日军。当晚２３时，日军又进行夜间强渡，一度登上北岸，攻占了小蚌埠。第１１３师师长周先烈令第３３７旅反击，激战至９日１时，恢复了阵地。１０日拂晓，日军再次发动大规模的强渡进攻，１０时前后攻占了小蚌埠。第１１３师全力反击。双方反复争夺多次，小蚌埠终于为日军占领。

２月１０日，与侵占蚌埠日军发动进攻的同时，侵占临淮关的日军亦发动强渡进攻，６时前后首先突破晏公庙沿岸阵地，不久占领梅园子、前坂子、新庄等地。第１１４师师长牟中珩令第３４０旅组织反击，浴血肉”一整日，夺回新庄、梅园子等部分阵地。

但至１１日，日军后续部队渡过淮河，第１１４师伤亡２０００余人，终因兵力、火力不足，无力恢复及守住沿河岸的阵地，被迫撤至沫河口、年家庙之线。由于沿岸阵地多处被突破，许多守军部队因军官阵亡而失去指挥。为集中力量、整顿部队，第５１军军长于学忠下令全军于１１日夜向淝河附近之何集、新马桥之线转移。

２月１３日，李宗仁将刚刚转隶五战区的张自忠之第５９军调至固镇附近，接替了第５１军的防地。第５１军撤至西寺坡车站一带休整。第５９军部署第３８师防守固镇以西瓦疃集至杨店子之线，第１８０师防守杨店子至固镇东南徊小楼之线，军部位于任桥。

此时日军第１３师团主力的大部进至淮河以北。李宗仁命第３１军由淮南铁路向上窑、凤阳，令新隶五战区的第２１集团军第７军由合肥向明光、定远分别实施侧击；同时要求空军支援，轰炸蚌埠、临淮关之敌，迫使日军将已渡淮北的主力撤回淮南，以加强蚌埠及津浦铁路的防守。张自忠乘机于１５日令第１８０师和第３８师各组成一个加强团，向小蚌埠之敌实施反击。经战斗，收复小蚌埠，淮河以北的日军全部撤回淮河以南。

２月１７日后，津浦路北段形势趋紧，日军开始由济宁向运河以西的第３集团军进攻。２０日，李宗仁按蒋介石的指示，电令“张自忠即调赴临城待命”。津浦路南段仍由于学忠的第５１军防守，暂时与日军隔淮河对峙。

２月上旬，当南线战场中日两军正在蚌埠地区淮河南岸进行激烈的渡河攻守战斗时，第五战区为防止北线日军乘机南下，遵照军事委员会的意图，采取以攻为守的战术，于２月６日命令第３集团军向济宁、第２２集团军向邹县、第３军团向蒙阴发动攻势。各部分别进行了反击的准备。

第３集团军当时仍防守于鲁西南地区，总司令部位于曹县，第１２军驻定陶、城武地区，第５５军驻金乡。代总司令孙桐萱接受的任务主要是以主力攻占济宁，以一部攻占汶上，尔后向济宁、兖州