从濑谷支队得到部分的粮食和弹药第5师团命令坂本支队回撤临沂。濑谷支队得知坂本支队准备回撤后也向第1o师团要求后撤但未获得批准。
城内的31师和新十四师也投入了全部的力量杀红了眼睛一样向庄内的敌人动全力反攻。一时之间庄内的敌我两军杀声震天身穿三种军服的部队绞杀在了一起整个庄子都成了战场几乎完全没有了前线和后方的区别。双方的士兵几乎就是象条件反射一样在极短时间内作出动作决定着自己或者对方谁还活着谁下地狱。
4月6日李宗仁赶赴台儿庄附近亲自指挥全线总攻。中**队全线出击杀声震天。敌军已成强弩之末弹药汽油用完机动车辆多数被击毁其余也因缺乏汽油陷于瘫痪日军狼狈逃窜。
在这种情况下濑谷支队攻城不下进退两难损失很大不得不烧毁大批不易搬动的物资枪杀了军马丢弃了大量的武器和装备向北撤退准备撤往峄县。4月6日夜濑谷支队撤至北洛一线。随后坂本支队与濑谷支队的联络中断陷入孤立无援的境地无力应对四面八方的中**队几乎不停息的进攻被迫于4月7日星夜向北撤退。
在庄内制高点上观察日军动向的刘建业现鬼子有要撤退的迹象马上向开到前线亲自指挥的李宗仁汇报。李宗仁接到汇报立即下令台儿庄一带所属各部队立即转入全面反攻追击撤退的日军部队。第2o军团的第52军、第85军和第75军先后追击到甘露寺、红瓦屋屯一带。左翼第13军第11o师开始向峄县南面的獐山一线攻击。台儿庄内的第31师和新编十四师也奋起追击在将城内残余的日军歼灭后占领了各个城门和城外的园上村。其中刘建业亲自带着警卫连第一个冲上了台儿庄的北门再用看到砍断了插有鬼子膏药旗的旗杆以后亲手升起了一面青天白日满地红国旗并带领着自己的部下一边向国旗致军礼一边齐声高唱中华民国的国歌。这个场面被随军的记者用镜头记录了下来还给了刘建业一个清楚地正面形象。这张照片一天以后被武汉的《中央日报》和《扫荡报》用做了头版头条报道台儿庄战士的大幅题图照片。
台儿庄左右翼的孙连仲部第3o师和第27师听说反击神情振命令一下杀声震天先后追击到泥沟附近缴获许多战车和物资。此时原在鲁西的第三集团军下属曹福林第55军渡过微山湖和大运河后已到达临城、枣庄以北地区。日军在后路被断的情况下慌忙窜入峄县附近的獐山、九山及税郭等坚固围寨死守待援。
敌兵遗尸遍野各种辎重到处皆是矶谷本人率残部拼命突围。中国守军开始在台儿庄内肃清残敌。
李宗仁在4月7日下令所有参战的中**队抓住日军溃退的战机全力反击扫荡。一时之间在鲁南地区中**队是四面合击日军是拼命地奔逃坂本支队沿台枣支线退至峄县、枣庄一带。至此台儿庄战役结束日军死亡的人数过16ooo人是日军自明治维新以来在战场上最大的一场败仗。
台儿庄一战中国投入兵力2o多个师计12万人其中台儿庄方面6万人；日军投入2个师8个团约3万人其中台儿庄方向7个团。中**队击败日军第5、第1o两个精锐师团以损失近2万人为代价取得歼敌万余人的战果缴获日军坦克4o辆火炮5o余门、步兵炮77门、机枪931挺、步枪万余枝。并缴获了大量武器及其他军用物资。这次战役几乎使台儿庄变成一片焦土日军的机动车辆多被击毁敌人的尸体及**骨灰甚多。
当时中**队以1o个师之众对敌一个半师团兵力占绝对优势。但汤恩伯态度消极虽处在敌侧有利态势也没有积极抓住战机把敌人彻底包围歼灭。然而打退了敌人总算是空前的一次大胜利。
捷报传来举国欢腾热烈庆祝台儿庄会战的胜利。全国各界、海外华侨以至同情我国抗战的世界各国人士纷纷来电来函。武汉三镇和广州市等大城市皆有几十万人举行规模空前的盛大集会和游行欢庆胜利。武汉三镇。当地军民不分男女老幼都沉浸在节日般的兴奋中到处是欢呼雀跃的人群；
大街小巷家家户户门前挂起青天白日国旗连成一片以示爱国；
街道上到处是横的竖的大幅标语：“庆祝台儿庄大捷”、“中国必胜”；
鞭炮声把全城都吵翻了天；
报馆的人用汽车装了大捆大捆的号外在街上铺天盖地地撒；
五花八门的救亡团体竞相涌上街头游行、喊口号、唱歌即兴演讲表演戏曲尽情地丑化侵略军；
人们把台儿庄大捷的指挥官李宗仁、白崇禧等人的脸画在一张张三块门板那样大的画板上抬着走在游行队伍前面。
国民政府军委会政治部在这些活动中大显身手。他们动和组织了各种庆祝活动用以激人民的抗日爱国热情。政治部部长亲手提拔刘建业的陈诚可是大出了风头经常出席各种讲演活动给大家鼓劲打气成了最忙碌的人。
距离战场最近的徐州城乡一片欢腾。爆竹声、锣鼓声、口号声此起彼伏通宵达旦。彭城路、马市街、大同街、三民街、博爱街等处大大小小饭店免费3天。只要是我炎黄子孙随到随吃吃饱了打日本！全国各地、各界人士、国际友人前来徐州劳军者不绝于途。范长江、6诒、徐铸成、臧克家、李广文、朱自清、金山、白杨、张瑞芳、王莹等新闻界、文艺界的知名人士在这里留下了不朽的篇章演出了千古绝唱。伊文斯、爱泼斯坦等到徐州的国际友人异口同声地说：“有这样的士气这样的民心中国必胜！”