烈轰击孙连仲军的防御工事，接着以坦克为前导，向孙部阵地推进。狂风暴雨般的枪炮弹，把台儿庄外围阵地工事基本摧毁，敌人步步逼近。日军的这种凌厉攻势，孙连仲部在一无平射炮，二无坦克的条件下，无法反击。但他们知道，台儿庄是他们的光荣，也是他们的坟地，因此以血肉之躯与靠近的日军拼杀，与横冲直撞的日军坦克同归于尽。战争中，武器在某种程度上起决定性作用，因此，尽管孙部士兵英勇抵抗，仍被日军冲入城内。孙部没有退却，与入城日军展开了激烈的巷战。

    此时，担负台儿庄中央防线北面作战的汤恩伯军团，在峰山、枣庄一带同日军作战后不久，置台儿庄危急于不顾，转移到姑婆山区躲起来。李宗仁严令汤军团迅速南下，协同孙连仲夹击台儿庄正面之敌。汤为保存实力，仗着有蒋介石为后台，置军令于不顾，在姑婆山迟疑不进。李宗仁深知其人，一贯自恃是蒋介石的嫡系，骄横不可一世，也不敢轻易得罪他，因此三令五申，晓以大义。汤仍不予理睬，这边战火熊熊，战斗惨烈，那里却养兵于山区，无动于衷，李宗仁陷入痛苦之中。军情危急，李宗仁无可奈何之下，再次发电汤恩伯：“如再不听命令，贻误战机，当以军法论处，同韩复榘同样下场。”汤敬酒不吃吃罚酒，李宗仁下了死令，他才同意挥师南下。

    然而，此时台儿庄孙连仲部守军已伤亡殆尽，全庄四分之三地盘被日军占据，他们一面在电台宣称已将台儿庄占领，一面调集重炮、坦克疯狂冲击，企图一鼓作气，完全夺下台儿庄。孙连仲强烈地意识到，再孤军死守，将全军覆亡，因此4月5日直接与李宗仁通电话，要求把部队暂时撤到运河南岸，让他的第二集团军留点“种子”。李宗仁听得出，孙连仲讲这番话时，语调几乎是哀婉的，他深知孙的处境是何等的艰难，又是何等的悲壮，但李宗仁更清楚台儿庄目前的重要性，他估算着汤恩伯军团第二天中午可赶至台儿庄北部，因此鼓励孙连仲说：“敌我在台儿庄已血战一周，胜负之数决定于最后5分钟。援军明日中午可到，我本人也将于明晨来台儿庄督战，你务必守至明天拂晓。”说完，李怕孙情绪低下，影响士气，又下令道：“我的命令如若违抗，当军法从事。”

    孙连仲以前虽和李宗仁只有一面之缘，但听人说过，李在战区司令官中，属较通情的一位，此时此刻李下这样的命令，深知台儿庄对整个战役至关重要的价值，以及李宗仁对此次战役胜利的信心。于是孙态度坚决地表示：“我绝对服从命令，整个集团军打完为止。”孙连仲的态度，使焦急万分的李宗仁感到有些安慰，但他总有些不尽放心，于是又指示孙连仲：“今夜你还须向敌夜袭，以打破敌军明晨拂晓攻击的计划，则汤军团明日中午到达后，我们便可对敌人实行内外夹击。”孙表示部队已用完，夜袭不容易。李听后立即指示：“我现在悬赏10万元，你将后方凡可拿枪的士兵、担架兵、炊事兵与前线士兵一起集合起来，组织一支敢死队，实行夜袭。这10万块钱将来按人平分。”

    孙连仲将李宗仁的命令传达后，数百人一支的敢死队很快成立起来。4月5日午夜，敢死队分组向敌出袭，冲击敌阵。他们个个精神异常振奋。各自为战，已是血战经旬的敌军，也精疲力竭，深夜正堕入梦乡，听到不知从哪来的枪声，顿时乱作一团，一面仓皇应战，一面后退。经数日血战为敌所占的台儿庄各街，竟在短短不到一小时内，一举夺回四分之三。此时，李宗仁不但得报孙连仲夜袭成功的喜讯，又得汤恩伯部翌日天明前可赶到台儿庄的消息，高兴极了，他立即率随员，连夜亲自赶到台儿庄郊外，准备亲自指挥对矾谷师团的歼灭战。

    矾谷师团的厄运终于降临了。6日黎明之后，台儿庄北面，枪炮声渐密，汤恩伯军团已向敌人开火。矾谷知已陷入重围，开始动摇，下令部队全线撤退。