3月16日，日军分两路南犯：一路三四千人及坦克17辆，沿临城滕峄大道进犯；一路五六千人及重炮十多门，从滕县以东南犯。矶谷师团于18日攻占滕县后，又攻占临城、峄县后，挥师南下直指台儿庄。

派哪支部队担负台儿庄、运河一线的阻击任务呢？李宗仁和参谋人员反复思考，最后决定：“命令第2集团军，迅速开往台儿庄，准备死守。请孙连仲总司令，速来战区司令部，商量军机大事！”

第2集团军是国民党军队中的一支杂牌军，总司令孙连仲，字仿鲁，河北雄县人。该集团军下辖第42军、第30军两个军。在山西娘子关战役中，第42军（军长冯安邦）防守娘子关正面阵地，杀出了威风，但损失惨重。第42军从战场退下来后，伤亡殆尽，屡求补充，均未获准。目前，第2集团军实际上只有第30军（军长田镇南）的三个师：第27师（师长黄樵松）、第30师（师长张金照）、第31师（师长池峰城）。这三个师武器装备都很差。

3月21日下午，李宗仁在第五战区司令部小客厅，宴请孙连仲。圆形餐桌上，摆着丰盛的酒菜。李宗仁、孙连仲、池峰城围桌而坐。李宗仁彬彬有礼地给孙连仲、池峰城夹菜倒酒，三人边饮边谈。

李宗仁：“孙总司令啊，你来到了第五战区，我就不发愁喽！第五战区，今后全靠你啦！来，今天我敬你一杯！”

“谢谢李长官。”孙连仲站起身，接过李宗仁递过来的酒，一饮而尽，然后说，“李长官，我的第2集团军，实际上只有三个师的实力，总兵力不过两万四千人，娘子关一战，受到重大损失，至今未得到补充，武器装备又差，光靠我来抵挡日军，恐怕困难不小……”

“你的困难我知道。”李宗仁说，“我这里凡是有武器装备，一定尽量给你补充；人员的缺额先空着，以后我一定给你想办法。眼下当务之急，请你马上到台儿庄布防，抓住时机阻击日寇。”

“可是……”孙连仲还要说什么。

李宗仁说：“孙总司令，我很了解你们第2集团军，你们属于原西北军旧部，最善于防守。从远的说，北洋军阀统治时期，有名的几次防御战，譬如南口之战、西安守城之战，都是你们西北军打的呀，打得很出色嘛！从近的说，1933年长城抗战，第29军宋哲元之部在喜峰口、罗文峪杀得鬼子心惊胆颤呀；去年‘七·七’卢沟桥事变，第29军对日军坚决回击，揭开了全民族抗战的序幕；接着又有你的娘子关保卫战，还有最近张自忠第59军的临沂挫败强敌，杀得板垣师团丢盔弃甲。正因为你们能攻善守，我才决定把你们放到台儿庄！”

孙连仲说：“李长官啊，不是我孙连仲叫苦，在娘子关，我整整一个42军伤亡殆尽。”池峰城看孙连仲一眼，说：“李长官，我们的牺牲的确太大了。啃骨头的事，常常都是我们去，好像我们是后娘养的；骨头啃完了，功劳呢，常常又都是别人的！”

李宗仁说：“我们打仗，不是为了哪一个人，而是为了民族而战哪！”

池峰城感动地站起来说：“李长官，请你放心，我们说是说，干归干。我们31师是原西北军冯玉祥将军的老底子，是吉鸿昌亲自培养出来的部队。服从命令，勇敢杀敌，是军人的天职，守卫疆土，为国牺牲是我全师将士的决心。目前，敌寇已迫近徐州，其势正猖，我当努力阻其锋芒。我全师官兵决心在李长官指挥下，杀敌立功，报效祖国，让不可一世的小鬼子，好好尝尝我们大刀的滋味！”