果然，刘备的进攻是成功的，虽然程玉已经告诉小沛要小心刘备，但小沛的兵将没有想到刘备会无声无息的出现在城下。刚一接触，险些被刘备军破城而入，但刘备他们虽然知道，但却没有想到小沛的守将张辽也并非简单的人物，刚一受到攻击马上就作出有效的防守，连续几天的攻击，不过是损兵折将，只好将小沛牢牢的围住，不过刘备的进攻计划已经完全搁置在这里了。

第一个向城内挑战的武将乃是原汝南守将李通，在城外耀武扬威还没有多久，突然一声炮响，城门大开，一员将由城中杀了出来，跨马提刀，顶盔挂甲，威风凛凛，杀气凌人，正是张辽。李通虽然早就听过张辽的名声，但心里一直不服，听张辽报过名号，挺枪向张辽杀来，要说武艺，李通也真的不含糊，但是要看对比的对象是谁，和张辽一比，差距就大了，不过十合，就已经抵挡不住，正要拨马逃跑，被张辽赶上，一刀劈于马下。

刘备军折了一阵，士卒有点混乱，张辽手中的大刀一挥，小沛的兵马一拥而上。这些黄巾兵受到的训练怎么能和徐州兵相比，一番冲杀之下折损无数，关羽见军士皆惊，拍马舞刀迎上前来，与张辽战在一处。

几十个回合下来，虽然张辽的武艺高超，但也难以抵挡的住，见不能取得什么更好的战绩，指挥部队徐徐的退下，刘备军冲杀几次，却难以冲动张辽的阵脚，最后还是被张辽退回小沛城里。以后的几天，再进攻小沛城，却难有一点成效，小沛的城防在张辽的布置下，竟然一点破绽也没有。

刘备的心里越来越着急，只得招齐手下的众将开军事会议，刘备问众将：“小沛并非什么坚城，却将我们的大军牢牢的阻挡到这里，各位有什么办法吗？”

现在刘备的军师是他的二弟关羽，听见大哥的问题，发表自己的意见说：“大哥，既然小沛难以攻下，我们不如放弃这里，派人带一部分人马留意着小沛的动静，然后我军主力一起去进攻徐州，只要徐州能够拿下，其他的地方就不会有什么问题了。”

对于关羽的意见，刘备还是很重视的，又看了一下其他的众将，不过刘备的属下大多是粗人，对于军事也难以提出什么意见，于是关羽的意见成了唯一的主意，刘备看大家没有什么意见，于是决定移兵徐州，只留下周仓看住小沛的动静。

军队还没有走出多远，突然有一个兵士冲到刘备身边报告说：“回禀主公，汝南有人来报信，说正受到徐州兵马的进攻，请主公马上回去支援。”