两个交警总队、一个装甲营、一个军官补训队，部队总人数虽然不多，但是装备相当好，战斗力并不弱。陈毅和邓小平派出攻打宿县的主要部队是陈锡联的三纵和秦基伟的九纵。中野四纵和已在商丘地区的华野三纵与两广纵队由北直插徐州和宿县之间，从南面逼近徐州。中野一纵则进入宿县以西地区，作为战略总预备队，同时监视向东来的黄维兵团。中野总部还决定，攻城之战由陈锡联统一指挥。
陈锡联带领中野三纵通过长途奔袭，在离开指挥部的第二天就到达宿县，两天时间就清扫了外围，占领了车站，将宿县包围起来。陈赓率领的四纵也在这天赶到了徐州以南的曹村，而且消灭了正由宿县向徐州靠近的孙元良兵团后卫部队第四十一军军部和一二二师的3400余人，切断了徐州和宿县之间的联系，并对徐州形成了威逼之势。徐州城中的刘峙以为我军要进攻徐州，急忙命令邱清泉派出了两个师的兵力，企图把我军赶走。可是连续发动了十余次进攻，我四纵仍然牢牢地守卫在徐州以南的阵地上，对于攻打宿县的部队起到了很好的掩护作用。
要说打宿县，对于中野的两个主力纵队来说，并不是什么难事，麻烦的是缺少重炮。中野主力都是春天才从大别山中出来的，当年为了千里跃进大别山的需要，把手中的重型武器都丢了。出大别山之后，打的大仗还不多，蒋介石这个运输大队长送过来的重炮也还没有能够收到多少。在这种情况下，攻打宿县这样有坚固工事的古城，就主要靠派出爆破组用炸药爆破，这样打，牺牲较大，进展则较慢。陈锡联只能一方面调集自己手中的山炮、野炮和榴弹炮，一方面布置组织爆破。这时陈毅特地从华东野战军调来了8门榴弹炮，大大增强了攻城力量。
11月15日，在陈锡联的指挥下，攻城部队发起了总攻。三纵的七旅打东门、八旅打北门、九旅打西门，三纵副司令员刘昌毅负责第一线的指挥。当30门重型火炮一阵猛轰之后，攻城部队冲了上去。先是在城壕上强行架桥越壕，然后进行城下的连续爆破，突入城后与敌人进行逐街争夺。仅用了10个小时，中野就拿下了重要的战略据点“南徐州”宿县，歼敌一四八师和交警第十六总队一万余人，生擒敌津浦路护路总司令部副司令兼宿县城防司令张绩武。
在中野三纵攻下宿县的同时，中野九纵和豫皖苏军区的独立旅攻占了蚌埠以北的固镇。这样，从曹村到固镇之间近150公里的津浦路完全被我控制，徐蚌线被我完全切断，徐州之敌被完全孤立。
对于攻宿县这一战，从豫西赶到临涣集的刘伯承十分满意，他高度称赞这种“黑虎掏心”式的打法，他说：
这样一来，淮海战场上敌人的七个兵<strike>ｈｔ<a href="
tp://rike>" target="_blank">
tp://rike></a>团被分割成四坨，徐州“剿总”完全陷入战略围剿之中。徐、蚌首尾不能相顾，这对歼灭黄百韬兵团，创造了极为有利的条件。