在解放军方面，总前委分析了战场形势，认为整个战役现在分为双堆集、陈官庄、蚌埠三个战场，兵力已感不足，其中阻击蚌埠李延年兵团方向，兵力尤其不足，如果无法阻止其北进，势必影响对黄维的作战。如果要同时歼灭黄维、杜聿明两处敌军，时间必会延长，一旦蒋介石从其他地区调来的援军赶到，就可能陷入被动，为确保主动，就只能先集中兵力、火力消灭黄维、杜聿明两处中的一处。
总前委决定，从包围杜聿明集团的华野主力中抽调一部，会同中野先解决黄维。对杜聿明集团先取守势，待黄维解决后，由中野负责阻击李延年兵团，由华野集中全力解决杜聿明集团。刘伯承风趣形象地说：“一个胃口很好的人上宴席，嘴里吃一块（黄维兵团），筷子上挟一块（杜聿明集团），眼睛又盯着一块（李延年、刘汝明两兵团）。”
12月5日，刘伯承、陈毅、邓小平发布总攻命令，以中野第4、9、11纵队及豫皖苏军区独立旅组成东集团，由4纵司令陈赓、政委谢富治统一指挥，担负主要突击，攻击沈庄、张围子、张庄之敌；以中野第1、3、华野第13纵队组成西集团，由3纵司令陈锡联统一指挥，攻击官庙、马围子、许庄之敌；以中野第6、华野第7纵队及陕南12旅组成南集团，由6纵司令王近山、政委杜义德统一指挥，攻击玉王庙、赵庄、周庄之敌，鲁中南纵队为预备队。华野特种兵纵队所属炮兵分为两个炮群，分别支援东、南集团作战。
命令还规定：总攻发起后，各部队应连续攻击，直到全歼黄维兵团，不得停止或请求推迟。各纵应不惜最大牺牲来保证完成任务，并要及时自动协助友邻作战。对于临阵动摇延误战机分子，各部队首长有严格执行纪律之责，不得姑息。
邓小平特别指出：只要消灭了南线之敌的主力黄维兵团，中原野战军就是打光了，全国其他解放军还可以取得全国胜利，这一代价也是值得的。同一天，第12兵团副司令胡琏乘飞机在双堆集的临时机场降落。
胡琏原任12兵团前身整编第18军军长，是国民党军中有名的悍将，曾被毛泽东称为“狡如狐，猛如虎”。在1943年抗战期间，时任18军11师师长胡琏奉命固守长江石碑要塞，曾经写下5封诀别信，然后沐浴更衣，做好了决死一战的准备。在石牌外围拼搏战中，胡琏立即命其属下将国旗插到最高峰上，并严令守军不得后退一步。他用电话告诫将士：“打仗要打硬仗，这一次一定要使日军领教中国军队的作战精神！11师在孤军奋战的情况下，一直坚持到国军展开全面反击并彻底击败日军为止。此役日军损失惨重，死伤2万多。有报纸在报道时曾将其寓为东方之斯大林格勒。
在整编军恢复兵团番号时，由于蒋介石、白崇禧、陈诚之间的派系矛盾，他并没有顺理成章地成为兵团司令，而是由黄维出任司令，他只是担任副司令，失望之下，便称病告假。
12兵团陷入重围后，胡琏抛下名利之争，赶到双堆集，与旧日的部属同赴危难。由于胡琏精明干练，有丰富的作战经验，在他指挥下打仗总是胜多负少，所以在12兵团有着较高的威望。他的到来一定程度上激励了部队的士气。
胡琏到来的同时，解放军淮海战役总前委发布《总攻黄维兵团的命令》，组成东、西、南3个突击集团，全力总攻双堆集黄维第12兵团。
12月6日下午4时30分，万炮齐轰，大地震动，拉开了全歼第12兵团最后一战的帷幕。中原野战军7个纵队，加上华野3个纵队，豫皖苏独立旅、陕南第12旅，二三十万战士呼喊着“打下黄维，直捣南京，解放全中国”的口号，从四面八方冲向敌人据守的几个村庄。当日就连克黄维李围子、小杨庄两个村庄，7日又一举拿下了张围子村。
12月7日，天气晴朗，胡琏乘飞机飞往南京，当面向蒋介石汇报12兵团的近况，请求增加空投粮弹。
临行前，黄维知道大势已去，叮嘱胡琏不必再回双堆集。胡琏面见蒋介石后，表示12兵团许多军官战斗经验丰富，对党国忠心耿耿，如果被解放军围歼，即便使解放军付出数倍代价，也损失了一大批精华干部，所以建议下令突围。蒋介石接受这一建议，命令黄维突围。
胡琏在汇报结束后，又飞回双堆集协助指挥。
8日，东线野战军部队一路推进到距离黄维兵团的核心阵地双堆集东北仅约3，500米的前哨阵地——沈庄。
15时30分，冲锋号吹响了，东线野战军强大炮火有序地对敌阵地施行猛烈袭击，摧毁敌人的前沿工事，为步兵开辟突击道路。随后，炮火向纵深延伸，压制和摧毁敌大小碉堡。17时整，3个红色信号弹凌空升起。各路突击队同时跃出工事，向当面敌人发起猛烈冲击。只经过几分钟战斗，即全部突入敌阵地，并迅速向纵深穿插、迂回、分割、包围。
中央突击队22旅66团9连副连长郭小马，率领着他的分队冲进了敌人阵地的前沿。敌人顽强抵抗，拼命放射轻重机枪、火焰喷射器，郭小马左臂负伤，3班长孙文山当即从他的左侧跳进敌人交通壕，几个手榴弹就打得敌人缩作一团，放下武器。
从17时发起突击到19时，沈庄守敌85师直属队及253团、254团被我全部歼灭。刚刚上任的敌师长潘琦等1200多人被俘。
东线告捷，黄维的东北前哨被拔掉了。