被华东野战军包围在碾庄圩之中的黄百韬，一开始并没有慌乱。
碾庄圩是徐州以东的重要防御据点，位于陇海路以南、运河以西，是十几个自然村落组成的一小片区域。这里是运河西边的低洼地带，洼地、水塘、沟渠错落其间。为了防洪水，当地的民房都建在土台子上，村落四周也都夯有高出地面两到三米的土围墙。
碾庄圩原是李弥的第十三兵团驻地，因此区域内筑有大量坚固的野战工事，特别是在各个村落四周，布建了大量的碉堡和地堡，预先设置了可以相互交叉的火力点。
接到蒋介石的指令后，黄百韬将第64、第100、第44、第25军分别配置在碾庄圩东、西、南、北四个方向上，形成环形防御，十多万人马密集地收缩在一起，准备在空军的支援下固守待援。
可是，情况并不容乐观，由于纵深过于狭窄，黄百韬的警卫营、通信营、工兵营、重炮营等兵团部，都局促在碾庄圩的街头巷尾，大部分官兵都露宿在野外，传令兵、伙夫、担架兵满村乱跑……
刘峙一直打不通黄百韬的电话，但他仍用无线电指挥各军做好防御工作。
为迅速歼灭黄百韬兵团，粟裕决定，以第7、第10、第11纵队在侯集、林佟山至大许家地域，实行正面防御；以苏北兵团各纵队从徐州东南侧击邱、李兵团之增援；以第4、第6、第8、第9、第13纵队和特种兵纵队围歼黄百韬兵团。从11月12日开始，第8纵队由东向西攻击第64军，第9纵队由南向北攻击第44军；第6、第13纵队由西向东攻击第100军，第4纵队由北向南攻击第25军。
12日，华东野战军指挥部也前进到距碾庄圩不足五公里的过满山。
他们刚到过满山，接到中央军委发来的电报，电报称华野前指的位置太靠前，命令粟裕后撤五公里，粟裕转移到土山镇东南的火神庙。
为了争取时间，从11月12日起，包围黄百韬兵团的野战军各路纵队，从四面八方展开猛攻。但是，黄百韬部在空军掩护下，凭借抢修的战壕，与华东野战军死拼。
前3天，华东野战军的伤亡很大，战场进展却不大。
从前沿回来的参谋向粟裕报告说：“黄百韬可真难打呀！一百多米宽的正面，就有二十多挺机枪，子弹像泼豆子一样！我们的官兵就这样一波一波往上冲！”粟裕打电话问四纵司令员陶勇，让他如实报告部队伤亡数字。陶勇报告说，眼下四纵伤亡已达四千三百多人。
粟裕、陈士榘、张震分析了进攻缓慢的三个原因：“一、地堡、交通壕结合，不易爆破，再加敌人不断地反击；二、收缩一团，分割不易，必须逐庄攻击；三、指挥不一，动作不协同，炮火无统一指挥。”
14日晚上，粟裕召集六个主攻纵队的指挥员开会，他说：“黄百韬兵团已由运动之敌变为驻守之敌，我军的战法必须由运动战转为村落阵地攻坚战，用迫近作业的办法突破敌人的坚固防御阵地，利用暗夜把交通壕挖到敌人阵地前沿，然后突然发起攻击。要先打弱敌，后打强敌，攻其首脑，乱其部署，逐个争夺敌人的火力点和所占村庄。”
碾庄圩四周突然寂静下来，黄百韬感到情形不对，于是让参谋长魏翱派小部队去侦察，结果侦察队刚一露头就被打了回来。侦察员报告说，碾庄圩四周成千上万把铁锹正在拼命挖土。
黄百韬还没想明白粟裕到底要干什么，南京的飞机就来了，他送来了一枚勋章。碾庄圩几天坚守，顾祝同在南京极力宣传“碾庄大捷”，何应钦更是激动地宣称：“黄百韬真是英雄！”徐州的刘峙则声称目前“态势非常有利”：“共军在邳县以北地区运河两岸被黄百韬兵团截成两部，一部在运河东岸过不来，一部分在西岸退不回去，被飞机轰炸扫射，死伤很大，胜利在望！”
国民党空军为了配合南京的宣传，特派飞机给黄百韬空投地空联络电台，结果飞机出了故障无法空投，机上的一位空军科长抱着电台跳伞在碾庄圩着陆，碾庄圩地空联络从此畅通——“阵地发现紧张时，空军轰炸立刻应援；空军发现情况，地上亦立刻了解。”
蒋介石的大肆表彰，黄百韬明白其用意是让自己与华东野战军死拼到底，防止其投降。此后，飞机天天空投《中央日报》等报刊，上面刊登有黄百韬的戎装照以及蒋介石的嘉奖令。