提出小淮海，剑指徐州
济南战役以后，国民党军徐州“剿总”刘峙集团开始收缩兵力。
刘峙是国民党军队最无能的高级将领，为大多数国民党军将领所瞧不起，被戏称为“长腿将军”。他指挥作战不行，却只因为深得蒋介石的信任而连连高升。
当他被任命为徐州剿总司令时，徐州诸将人人议论：“徐州乃南京的北大门，应派一员虎将把守。不派一虎，也应派一狗看门，今派一只猪，眼看大门会守不住。”
至十月底，四个兵团、四个绥靖区、二十五个军，约60万人的兵力，分布在以徐州为中心的陇海和津浦两条铁路线上，企图阻止我军南下，以屏障南京——
黄百韬第7兵团在新安镇地区；
李弥第13兵团在徐州以东地区；
邱清泉第2兵团在黄口、砀山地区；
孙元良第16兵团由郑州撤往蒙城；
李延年第9绥靖区在海州；
冯治安第3绥靖区在韩庄、台儿庄地区；
刘汝明第4绥靖区在商丘；
周岩第1绥靖区在淮阴。
这一部署的特点是，重兵密集，便于机动，增援迅速。早在济南战役还正进行的时候，华东野战军代司令员粟裕考虑，打下济南后有两个作战方向：一是在徐州以西寻找战机。在这个方向上作战，还可以与刘邓指挥的中原野战军协同，但战场被夹在国民党军华中与徐州两大军事集团之间，回旋的余地不大，兵力上也处于劣势。二，是南下出兵徐蚌线，攻占淮阴和淮安。这样一来，徐州一带的国民党军就只能退守长江，而解放军就可以将山东和苏北战场连接在一起。
于是，粟裕向中央军委并ong华东局、中原局建议，乘胜举行淮海战役，攻歼淮阴、淮安与海州一带的国民党军，为夺取徐州创造条件。
9月24日7时，粟裕电报华东局、中原局及中央军委，建议“为了更好地改善中原战局，暴露津浦线，并迫使敌人退守江边及津浦线沿线，以减少其机动兵力，与便于我恢复江边工作，为将来渡江创造有利条件，以及便于尔后华野全军进入陇海路以南作战，能得到交通运输供应的方便，和争取华中人力、物力对战争的支持，建议即进行淮海战役。”
收到电报，毛泽东掩卷沉思。
9月25日，中央军委即复电粟裕，同意“举行淮海战役，甚为必要”。但除粟裕提出的两淮、海连战役目标之外，毛泽增加了一个超越粟裕设想之外的目标，即“你们第一个作战，应以歼灭黄兵团于新安、运河之线为目标”，而且要求粟裕于10月10日前召开作战会议，做好这一战役的充分的准备工作。
黄兵团，即黄百韬所率第七兵团，下辖三个军。早年从北洋军阀李纯的传令兵起家的黄百韬，是国民党军队中唯一非黄埔系而当上兵团司令的。他虽非蒋介石的黄埔嫡系，但在国民党军队诸将领中，还算是有一定作战能力的。在皖南事变中，就是他生俘了新四军军长叶挺。
5个月之前的豫东战役中，黄百韬率部给华东野战军苏北兵团以很大杀伤。豫东战役之后，蒋介石曾亲自为黄百韬挂上青天白日勋章。
中央军委给粟裕的复电，还一并发给了中原野战军司令员刘伯承、副司令员陈毅、参谋长李达，想听一听中原野战军的意见。
收到中央军委的电报好，中原野战军当日回电说：“济南攻克后，我们同意乘胜进行淮海战役，以第一方案攻两淮，并吸打援敌为最好。”
接到中央军委的电报，粟裕感到自己肩上的担子不小。
黄兵团是国民党zhengfu军徐州剿总所属的四个兵团之一，在国民党zhengfu军中虽不是一个最精锐的兵团，但敢于死战，很有战斗力。同时，因为徐州是国民党zhengfu的首都南京的屏障，攻击黄兵团，必然要遭到徐州各兵团的反击，非常可能发展为南线的战略决战。
粟裕明白，9月25日中央军委的指示，和9月24日粟裕的建议，战役性质有着根本性的区别。毛泽东实际上是把粟裕的攻城略地的战斗，改变成歼灭敌有生力量的战斗，把淮海战役在事实上改变成了一场决战。
毛泽东也很快意识到这一任务的重大性，28日，他对华野的指示中指出：“这一战役必比济南战役规模要大，比睢杞战役的规模也可能要大。”对于毛泽东提出的任务，华野如不进行休整，进行充分的准备，显然是很难完成的。为此，毛泽东指示前线将领要进行充分的准备，并推迟了出动的时间。
9月底，军委于改变了原先不休整的计划，指示华东部队休整20天左右。