白崇禧为桂系军阀骨干人物，与蒋介石之间的矛盾由来已久。在抗日战争时期，双方以抗战大局为重，基本上没有发生冲突。但是抗战胜利后，由于李宗仁违背蒋介石的旨意，竞选副总统，蒋介石与桂系之间的矛盾重新爆发起来。
1948年5月，李宗仁当选副总统一个月后，蒋介石为削弱桂系势力，借改组内阁之名，免掉了白崇禧的国防部长一职，由亲信何应钦出任国防部长。将白崇禧调到武汉，出任武汉剿总总司令。
由于担心白崇禧拥兵自重，蒋介石还特意把同处黄淮平原的国民党军队分成武汉剿总和徐州剿总两个互不统属的作战单位，并委任亲信刘峙出任更为重要的徐州剿总总司令，以分散和牵制白崇禧。
武汉和徐州这两个剿总，同处黄淮平原，在战略上本应只属于一个作战单位。在刘邓指挥的中野挺进大别山的时候，白崇禧就提出华中只设一个战区，由他统一指挥武汉和徐州方面的两支大军。但蒋介石怕白崇禧拥兵自重，难以控制，没有答应。
1948年4月前后，面对中原地区的不利形势，为加强两支军队间的协调配合，李宗仁再次提议由白崇禧统一指挥武汉和徐州的军队。但蒋介石考虑再三，派刘峙出任徐州剿总总司令。
同时，蒋介石还任命程潜为湖南省主席，驻守长沙，就近制衡白崇禧。此外，他还把归武汉剿总管辖的黄维兵团和宋希濂兵团牢牢控制在自己手里，利用这些嫡系部队监视白崇禧的一举一动。此外，他还严禁白崇禧在武汉组织民团，甚至把武汉外围地区也划归徐州剿总。
白崇禧对蒋介石的做法极为愤慨，加上他和李宗仁巴不得蒋介石早一点儿垮台，因此一有机会，就弄出点儿颜色给蒋介石看看。
现在刘峙才当了半年的总司令，就连吃败仗，徐州形势吃紧。何应钦和顾祝同担心刘峙顶不住，又提出由白崇禧统一指挥，并向蒋介石说明：等会战结束后，武汉剿总和徐州剿总仍然分开。
蒋介石心里也明白，以徐州剿总的兵力，只能勉强对付华东野战军，如果华野和中野合力进攻徐州，则兵力明显不足，那时非调武汉剿总部队不可，要调动武汉部队又非白崇禧指挥不可。于是，他准备在蚌埠设立一个国防部指挥所，由白崇禧任主任，统一指挥对华野、中野的联合作战。
蒋介石同意了由白崇禧统一指挥武汉和徐州的国民党军队，可是白崇禧却断然拒绝收拾这个烂摊子。
白崇禧心里清楚，蒋介石只是利用他而已，他和刘邓大军多次交手，深知他们的厉害。这无疑是一块硬骨头。如果胜了，那是蒋介石自己的功劳；如果败了，就是他白崇禧的罪过，就有可能被蒋介石借机军法处置。
同时，白崇禧也研究了一下淮海战场的形势：刘峙把徐州战场的部队在陇海线和津浦线摆成“十字”姿态，而黄百韬等部更是一条首尾不能相连的“长蛇”。而解放军华野和中野已经在前面集结了优势兵力，随时都可以发动进攻，重新部署已经来不及了。白崇禧认为到蚌埠必定凶多吉少。
而且，当时白崇禧正指挥张琻和黄维的两个兵团20多万人在豫西南、鄂北地区和刘伯承的部队周旋，企图进攻鄂西解放区。刘邓大军一部乘虚南下绕攻应山，威胁白崇禧的后方大动脉平汉路。
在武汉方面也吃紧的情况下，白崇禧自然坚决不肯出任两个剿总的总指挥。
白崇禧执意不肯指挥“徐蚌会战”，蒋介石又让陈诚出来指挥，没想到陈诚则以身体有病为由推脱。蒋介石又找到华中剿总副司令兼第14兵团司令宋希濂，希望宋能临危受命，但宋希濂知道徐州方面几个兵团都是嫡系，平日里飞扬跋扈很难指挥，就以对徐州情况不熟，鄂西战局紧张为由，请蒋介石另选他人。
无奈之下，蒋介石后来只好将正在东北葫芦岛指挥撤退的杜聿明，任命为徐州“剿总”副总司令兼前进指挥部主任，协助刘峙指挥作战。