晋安帝隆安五年（辛丑，401）
桓玄自以为管辖了晋国三分之二的土地，便多次指使人献上自己可以登上皇位的祥瑞吉兆，想用来迷惑众人；又写信给会稽王司马道子说："贼寇到了京城的近郊，因逆风不能前进，因下雨不能纵火，粮食用光，所以离开而已，并不是力量不足。从前王国宝死后，王恭不趁这时的声威入京统领朝政，足以看出他的内心没有侮辱明公的意思，你却说他不忠。现在位居要职的官员，深孚众望、获得清高名声的有谁呢?怎么能说没有出众的人?只不过是不能信任他们而已！近来这样日复一日，终于酿成今日的祸害。在朝廷的官员都惧怕惹祸，不敢说话，我在遥远的地方任职，所以敢于倾吐事实真相。"司马元显看到这封信，非常畏惧。
张法顺对司马元显说："桓玄继承凭借他家世的名望和资历，又向来具有一股豪气，已经吞并了殷仲堪、杨俭期，自己独霸了荆楚一带的广大地区，但是阁下所能控制的真正可以算做属于您的疆界，也不过就是三吴之地罢了。孙恩制造祸乱，使东部地区损失巨大，一片荒芜，朝廷、百姓积蓄枯竭，生活窘困，桓玄一定会乘此机会大肆施展他的奸恶凶残的手段，实现他的阴险目的。我心中以为这是值得我们忧虑的一件事。"司马元显说："对此我们能有什么办法呢?"张法顺说："桓玄刚刚把荆州霸占到手，所以当地百姓的心和情感未必能完全归附他，所以，他正在尽最大努力平定局势，安定民心，丝毫没有时间考虑别的事。如果我们趁这个时候派遣刘牢之为担任前锋，而您随后亲自带领大部队进发征剿，那么，桓玄一定可以被我们消灭的。"司马元显认为以为张法顺说得很对。正好这时武昌太守庾楷因为桓玄与朝廷要权而结下仇怨，担心事情不能成功，大祸牵连自己，所以偷偷地派人前来，主动投靠司马元显，说："桓玄非常不得人心，所以就连他的部下也不愿听从他的命令，如果朝廷这时派军队去征讨，那么我一定积极做内应。"司马元显听了非常高兴，他马上派遣张法顺到京口去，找刘牢之商量对策。刘牢之却觉得征讨桓玄是非常困难的事情。张法顺回来后，对司马元显说："我观察刘牢之言谈举止后，觉得他一定是与我们不是一条心，所以不如把他召到京城来杀掉。如果不这样做，恐怕他会败坏了我们的大事。"但是，司马元显并听从他的建议。东晋朝廷从此开始大规模地整治训练水上部队，征选兵卒，装备战舰，准备用来对桓玄发动进攻。
元兴元年（壬寅，402）
桓玄任命刘牢之为会稽内史。刘牢之说："刚一开始就剥夺我的兵权，可见大祸就要来临了。"刘敬宣向桓玄请求回到京口去劝告刘牢之，让他赶快赴任，于是桓玄便派他去了。刘敬宣回到京口后，却反而劝说刘牢之趁机袭击桓玄，刘牢之一直犹豫不决，只是把部队移到班渎去驻扎，并在私下里告诉刘裕说："现在，我们应当北上，去广陵和驻守在那里的高雅之会合，然后同他一起发动部队，来匡扶社稷，你愿意跟着我去吗?"刘裕说："将军拥有数万的精壮兵力，听见桓玄的风声都愿意去投降臣服，所以，他刚刚实现志向，声威震动天下，从朝廷到民间百姓，大多数人的心都已经归附到他那里去了，您要去广陵，怎么可能顺利到达呢?我刘裕可要脱去军服，穿上百姓的衣服，回到京口去了。"何无忌对刘裕说："那我该怎么办呢?"刘裕说："我看镇北将军一定难逃一死，你可以跟随我回京口去。桓玄如果遵守人臣的节操，那么你就和我一同去为他做事；如果他不那样，我便和你一起想办法对付他。"
这时，刘牢之集合各级将领僚属，来商议据守长江以北的地区来讨伐桓玄。参军刘袭说："不可做的事情中，没有比背叛还要大的。将军在以前背叛王恭，近些日子反背叛司马元显，现在又要背叛桓玄，一个人连续三次背叛，还能凭借什么得以使自己立足天下呢?"话刚说完，便快步走了出去，其他将佐官吏也大多数都走了。刘牢之听了非常害怕，于是他派刘敬宣去京口迎接家属，但是过了约定的日期，家属还是没有来。刘牢之以为自己谋反的事情已泄被泄露，所以家属被桓玄杀掉了，所以率领现有的部下向北逃跑，后来在新洲上吊自杀了。刘敬宣赶到这里之后，没有时间痛哭，便渡过长江，投奔广陵去了。刘牢之手下的将帅官吏们一起把他装敛起来，并把他的棺木运送回丹徒。桓玄下令劈开棺木，把刘牢之尸首上的脑袋也砍了下来，并把他的尸体扔到街上示众。