国民党大势已去，李宗仁在北平解放之前曾打算组一个代表团与共产党谈判，当时他考虑的合适人选是享有和平将军之称的张治中。
张治中在南京住了一段，因已经下野的蒋介石对他参加和谈没有表态，加之李宗仁也有点犹豫，代表团没有组织起来，张治中认为在这种情况下，和谈一时无法开始，于是就向李宗仁请求：“我还是回西北去吧？”
李宗仁问：“你刚来，着什么急？”
张治中面带难色，说出心里话：“我是为和谈而来的，但现在情况复杂，我们动不了身，我住在这里也就没有意义了。”
李宗仁望着他说：“你的心情我理解，你是西北的最高行政长官，暂时回去处理一下公务可以，但我们和共产党的谈判是一定要搞的，只是时机问题，你要快去快回啊！”
善于外交事务的张治中是一贯主张和平的人，此时为什么打起了退堂鼓呢？这也很简单，他来到南京后觉得国民党的气数已尽，内心充满矛盾，认为无论怎么和谈都不可能有回天之力了，他对和谈也没有信心，想退回西北去。另外，他对南京政府的内情也有看法。
李宗仁上台后，曾想改组内阁，以刷新内政来收拢人心，促成和谈，他多次表示要让张治中来担任行政院长，不料张治中对此并无兴趣，明确表态不愿接受。在这种特殊情况下，他感到全局无望，与其说留在南京，还不如退回西北再观局势。
他下决心返回兰州后，表态不再离开西北，还向李宗仁发专电请求辞去和谈代表一职。离开南京时，张治中曾向李宗仁说：
“最好把孙夫人和李济深请来，先行改组政府再和谈。你能请到孙夫人任行政院长，李济深负责党务，局势一定会大有改观，会出现振奋人心的情景。”
李宗仁说：“这个建议很好，我会努力去做工作。”
后来李宗仁也确实派人去请这两个元老，但没有成功。在那种情形下，当然不会成功，这不过是李宗仁的主观幻想而已。
身为西北军政长官的张治中自从退回兰州，心情更加不安，战争仍在继续。此时，他考虑的大事是如何保全西北，当时除了新疆有把握外，他最不放心的是宁夏、青海的两马，当时甘肃地盘很大，暴露的问题也相当多，得下一番功夫。有一次他在甘肃省党部开纪念会时，做了题为《三年来和运的回顾与展望》的长篇讲演。他除了向人们讲述这三年来的和运经过外，还把自己一贯的主张坦白地讲了出来。最后他还指出自己所以要主和的原因，暗示西北将来也非和不可。
那时他自己是想在兰州做些工作的，可是李宗仁却多次打电话、电报催他回南京参加和谈。在这紧要关头李宗仁自然不会同意他置身事外，也有不少朋友写信劝他参加和谈，认为不管和谈成与不成，你既然一贯主和，说现在双方都和谈，你是不能回避责任的。张治中自己也认为：此时和谈的可能性虽然很小，但是如果置身事外，也不是对人民、对国家应有的态度；由于他自己20多年来对和平的痴心梦想，他也对当前的和谈仍然抱一点希望。
经过郑重考虑后，他还是接受了李的邀请，飞回南京。
那天南京的气候异常恶劣，能见度只有200米，云层既低，又有细雨。飞机安全着陆后，他几乎出了一身冷汗。
他走下飞机，前来接他的何应钦笑着说：“文白兄真是福星高照啊！我们真担心飞机出事呢。”
张治中说：“一路上天气都不好，差一点见不到你们了。”
白崇禧握着他的手，讲：“我听到半空中飞机的声音，眼看着盘旋了半小时之久，尚在替你祷告平安哩！你是大难不死，必有后福。”
张治中笑了，他说：“有什么福呀！可能是豆腐……”
来迎接他的官员都笑了。
张治中到南京的当天就去见李宗仁。
此时李宗仁心情仍不是很好，北平已和平解放，解放大军已有明显的南下渡江的态势，他这个代总统只不过是一个摆设罢了，蒋介石仍在幕后独揽大权，他一调动不了军队，二手中无钱，现状很难维持，情形很不妙。
他主张和谈，打算能保留长江以南的半壁江山。张治中既然为和谈而来，当然最关心的就是谈判。他一进李宗仁的公馆就问：“我这次真是为和谈而来的，你让我代表政府去北平与共产党和谈，有什么方针没有？”
李宗仁让秘书给张治中送来一条热毛巾，坐在长沙发上讲：
“你先不要急嘛，喘口气，擦擦汗咱们再议吧。”
何应钦与白崇禧坐在一旁没有说话，望着李宗仁抽烟。张治中喝了几口茶，又说：“我是着急的，这么大的重任落在肩上，你们说还能坐得住吗？”
李宗仁开口说话：“文白兄，关于和谈的方针我上次与你谈了，不能变，有关方案还没有最后定，但我们的原则是明确的，那就是共产党的军队不能过江，我们只有这块地方啊！”
白崇禧接着讲：“如果共产党的军队坚决要过江，我们也不会怕，到时吃亏的是他们，而不是我们。”
李宗仁说：“过不过江是关系我们命运的大事，你心里也是清楚的嘛。”
张治中沉默了一会儿，对他们说：“毛泽东发表的中共八项和谈条件，我反复研究过了，他们绝对不会与我们平分天下。”
白崇禧说：“我已说过了，不要怕，现在我军的主力虽说部分被歼，但我们有强大的空军、海军，还有近百万陆军可以投入战场，实力还在，共产党的那点军队没有什么了不起的。”
何应钦的精神状态很不佳，看上去有点意志消沉。他听完白崇禧的高谈阔论后，摇摇头说：“我们也不能太乐观了。”
白崇禧有点不高兴，他问：“这怎么讲？”
何应钦说：“大家心里很明白，现在我们政府内部问题太多，德公的权力有多大呢？蒋先生名义上下野了，但仍在控制着军队……”
白崇禧不吭声了。张治中也没有说什么，李宗仁忧心忡忡地讲：“是啊，我的工作太难做了，我在这里下的命令几乎没有多少人执行，你说怎么办？”
张治中说：“依我看如果真是这样，惟一的办法是让蒋先生把权全部交出来，让德公当一个名副其实的总统，什么代总统？这个做法本来就不太妥当嘛。”
白崇禧说：“你讲得对，如果不这样，我们是干不下去的。”
李宗仁信心不足，他望着大家说：“我本人与蒋宿怨很深，我就任副总统时他就出了我不少洋相哩，现在他是躲在幕后看我的笑话呢，让他完全交权，恐怕不是那么容易啊……”
张治中突然站起来，望了一会儿户外的阴雨天空，回过头说：“办法是有的，就看你们赞不赞同了。”
李宗仁忙问：“有何高见？”
张治中说：“只有劝蒋出国。”
白崇禧拍手说：“文白先生高见。”
李宗仁说：“这是一个办法，但是现在蒋身边的人很复杂，主战者居多，他们坚决反对我们和谈，想请一个人去做蒋的工作很难，还是你最合适，就请你去溪口一趟，别人蒋先生不会买账。”
何应钦说：“在我们国民党内部，文白兄是敢于与蒋先生唱反调的人，你去劝他，别人也不会说什么，蒋更不会说什么。”
张治中望着李宗仁说：“也只有我去了。”
本来说好了张治中溪口之行的用意事先不要向外声张，可是张治中前脚一走，白崇禧却有意将这个行动透露给了报界，当天下午就有报纸公开了此事，劝蒋出国的消息不胫而走。
这时，人们也常常听到李宗仁的亲信发牢骚，说蒋介石表面上是下野了，事实上还在溪口指挥一切，在和各方面联络，特别是与各地高级将领仍有着相当密切的联系，而李代总统发表的七项措施，特别是释放政治犯（指明张学良、杨虎城）根本做不到。
“我们管不了，就交还给蒋先生继续管吧！李总统不过是代理，一走就可以了事的。”
在这种形势下，张治中便动了劝蒋出国的念头，他认为只有这样才能使李宗仁放开手去做工作，这样对蒋个人也有利。
张治中从李宗仁的公馆出来，又去找他的好友，国民党元老张群和吴忠信等几个人商量。张群的态度也很明朗，他对张治中讲：
“现在时局很微妙了，你的这个建议我是完全同意的，蒋先生现在能出国，于国于民，于他本人都有利。”
吴忠信也赞同，他说：“这是个好主意，不过老头子的脾气不好，也许他不接受。一般人去劝说，他会生气的。”
张治中笑着说：“所以我才请你们二位与我一起去溪口劝老头，你们二位与他私交很深，又是党国元老，他不好难为你们的。”
张群说：“我本应与你们一道去，可是近日身体不好，不能奉陪了。”
吴忠信当场表态愿与张治中前往。
于是他们两人就在李宗仁的安排下坐专机动身了。