然而，此时冯玉祥将军的处境也很艰险。由于他同情共产党，坚决主张抗日，反对蒋介石投降卖国的方针，蒋介石对他心存忌恨。在这种情况下，冯玉祥要营救胡志明是要冒极大危险的。为了保证万无一失，冯玉祥秘密地做了大量的工作。他首先通过各种途径得知，胡志明一案是蒋介石亲自过问的，没有蒋介石的同意，谁也做不了主。然后他又只身一人去拜访国民党邀请的苏联顾问团总顾问，请教营救的办法。两人密谈了很久，决定利用李宗仁与蒋介石的矛盾，逼迫蒋介石释放胡志明。

    第二天，冯玉祥就去找李宗仁同他一道去找蒋介石说理。起初，李宗仁推脱再三。最后冯玉祥对李宗仁说：“胡志明是在你们广西被捕，你就不怕蒋介石嫁祸于你吗？”李宗仁听了，觉得冯玉祥说的也有道理，就同意与他一道去找蒋介石。冯玉祥一见蒋介石就责问道：“胡志明是否共产党姑且不论，即使是，他也是越南共产党，我们有权力、有必要逮捕外国共产党吗？苏联顾问团成员不也都是共产党吗？怎么不逮捕他们呢？同时，越南是支持我们抗战的。胡志明应该是我们的朋友，怎么成了罪人？假使把赞同我们抗战的外国朋友都当作罪人，那我们的抗战不就是假的了吗？不就失去国际间的一切同情和支持了吗？如果我们是真抗战，就应该尽快释放胡志明！”

    冯玉祥讲完，李宗仁也在旁边说：“释放胡志明的道理，冯先生已经讲了。我问你，为什么要在广西抓胡志明，这不是在嫁祸于广西吗？这是下边的意思还是你的命令？”

    蒋介石无言以对，只得说：“好了，马上叫人调查调查。”不久，蒋介石迫于各方的压力，释放了胡志明。