这样，双方各有算盘，互不信任。虽然双方都愿意中苏友好，但会谈却没有什么积极成果。谈判是停了又谈，谈了又停，秘密进行了半年多。
这种马拉松式的谈判起初蒋介石还颇为支持。随着日军在华北活动越来越猖撅，蒋介石压力越来越大。
一夭，蒋介石把陈立夫叫到自己的官邸里，和陈商量谈判事人陈立夫提出：“日人越来越嚣张，我们应加快对苏交涉的步子，打破僵局，争取能在短时期内建立中苏合作关系。这样，在必要的时候，我们可以打出苏联这张牌来警告日本人”。
蒋介石采纳了陈立夫的建议，决定自己亲自出面，打破僵局。
1935年10月，南京孔祥熙官邸灯火通明，但却静得出奇。客厅里只有蒋介石、陈立夫、鲍格莫洛夫等人在会谈。
在会谈中，蒋介石表示目前的僵局均不利于双方。中苏应尽快改善关系，共同对日。为了打消鲍格莫洛夫的疑虑，蒋介石又保证中国政府在任何情况下都不同日本签订反苏的军事协定。
蒋介石的态度感染了鲍格莫洛夫，鲍格莫洛夫也提出了一个积极建议：“南京国民政府最好派一名高级官员访问莫斯科，直接与斯大林会谈。”
蒋介石接受了鲍的建议，并选中了陈立夫为出访莫斯科的人选。
12月24日夜，上海码头。热闹了一天的码头，此刻却有些冷清了。
陈立夫化名李融清，悄悄地登上了一艘名为“朴次丹号”的德国邮船，准备先到柏林，再由柏林转赴莫斯科。与他随行的有特工总部的设计委员会主任张冲、新任驻德大使程天放。
邮船离开码头后，很快便驶入了辽阔的大海，海上没有什么大风浪，邮船平静地驶在一望无际的大海上。船上其他的旅客都睡着了，而住在一等舱里的陈立夫躺在床上，辗转难眠。
这一夜，他反复思考了许多问题。他想，到莫斯科后，将与斯大林谈判，听说斯大林意志刚强、办事独断专行，目己该怎样与这样的对手谈判呢？如果谈判成功，将会开创怎样一个新局面呢？万一失败，后果又将会怎样呢？他能负得起这个责任吗？想到这里，陈立夫有些惶恐不安了。他再也躺不下去了，从床上爬起来后，走出了舱门，来到甲板上。
此时天已经快亮了。一轮红日正在水天交接的远方跳动着，大海满是金光。陈立夫倚着船舷，迎着拂面而来的海风，顿觉清新，刚才的惶恐不安也不见了。他想：事之至此，已不能顾虑过多，自己唯有努力向前。能否成功，那就听天由命吧。想到这里，陈立夫不觉脱口吟出了一句屈原的诗，“路漫漫其修远兮，吾将上下而求索”。
经过几十天的航行，船到了德国。陈立夫、张冲、程天放下船之后，即赶到了柏林。蒋介石从国内来电，指示陈立夫、张冲暂时停在柏林，等候命令。
等待是难熬的，陈立夫、张冲在柏林，一等就是两个多月。陈、张由于此行秘密，并不敢在柏林公开活动，只是利用一些有利时机，与德国朝野进行暗中接触，从中摸取苏联对中国的态度。
两个多月之后，盼着尽快东行的陈立夫忽然接到蒋介石从国内来的急电，命令他立即取消赴苏计划，迅速返回，不得有误。
陈立夫一时摸不着头脑，但蒋委员长的指示他是不敢违背。何况赴莫斯科谈判是否成功尚是个未知数，取消此行对于他来说反而是替他解下了包袱。因此，在接到急电之后，随即收拾行李，与张冲一起，打道回国了。
等陈立夫回到国内，他才明白这究竟是怎么回事了。
原来，当陈立夫离开南京去上海乘船时，日本方面很快就知道他要去莫斯科与斯大林谈判。为了阻止中苏谈判，日本一方面在外放出“陈立夫去苏俄”的空气，挑动国民党内的亲日派和顽固分子来质问蒋介石；另一方面，日本又给蒋介石施加压力，如果不取消这次谈判，日本将采取“有力措施”。
日本人的招术果然奏效。因为陈立夫赴莫斯科谈判，从头到尾都是蒋介石一人在幕后操纵，极为秘密，连国民党中央和国民政府中的许多要人都不知此事。如此重大国策，却瞒着政府，当然就有许多人对蒋介石不满了。而蒋介石此时对中苏关系也做了错误分析，他认为：“日俄两国对我中国，有一相同的企图，就是迫使我们中国脱离西方，尤其对美关系，而陷人孤立地位，只有听任他们的宰割，日俄两国……为了共同对付西方尤其是美国，亦可以瓜分中国为条件，而互谋妥协”。基于这种错误的认识，蒋介石认为直接与苏联进行高级会谈的时机尚未成熟，如果匆匆行事，到时机密泄露，将使中国陷入难堪境地。因此，蒋介石一纸电令，召回了陈立夫。
“九一八”事变之后，民族矛盾成了第一位的矛盾，掉转枪口，一致对外成了有识之士的共识。蒋介石也不得不考虑联合老对手——共产党一致抗日的问题了。
“中日战争既已无法避免，国民政府是一面着手对苏交涉，一面亦着手中共问题的解决。”1934年的蒋介石做如是想。
这年年底，陈果夫、陈立夫在受命与苏联驻华大使鲍格莫洛夫进行外交谈判的同时，又接受蒋介石交给的另一项秘密任务，寻求与延安接触的途径，打通延安之路。只是后来因陈立夫有莫斯科之行，此事只能暂时作罢。
1936年3月，陈立夫自柏林归国，继续参与苏联驻华大使鲍格莫洛夫的谈判，在谈判中，鲍氏提出了国共两党关系问题。他说：
“苏联政府特别注意蒋介石同中国红军的关系。他说，如果蒋介石的主要力量用于‘剿共’，蒋介石的军队同红军间不实现统一战线，那么，对日本的侵略进行严重的斗争，是不可能的。”
鲍氏的话，陈立夫立即转告了蒋介石。蒋介石既然迫切希望得到苏联援助，也就不得不考虑与共产党搞统一战线问题。
1936年夏，在陈立夫的陪同下，蒋介石再次召见鲍氏。蒋介石向鲍表示，他正着手改善同中共的关系，准备同中共讨论抗日问题。但他又强调，中共可以合法存在，但不能拥有自己的军队。
蒋介石既然已经定下了调，陈立夫便开始替蒋介石说话。在与鲍氏的谈判中，陈立夫多次向鲍要求希望苏联出面做中共的工作，劝说中共放弃武装。他说：“如此苏联政府就可以表示对南京的真诚态度并赢得南京政府这个真诚的同盟者。”
但当时的苏联政府出于种种考虑，并不想在中国的国共两党关系中充当调解人。鲍向陈立夫反复申明：“苏联政府不介人国共两党关系的改善，因为苏联政府在此事上不起任何作用。蒋介石在没有中间人的情况下完全可以与中共谈判”。
这样，蒋介石、陈立夫希望通过苏联来与中共接触的途径行不通了，只好另谋他途。
2．受命与延安接触
陈立夫不愧为蒋介石的干将，他很快为蒋介石找到了门路。
陈立夫兵分两路，同时着手与中共接触。
一路是在国外。1936年春，国民政府驻苏大使馆首席武官邓文仪，在蒋介石、陈立夫的指示下，与中共驻共产国际代表团负责人王明进行了接触，双方进行了多次的会谈。会谈约定，国共谈判以在国内进行为好。不久，中共方面指定潘汉年为联系人，与邓文仪会见，并派潘回国，与国民党代表继续谈判。
另一路则在国内，陈立夫把这任务交给了亲信曾养甫。
曾养市早年在上海曾协助陈果夫招兵买马，后为陈果夫所推荐、提拔，颇得二陈信任。此时，曾养甫任国民党中央执行委员会委员，铁道部政务次长。
曾养甫接受任务后，觉得很棘手。因为此事，蒋介石。陈立夫一再强调要秘密进行。如果为外人获知，曾养甫的前途就很难说了。而且，当时国民党仍指责共产党“祸国殃民”，欲尽除之而后快，国统区的共产党完全处于地下状态，平时特务想抓到一个普通的共产党员都很困难，现在去哪儿找共产党负责人呢？
困难很大，但曾养甫最终还是想出了办法。他想起了在他主持的浙赣铁路理事会担任秘书的湛小岑。湛当年曾参加过周恩来领导的觉悟社，与周还有私人关系。曾认为湛小岑一定与周恩来还有联系，通过湛能找到共产党。
其实，湛小岑那时已经与共产党、周恩来完全没有联系了。但湛通过与中共北平市委有联系的北平中国大学教授吕振羽，和中共北平市委宣传部长周小舟取得了联系，这样，经过许多曲折，陈立夫终于打通了与共产党的关系。
打通关系之后，双方开始了谈判，国民党这一方仍由陈立夫主持，曾养甫、湛小岑具体负责。
1936年5月中旬的一天，陈立夫来到曾养甫家，并让曾养市打电话找来湛小岑，准备给中共方面写信，表明国民党对国共双方再次合作的态度及办法。
陈立夫坐在宽大的沙发上，片刻沉思之后，便一字一字口述起来。湛小岑则伏在书桌上，奋笔疾书，将陈立夫的口述笔录下来，陈立夫提出了国共合作抗日的四项条件：
1．K方（指国民党）欢迎C方（指共产党）的武装队伍参加对日作战；
2．C方武装队伍参加对日作战时，与中央军同等待遇。
3．C方如有政治上的意见，可通过即将成立的民意机关提出，从中央选择；
4．C方可选择一地区试验其政治经济理想。
这4项条件由湛小岑抄写多份，从几个渠道传到了共产党人手中。
随后陈立夫又准备派曾养市到延安去，直接与毛泽东。周恩来会谈。还邀请周恩来或中共高层次代表赴南京商议具体问题。
这样，陈立夫从国内也打通了前往延安之路。
1936年9月，中共方面指派潘汉年作为同国民党谈判的代表，赶赴上海。潘汉年此次赴沪，随身携带了周恩来致陈果夫、陈立夫的信。