长征时期，陈云在党内的地位是很高的，不过长征没走完，他就受中央委派返回白区工作了。
早在六届五中全会上，他就当选政治局常委。长征途中，一直保留着常委的身份。遵义会议后，政治局五大常委是张闻天（洛甫）、周恩来、毛泽东、博古（秦邦宪）、陈云。陈云还担任中央组织部长和白区工作部长。
1935年5月31日，泸定会议召开。会议定下两大决断：一、红军即刻北上，翻越夹金山，奔赴川西与红四方面军会师；二、委派陈云秘密出川，奔赴上海，恢复白区工作，打通与共产国际的联络线。
早在遵义会议之后，中央已经先行派出潘汉年单独启程，先赴上海探查情况。
泸定会议后，陈云并没有马上动身。6月上旬，红军行至宝兴灵关殿，前方就是寒气逼人的夹金山，陈云在此悄悄告别长征队伍。在地下党员席懋昭护送下，他化装成远行客商，怀揣刘伯承亲笔开具的介绍信，穿行在军警关卡密布的川中腹地，经荥经、雅安、成都抵达重庆，随后搭乘江轮顺流东下，于7月抵达上海。
彼时上海白色恐怖达到顶峰，上海中央局接连三次遭受重创，残存力量艰难支撑，由刘仲华任书记、浦化人等负责日常工作的上海临时中央局勉力维系。陈云几经辗转，先和上海临时中央局负责人浦化人接上关系，摸清地下组织残破的实情，不久又与先期抵达、一度避居香港的潘汉年会合，一同联络幸存的地下力量，对接共产国际代表团。严峻的环境让他们根本无法长久立足，共产国际代表团很快指示二人转赴莫斯科。在地下交通周密安排下，陈云、潘汉年先后登上苏联货轮，取道海参崴，再沿西伯利亚大铁路西行，于9月上旬陆续抵达莫斯科。
抵达莫斯科后，陈云向共产国际执委会书记处作长篇报告，完整讲述长征历程、遵义会议的原委与新的中央的方针，让远在苏联的共产国际第一次清楚了解中国革命的最新局面。等候动身的间隙，他以 “廉臣” 为化名写下《随军西行见闻录》，这也是世界上最早系统向外界介绍长征的纪实文字。
1937年4月下旬，陈云从莫斯科抵达迪化，先在新疆担任八路军驻新疆办事处党代表，核心任务是接应、安置西路军左支队余部，组织 “新兵营” 学习航空、装甲等技术。
1937年1月29日，陈云和王明、康生一起从迪化飞回延安。
回到延安之后，在十二月政治局会议上，增补为中央书记处书记（当时书记处即常委），兼任中央组织部部长，此后长期主持党的组织工作。