1920年2月上旬，陈独秀在武汉的演讲，引起北京政府的愤怒，限期要警察署交人，陈准备离京避祸。因为李大钊是河北乐亭人，讲北方话，很像生意人，所以李自愿提出护送陈从公路走。两人雇了一辆骡车，陈独秀坐在骡车里面，头戴毡帽，身穿王星拱家厨师的一件背心，油迹满衣，光着发亮。李大钊跨坐在车把上，携带几本账簿，印成店家红纸片子。二人星夜出了朝阳门，直奔天津。沿途住店一切交涉，都由李出面办理，陈不开口，以免漏出南方人的口音。到达天津后，李将陈送上火车，方才返回北京。他们在途中曾夜宿在一个山村，李大钊写信给蒋梦麟讲述这夜的情形说：“夜寂人静，青灯如豆。”

陈独秀来到上海，参加了陈望道翻译的《共产党宣言》的校译工作。张国焘回忆，此时陈独秀在会见北京学生联合会代表时，言谈中已经开始宣传马克思，并表示中国必须走俄国革命的道路。

罗素主张中国不必提倡社会主义，陈独秀认为罗素是在误中国人，于是写信给罗素说：“倘是别人弄错了，你最好是声明一下，免得贻误中国人，并免得进步的中国人对你失望。”

1920年4月，共产国际代表维经斯基（伍廷康）经李大钊介绍，到上海拜访陈独秀，二人一见如故。在维经斯基的建议下，陈独秀开始筹备建党。

陈独秀在上海筹建共产党后，北大学生、无政府主义者朱谦之写信给他说：“吾为人民之自由起见，与先生誓不两立。”

维经斯基最初对戴季陶很是青睐，他希望陈独秀和戴季陶、张东荪为首发起组织中国共产党。孙中山得悉后，将戴大骂一通。起草党纲时，戴看到“党员不做资产阶级的官吏，不加入资产阶级的政治团体”时，说：“我和孙文关系非同一般，这一条，弟断不敢接受。”于是戴季陶没有加入，中途退出。据张国焘回忆，戴当场还哭了，表示说其实他内心真的信仰共产主义。

不久，林伯渠带着李大钊的推荐信拜访陈独秀。李大钊在信中说，祖涵是老同盟会员，现在是孙中山大元帅府参议，愿意加入C.P（共产党），希望陈独秀和他本人作林的入党介绍人。陈独秀非常高兴，但吸取戴季陶的教训，建议林作为秘密党员加入中国共产党。于是，林伯渠便秘密加入了中国共产党。

1921年7月，中国共产党第一次代表大会在上海召开，在广州任教育部长的陈独秀因忙于筹措广东大学预科校舍经费而没有参加，代表们最后推举张国焘主持会议。陈独秀写信给张国焘，对会议提出了4点意见。会议开到7月30日晚，因发生包打听闯入的意外事件中断，第二日移往浙江嘉兴南湖。

“一大”结束后，共产国际代表马林嘱包惠僧回广州请陈独秀到上海。他认为，陈独秀既然是中央局书记，就要回到上海，负起责任来，而且“还没有一个国家的共产党领导人，在资产阶级政府里做官”。8月17日，陈独秀以胃病严重需回上海养病为由，向正在桂林指挥粤军与陆荣廷作战的陈炯明提出辞职，陈炯明未准。陈独秀先斩后奏，径自离开。