经过一段积极筹备和艰苦工作，这年8月的一天，上海共产主义者在陈独秀住处召开会议，决定发起建党。经过大家的热烈讨论，一致推举陈独秀担任党的书记。
这个小组，实际上是建立中国共产党的发起组。
上海发起组织成立后，陈独秀约李大钊在北京组织；通过国民党人、山东省议会秘书长、曾经销《新青年》的王乐平，经常去购阅《新青年》的王尽美和邓恩铭在济南组织；约毛泽东在长沙组织；武汉组织除陈独秀派刘伯垂去外，李汉俊也去做了工作。这样上海的组织事实上成了一个总部，各地组织是支部。组织名称开始叫“社会党”，陈独秀致函李大钊和张申府，询问叫社会党、还是共产党？李、张商量后明确回答：“共产国际的意思是就叫‘共产党’。”
“好！叫共产党就叫共产党！旗帜鲜明，中国要走俄国革命道路！”陈独秀接到李大钊复信后，高兴地说。
8月底，来上海躲避北京反动势力麻烦的张国焘，在陈独秀家里住了近一个月，由沪返回北京。陈独秀要他将上海的建党意见转告李大钊，即“上海小组将负责苏、皖、浙等省的组织和发展”，希望李大钊“从速在北方发动，先组织北京小组，再向山东、山西、河南等省和天津、唐山等城市发展”。李大钊听了张国焘的转达意见后，略经考虑，即无保留的表示赞成，认为上海所拟要点都是切实可行的，在北京可以依照着发动起来。从此，南陈北李高举大旗，携手创建中国共产党，共写“开天辟地”的雄文。
陈独秀在筹建共产党时，如饥似渴地阅读马克思主义著作。但著作的中文译本太缺乏了，为此在1920年初他亲自抓马克思主义著作翻译工作，他委托恽代英翻译考茨基的早期著作《阶级斗争》。李汉俊翻译了介绍马克思经济学说的《马克思资本论入门》一书，11日，又出版了新青年丛书第一种，即李季海的克卡林《社会主义史》。这些著作，对宣传马克思主义，对创建中国共产党以及对于共产党员及青年团员确定马克思主义的信仰、树立共产主义世界观，起了极大的作用。后来，毛泽东同斯诺谈话时，还谈到当时“有3本书特别深地铭刻在我的心中，建立起对于马克思主义的信仰”。这3本书就是《共产党宣言》、《阶级斗争》和《社会主义史》。
与此同时创办《共产党》月刊，这是上海发起组在中国树立起的第一面大旗，由李达任主编，动员沈雁冰等为商务印书馆写稿，稿费全部作为党费，用于编辑《共产党》，使其日益成为各地共产主义者的必读教材；又将《新青年》改为发起组机关刊物，全面介绍苏联现状，澄清了人们对苏俄的误解和谣传，揭露了诬蔑社会主义革命的无耻谰言，起了旗帜作用。
1920年12月底，陈独秀应陈炯明的邀请到广州任广东省教育委员会委员长兼大学预科校长，到职之前曾写信给李大钊商量是否应去广州。李大钊复信认为：“领导广州教育工作，可以将新文化和社会主义思潮广泛带到广东去。可以在那里发展共产主义小组。”
陈独秀临去广州前，对上海方面作了安排，决定由李汉俊代理上海发起组书记，并约李达深谈了一次。
傍晚时分，二人步到黄浦江畔，寻一个僻静之处坐下来。
陈独秀掖了掖灰色围巾，仰脸面向暮色朦胧的天空，陷入沉思。
“鹤鸣，”陈独秀半天才沉吟道，“上海的局面刚刚打开，我本不应该走。但考虑到广东三番五次邀我南下，一再推却，恐不太好。前不久，守常来信，说及北京党小组的工作形势很好，发展很快。润之、玉衡等收到我的去信，在长沙已建立了小组，而且工作出色。汉俊已写信给董必武，我也委托刘伯垂去武汉建党。济南的瑞俊、恩明也正着手准备。现在广东还是个薄弱环节，我想趁这次机会，在那建立组织。我已和陈公博、谭植棠取得联络，待我到达后，再与他们具体协商。”
陈独秀见李达聆听不语，将脸庞向他靠得更近，压低声音道：“根据目前上海的情况，不仅要积极开展党的工作，发展新生力量，而且还要坚决回击基尔特社会主义、无政府主义以及第二国际的修正主义，继续肃清他们的余毒。这一重任，非你莫属。希望你克服一切困难将《共产党》办好，把守住这块阵地，进一步扩大马克思主义在全国的影响。”
李达认真地点了点头。
一对绵绵情侣从他们面前依偎走过。陈独秀忙将话题转向别处。他发现李达衣衫单薄，直打寒噤，便欲将自己的大衣脱下给他。李达连忙拉住：“我不冷。”
陈独秀再次深情地望着自己年轻的朋友，心里油然生出几分快意。几个月来，他们朝夕相处，在共同奋斗中更加深了相互的了解。李达那渊博精深的知识、坚定不移的信念、吃苦耐劳的精神、不屈不挠的斗志、光明磊落的胸襟和敢于直面屠刀的胆略，已深深取得了陈独秀的信赖和尊重。他望着他，两颗心贴得更紧。待陈独秀环视四周发现无人后，说：“鹤鸣，上海小组书记决定由李汉俊代理。汉俊确实理论出类拔萃，工作成绩卓著，但他对无产阶级缺乏深刻的认识，对无产阶级革命缺乏充分的思想准备，而且又固执己见，有时难免做群众的尾巴。所以，我对他还是放心不下。”
陈独秀的话，使李达为之一震，几个月来，虽然他发现陈独秀和李汉俊之间有时意见存在很大分歧，但从陈独秀的话中已听出，他对李汉俊已有了成见。这在党的初创阶段真是一种潜在的危险。当然，陈独秀由于在五四运动中的突出成就，已对全国知识分子尤其是青年知识分子产生巨大影响。他的形象就是党的形象，他的得失就是党的得失，人们已不自觉地将他看成中国革命的舵手。但是，李达也深知，在宣传马克思主义和建党过程中，陈独秀也暴露出一些违背马克思主义的观点，如不及时纠正，也许会给中国革命带来意想不到的危害。作为一名马克思主义理论家，李达的责任感和使命感鼓舞了他的勇气。他望着显然有些激动的陈独秀，言真意切地说：“仲甫兄，谈及这个问题我还想说几句。虽然汉俊在有些理论问题上不无偏颇，但您对群众的力量，也要有足够的估计。我认为，在这方面，长沙的毛润之见地极当。他……”
“好了，”陈独秀打断了李达的话，有些不耐烦地说，“我们暂且不谈这个。不过，鹤鸣，要知道群众心理都是盲目的……”陈独秀抬腕看看表：“走吧，天不早了。”
李达听到的是黄浦江的涛声，同时，感到了波涛下面的暗流。两人一路上再也没说什么……
陈独秀风尘仆仆的到达广州后，住在大东酒店，不久即迁居在泰康路附近的回龙里九曲巷11号3层楼房的第2层，自喻雅号为“看云楼”——“看云楼”里看广州风云。当时广州无政府主义思潮泛滥，陈独秀奋起批判和斗争。在他的直接领导下，1921年春，成立了广东支部，党员有陈独秀、谭平山、陈公博、谭植棠，陈独秀为书记。在成立支部时，陈独秀还特地指出，不能让无政府主义者参加，共产党组织内部的情况也不能给他们知道，广东支部的成立，给了无政府主义者当头一棒。
李达、李汉俊等函电交驰，屡催陈独秀及广东代表赴沪参加“一大”。此时，陈独秀因兼预科大学校长，正在急取一笔款子修建校舍，如果他不在，此事就不好办。于是，他在谭植棠家召集广东党员开会，他首先表示不能赴沪，特指派陈公博和包惠僧出席“一大”。
陈独秀因事不能赴沪参加“一大”会议，令“一大”与会代表无不感到遗憾，然而，他对建党及“一大”召开十分关心。早在1921年2月，他亲自起草了一个党章寄到上海，主张党的组织采取中央集权制，李汉俊看后甚为不满，说陈独秀“要党员拥护他个人独裁。”
李汉俊写信给陈独秀，并起草了另一个党章，主张地方分权，中央只不过是一个有职无权的机关。陈独秀看了李汉俊这个草案大发雷霆，满肚子的不高兴，拿起笔来又复信上海，说“上海的党员反对他”，信中还罗列了李汉俊条条错误，指责他在代理书记期间工作不力，立场不坚定。最后奉劝李达要明辨是非，按照他制定的原则进行党的组建工作，决不能和李汉俊搞在一起。
李达放下信笺，心情愈发沉重。李达和李汉俊是多年的老友，相似的奋斗经历，使他们在共同的理想道路上，紧密联系在一起。李达忘不了，李汉俊积极宣传马克思主义、热烈欢呼十月革命的满腔革命热忱；忘不了，两人携手奋战，共同对付基尔特社会主义的那些日夜；忘不了，当德文程度不高的他在翻译《唯物史观》遇到困难时，李汉俊所给予的大力帮助；更忘不了，李汉俊对党的一个突出贡献，就是把董必武这样一个前清秀才，几经周折后终于引上革命道路。李汉俊和陈独秀同样在共产主义运动中享有盛名，如果二人龙虎相争，势必两败俱伤，给刚刚兴起的党的事业带来巨大损失。
他清楚自己必须想方设法去阻止党内产生使亲者痛、仇者快，甚至自毁长城的内讧，尤其是在党的组建刚刚开始，各方面都还不稳固、不成熟的关键时刻不能逞一时之勇，搞党内分裂。因此，李达一面力劝李汉俊正确对待同志间意见分歧，一面写信给陈独秀，谨慎地指出他某些错误，希望他以大局为重，原则性问题不要感情冲动，枝节问题可作出让步，以维护同志团结。李达斡旋于陈、李之间，极力弥合他们之间的裂痕，只盼能摒弃前嫌，重归于好。
但一波未平，一波又起。《共产党》周刊因经费奇缺无法办下去，李汉俊写信给陈独秀，要他从《新青年》每月一百多元的收入中，挤出一点垫给《共产党》。而陈独秀却认为《新青年》是他自家花圃，《共产党》现由李汉俊主管，趁机给李汉俊施加压力，不肯出钱。
李汉俊被彻底惹怒了。他不仅撇下《共产党》不管，而且将党内名册和文件一古脑交出，死活不肯再担任代理书记，并愤然声称：“我要和陈独秀决裂！”
群龙无首。面对已经发展的革命形势，难道能让建党工作因此而中途搁浅？在这紧要关头，上海党组织召开临时会议，在李汉俊极力举荐下，决定要李达代理书记。陈独秀也来信表示同意。李达出于对共产主义事业的坚定信念，出于对党的前途命运的长远考虑，毅然承担起这一重任。
从此，李达的担子更加繁重。他对党内每一项工作事必躬亲，一丝不苟，上海共产主义小组在李达领导下，不仅没有涣散，而且更加团结和坚强。
鉴于此次风波，陈独秀在陈公博、包惠僧临行赴沪时，又写了致“一大”代表的信及向大会提出关于党组织与政策的四点意见，要求大会在讨论党纲、党章时予以注意：
“一曰培植党员，二曰民权主义指导，三曰纪纲，四曰慎重进行征服群众政权问题。”
与此同时，毛泽东也从研究俄国十月革命的经验中，意识到建立一个列宁式的布尔什维克党的重要性。他在1920年9月5日发表在湖南《大公报》上的一篇文章中说，俄国革命所以能成功，在于“列宁之以百万党员，建平民革命的空前大业，扫荡反革命党，洗刷上中阶级，有主义，有时机，有预备，有真正可靠的党众，一呼而起，俄国革命的成功，全在这些处所。”
毛泽东接到蔡和森从巴黎来的信，看后十分高兴，对信中提出的用俄式的方法组织共产党，实行无产阶级专政的主张表示深切的赞同。他在1921年1月21日的复信中说：你的信“见地极当，我没有一个字不赞成”。并说：“唯物史观是吾党哲学的根据，这是事实，不象唯理观之不能证实而容易被人动摇。”信中向蔡和森传递了国内有关建党活动的信息说：“党一层，陈仲甫等已在进行组织。出版物一层，上海出的《共产党》，你处谅可得到。颇不愧‘旗帜鲜明’四字”。
发起组织长沙中韩互助社，是长沙共产主义小组成立后的又一项重大活动。1921年3月14日，毛泽东、何叔衡、贺民范等28人发起组织长沙中韩互助社，目的是为了支持朝鲜人民反对日本帝国主义侵略，争取民族独立的斗争。毛泽东担任了中韩互助社通信部中方主任，何叔衡任宣传部中方主任，贺民范任经济部中方主任。社址设在船山学社。
