中全会已决定，他们4人等候第三次全国代表大会表决他们的委员资格。
汪精卫出国后，在国内的汪派人物陈公博等人，于1928年初纷纷到上海，以法租界为基地，进行反蒋活动。1928年5月间，陈公博在《革命评论》杂志上首先提出“改组国民党”的口号。11月28日，“中国国民党改组同志会”在上海成立，人们熟识的“改组派”，就是这个组织的别名。它的领导骨干是国民党二届中央执行委员和监察委员中的汪派分子，陈公博、顾孟余、王法勤、王乐平、白云梯、朱霁青、潘云超、郭春涛等。用陈公博的话说：改组同志会的上级机关是所谓“粤方委员”，改组派以陈公博的改组国民党主张为纲领。
很显然，改组派的主张和活动是以反蒋反南京政府为目的的。其第一次代表大会宣言中分析南京国民党性质时说：今日国民党已被军阀、官僚、政客、买办、劣绅、土豪所侵蚀、把持。我们要继续革命，必须重新整饬担任革命使命的中国国民党大本营，必须反对南京的反动中央和最近的第三次代表大会。
改组派主张必须恢复1924年改组精神，即重新改组中国国民党，奉行孙中山的三民主义，继承第一、二次全国代表大会的纲领，恢复农工政策，确定农工小资产阶级的联合战线，努力铲除一切新旧军阀，反对帝国主义。
改组派的主要活动是创办刊物，宣传他们的政治主张。如陈公博主编的《革命评论》、顾孟余主编的《前进》、刘叔模主编的《呼声》、赵惠谟的《夹攻》、章乃器主编的《新评论》，以及上海的《灯塔》、天津的《暖流》、巴黎的《国民》等。
面对改组派的咄咄攻势，蒋介石十分恼火。1928年，乘胡汉民从国外回来之机，蒋介石利用胡汉民与汪精卫一争高低，于是与胡重新合作，采取各种措施，镇压改组派。
1928年7、8月间，蒋介石授意上海军警书面警告《革命评论》不得再印刷，并指使特务袭击、破坏代销该刊的书店、书摊，毒打报贩。1929年，国民党中央将查禁改组派刊物列为重点工作，24种改组派报刊和其他反蒋报刊，先后被取缔，接着又将海外的一些改组派报刊相继列人取缔之列。
改组派活动的高潮是反对国民党的三大。1929年3月，在南京召开国民党第三次全国代表大会，会前产生的406名代表，由蒋介石指派的达221，圈定者122人，这种包办大会的做法，激起了国民党内许多派系的反对，汪精卫、陈公博在上海发表《关于最近党务之宣言》，公开煽动南京等地的国民党员发动请愿，不少地方党部进行抵制，并拒绝出席。
3月14日，即“三全”大会正式开幕的前一天，在南京夫子庙贡院礼堂召开南京市党员代表大会时，改组派在会上大肆活动。蒋介石派出他的特务和宪兵，到会场大打出手，大会代表7人被捕，多人受伤，这就是“三一四”事件。此后，改组派在南京不能立足，转移到上海，在法租界霞飞坊314号设立了联络点，建立外围组织“中国国民党各省市党部、海外总支部联合办事处”，集合了20多个反对国民党第三次全国代表大会的省市党部、海外总支部，继续进行反对蒋介石的斗争。
本来蒋介石得知改组派要反对“三全”大会后，便派邵力子到上海同改组派总部领导人疏通、许诺：如果改组派肯保持缄默，可以保证他们当选为中央委员，但是改组派没有接受这个交换条件。
1929年3月19日，蒋介石控制的三全大会决定永远开除陈公博、甘乃光党籍，开除顾孟余党籍3年，给汪精卫书面警告。10月，国民党中常会以“勾结军阀余孽”、“颠覆党国”等罪名，议决将陈公博、王法勤、顾孟余等10人，交国民政府明令缉拿，对其中有党籍者，送交中监委议处。国民政府正式下达了通缉令，国民党中央监委召开常会，议决将王法勤、柏文蔚、朱霁青、白云梯、王乐平、顾孟余、陈树人、潘云超、郭春涛等9人永远开除出党。12月，国民党中常会又以“叛党祸国”开除了汪精卫党籍。至此，蒋介石通过组织措施和行政手段把改组派的头面人物都开除出党和通缉在案了。
与此同时，1929年4、5月问，蒋介石联络上海公共租界总巡捕房，两次派人闯入大陆大学搜查，继以“共产机关”之名强行查封该校。11月，蒋介石用国民政府名义发出训令，以“破坏党国，影响颇巨”之罪名，严令上海军政机关，封禁上海改组派总机关。为打击各改组派一般成员，蒋介石一方面采取封官许愿方法，拉拢收买他们，一方面利用军警机关，用绑票、跟踪等手段在上海、北京、天津、河南、四川、广西、绥远等地先后拘捕改组派成员数十人，并以各种罪名，给予撤职、查办、开除党籍、通缉。对海外的改组派成员，则分别采取停止留学凭照，取消学籍和官费，停职或取消护照等方式进行了查处。在蒋介石的打击和破坏下，汪精卫的改组派趋于土崩瓦解。
在改组派的活动受到蒋介石的压制后，陈公博前往巴黎见汪精卫。陈公博在巴黎和汪精卫决定下一步计划，概括而