行孙中山手订的建国大纲中的五院制，颇为牵强。胡汉民此举，一是为了抵制汪精卫，二是为了实现其政治幻想。胡汉民设想蒋介石在平定天下后，将国家交给他治理。
胡汉民的老友邓泽如却不以为然，他认为蒋权谋奸诈性格不会变，在胡从国外回国赴宁途经香港时，邓以竹笼内装小黄雀相赠，其象征日后胡的下场也会如此。当时胡汉民在上海的一班办《再造》杂志的朋友，也联名写信向胡进言，劝胡不要赴京，还是作在野派领袖为好。然胡对官场甚为向往，根本听不进劝告。自古以来武人只能马上得天下，而文人才能治天下，汉高祖有叔孙通帮他订朝仪，现在北伐军已下南京，天下指日可定，天下定后，便该文人显身手了。
胡汉民在南京做立法院长期间，确实帮了蒋介石的大忙。胡汉民在国民党中地位高于蒋氏，因此，在国民党中有着很大的号召力。每当有倒蒋分子起来时，他总是引经据典，念念有词，攻击对方的行动是违背总理遗志，分裂国民党。蒋介石之所以能够在1929年兵不血刃占了武汉，击败桂系，把白崇禧赶回广西，尤其将李济深从广东骗到南京扣留，这和胡汉民及其密友古应芬大有关系。
在1929年3月15日召开的国民党第三次全国代表大会上，蒋、胡联手打击桂系，宣布开除李宗仁、白崇禧、李济深的党籍，并出兵讨伐，决定永远开除陈公博、甘乃光的党籍，开除顾孟余党籍三年，给汪精卫以书面警告。胡汉民帮蒋介石打桂扣桂扣李，中原大战蒋氏的胜利，改组派同西山会议派的合流的扩大会议倒台，胡汉民都功不可没。
但是，事情慢慢起了变化。当蒋介石在胡氏的支持下打败了各派的地方势力之后，其独裁专制日甚一日，并且还要准备通过召开国民会议制定一部确立总统制的训政约法，以实现其主宰一切的野心。对蒋介石要召集国民会议和制定约法的主张，胡汉民十分敏感。蒋介石要制定约法当总统，这就意味着蒋介石要从他的手里抢夺对党的控制权。而且从理论上讲，制定约法，召开国民会议和实施宪政选举总统，是属于宪政阶段的任务。而且，由独掌军权的蒋介石来说，只能是加紧约束他人，集大权于己一身。因此，胡汉民极力反对制定约法，更反对举行国民会议选举总统。
南京国民党的三届四中全会，是胡蒋斗争的第一回合。在国民党南京中央三届四中全会召开前夕，胡汉民发表文章指出：第三次全国代表大会，已经决定将孙中山的遗教定为国家的根本大法，无须再谈约法。可精明的蒋介石却不是把孙中山遗教搁开，而是高举“遵奉遗教”的旗帜，主张另定约法，以便自己问鼎总统的宝座。于是，胡蒋之间展开了一场表面为要不要再另加制定约法，实质权力之争的论战。
1930年11月12日，是孙中山的诞辰之日，这天，国民党三届四中全会于南京召开，蒋、胡对战的第一个回合也于此正式开始，时参加会议的有中执委、中监委共55人。胡汉民致开幕词，蒋介石发表了《告中央同志书》，并在会上提出了两项施政的基本主张，一是肃清“匪共”，二是召开国民会议。胡汉民见蒋介石立法之心不改，却毫不退让，并且大肆渲染蒋介石的独裁图谋。
蒋介石对胡汉民的言行大为光火，却碍于胡在党内的地位，对他又无可奈何。由于蒋、胡在约法问题上争论激烈，全会在通过召开国民议会上达成一致，而没有提出国民会议是否要制定约法。胡汉民于此取得了一个小小的胜利，对其他问题，也就大大地向蒋让步了。这样，蒋介石在三届四中全会上，成功地修改了国民政府组织法，从而提高了国民政府主席、行政院长的职权。原行政院院长谭延闿于22日病逝后，即由宋子文代理，会上，正式推举蒋介石兼任行政院院长职务。
当时，行政院为五院中权力最大的院，相当于内阁。在这次会议上于右任很是卖力从而接替赵戴文任监察院院长，深得蒋的信任和重用。蒋介石在这三届四中全会上，启用于右任，也就是看中了他与胡汉民的不和。
四中全会后，蒋介石积极筹备国民会议。1月20日，国民会议选举总事务所成立，以戴季陶为主任，孙科为副主任，负责国民会议的筹备工作。2月20日，国民会议选举总事务所电令各省市，限各省市务于4月20日前完成选举的各项准备工作，同时，陈果夫、陈立夫又往各地派员监督各地代表选举，收集各地选举动态，他的目的在于保证各地代表，由忠于蒋介石的人来担当。国民党中央常委开会，将全国划分为若干区，每区派中央委员一人，指导党部工作，所去之人实际上成了国民党中央的钦差大臣，事无巨细，无不干预。
蒋介石的这些频繁活动，胡汉民自然看得很清楚。蒋介石很明显违背了两人在四中全会上协议，而沿着个人的愿望一意孤行，胡再一次觉得当仁不让了，那些与蒋氏有隙之人，也都劝说胡出面，限制蒋氏的权力。当时在国民党内也只有胡能同蒋抗衡了，胡对自己的力量也曾仔细盘算，感到自己力量与蒋势均力敌。一是自己为国民党元老，系孙中山的同辈与助手，在国民党中具有显赫的地位，