。但陈炯明背离孙中山实属叛逆行径，毕竟名不正言不顺，所以粤军大为分化。
拥护孙中山的北伐军，由许崇智率领，继续东进，于10月12日攻克福州，孙中山即于17日将北伐军改组为东路讨贼军，以许崇智为总司令，蒋介石任司令部参谋长，随军出征。东路军计划取道闽南，直捣陈的老巢。由滇、桂、粤联合与西路讨贼军先行东下讨贼，12月份东路军平定福建，指向广州。西路军控制梧州，也向广州进军。
在此次北伐出师前，蒋介石壮志满怀，决心痛击贼军，为民除害，伸张正义。但是说归说，做归做，说做本是两码儿事，当蒋在东路讨贼军上一段时日后，对军队内部的勾心斗角，派系争斗，开始厌恶起来，并且越来越难以忍受，去意又起。
孙中山获悉后一阵惊愕，急忙回电，嘱托蒋介石无论如何困难必须完成任务，方可释肩，万勿轻去，以致债事，如果有阻力可随时与他联系。另外，廖仲恺也即刻助蒋解决，然而这种空头许诺并不能给蒋介石减轻多少心理障碍，蒋遂登船往沪。
到上海之后，见到孙中山，他也知道事情做得有点不太合体，就主动承认错误，为表歉意保证说：“任何工作都不敢违命，惟望准我不再回闽。”孙中山也顺水推舟，不加厉词，只是语重心长地奉劝几句，要“坚忍耐烦，劳怨不避”等诸如此类的话语。
1923年1月16日，陈炯明在东西两路讨贼军的联合攻击下，被迫放弃广州，逃往惠州。孙中山回广州续行大元帅职，正式成立大本营，随即任命蒋介石为大本营参谋长，蒋因治眼病不能前往广州，乃辞未就任。时值沈鸿英叛乱，孙致电于蒋：“已发表参谋长，军事枢机不可一日无人。”蒋奉孙急电，返抵广州。
此后几个月内，蒋介石始终伴随孙中山左右，参佐军务，要么与孙中山同室谋划，要么陪同孙中山赶赴前线，慰问将士，抑或是替代孙中山，与众将领共谋起兵大计，无论是在军事前线和战略后方，都能够看到蒋介石的身影。
在辅佐孙中山统领全军过程中，蒋介石出了不少行之有效的“好点子”。譬如：5月20日，讨贼军对陈炯明根据地——惠州发动攻击，但陈部出奇兵，迂回作战，将讨贼军包围起来，形势极为不妙，蒋介石献计，请孙中山亲督前线督战，以挽战局。并随同孙出发，形影不离，因此在攻克惠州之前的6月16日，孙特任蒋介石为大元帅行营参谋长。