陈廉伯闻讯大怒，于8月12日指示全市商店总罢市，要挟蒋介石立即释放哈佛号，并发还军械。14日，陈廉伯出动两千多名团丁围攻孙中山大元帅府，蓄意扩大事态。
后经查明，哈佛号只是被租来的商船，因此从船上扣押的物品，除武器之外，其余货品，如洋钉、香料等非违禁品，革命政府按国际法于18日发还，并将哈佛号释放。
但陈廉伯并不就此善罢甘休，跟着又策划了商人罢市。8月18日，银行业罢市。19日，孙中山派代表携亲笔信到商团总部，揭发陈廉伯企图利用商团“颠覆政府”的阴谋，劝告商团不要附和叛逆，听信谣言，以免铸成大错。但商团成员不听劝告，一意孤行。20日，廖仲恺下令通缉陈廉伯，以达杀鸡儆猴的目的。
陈廉伯立即向英帝国主义寻求庇护。28日，英国派出9艘军舰，集中广州白鹅潭水域，公开进行恫吓。孙中山于是向英国麦克唐纳政府提出强烈抗议，事态暂时得以缓和。
在此时，江浙战争正在进行，第二次奉直战争也即将爆发。早在1920年，孙中山就与奉系军阀张作霖和浙江的皖系军阀卢永祥结成了反直三角大同盟。孙中山迫于广州处境的困难，准备乘此机会将大本营由广州移往韶关，决心“宁弃广州为破釜沉舟之北伐”，把商团事件交给胡汉民、汪精卫处理。9月16日，第二次直奉战争爆发，孙中山即于18日发表宣言，宣布第二次北伐。10月9日，孙中山考虑到黄埔军校和蒋介石的安全，特于韶关前线密电蒋介石，要蒋弃黄埔于不顾。
但是，蒋介石对形势却有自己的估计，认为此时不宜北伐，广州是革命根据地，辛辛苦苦才得以建立，不应轻易放弃，建议孙中山回师广州，坚决镇压叛乱。
10月7日，苏联援助的一船军械运抵广州，其中有山炮、野炮、轻重机枪及弹药。孙中山从韶关电告蒋介石，命由蒋全权处理，蒋迅即将其发放给黄埔师生，解决了黄埔学生军的枪械困难。
此时，商团方面趁孙中山督师北上、广州军力单薄之时，再度兴风作浪。10月9日，商团煽动了全省第二次大规模的总罢市，代理大元帅胡汉民仍然坚持妥协立场，与商团交涉，答应翌日以20万元作为交换条件，发还商团枪械四千支。
10月10日，刚好是“双十节”，军校举行庆祝典礼，由总教官何应钦担任指挥，在小雨中举行了阅兵式。下午，军校学生和广州各界代表共五千人在市区游行，欢庆节日。3时左右，当游行队伍经过省河河岸的西壕时，商团人员突然向游行队伍开枪，军校学生当场死亡20多人，群众死伤无数。商团团丁还将死者胸腹剖开，挖出心脏肚肠示众，极尽酷虐之能事。
11日，他们筑起炮台，封锁市区，遍贴“驱逐孙文”、“打倒孙政府”等反动标语，对政府公然诬蔑攻击，并号召全市商人罢市，在市区出动商团武装部队，大有与广州政府一争雌雄之势。
蒋介石连连向韶关大本营告急，在密电中提出“严办商团”的主张，并再三电请孙中山回师平乱：“中正料不久逆敌必来反攻韶关。各军非先准备南下，击灭逆敌，断难北伐。中正当死守长洲，尽我职务。尚请先生临机立断，勿再以北伐为可能，而致犹豫延误。”
至13日，广州已危在旦夕，孙中山在国民党左派和中国共产党的支持下，终于下定决心回师平叛，即令吴铁城率警卫军自韶关急速回省，汀军三千人也开拨回来。14日，孙中山下达手令，委蒋介石以平定商团之全权：“兹为应付广州临时事变，未平定期内，所有黄博陆军军官学校、飞机队、甲车队、工团军、农民自卫军、陆军讲武学校滇军干部学校、兵工厂卫队、警卫军统归蒋中正指挥，以廖仲恺为监察，谭平山副之。”
蒋介石任此要职，将军校日常事务托付给切列潘诺夫之后，密令军校第二、三队学生400余人，全副武装奔赴广州市，佯作夜间演习，转知市民毋须惊慌。
傍晚7时。正是日暮时分，黄埔学生离开黄埔岛，在广州东堤军校办事处码头登陆。时正值大雨如注，永汉路积水二三寸。这两支学生队军容严肃，气宇轩昂，虽行军于滂沱大雨之中，却步伐齐整，行阵不乱。永汉路两旁商店里的人都在门内观看，莫不啧啧称羡。
学生队在省政府休息待命，直到深夜开始“演习”时，忽闻长官口头宣布命令：围剿商团叛乱！
是时，商团派出大批部队，政府军则先声夺人，将其切断，然后采取一一围歼战术。当晚，黄埔学生军奉命包围了市区西关，并与商团发生了一些小战斗。15日凌晨4时，蒋介石令政府军各处同时发起反攻。顿时大街小巷枪声大作，被分割包围的商团部队立即一败涂地，多数投降。商团的抵抗，只不过半天便偃旗息鼓。陈廉伯见大势已去，即逃往沙面租界，由英国人护送潜往香港。
战斗过程中，陈赓在学生军中编在由14人组成的机枪队里。他们在追击商团军时，抓到了一个小头目，并缴获了他一把漂亮的军刀。
是时，蒋介石到来慰军，陈赓见校