1927年4月9日，上海市总工会委员长、工人纠察队总指挥汪寿华收到杜月笙派人送来的一份请贴，邀请汪寿华4月11日到杜公馆赴宴，有要事相商。汪寿华因为与青洪帮常打交道，认为“他们还讲义气”，就决定前去赴约。4月11日晚上8时许，汪寿华来到杜公馆后，一阵不祥的预感忽然涌上心头，杜月笙并没有出现。周围逼近的打手，目露杀气。汪寿华暗叫不妙，转身想走，已然来不及了。几个打手一拥而上，手法娴熟地将其打??在地，干净利索地装进一只麻袋，塞进汽车运到龙华郊区活埋。
紧接着，12日凌晨3点，杜月笙手下的青帮流氓配备了手枪，组成有特定攻击目标的分队，穿着有“工”字袖章的工人服装，乘车冲出青帮大本营法租界。同时，几百名白崇禧部队的士兵也同样伪装穿过公共租界，分赴闸北、南市、沪西等处，袭击了南市工人纠察队的驻地。二十六军周凤岐的部队在晚上已进驻靠近工人纠察队集结地和总工会总部的阵地，这时借维持秩序，调节冲突之名，将工人纠察队强行缴械。
当天中午，上海市总工会发动全市工人总罢工，游行示威抗议暴行。结果蒋介石的“国民革命军”开始向游行“国民”开枪，大屠杀开始了。两天之内，300名工人被杀，500人被捕，5000人“失踪”。随后，在南京、苏州、无锡、杭州、广东、常州等地发生大规模血腥镇压，大约25000名共产党人和左翼人士被屠杀。全中国的人都知道了，国民革命军总司令蒋介石公然背叛了国民革命。
消息传到武汉国民政府，立刻引发了一场政治大地震。武汉国民政府主席汪精卫以国民党中央的名义，宣布立刻解除蒋介石的一切职务，开除其国民党党籍，并下达通缉令，捉拿蒋介石。这时的武汉国民政府面临着一个重大战略抉择：要么继续北伐，消灭依然盘踞在黄河流域和华北、东北的北洋军阀；要么东征讨蒋，国民革命将面临分裂。
武汉政府下属的实力派军人们，比如唐生智、张发奎，大都与蒋介石存在派系矛盾，因而力主东征讨蒋，希望趁机除掉蒋介石，吞并中国最富庶的江?浙地区。而苏联的政治顾问鲍罗廷和中共领导人陈独秀、周恩来则主张继续北伐，待打倒北洋军阀后，再掉转枪口收拾蒋介石。
鲍罗廷认为：“我们现有的兵力不可能东进……?东进不仅将促使蒋介石与帝国主义乃至北方军阀公开结盟，而且我们将会被打倒和消灭。”【22】
鲍罗廷的顾虑是有道理的。
就军事形势而言，武汉政府处于四面楚歌的不利境地。北面是虽败未垮的直系军阀和实力依旧强劲的奉系军阀，东面最富庶的省份被蒋介石及其同盟桂系李宗仁的军队所占领，南面两广则是被桂系和亲蒋的李济深所把持，上述这些敌人都在磨刀霍霍，随时准备扑上来。而武汉政府统帅下的军队，大都是出于一些现实考虑才站在武汉政府一边，他们或是需要武汉政府的粮饷供给，或是因为与蒋存在派系矛盾和野心冲突，但事实上，他们大都认同蒋介石的反共“清党”，只要价钱谈拢，随时可以像蒋介石一样出卖革命。真正能够与武汉政府同呼吸、共命运的只有叶挺的一个师。
至于经?济形势，那就更加困难了。事实上，武汉方面也在争取上海金融界与工商界的支持。武汉国民政府曾于3月27日特派财政部长宋子文到上海，全权办理财政事宜，电令所有江?苏、浙江?两省财政均归其主持，凡一切税务及向中国商界银行筹款事宜，必须由财政部长统一管理。【23】宋子文于3月29日抵达上海，第二天即和蒋介石协?商统一江?浙财政事宜。然蒋介石已先一步和上海金融界与工商界建立关系。31日，国民革命军总司令部建立了“江?苏兼上海财政委员会”，由上海金融界大佬负责具体事务。结果，宋子文到上海后，工作竟一时无法展开。