省委書記張太雷來到葉挺家里,告知中央批準了廣州起義計劃,決定12月13日舉行廣州起義,葉挺擔任起義總指揮、工農紅軍總司令。葉挺雖對起義心存疑義,但仍堅決地接受了任務。1927年12月11日凌晨,廣州起義提前舉行。兵力空虛的張發奎部隊很快被起義部隊消滅,起義軍天亮時占領了全城。葉挺和張太雷等領導人來到廣州市公安局,宣布廣州蘇維埃政府成立。葉挺在會上作軍事報告,并下令整編各起義部隊為工農紅軍。張發奎等軍閥在帝國主義軍艦支持下反攻廣州,形勢危急,葉挺建議起義部隊撤離廣州到農村建立根據地,受到諾伊曼等人嚴厲斥責。12日下午,張太雷在指揮戰斗時不幸犧牲,葉挺接替總指揮重任,堅持與敵人激戰。敵眾我寡,廣州起義終告失敗,敵人攻占廣州城,葉挺化裝潛回香港隱蔽。
1928年1月1日至5日,中央代表李立三在香港主持召開省委擴大會議,清算廣州起義領導人錯誤。葉挺受到“留黨查看六個月”的處分,雖然中央很快糾正了李的錯誤決定,但葉挺的自尊心仍受到了極大傷害。1928年春節后,為躲避敵人追捕,排遣胸中郁悶,葉挺到新加坡等地,受到華僑熱烈歡迎,也引起敵人的注意。黨的六大即將召開前夕,葉挺在周恩來幫助下去莫斯科申訴。