省委書記張?zhí)讈淼饺~挺家里，告知中央批準了廣州起義計劃，決定12月13日舉行廣州起義，葉挺擔任起義總指揮、工農(nóng)紅軍總司令。葉挺雖對起義心存疑義，但仍堅決地接受了任務(wù)。1927年12月11日凌晨，廣州起義提前舉行。兵力空虛的張發(fā)奎部隊很快被起義部隊消滅，起義軍天亮時占領(lǐng)了全城。葉挺和張?zhí)椎阮I(lǐng)導人來到廣州市公安局，宣布廣州蘇維埃政府成立。葉挺在會上作軍事報告，并下令整編各起義部隊為工農(nóng)紅軍。張發(fā)奎等軍閥在帝國主義軍艦支持下反攻廣州，形勢危急，葉挺建議起義部隊撤離廣州到農(nóng)村建立根據(jù)地，受到諾伊曼等人嚴厲斥責。12日下午，張?zhí)自谥笓]戰(zhàn)斗時不幸犧牲，葉挺接替總指揮重任，堅持與敵人激戰(zhàn)。敵眾我寡，廣州起義終告失敗，敵人攻占廣州城，葉挺化裝潛回香港隱蔽。
1928年1月1日至5日，中央代表李立三在香港主持召開省委擴大會議，清算廣州起義領(lǐng)導人錯誤。葉挺受到“留黨查看六個月”的處分，雖然中央很快糾正了李的錯誤決定，但葉挺的自尊心仍受到了極大傷害。1928年春節(jié)后，為躲避敵人追捕，排遣胸中郁悶，葉挺到新加坡等地，受到華僑熱烈歡迎，也引起敵人的注意。黨的六大即將召開前夕，葉挺在周恩來幫助下去莫斯科申訴。
葉挺來到莫斯科，認真地向黨中央和共產(chǎn)國際寫了關(guān)于廣州起義的報告，申訴了自己的觀點，卻石沉大海無消息。他找到共產(chǎn)國際東方部，巧遇中央委員項英同志，卻遭到王明冷遇。王明還說了許多傷害同志的尖刻話，葉挺無法容忍，震怒之下離開了莫斯科，脫離了黨的關(guān)系，到歐洲等地流亡。
葉挺只身流亡到德國首都柏林，經(jīng)濟日趨窘迫，開始隱姓埋名做工糊口。他包過留學生伙食，賣過水果和豆腐，開過飯館，甚至揀過剩菜葉，飽嘗了生活的辛酸，也更堅定了革命意志。他研究德國的政治、軍事、經(jīng)濟、文化，秘密進行了多項軍事化學實驗，并取得了實質(zhì)性的進展。他時刻關(guān)注國內(nèi)革命斗爭的動向，通過與周恩來、宋慶齡、廖承志、鄧演達等人的來往，革命熱情日益高漲，恨不能立刻回國去參加革命斗爭，投身到武裝革命的洪流中去。
1931年“九一八事變”爆發(fā)后，葉挺再也不能平靜了，通過各種途徑關(guān)注國內(nèi)局勢，為祖國前途和命運深深擔憂。1932年秋，葉挺舉家返回澳門。國民黨方面陳濟棠、陳誠、余漢謀等多次對他拉攏利誘，葉挺心胸坦蕩，予以堅決回絕。葉挺意外地見到了中共中央軍委派駐十九路軍的軍事代表張云逸，使他看到了光明和希望。
不久，周恩來看望葉挺，兩位生死戰(zhàn)友重逢，都流下激動的熱淚。周恩來希望葉挺出面參與改編南方八省紅軍游擊隊為國軍的工作，葉挺欣然接受使命。
1937年8月底，葉挺在戰(zhàn)場指揮所找到陳誠，提出參與改編南方八省紅軍游擊隊為國民革命軍新編第四軍的愿望，陳誠答應向蔣介石報批。1937年9月28日，未經(jīng)中共同意，國民政府軍委會銓敘廳宣布“經(jīng)委員長核定，任命葉挺為新編第四軍軍長”。中共中央措手不及，通過周恩來邀請葉挺去延安面晤。
葉挺途經(jīng)西安等地輾轉(zhuǎn)來到延安，受到中共中央及延安軍民的熱烈歡迎。毛澤東在窯洞門外迎接葉挺，稱贊“你是我們共產(chǎn)黨第一任總司令，人民軍隊的戰(zhàn)史要從你寫起！”給予葉挺極大的鼓舞。次日，中共中央在抗大禮堂開會歡迎葉挺軍長，毛澤東和葉挺都講了話，延安之行成功圓滿。