遼沈戰役前夕，中共北平地下黨員陳建不幸被國民黨保密局的特務抓到，陳建禁不起嚴刑拷打，把潛伏在北平的共產黨員全部招供，其中就有警察局的鄭朝陽，北平站行動科科長萬林生立刻下令按照名單去抓人，他帶人趕往警察局，得知鄭朝陽下班回家了，萬林生派人搜查鄭朝陽的辦公室，讓局長帶路去鄭家抓人，局長讓三兒去喊值班的警察宗向方，可他卻借口有事剛回家，其實，宗向方去給鄭朝陽報信，他搶了一輛騎自行車繞小路趕往鄭家，翻墻頭進去通知鄭朝陽趕快逃走。
鄭朝陽趕忙燒掉重要文件和資料，也跳墻離開，結果不小心掉了一只鞋，萬林生帶人闖進鄭家，把里里外外搜了一遍，在后院發現鄭朝陽遺落的鞋子，萬林生斷定警察局里有同伙向鄭朝陽報信，他立刻下令封鎖警察局，萬科長了解到鄭朝陽還有一個哥哥鄭朝山，他是北平城的名醫，萬科長立刻派人去慈濟醫院抓鄭朝山。
鄭朝陽第一時間來通知北平地下黨負責人羅勇盡快轉移，他們倆出門就碰上保密局的特務，鄭朝陽謊稱羅勇是一個煙販子，把他抓去警察局審訊，特務要驗鄭朝陽的身份，他趁其不備把那兩個特務打暈，并拿走他們的工作證。鄭朝陽和羅勇迎面碰上一隊巡邏的國軍，鄭朝陽引開國軍，掩護羅勇撤離，鄭朝陽謊稱自己是保密局的特工在執行任務，讓國軍趕快離開，國軍隊長卻不依不饒，雙方發生口角，鄭朝陽對他大打出手，然后撒腿就跑，國軍對他圍追堵截，鄭朝陽躲到一邊，他們迎面碰上保密局的特務，雙方發生激烈沖突，鄭朝陽趁機逃走。
鄭朝陽敲開了保密局冀熱遼站站長徐宗仁的家門，徐宗仁得知他是共產黨，立刻拔槍相向，鄭朝陽不慌不忙是東北軍出身，他向老徐講明利害關系，勸他棄暗投明，不要做國民黨的替罪羊。萬林生派人把鄭朝山抓起來，對他嚴刑拷打，逼他交代鄭朝陽的下落，一口咬定他也是共產黨，可鄭朝山始終不卑不亢，還和他據理力爭，萬林生氣得惱羞成怒，剛想對他施與暴行，突然接到上級的電話，萬林生畢恭畢敬把鄭朝山釋放。
徐宗仁權衡再三，把國民黨潛伏的特工名單交給鄭朝陽，鄭朝陽發誓會保他們全家平安無事。游擊隊長郝平川接到上級的命令，讓他帶隊護送鄭朝陽出城，郝平川連夜召集在破廟里藏身的兄弟們前往接頭的望海樓。萬林生從叛徒口中得知鄭朝陽要和接應他的人在望海樓見面，他立刻派人做了周密安排，想把鄭朝陽他們一網打盡。
鄭朝陽喬裝改扮來到望海樓外的路邊攤，看到街上布滿了保密局的特務，眼看接頭的時間越來越近，鄭朝陽寫了一份告示，謊稱望海樓店慶，邀請顧客免費吃面，乞丐們蜂擁而至，望海樓的伙計拼命阻攔，雙方大打出手。郝平川帶人來到望海樓附近，看到里面亂作一團，就猜到情況有變，他立刻帶兄弟們出城，想和鄭朝陽在城外的第二聯絡點會合。
郝平川一行人匆匆離開，迎面碰上巡邏的警察，領頭的警察是多門，他仔細排查郝平川的行李，發現藏有槍支，他不想節外生枝，不但放走了郝平川他們，還提醒他們從看管松懈的城門出去。鄭朝陽來找北平商會會長冼登奎幫忙出城，冼登奎不想惹禍上身，鄭朝陽就搬出他倒賣鴉片的事，冼登奎只好答應，還悄悄派人暗殺鄭朝陽，冼怡是冼登奎的女兒，她和鄭朝陽關系交好，兩個人假扮情侶騙過城門的守衛，鄭朝陽來到安全地帶，就和冼怡告辭離開，冼怡把自己的白圍巾圍在鄭朝陽的脖子上，反復提醒他要多加小心。
鄭朝陽剛蹲在河邊喝水，突然被城外巡邏的警察發現，領頭的孟隊長和鄭朝陽是老同學，鄭朝陽謊稱執行抓捕共黨的任務，孟隊長也沒有追究，就放鄭朝陽離開了。就在這時，冼登奎??派來的殺手出現，鄭朝陽三拳兩腳把他打死，萬林生帶人隨后趕到，把鄭朝陽團團圍住，情況十分危機，鄭朝陽剛想把徐宗仁給他的名單藏起來。
就在這時，郝平川帶游擊大隊的隊員們及時趕到，把特務們打得四散逃奔，萬林生趁機騎上摩托車逃之夭夭，郝平川帶鄭朝陽來到游擊隊駐地，才發現羅勇正在里面呼呼大睡，羅勇派郝平川和鄭朝陽去西柏坡參加情報人員學習班，畢業以后當警察，可鄭朝陽不想再做警察。
羅勇向鄭朝陽講明新中國警察工作的重要性，可鄭朝陽就是不同意繼續當警察，羅勇苦口婆心苦苦規勸，鄭朝陽發誓死都不當警察，羅勇對他破口大罵，鄭朝陽只好答應，還要求畢業以后去北平工作，他放心不下哥哥鄭朝山。
鄭朝陽和郝平川來到西柏坡黃泥村的培訓班學習，同班有108名學員，號稱是梁山一百單八將，上課的時候，郝平川被前面的女孩白玲身上淡淡的香味吸引，鄭朝陽斷定白玲用了香水，小聲議論她是小布爾喬亞，羅勇讓每個學員都講一講做警察的心得體會，學員們一一發言，代數理講述了自己做警察的歷程，白玲主動上臺講述學習體會，公開指責鄭朝陽不該主觀臆斷她使用香水，當場拿出用各種草藥配制的香包。
吃飯的時候，代數理向鄭朝陽說起白玲是從莫斯科留學回來的高材生，鄭朝陽笑話她是梁山的孫二娘，白玲把鄭朝陽單獨叫到一邊，代數理和鄭朝陽都誤以為白領要興師問罪，沒想到白玲向鄭朝陽詳細了解了北平的掌故傳說，就連每個城門敲鐘的情況也一一記下來，代數理對白玲的香包很感興趣，白玲順手掏出香包，鄭朝陽聞出她身上不是香包的味道，白玲只好拿出從蘇聯帶回來的香水，口口聲聲稱就是想教訓他們一下，才故意隱瞞了自己帶著香水的實情。
夜里，鄭朝陽被郝平川和代數理的呼嚕聲吵得睡不著，他只好點起蠟燭看書，翻出他和哥哥鄭朝山的照片，自從鄭朝陽潛伏到國民黨保密局工作以后，他很多年都沒有和哥哥聯系，就是不想連累他。萬林生帶隊四處抓人，搞得北平城雞犬不寧，人們怨聲載道，鄭朝山從醫院下班回家，天上突然下起了鵝毛大雪，他不由地想起弟弟鄭朝陽。
時間轉瞬即逝，鄭朝陽，郝平川，白玲和代數理等學員培訓班畢業了，他們乘坐大卡車從西柏坡趕往北平赴任，一路上，學員們興高采烈地唱歌，鄭朝陽當即朗誦了一首詩，白玲指出他的錯別字，鄭朝陽很尷尬，可很快就被學員們嘹亮的歌聲淹沒，學員們被暫時安頓在保定的一所學校等候分配。
齊拉拉是保定當地的小混混，靠賣十三香維持生計，他的二叔在解放軍駐地做飯，齊拉拉食不果腹，正好看到二叔來買肉，要給西柏坡來的學員們燉羊湯，齊拉拉百般討好二叔，二叔猜到他又吃不上飯了，正好廚房缺人手，二叔就讓齊拉拉去幫廚。羅勇給學員們都安排到北平各個區的警察所，唯獨沒有給鄭朝陽和郝平川安排工作，鄭朝陽沖進來找羅勇理論，羅勇決定帶他們倆去北平市局，專門負責肅清潛伏在北平的一萬多國民黨特務，鄭朝陽自然求之不得。
齊拉拉想把祖傳的十三香扔進羊湯里提味，二叔堅決不干，警衛班的兩個戰士要提前上崗，他們來廚房喝了羊湯，半個小時后中毒了，代數理向鄭朝陽和郝平川匯報此事，白玲也來幫他們倆審訊，炊事班的人全部被控制起來，鄭朝陽他們三人對齊拉拉進行訊問，齊拉拉一口咬定自己往羊湯里撒了十三香，白玲看出齊拉拉是無辜的，可郝平川認定齊拉拉就是兇手，白玲當場反對，還對郝平川的審訊方式提出質疑，提醒他不能憑主觀臆斷，郝平川不服氣，賭氣頭也不回地離開了。
鄭朝陽始終一言不發，可白玲早就看出他已經排除了齊拉拉的嫌疑，鄭朝陽憑借多年跟著哥哥學醫的本事，很快聞出齊拉拉包十三香的紙上沒有羊湯中杏仁的味道，白領不禁對他刮目相看。郝平川很快趕回來，他已經查清了齊拉拉的底細，得知他父親生前是打鬼子的英雄，白玲提議調查離開過廚房的人，了解到維修工老黃曾經出去過，鄭朝陽和郝平川陪她到廚房仔細排查，不敢放過任何一個細節，鄭朝陽突然發現水管被人改動過，他立刻拿過扳手卸下水管，白玲從中發現端倪。
醫院派人把中毒的哨兵的檢測結果送來，白玲發現他們中的是美國研制的一種毒藥，和水管接頭處麻繩上的毒藥一模一樣，鄭朝陽因此斷定老黃有重大嫌疑，決定再次審訊齊拉拉，齊拉拉試圖逃跑，被郝平川當場抓獲。
老黃下毒行動失敗，只好回來向國民黨軍統特務頭子尚春芝復命，尚春芝代號蘭花，她知道老黃已經暴露，讓他趕快去黑森林轉移那里的軍火，一旦發生不測，就把軍火全部炸毀。鄭朝陽當面解除了齊拉拉的嫌疑，可還是把他關起來掩人耳目。
鄭朝陽和白玲假扮商人夫妻，要租下老黃居住的院子，房東敲開老黃的房門，鄭朝陽和白玲進去看房，老黃很警覺，手始終插在口袋里，鄭朝陽一眼就看出他握著手槍，假裝不動聲色走到老黃身邊，欣賞他身后的那副“萬馬奔騰”的畫作，白玲連連催促，鄭朝陽假裝離開，趁其不備把老黃制服。白玲趕忙把郝平川等人喊進來，郝平川從床下搜出一箱炸藥，老黃見大勢已去，他吞下一顆毒藥自殺而死。
郝平川從老黃的房間搜出一部電臺，鄭朝陽發現未燒盡的紙條，白玲就用在蘇聯學過的技術，用火烤的方法把紙條上的字恢復，上面寫著黑森林，鄭朝陽得知齊拉拉搜集了很多舊地圖和舊雜志，就帶白玲和郝平川來到齊拉拉家里，從中發現黑森林就是保定的大虎溝，那是敵軍的軍火庫，羅勇立刻下令端掉大虎溝的軍火庫，戰士們以迅雷不及掩耳之勢把隱藏在那里的特務一舉殲滅。
秦招娣急匆匆來尚春芝匯報，尚春芝謊稱今天是秦招娣的生日，親自給她做了一碗長壽面，事先在面里下了毒，尚春芝把手上的蘭花戒指戴在秦招娣手上，還把她的軍統特工證件放到秦招娣身上，尚春芝當年收留了無家可歸的秦招娣，就已經想好了這一天。
戰士們很快發現了秦招娣的尸體，郝平川對現場進行勘察，認定死者是女特務尚春芝，可白玲卻不以為然，因為現場沒有打斗的痕跡，唯一能證明其身份的就是尚春芝的特工證件，白玲從死者手上的戒指和她指甲里的泥垢斷定死者不是尚春芝，郝平川不服氣，和白玲據理力爭，白玲當面指出郝平川辦案程序不規范，不帶手套也不封鎖現場，導致案發現場足跡混亂，鄭朝陽極力替郝平川說情，羅勇同意白玲的建議，決定把辦案規范化必須提上議事日程，讓他們把這個案子交給當地同志繼續查辦。
1949年1月21日，傅作義率軍起義，解放軍正式進駐北京，國民黨軍隊全面撤出去。鄭朝陽，白玲，郝平川和代數理等學員坐大轎車前往北平赴任，眼看北平城就在眼前，學員們即將各分東西，大家都不舍得分開，鄭朝陽當即決定每年聚會一次，就定在他們到黃泥村報到的日子，學員們一一握手告別。尚春芝化身秦招娣，她租了一輛馬車前往北平，謊稱要去投奔二叔，向車把式打聽北平的情況。
鄭朝陽和郝平川來北平市警察局辦理交接手續，徐漢成局長帶領所有警員到門口迎接，熱情地把他們迎進辦公室，對鄭朝陽點頭哈腰，鄭朝陽當面揭穿他是國民黨保密局的專員，徐漢成連連辯解自己也是被逼無奈，鄭朝陽讓他把自己知道的所有事都一一整理出來，徐漢成嚇得一溜煙躲走了，鄭朝陽把警員三兒叫來，三兒跪倒在地連連求饒。