1942年5月，華北日軍總司令崗村寧次下令5萬日、偽軍和大量的空軍、坦克對太行山的八路軍進行鐵壁合圍式大掃蕩。日軍前方指揮官宮本浩二大佐看著精良的裝備非常得意，覺得殲滅八路軍如探囊取物輕而易舉。面對八路軍的抵抗，他命令小野隊長增加兵力全面進攻。
此時，趙震天帶著民兵隊對日軍進行頑強抵抗，眼看日軍又增派了一輛坦克，趙震天抱著一捆手榴彈身先士卒炸毀坦克，對此場戰斗的勝利起到決定性作用。這場小戰役勝利后，八路軍指揮部周團長向他下令，火速撤離，然后在日軍深入太行山必經的三岔路口埋設地雷，到時候給日軍重重一擊。
就在八路軍與日軍在山上兵戎相見難分難解時，馬家寨的土匪頭目馬大煙槍和他妹妹馬飛燕及軍師秀才帶著眾匪突襲了日軍在平谷縣的指揮部。由于宮本已將兵力全部調離到山上與八路軍作戰，指揮部成了一座空城。馬家寨的土匪們不費吹灰之力就攻下平谷縣城。馬大煙槍坐在宮本的辦公室里下令眾匪搬空日軍軍火庫，釋放日軍監獄關押的中國犯人，然后他上下打量掛在辦公室里的日本國旗，輕蔑地拿槍射擊了國旗上的太陽。
馬家寨大獲全勝，馬大煙槍非常高興。在這可喜可賀的日子里，他決定把妹妹馬飛燕和軍師秀才的親定下來。他覺得他們兩人從小青梅竹馬，長大成親是順理成章的事。馬飛燕卻是女兒身男兒心，她喜歡那種無拘無束策馬奔騰的豪放生活，不喜歡這種兒女情長平淡無奇的尋常日子。秀才卻一直盼著成親的這一天。馬飛燕不愿多費唇舌，直接把秀才捆綁起來，然后告訴他自己要出去闖蕩闖蕩。
馬飛燕剛下山就看見不遠處趙震天的民兵隊在三岔路口埋設地雷。同時發現這個情況的還有兩個巡邏的日軍，他們趕緊回去向宮本報告。宮本和小野帶著日軍慢慢接近民兵隊，而趙震天卻一無所知。馬飛燕發現敵情來不及警示，她只好遠遠地向日軍開槍。槍聲驚動了趙震天，他發現了敵情。
趙震天他們埋設的地雷還沒來的及起作用，戰役就打響了。由于敵眾我寡，趙震天的隊伍損失慘重，就連他最親的兄弟蘇小山在這場戰役中也犧牲了。由于日軍節節逼近，八路軍的指揮部都不得不撤離。等宮本帶人趕到時，指揮部已人去屋空。
由于此次日軍沒有按照周團長預計的路線行進，而是在偽軍白二狗的帶領下操了近道，所以周團長事先下令埋伏在各要道的兵力沒有起到作用，周團長讓人通知他們全部撤離。而趙震天帶的民兵隊卻沒有接到撤離命令，他們在埋伏點一直潛伏著。直到天黑時他們才發現追趕八路軍的日軍在離他們不遠處安營扎寨。趙震天派去的人打探清楚后，他命令將僅剩的兩顆地雷埋在路上，然后引誘日軍進入雷區。
趙震天為了不驚動日軍，將自己七八個人的隊伍分成兩隊前進。誰知跑得快和憨子幾人與趙震天分開后不久，突然正面遭遇小野小分隊。跑得快謊稱他們一行人是當地獵戶，小野不信，抓住他們準備把他們帶回大本營。趙震天發現了跑得快被捕，他帶著其他兄弟躲在中途準備營救。就在趙震天營救跑得快時，馬飛燕出手相救，跑得快等人順利得救。
眾人逃離到安全地帶后，趙震天對剛剛馬飛燕的身手十分傾佩，他以為女扮男裝的馬飛燕是個男人，極力勸她加入八路軍。馬飛燕才不喜歡那種紀律性強的受拘束的生活，所以很干脆的拒絕并準備離開。趙震天不愿放她走，死活要與她結為異姓兄弟，馬飛燕也毫不猶豫地拒絕了。趙震天一路拿自己熱臉貼人家冷屁股，馬飛燕仍然不為所動。
誰知小野帶著隊伍追上了他們，他們在無路可逃的情況下，設計將小野和他的小分隊堵在了山洞。就在他們在山洞口堆柴煙熏小野時，偽軍小分隊長陳水清按照宮本的命令前來接應小野，趙震天等人只好急忙撤離。
宮本看到狼狽不堪的小野時怒火沖天，他命令陳水清查清趙震天到底何方神圣。同時，宮本回到平谷縣城后，又讓馮縣長把全縣的戶籍簿拿過來，他要逐一排查。這時陳水清報告說查明趙震天和他帶的隊伍僅僅是一幫烏合之眾，不足為慮。但馮縣長在一旁卻說趙震天手段強硬，似乎是為共黨效力。宮本氣憤地下令全城搜查通共分子。他還特別吩咐手下嚴查鴻運行的劉老板。
就在日軍搜查到鴻運行時，劉老板非常反感日軍的搜查行為。日軍想強行搜查，劉老板的兒子卻帶著荷槍實彈的家丁們包圍了日軍。日軍只好悻悻離開。
趙震天和馬飛燕一行過日軍關卡時，突然一輛滿載日軍的卡車停了下來，車上的日軍把他們統統包圍并抓了起來。趙震天有些納悶，等到了才知道日軍是拉他們做壯丁，幫忙搬運軍火。先來的幾個壯丁看不慣趙震天奴顏婢膝的樣子，卻不知他是故意麻痹日軍，伺機逃走。他乘日軍不備，從旁邊的灌木叢里尋到一些草藥藏在了身上。
晚上，先來的幾個壯丁乘夜黑風高準備逃走，馬飛燕也想跟在他們身后，結果被趙震天攔住。馬飛燕還在怨恨趙震天害她錯失良機，便聽到屋外逃離的壯丁被日軍發現并重新抓住的聲音。次日清晨，日軍將逃跑的三個壯丁綁在樹上當眾擊斃殺雞嚇猴。趙震天卻乘機偷偷塞給馬飛燕一個紙包，讓她找機會把紙包里的草藥下到日軍的食物里。果然，日軍吃了飯便都出現腹瀉的癥狀，一個個爭先恐后地上廁所。趙震天乘這個機會帶著所有的壯丁逃了出去。眾人逃脫后，馬飛燕要與趙震天分道揚鑣獨自趕到平谷縣城。趙震天讓其他弟兄先回趙家莊，他則像膏藥似的粘著馬飛燕，要和她一起進城。
此時陳水清帶隊例行公事地搜查各商家店鋪，看有無窩藏共黨分子或通共的行為。陳水清乘人不備偷偷地將情報遞到地下黨黃老板手中。黃老板經驗老道熟練地把情報藏了起來。原來陳水清竟然是共軍情報員老鷹。隨后黃老板在共黨秘密聯絡點百草書店和其他幾個地下黨商議，告訴他們根據老鷹傳來的情報，日軍最近會加大對抗日分子的搜捕，所以他提醒大家格外小心。另外他們覺得馬家寨的馬大煙槍積極抗日且有一定謀略，是一支難得的抗日力量。他們想把他爭取到革命隊伍里來。
此時小野得到情報，百草書店是地下黨秘密聯絡點，他帶隊火速趕過去準備突襲那里。路上茶攤邊的馬飛燕和趙震天發現了小野的小分隊，他們看到日軍匆忙的樣子猜測一定有事情發生。他們悄悄地跟了上去。
小野帶著日軍小分隊突襲百草書店。黃老板正和兩個地下黨員議事，突然電話鈴響。原來陳水清去找小野時被告知他去百草書店抓地下黨了。陳水清來不及通知黃老板，為避嫌他特意用白二狗辦公室的電話通知黃老板。就在黃老板準備起身接電話時，望風的伙計急忙通知他小野帶人殺過來了。黃老板為保住組織機密，他先獨自抵抗，另兩個地下黨趕緊燒毀重要文件，最后來不及燒毀的他們就吞進肚子。就在他們爭分奪秒地銷毀文件和情報時，小野的日軍已經攻了進來，他們抓住了黃老板，擊斃了其他兩個地下黨。就在小野帶人搜查書店時，聽到了電話鈴聲。小野拿起聽筒卻一句話也沒說。電話里的異常讓陳水清意識到書店出了問題，他也沒有說話并馬上掛斷電話。小野疑竇頓生。而躲在不遠處的趙震天和馬飛燕只能眼睜睜地看著黃老板被抓。
日軍將擊斃的兩名地下黨帶回去，殘忍地剖開他們的肚子，找到一份帶血的文件。日軍從文件里得知有一名地下黨潛伏在日軍隊伍里。宮本帶著小野和陳水清到牢房里刑訊逼供黃老板，讓他供出誰是臥底，黃老板寧死不屈。為了掩護陳水清，他故意痛罵陳水清漢奸走狗，表現尤其憤慨。最后黃老板咬舌自盡。陳水清眼看同志命喪眼前卻無能為力，他非常痛心，可臉上卻絲毫不敢顯露半分。
趙震天跟馬飛燕分手后獨自回到趙家莊，他沉思自己有心殺敵卻手無寸鐵。他想用地雷消滅日軍，但苦于沒有地雷。于是他想到到八路軍兵工廠去學地雷制作技術。誰知周團長聽說他要來如避瘟神，既不愿見他更不愿讓他到兵工廠學習。趙震天不死心，等兵工廠沒人時，他偷偷溜進去，自作主張地將制作炸藥的材料隨意配比。結果卻發生爆炸，差點毀了兵工廠。周團長火冒三丈，更加不愿意讓他做炸藥，并把他關了禁閉。
小野查到當時打到百草書店的電話是從白二狗辦公室打出去的。他們把白二狗一通酷刑逼供，白二狗極力為自己辯解，小野看他確實不像說謊，只得作罷放了他。但白二狗卻供出陳水清有重大嫌疑，但陳水清反應靈活地應付過去。
陳水清很喜歡街頭涼皮攤的寡婦孫淑珍，他幾乎每天都帶著白二狗到涼皮攤旁吃早飯，一邊吃一邊暗中關注孫淑珍。白二狗有些嘲笑他有賊心沒賊膽。這天有位瞎眼老人經過孫淑珍涼皮攤時差點摔倒，陳水清見狀差點沖過去，因為老人就是陳水清的父親。但孫淑珍快他一步，她趕緊扶住老人并安撫他。孫淑珍的溫柔和善良給陳水清留下深刻的印象。
這天陳水清又和白二狗一起到孫淑珍攤子旁吃飯時，兩個日本兵輕佻地圍住孫淑珍欲行不軌，陳水清沖動地想上前，可又懾于對方是日本人。在這危急時刻，趙震天帶著幾個兄弟正好趕到，他們很快干掉了兩個日本兵，救下了孫淑珍。但卻驚動了附近巡邏的日本兵，趙震天只好和兄弟們分開逃竄。
趙震天無意間逃到鴻運行。鴻運行的劉掌柜一直支持抗日堅定抗日。他們貨行有自己的武裝，一直跟日軍人對抗。小野他們早就把鴻運行視作眼中盯，欲除之而后快。這天，他們在鴻運行少掌柜劉運果帶著伙計們出遠門運送貨物后，準備乘天色暗下來時突襲鴻運行。
趙震天見日軍把鴻運行圍的水泄不通，只好倉皇地逃到一間臥室里。在這里，他看到隨處可見的劉家人的尸體。日本人已經對劉家滅門。趙震天準備躲到衣柜時，發現了里面幸存的人員苗三妹。他們一起躲過日本人的搜查。