為了兌現在戰場上對戰友的承諾，將貴州山區建設成理想中的樂園，從抗美援朝下來的英雄徐宏良，放棄了更加美好的前途回到了窮山僻壤的山溝溝里。為了歡迎他的到來村領導陳大任許諾中午管飯，這才湊齊了幾個人列隊歡迎，徐宏良特意詢問了草王壩村是否有人來，陳大任猜想徐宏良可能有故人，但草王壩村是真的沒人來。
徐宏良似乎有些失望，告訴大家他來這里是安家的，解散了歡迎的隊伍。陳大任只好帶著徐宏良一起去草王壩村，一路上打聽了草王壩村的特點，得知那里主要就是缺水，對此陳大任也給出了解釋，除了山高路遠就是他責任不到位。
草王壩村有個名叫黃大發的人，一身的功夫，飛檐走壁不在話下，和張巧玲兩情相悅，但父親張老倔卻一直反對兩人婚事，提出的條件就是要水，至少出嫁之前要讓張巧玲洗臉。為此，黃大發四處找水，從小就失去親人的黃大發是在二伯家里長大成人，奶奶身體不好，黃大發前來探望，二伯家的大兒子懷春攔住了黃大發，誤以為是來要水的。小兒子茂春卻處處向著黃大發，放了黃大發進去，奶奶非要給水，黃大發跪著不肯要，二伯夫婦卻拿著水壺為黃大發灌滿，在他們的眼中黃大發和親生的一樣。
今天是張老倔帶著張巧玲來相親的日子，好不容易湊了兩壺水要招待張巧玲家的人，張老倔沒想到家里窮成了那樣，張老倔帶著四樣大禮來的，可是卻沒看見黃大發的誠意，連喝的水都少的可憐。黃大發聲稱自己沒有錢，但是一輩子都會對巧玲好，張老倔一碗水潑在地方，提出讓黃大發來倒插門到張村。
黃大發一心想要報恩二伯和奶奶，因此并未答應，可沒想到二伯來了，一口答應下來，只要黃大發有個不錯的姻緣就行。黃大發不得已也妥協了，可沒想到張老倔再次提出條件，要讓黃大發改姓張，一生不能回來草王壩，以后為他養老送終。黃大發怒火中燒表示自己決不改姓，寧可終生不娶，張老倔一氣之下要帶著一家人回去，可沒想到張巧玲卻要跟著黃大發，從此要斬斷和張老倔的關系。
張老倔因此非常生氣，出手要打張巧玲被黃大發攔住，警告張老倔以后不許打張巧玲母女倆，張老倔迫于黃大發的氣勢嚇得離開了。
晚上張老倔就帶著族人來鬧事，眼看著雙方就要打起來了，徐宏良帶著人趕來了，命令雙方放下了棍棒，徐宏良看到雙方打起來心中難過也痛心，尤其是黃大發當年還是參與剿匪的小英雄，徐宏良也是在戰場上認識的黃大發。徐宏良提醒大家所有棍棒應該一致對外而不是打自己人，張老倔指責黃大發搶走了他的女兒，徐宏良承諾會代為解決趕走了張家村的人。
黃大發生氣的扔掉了棍子，一屁股坐在地上，心中憋屈到不行，徐宏良當晚就住在了黃大發家里，還贊成黃大發娶媳婦，但卻警告他不許打架，新社會所有都要講平等和法制，有問題就可以找黨找組織。
黃大發立刻表示自己結婚想要收拾房子和被褥，想要床，想要肉招待客人，徐宏良忍不住笑了，倒是認為黃大發并不貪，也勸說黃大發自己的幸福要靠著自己去創造。黃大發認為草王壩人命不好，和天無法抗爭，這里連水都沒有，也寸草不生。祖祖輩輩都覺得這里是得罪了神仙才沒有水的。
徐宏良來之前就做了大量的工作，也知道是地質的原因，也和黃大發講述了很多，也點燃了黃大發心中的火把。
黃大發也打算將張巧玲送回去，陳大任昨天也和張老倔說好了，他想要通過努力，為了幸福奮斗爭取到張巧玲，而不是通過這種方式。黃大發來到河灘挑水卻發現干涸了，張巧玲感嘆是命，可黃大發卻表示自己不相信命，張巧玲也不許相信。
德寶爺認為這是山神的懲罰，昨天如果打一仗贏了就不至于河灘干涸了，黃大發卻認為徐宏良說的沒有錯，懷春更是責怪黃大發頂撞德寶爺，德寶爺認為八年前正是他祭奠了七天七夜下了大雨，這才救活了大家，草王壩的事情也只能草王壩來解決。德寶爺提出要將所有的水集中起來集中發配，度過難關，讓二伯山林負責發水，不能徇私枉法，可以給女人孩子多分一些，男人可以受委屈。
黃大發提出應該找水，但立刻遭到了德寶爺的反駁，他們祖輩一直找水，但是找什么干什么，所以他們的命就是大山的，必須聽大山的安排，黃大發心中卻憋著一股勁。山林也叮囑黃大發不管做什么他都支持，但首先黃大發也要弄清楚自己在干什么。
德寶爺帶著草王壩的人祈求山神，可黃大發卻不信，還給開美、茂春等人開會，商議要找到水源引來草王壩村。懷春因為喜歡開美，但開美圍繞著黃大發轉悠，因此懷春對黃大發心存嫉妒，怒斥黃大發就是想要出風頭才去找水，黃大發堅持認為徐宏良說的對，幸福就應該自己爭取，兩人也因為意見不合發生爭吵。
當天晚上奶奶因為咳嗽不止，懷春跑去偷水被吳瞎子聽到，吳瞎子也要喝水，懷春將其打暈。次日這件事鬧出來，懷春當著所有人的面被山林鞭打，黃大發為了要替懷春脫罪，分析當時一定是吳瞎子想要水喝，才會被懷春打暈的，懷春不領情，堅持說就是自己偷水，愿意被打。黃大發為此很生氣，也不明白為什么年輕人不找水，卻愿意在這里挨打。
黃大發告訴張巧玲自己可以翻山越嶺將水引過來，張巧玲對黃大發的話都深信不疑，黃大發感嘆只有張巧玲一個人相信他，張巧玲告訴黃大發山歌傳十里，山雀叫喳喳，但卻并不是所有人都能聽懂他們說什么，這也是母親經常說的話，黃大發忽然有了主意。
黃大發和茂春、開富、開美等人商議要立大功，幾個年輕人立刻表示都會配合黃大發，黃大發看著大家跪在地上祈雨，已經來了決心要推翻這個舊世界的舊思想。正在祈雨的吳瞎子裝神弄鬼，黃大發忽然倒地口吐白沫，起來的時候就拿著扇子去打吳瞎子，還聲稱自己是山神的大德寶爺，吳瞎子總是自稱山神上身，此時也不能自我拆穿，只好順著黃大發的話來說。
黃大發為了揭穿吳瞎子的把戲，帶著他要上山頭去飛一下，吳瞎子嚇得屁滾尿流，承認了自己是假的山神。陳大任也來主持了公道，將吳瞎子交給村子里勞動改造。
徐宏良稱贊黃大發干得好，黃大發也驕傲的告訴徐宏良他也是共產D員了。為了村子里找水，黃大發帶著大家一起去山林找水，也打破了村子里不找水的規矩，同時黃大發也成為了民兵。山林稱贊黃大發一股擰勁像極了他父親，可同時也叮囑他不能一個人找水，山林也不能一個人進去。
黃大發堅持去找水，由于不會寫字，還留下了一幅畫，意思說明奶奶病了需要山林照顧，其他人留下種地，他去找水了，如果找不到堅決不回來了。山林生怕黃大發出事趕緊去大山尋找黃大發，幾個年輕人想要跟著，被山林厲聲阻止了。
山林帶著幾個熟悉山上環境的人一起去找黃大發，黃大發在山林中看到草叢中有東西，湊近一看竄出來一個黑乎乎的東西，還沒等黃大發看清楚就嚇得連連后退掉入了山坡下。山林帶著大家一起尋找黃大發，也來到了這個山坡處，但是這里大家從未下去過，勸說山林回家去明天再來，可是山林生怕黃大發出事堅持一個人下去，繩子在下去的過程中斷裂，山林掉了下去重重摔在了地上。
黃大發察覺到是二伯，奮力的爬向他，可突然昏迷了過去，昏迷中依然聽到有人叫著他的名字。
徐宏良帶著人將黃大發和山林救回來的，一直昏迷了兩天的黃大發醒來，從張巧玲的表情里看出山林一定出事了，黃大發拖著受傷的身體趕去看山林，卻看到了滿院子的白礬，懷春怒不可遏打了黃大發，責怪他害死了父親，黃大發苦苦哀求只想為山林送行，為二嬸養老，可懷春根本容不得他，二嬸也因為傷心過度暈死過去，黃大發跪在外面臺階上大聲向二伯懺悔道歉。
陳大任認為山林的犧牲就是因為黃大發的一意孤行造成的，在徐宏良面前要求必須調查黃大發的動機是什么。
德寶爺也因為山林的去世而難過，氣憤指責黃大發這次和村子里的仇算是結下了，老祖宗立下的規矩在這里也在他眼里什么都不是了。德寶爺要求黃大發將欠山林的，欠草王壩村的都還了，黃大發承諾愿意一輩子當牛做馬為草王壩還債，可懷春并不認可怒斥了黃大發。德寶爺最終決定不要債了，要求黃大發離開草王壩村，隨便去外地安家，村子里的人如果有人收留黃大發從此也就和他為敵了。眾人交頭接耳，也都不敢收留，德寶爺提議愿意讓黃大發離開的和愿意讓黃大發走的分開站隊。開美和趙大山都毫不猶豫站在了黃大發身邊，可川子和山寶、茂春卻并未過去。
開美提出找徐宏良評理，德寶爺卻認為開美是要拿徐宏良壓他更加生氣，黃大發要求開美和趙大山站到德寶爺那邊去，黃大發也流著眼淚懺悔，承認自己的過錯，他想要繼續找水，找到水也一定會回來，黃大發對著父老鄉親深鞠躬正準備離開的時候張巧玲、栓子帶著奶奶來了。
懷春小時候因為發病，是黃大發父親救了他的命，這個恩德不能忘了，懷春記得黃父的好，可是卻無法忘記自己的父親。奶奶勸說德寶爺，相信山林在天有靈也不會趕走黃大發，德寶爺最終決定讓黃大發繼續留下。奶奶捧著黃大發的臉，心疼的望著他，黃大發淚如雨下。
新的找水小分隊成立了，黃大發依然被選舉為隊長，陳大任卻堅持非要處理黃大發，徐宏良訓斥了陳大任，認為干部應該幫助村民，而不是拆臺，陳大任只好作罷。
張云念是國民黨潛藏起來的特務，和女兒朵朵在張村生活，這天特務苗江找到這里，張云念通過對暗號發現了對方的身份，特意用一個小板凳作為暗號通知了民兵來抓人。卻沒想到被苗江識破了，苗江用朵朵的性命威脅張云念將房屋給點燃了，同時苗江帶著朵朵離開，警告張云念不許跟著。
黃大發和張巧玲恰好看見，聽張云念說了來龍去脈，黃大發進入山林中去營救朵朵，讓張巧玲帶著張云念隨后跟上去。
黃大發在找特務的時候，忽然聽到了水流聲，當看見河溝之后黃大發喜出望外剛要過去，就聽見了朵朵的哭喊聲，黃大發匆忙躲起來，趁著苗江喝水的時候突襲了苗江，但黃大發并不是苗江的對手被苗江打倒在地，正當朵朵遭遇危險的時候，黃大發拼命撲上去勒住了苗江，累得苗江氣喘吁吁，承諾給黃大發三根金條讓他去喝水，但黃大發就是不撒手，太陽也越來越猛烈了，黃大發渴到不行，就讓朵兒幫忙弄點水過來。
朵兒捧水的時候發現里面有魚，黃大發大喜，水里只要有魚就是活水，上面一定還能有河，苗江諷刺黃大發可能沒命去報信，黃大發讓朵兒藏起來等著媽媽過來，如果他死了就告訴張巧玲河水有小魚。
在太陽的暴曬之下，黃大發和苗江都暈了過去，醒來的時候已經躺在醫院的病床上了，張巧玲和趙大山看見他醒過來激動不已，張巧玲當即就哭了出來，生怕黃大發已經死了。徐宏良也隨后趕來，告訴黃大發他立下了大功，苗江是特務的頭子，從他那里還搜來不少金條和槍支，還要給黃大發開表彰大會。黃大發打斷了徐宏良的話，認為這些都是自己該做的，他最關心的就是自己已經找到水了。
陳大任卻告訴黃大發，那個水源距離草王壩還有三座山，更何況還是在低處的水，水也不可能往高處流，但黃大發堅信一定可以將水流入草王壩。
懷春也參與到了找水的隊伍里，卻不愿意和黃大發說話，黃大發表示自己活著只為了草王壩找到水，否則自己的命早就給了懷春。茂春小聲告訴黃大發，其實懷春早就原諒他了，就在奶奶求情的時候他就哭成了淚人。
黃大發和小伙伴們，也憑著一股不服輸的勁頭，踏上了尋找水源的征程。可實際上黃大發也已經忘記了自己究竟在哪里找的水源，繞了幾圈之后，黃大發在懷春的提醒下凝神靜氣的聽著，真聽到了水流之聲，幾個年輕人直奔水流而去，看到水源的那一刻，幾個人一起跳進去瘋狂玩耍。黃大發卻上了岸爬上了高處的山頭望過去。