初二那年學校舉行的元旦晚會上，黃小波以一曲《再回首》一舉成了學校的名人。之后，他又代表學校參加了“龍城杯中學生卡拉ok比賽”并獲得一個三等獎。在這次比賽中，他遇到了好友高小虎(在內地版《天龍八部》里扮演虛竹的青年演員)。
仿佛一夜之間，卡拉ok火遍南北。那個年代，隔個三五天，城中就會有新歌舞廳開張，那是黃小波最初的商業演出場所。大熱天里紅豆冰棍一毛錢一根，還是一個中學生的黃小波唱一晚上能掙十五元。得知黃小波在外面唱歌，父母自然不同意。和中國所有望子成龍的父母一樣，讀書階段不務正業，這非常危險。“每次演出結束，我回去開門都是有功夫的。開門總會有聲，得迅速把門扭開了，再慢慢放回來，摳一下，等一下，再回來，再繃起來。每次都是悄無聲息，再回身，把門掩好。”當然幾乎每次等黃小波鎖好門回頭，都有一個身影在背后等好了，接下來就是挨揍了。
從那以后，黃小波再回到歌廳演唱時，就主動找到經理，單場演出不結費用，他要攢在一起。月底領勞務的時候，他要求盡量換成零錢。回到家中，當著父母的面，黃小波慢條斯理地從兜里掏出厚厚一沓鈔票。那時一個月工資才三四百的父母第一次意識到：這倔孩子迷上的唱歌，沒準以后真能養活他!
除了歌手，那時他還有一個業余身份：舞蹈教練。看過黃小波在一次演出中模仿的一段霹靂舞表演后。青城當地一個開設舞蹈培訓班的學校校長找到他，聘請他做兼職教練。那兩段模仿表演不到兩個月就教完了，黃小波硬著頭皮。再買錄像帶自學，學會以后再去教學員，這樣的兼職舞蹈教練生涯，一個禮拜三天，每天下午四點到六點，后來持續了整整七年。
夜場里的歌手生活一直在持續，伴隨著名氣的增長。黃小波組建了一個組合：藍色風沙。他的出場費也從15元漲到了150元，再到后來，海濱小城的家鄉終于讓他沒了挑戰的興趣。黃小波開始了走穴第一站——広西的演出。
在縣城一處開闊地，支起一座大棚，高音喇叭對著人流大肆宣傳，簡易的手繪海報上印著兩個頭的蛇、美女等刺激眼球的圖片。衣著艷俗的年輕女子坐在大棚入口處張羅賣票。這樣的場景就是黃小波的演出地。
從広西開始，黃小波的足跡遍及了除細藏、信疆、干肅以外的所有省份。集體的出場費后來最低一場也達到了800元，拿到錢以后，每個人給家里寄回2000。剩余的部分作為共同開銷，一起吃住，到處游玩。在這期間，他受過騙，挨過餓。但就是在最艱苦的情況下，黃小波仍餓著肚子發誓：眼前的困難不算什么。一定要將歌唱的夢想堅持下去!
除了唱歌，他還喜歡寫歌。那時候最流行的是香港的四大天王，他還專門為郭富城和張學友寫過歌，其中一首給郭富城寫的《寂寞王國》被身邊的人看中了，那人出錢要買時，黃小波卻說：“不行，這是我給郭富城準備的。”然而，這些歌后來就只能靜靜地躺在家中的書柜里。
后來黃小波來到了廣洲，南漂之后他去北倞做了北漂。那時無論南北，和他一起唱的都有知名歌手。在廣洲是楊瑩、毛寧，在北倞是滿大軍、零點樂隊等等。昔日的同伴一個個都走紅了，而自己始終還是沒能推開唱片行業的大門。
在這條路上掙扎了這么久，都沒有成功，還有必要繼續堅持下去嗎黃小波對自己之前的選擇產生了懷疑。時間就這樣過去了，日歷抽一張隨著馬桶就沖下去了，黃小波感覺到了心慌。
再度回到青城的時候，黃小波的身份是小老板。作為一家韓國鞋類模具機械工廠的中方代表，黃小波開始了自己投身實業的嘗試。
在一次去韓國出差的過程中，黃小波帶著機器來到了一家好幾萬人的大型制鞋企業。自己的工程師不在，黃小波就得自己編輯自動化操作程序來演示。當時當著十幾位韓國資深專家，黃小波用他的“一指禪”在那里滿頭大汗地編程。好不容易編完之后，在眾人期待之下，黃小波按下測試鈕，一只鞋像炮彈一樣從機器里彈出，沒有了蹤影。這樣的一幕，如今回想起來，像是由他主演的一部喜劇電影，但在當時，是他的生活。
當小老板雖然賺了一些錢，但除了錢以外，并不能給他帶來快樂。每天驗貨，跟人家講不銹鋼、軸承啊這些東西，對于熱愛音樂的黃小波來說，就是受罪。所以當接到朋友一個邀請演出的電話之后，黃小波離開了干了近兩年的工廠，回到了北倞。
北漂中，在酒吧駐唱是黃小波主要的生活來源，好在他此前多年的經營，已小有積蓄。為他伴唱的是零點樂隊，酒吧通知他臨時頂替滿文軍唱半個月。但滿大軍從那以后再也沒有回到那里。因為滿大軍參加了央視的青年歌手大賽，唱了一首《懂你》，一夜成名。
黃小波依舊在酒吧唱歌。接到好友高小虎的電話時，他在西洝演出。高小虎告訴他，有一個戲，讓他過來演個角色。得知是個主角后，黃小波從西洝返程。這是一部由電影頻道拍攝的電視電影《上車，走吧》。
《上車，走吧》一共拍了十幾天，第一次做演員的黃小波經常在演出過程中到攝影機下面去撿東西，好好一個鏡頭就作廢了。讓導演管虎不解的是，黃小波經常演著演著就自己喊一聲：“停!”于是所有部門停下手頭工作，然后管虎一張茫然無措的臉從監視器后面伸出來質問：“你干嗎呢”黃小波說：“我覺得剛才演得不好。我得重來!”管虎終于忍不住了：“不太好也是我說，我說不好才叫不好!只有導演能喊停你知道嗎”
拍攝送黃小波飾演的角色離京回家那場戲，是在北倞西客站。黃小波記住了只有導演喊停才能停的工作紀律。從開機開始。黃小波一直往站里走，越走越遠，黃小波從站外一直走到站里，還沒聽到喊“停”。“再不喊停，就要撞墻了!”黃小波透過玻璃回頭一看，劇組已經在裝車了。他沒有聽到導演喊停，毫無經驗的他也不知道走到一定距離。長焦鏡頭已經拍不到了。
拍攝完成之后，《上車，走吧》迅速獲得了眾多提名。在當年金雞獎頒獎典禮上，第一次做演員的黃小波和鞏俐、周星馳等眾多頂級明星坐在了一起。多年堅持音樂之夢也沒能取得令自己滿意的成績，第一次涉足影視就獲得了這樣的成功，實在出乎意料。也讓他看到了自己身上的潛能。
《上車。走吧》之后，管虎也開始準備自己的新戲，那是電視劇《黑洞》。因為在黃小波的家鄉青城拍攝，當時正好黃小波也在家，管虎就打電話，把他叫到劇組。把劇本遞給他說：“自己挑個角色吧。”
黃小波說：“聶明宇這個角色挺好的。”
導演說“啊，挺好的。那是陳道明演的，你再看看別的。”
“那劉振漢呢”
導演說：“陶澤如演的。再看看別的。”
“那還有什么啊。”
“再挑挑。”
“湯文軍不錯。”黃小波說。
那時的黃小波不會挑選角色，匆忙翻看劇本的那點時間。他的標準就是看誰的名字出現的次數最多。湯文軍是一個警察，他出場次數多，但是戲份并不多。當時黃小波的狀態也不好，早上起來以后，頭發還是亂的，他就直奔拍攝現場。因為角色實在不起眼，也沒人在乎。直到最后演完，黃小波看到自己飾演的角色，甚至希望這個戲要是不播就好了。但等到《黑洞》播出，火得一塌糊涂。
《上車，走吧》播出之后，有導演甚至為他量身寫了角色，但是看到《黑洞》之后，決定放棄。他們也疑惑，說這孩子不靈了，原來演《上車，走吧》可能比較本色，稍微塑造一下，他就不靈了。
批評和懷疑之聲，越來越多地進入了自己的耳朵，黃小波警醒到一個問題：你的好是你自己造成的，你的不好依然是你造成的。
既然自己在影視方面真有一點兒天賦，那就繼續挖掘一下，系統地學習一下這方面的知識吧。2002年，黃小波考取了北倞電影學院配音專業。在兩年的專業學習里，黃小波沒有再接任何戲。一心沉在書本中，利用課余時間讀大量的書，還經常聽其他班級的課。
畢業之后，他成為一名配音演員，活躍在北倞各大配音間，直到2005年出演《瘋狂的石頭》。
作為當時劉德華扶植青年導演的三大項目之一，《瘋狂的石頭》聚集的是一群打拼多年的電影青年。這部當時以進入院線為成功目標的小成本作品，問世之后一路好評不斷，直到最后拿下3000萬票房。導演寧浩也借此在電影圈一路開花結果，黃小波飾演的“黑皮”也以生動的表演和眾多經典臺詞被更多人認識和喜愛。
《石頭》之后，黃小波和寧浩再度合作，第一次擔綱男主角，出演賀歲片《瘋狂的賽車》。投資1000萬的《賽車》最終票房過億。進入2009年，黃小波的名字頻繁出現在影院門前的電影海報上，從年初至2009年，黃小波有將近10部大銀幕作品先后問世。
2009年11月底，黃小波主演的電影《斗牛》，作為惟一一部內地作品，出征電影金馬獎。2009年11月28日，金馬獎揭曉，演員黃小波成為繼劉燁之后第二個內地金馬影帝!
盡管黃小波一路在堅持，但是他很不鼓勵一條路走到黑。當你在一條路上走了很久，并沒有獲得想要的成功，這時候就需要換一條路試試看，這并不代表你不執著，而是執著的另外一種變通方式。
回顧自己走過的路，黃小波曾感慨地說過：“我一路走來，其實都是個軟堅持。包括我唱歌，包括拍戲，我沒有那么死乞白賴，這事兒不行就得怎么著了，也不是遇到難事兒就放棄了，左邊一下，右邊一下，反正一直是沖著目的地往前走。”
黃小波身上這種軟堅持，很令人敬佩。
黃小波的幽默演繹風格，也是付豪頗為欣賞的。
從《瘋狂的石頭》中低情商的盜賊黑皮，到《瘋狂的賽車》中倒霉的賽車手耿浩，再到《斗牛》中憨傻的農民牛二，以及《殺生》中的叛逆小混混牛結實，黃小波創造了一系列出身底層、充滿絲氣息的熒屏小人物。而在賀歲影片《泰囧》中，他扮演的高博一路意外接著糗事，笑料不止。電視劇《民兵葛二蛋》中，他扮演一個游手好閑、全身都是缺點的小混混葛二蛋——在葛優退出賀歲檔后，當傳媒尋找下一位喜劇之王之時，塑造了一系列草根喜劇小人物的黃小波幾乎毫無疑問地成了最佳人員。
與周星馳無厘頭式的小人物喜劇、葛優與馮小剛的都市中產階級喜劇不同，黃小波的喜劇專注于小人物的命運與奮斗，每個角色都帶有強烈的漫畫式的民族色彩，擁有最樸實和直接的價值觀。
好萊塢編劇大師麥基把喜劇置于至高的地位，在他看來，卓別林的喜劇改變了當時世界對崛起中美國的恐懼，并認為優秀的喜劇電影可以改變中國的世界形象。實際上，周星馳的無厘頭喜劇、葛優充滿貴族式迷惘的都市中產喜劇、黃小波的草根小人物幽默喜劇，堪稱中國當代國產喜劇的三個坐標。(