言歸正傳。官封到南陽太守的黃子廉死後，可能是家道中落，或者是遇上饑荒、動亂，以致「枝葉分離」、家族四散，其中黃蓋祖父這一支，輾轉遷移來到零陵郡，最後在泉陵縣落腳，自此定居了下來──從韋昭《吳書》中的文意來看，黃蓋的祖父和南陽太守黃子廉之間究竟隔了幾代，當時已是不可考之事。

　　黃家的家境並不好，黃蓋孩提時父親就已去世，所以韋昭說他「嬰丁凶難，辛苦備嘗」[3]，年紀尚小便遭逢凶險、陷入困頓，嘗盡了苦頭；然而黃蓋並不因此而懷憂喪志，身處貧賤之境，卻不甘流於凡庸，常在砍柴負薪至市集販賣貼補家用之餘，抓緊時間「學書疏，講兵事」[4]，讀書習字，並演練、揣摩兵法戰陣方面的知識。

　　黃蓋無論寒暑、不畏艱苦的勤奮學習，受到了鄉里的肯定，聲名漸漸傳開，零陵郡政府獲悉治所轄下有這麼一位胸懷壯志的少年英才，便延攬黃蓋成為郡府內的一名低級吏員，讓他從基層做起。不久，黃蓋就被察舉為孝廉[5]，徵辟至三公府屬[6]，到了中央任職。

　　漢靈帝熹平三年（公元174，見《資治通鑑》卷五十七），會稽郡有賊帥許生（《吳志》作許昌）起兵於句章（縣名，故治在今浙江餘姚東南），自稱陽明皇帝，與其子許韶扇動諸縣，聚眾數萬，儼然形成國中之國。這時有吳郡富春人孫堅，以郡司馬的名義招募精兵勇士，徵得千餘人，由此成立了一支義勇軍，與奉詔討賊的揚州刺史臧旻、丹陽太守陳寅合力擊破許生父子勢力。戰後臧旻上表奏功，於是詔封孫堅為徐州廣陵郡轄下的鹽瀆縣縣丞（故治在今江蘇鹽城西北）。

　　到了漢靈帝中平元年（公元184），黃巾勢力席捲天下，朝廷命左中郎將皇甫嵩、右中郎將朱儁持節率兵平亂；朱儁為了吸納地方部隊合力討賊，於是表薦當時官拜下邳丞的孫堅為佐軍司馬（中郎將屬官）[7]。下邳鄉里少年聽得消息，盡皆湧入孫堅帳下，表示願隨同前往一齊殺賊；聲勢為之一壯的孫堅，乘勢又從深受黃巾之害的行旅客商那裏募集到了資源與人力，接著再收聚散落在淮河與泗水一帶的精壯兵丁，成為一支千餘人的軍隊。後來孫堅一馬當先、率眾攻破宛城，朱儁上表薦功，進拜為別部司馬（大將軍屬官，秩比千石，別領營屬，所率兵員數量各隨時宜而有不同）。

　　三年後（見《資治通鑑》卷五十八），長沙賊區星自稱「平天將軍」，聚眾萬人，圍攻城邑。因此詔命官拜議郎（郎中令屬官、秩六百石）的孫堅為長沙太守；到任後的孫堅，親自操兵撫士，啟用良吏，地方風氣為之一變，不到十個月的時間，便擊潰區星，同時也將起兵於零陵、桂陽二郡並與區星呼應聯合的周朝、郭石兩股勢力一舉蕩平，朝廷錄功加封為烏程侯。之後漢靈帝駕崩，以勤王名義進京的董卓，專擅朝政、目無綱法，孫堅於是響應袁紹號召，北上洛陽，與董卓軍交戰於陽人（城名、今河南臨汝西），將董卓人馬殺得大敗，並砍下陣前總大將華雄的腦袋，一戰而名震天下。董卓忌憚於孫堅的勇猛，急忙派遣親信李傕等人至孫堅帳下請求和親，又許以孫堅親族子弟皆出任刺史、郡守，豈料孫堅不為所動，還揚言誓要誅殺董卓三族並梟首示眾、否則死不瞑目。董卓計窮，便將整個洛陽城付之一炬，挾眾遷都長安，向西逃竄而去。

　　按黃蓋本傳所載：「（孫）堅舉義兵，（黃）蓋從之。（孫）堅南破山賊，北走董卓，拜（黃）蓋別部司馬。」既然得有擊破南方山賊之事，那麼黃蓋成為孫堅手下，最早當不會早於熹平三年的會稽討賊，最晚則不會晚於中平四、五年時的長沙、零陵、桂陽之役。

　　《吳志‧孫破虜傳》（即孫堅本傳）寫道：「會稽妖賊許昌起於句章」，而句章縣西方即為會稽郡治──山陰縣，其南有會稽山，因此黃蓋隨孫堅南破之山賊有可能便是指「會稽山賊」，但說到孫堅假吳郡司馬名義招募精勇之地在吳郡，而吳郡郡治所吳縣與中央政府所在地雒陽，兩地直線距離在九百公里左右，從常理判斷，黃蓋於此時加入孫堅義軍的可能性趨近於零。

　　至於孫堅於中平年間募兵討伐的賊寇，乃汝水與潁水一帶的黃巾，地域在長江以北，也就是現今安徽北部以及河南南陽市（漢宛縣縣治）一帶，與「南方」恐無太大關聯；而且黃巾名頭響亮，直接稱作黃巾賊即可，犯不著拐彎抹角地以「山賊」代稱。

　　從地緣上看，當時於雒陽三公府屬衙內任職的黃蓋，投軍孫堅麾下最可能的時機應當是在孫堅率兵攻打荊州南陽郡宛縣城池之際──按宛城在洛陽南方一百八十公里處，黃巾佔領了南陽郡治所在的宛縣，便與轄有雒陽的河南尹比鄰相望，勢必造成京師震動，黃蓋有可能便是於此時離開公府，南下加入了孫堅的義軍。不過因為當時戰事已近尾聲，加上黃蓋又是新人，故而沒能如程普一般，把討黃巾之事記入了本傳中──關於這點也非孤例，孫策攻討劉勳、黃祖，當時所率諸將傳中皆有提及，唯獨黃蓋傳隻字未載，因此清代史學家沈家本《三國志瑣言》卷十六中特地註明：「《孫策傳》注載策表稱『行武鋒校尉黃蓋』。是時策討黃祖於沙羨縣，蓋從行，乃建安四年也。本傳不敘為武鋒校尉及討黃祖事，攷策表同列名者：周瑜、呂範、程普、孫權、韓當各傳，皆敘征劉勳、討黃祖事，而蓋傳獨未之及，乃史文之疏也。」（参見注[15]）

　　其次論到長沙郡以南，包括零陵、桂陽二郡，雖然水路縱橫，但同時也是山巒起伏、峰谷交織之地，因此將區星、周朝、郭石等人勢力稱之為據山為寇的「山賊」，也是可以解釋得通的。另按《吳志》第十卷，傳之前三者：程普、黃蓋、韓當為孫堅時舊臣，中四人：蔣欽、周泰、陳武、董襲則是孫策時部將，至於後五人：甘寧、淩統、徐盛、潘璋、丁奉俱為孫權當政時才加入陣營者，並且照卷中個人傳記次序來看，明顯是依各人資歷先後排列：最先的右北平土垠人程普是孫堅征剿黃巾時的班底，黃蓋之後的遼西令支人韓當是孫堅討伐董卓時的生力軍，所以合理研判，黃蓋的「南破山賊」應當是孫堅長沙太守任上之事。

　　雖然資歷不如程普，但論起衝鋒陷陣的本事，黃蓋顯然是略勝一籌，所以關東大捷、逼走董卓之後，拜封為五品破虜將軍兼領豫州刺史的孫堅，便將自己曾經擔任的別部司馬職銜授予黃蓋，而與另一名亦以軍功拜別部司馬的韓當，同為孫堅治軍的左右副手（此時宿將程普以及孫堅之弟孫靜仍未有任何官銜）。

　　由於史傳並無確切記錄黃蓋生卒年分，因此對其歷史活動時間也只能做個概略性的推估。如果將黃蓋進郡府當差時，定在弱冠之年──也就是服過成年禮後的二十歲的話，那麼從察孝廉到辟公府大概也得花個兩到三年，倘若把時間設定得緊湊一點，以黃蓋入三公府署後不久便加入了孫堅麾下義軍，這時年齡就應該有二十四了。因此到了李傕、郭汜殺進長安，黃琬下獄死時（獻帝初平三年，公元192），黃蓋當在三十二歲，黃琬實歲則在五十一上下，兩人年紀相差不到二十歲；即使推延至中平四年，以黃蓋憂心家鄉有失故而南返參加義軍討伐區星、周朝等人來算，也不過少黃琬二十二、三歲而已。由此可見，就年齡輩份而論，黃蓋的爺爺的先人「南陽太守黃子廉」與據稱是黃琬之父的「南陽太守黃守亮」所處年代根本就不在一個級別，完全可以說是兩碼子事。