異民族征伐で張奐や段熲と共に功名を挙げた武将

若い頃から文武に優れており、詩書を好み弓馬術の習得に励んだ。孝廉へ挙げられ、郎中に任命される事となったが、父の死去により辞退した。再び茂才に挙げられ、陳蕃・竇武に招かれるも出仕しなかった。後に霊帝から公車により招聘されると、遂に出仕を決意し、議郎・北地太守を歴任した。 184年、張角を中心に黄巾の乱が勃発すると、対策を協議する朝廷において、皇甫嵩は党錮の禁解禁と霊帝の私財（銭穀・軍馬）放出を具申した。皇甫嵩は左中郎将に任命され、右中郎将の朱儁と共に精兵4万を率いて、穎川方面の黄巾討伐に向かった。 潁川黄巾軍の波才との戦いでは、当初朱儁が担当したが官軍は劣勢となり、勢いを増した波才に皇甫嵩の籠る長社を包囲された。皇甫嵩は田単の故事に倣って一計を案じ、火攻船橋めで波才軍を混乱させ、都から援軍に赴いた曹操や朱儁と共に、波才を大破した。皇甫嵩はこの功績で都郷侯に封じられ、以後も朱儁と共に汝南郡・陳郡（淮陽）・東郡の各地を転戦し、勝利を挙げた。 東郡黄巾軍の卜己を倉亭で破り、卜己を生け捕って7千の首級を挙げた。 冀州方面の張角率いる黄巾本隊の討伐は、盧植と董卓が担当していたが、彼等が戦果を挙げることができなかったため、皇甫嵩に討伐の命が下った。広宗で張角の弟張梁を討つとともに、病死していた張角の棺を壊して首を洛陽へ送った。さらに曲陽では張角の弟張宝を討ち、10数万を斬り京観を築いた。黄巾軍討伐成功の功により、左車騎将軍に任命され、槐里侯に封じられた。また、八千戸の食邑を与えられ、冀州牧となった。 冀州においては戦乱に苦しむ民の負担を軽減し、また部下に対しても恩寵を施し、汚職をした官吏すら許したため信望を集めた。その頃、信都の閻忠は皇甫嵩に「世は乱れており、自身の名声と行ないが自身に災いを招くことは明白だ。それを避けるため独立し、軍兵を動かし天下を一つにまとめ、民心に従い漢王朝に代わり帝位に就くべきだ」と、韓信の故事を引いて説得した。しかし皇甫嵩が拒絶したため、閻忠は逃亡した。 185年、辺章・韓遂が涼州で反乱を起こすと船橋、朝廷の命令で長安に駐屯し、董卓と共にその討伐に当たった。このとき、十常侍の趙忠の法令違反を上奏し、また張譲からの賄賂要求を拒否していたこともあったため、十常侍に讒言され、左車騎将軍と食邑6千戸を取り上げられた。都郷侯に戻されたが、なお2千戸を領した。 涼州の反乱は新たに張温が討伐に当たっていたが、成果を挙げることは出来なかった。188年、賊の王国が陳倉を攻撃した際、皇甫嵩は左将軍に任命され再び討伐に当たった。このとき董卓を指揮下においた。軍中では董卓の提案する策をいずれも退け、その正反対の策を用い勝利を収めた。しかしこのことから、董卓に憎まれることになった。同年中、二度船橋にわたって朝廷から董卓に対し、并州牧に任命するため軍権を皇甫嵩に渡して帰還するよう指示が届いたが、董卓は拒否した。また、皇甫嵩は朝廷に事の次第を上書したため、董卓とのいがみ合いは決定的となった。