在东汉末年那场黄巾之乱中，朝廷调集多路大军进行平叛，但是多数被黄巾击溃，唯独皇甫嵩连续大胜，并最终大败黄巾主力，杀死张梁、张宝，成为平定黄巾之乱第一人。

　　皇甫嵩很会用兵。开始，皇甫嵩和朱隽联兵共同征讨颍川地区黄巾。当地黄巾人数众多，且黄巾统帅波才也骁勇善战，大败朱隽部队，皇甫嵩只能退保长社县城。当时，波才大军已经将皇甫嵩包围，只等皇甫嵩军粮匮乏就发动进攻。皇甫嵩看到波才军队连续大胜，人人皆以为皇甫嵩也和朱隽一样不堪一击，军纪松弛，有可乘之机。当时，波才的军队驻扎才草丛之中，又狂风大作，皇甫嵩看到时机已到，就命令士兵拿着芦苇草上城，等着火朝下扔去，另外命令一些人潜行到波才军队后方纵火，于是波才军队前后都被火攻，大风吹过，火势更旺，皇甫嵩打开城门，率军猛攻，波才大败。

　　皇甫嵩了解敌情，能够根据形势随时制定不同作战计划，往往克敌制胜。后来，皇甫嵩再败波才，彻底平定颍川，在苍亭再次大败黄巾。汉末大儒卢植率军大败张角，之后张角病死，军队归张梁指挥。皇甫嵩率军和张梁作战。张梁兵精粮足，之前汉军多次被打败。皇甫嵩来到前敌之后，没有急于求战，而是关闭城寨，以观其变。过了几天，看到张梁的防御稍微松懈了，就指挥军队在晚上潜行，张梁军队也很机警。皇甫嵩一直等到鸡鸣，看到张梁部队大部分已经睡去，才下令突击。从三四点一直到到七八点，一战下来，斩杀了黄巾军三万多人，驱赶到河里淹死的有五万人。张梁一部溃灭。之后，在曲阳地区大败张宝，击杀黄巾十余万人，张角兄弟悉数平定。

　　当时，朱隽多次和皇甫嵩并肩作战，但是败多胜少。乱国奸雄董卓也曾经参与剿灭黄巾之战，但是也多吃败战，只有皇甫嵩和曹操，孙坚等人有不俗表现。

　　而皇甫嵩自索引能够多次打胜仗，除了他出色的将略之外，还有军队较强的战斗力。

　　皇甫嵩为人宽容，比较能够体谅士兵，部队每次行军作战，驻扎的时候，皇甫嵩都要等到每一个士兵都安顿好了，才自己吃饭、睡觉。因此，人人都愿意为皇甫嵩死战。

　　而皇甫嵩的将略，在平定陈仓之乱时，得到充分的体现。

　　当时，凉州地区的少数民族也在一些汉人官员的怂恿下起兵叛乱，韩遂等人推举王国为自己的首领。当时，王国包围了陈仓，一旦陈仓陷落，关中就很危险了。于是，朝廷下令有皇甫嵩和董卓率军四万，前往征讨。

　　董卓做为副帅，总是觉得自己手握凉州雄兵，视天下英雄如无物，对在剿灭黄巾之乱中竖立威名的皇甫嵩也不放在眼里。在董卓心中，黄巾军不过是乌合之众，挥手之间，自然可以扫灭。

　　面对陈仓被围，董卓主动求战，说：“陈仓危急，请速救之。”可是皇甫嵩却说：“不然，百战百胜，不如不战而屈人之兵。”打胜仗又有什么了不起呢，在古代打仗杀敌一千，自伤八百。皇甫嵩认为，眼前的陈仓虽然只是一个小县，但是城池坚固，易守难攻。现在王国包围陈仓，很难在短时间攻打下陈仓。只要时间一久，王国的士气必然下降，等到他们军队疲惫的时候，率军突击必然可以大获全胜。

　　果然，王国进攻陈仓八十多天也没有拿下，粮草不继，准备撤军。此时皇甫嵩下令突击，准备和陈仓守军里应外合，内外夹击。此时董卓也上前阻止，说绝对不可以，并引经据典说：“穷寇勿追，归众勿追。”皇甫嵩于是给董卓分析当前形势，认为之前自己不主动出击，是因为王国军队士气旺盛，一旦交战，自己只有四万人马，而王国军队十余万，很难取胜。此时王国经过八十多天的攻城战，士气低落，将士疲惫。而我军经历八十多天的养精蓄锐，早就期待一战，此时追击，我强敌弱，必然大胜。董卓坚持自己的看法，于是皇甫嵩独自率领自己手下的军队进攻，果然大获全胜，斩首万余人，陈仓之围解除了。

　　王国大败之后，被手下韩遂干掉，然后劫持一位叫做阎中的官员继续做自己军队的傀儡。可不久阎中死去，韩遂和其他首领起了内讧，互相攻杀，凉州兵乱也就渐渐平息下去。

　　不过，皇甫嵩虽然是一位出色的将军，对于军事很在行，可是对于政治，反应却很迟钝，以至于让董卓坐大，最终祸国殃民，自己也深受其害。