曹操在收降三十万黄巾军后，从中精选一支人马，由于这批黄巾军都是来自青州，故称为“青州兵”。这支部队跟随曹操南征北战一生，但是曹操刚去世这些部队就开始开小差，最后曹丕只能将部队解散。
青州兵首次亮相，在封丘之战就大败袁术，把袁术赶出兖州，一战成名。后来，青州兵随曹操南征北战，成为一支精锐之师。然而，这支从黄巾军改造过来的武装，流民习性难改，军纪是比较差的。“绣复叛，太祖与战不利，军败，还舞阴。是时军乱，各间行求太祖，禁独勒所将数百人，且战且引，虽有死伤不相离。虏追稍缓，禁徐整行队，鸣鼓而还。未至太祖所，道见十余人被创裸走，禁问其故，曰：‘为青州兵所劫。’”“禁怒，令其众曰：‘青州兵同属曹公，而还为贼乎！’乃讨之，数之以罪。青州兵遽走诣太祖自诉。禁既至，先立营垒，不时谒太祖。或谓禁：‘青州兵已诉君矣，宜促诣公辨之。’禁曰：‘今贼在后，追至无时，不先为备，何以待敌？且公聪明，谮诉何缘！’徐凿堑安营讫，乃入谒，具陈其状。太祖悦，谓禁曰：‘淯水之难，吾其急也，将军在乱能整，讨暴坚垒，有不可动之节，虽古名将，何以加之！’于是录禁前后功，封益寿亭侯。”
曹操
曹操薨逝后，这支青州兵就发生骚动。“时太子在邺，鄢陵侯未到，士民颇苦劳役，又有疾疠，于是军中骚动。群寮恐天下有变，欲不发丧。逵建议为不可秘，乃发哀，令内外皆入临，临讫，各安叙不得动。而青州军擅击鼓相引去。众人以为宜禁止之，不从者讨之。逵以为‘方大丧在殡，嗣王未立，宜因而抚之’。乃为作长檄，告所在给其廪食。”
在为曹操效力二十八年后，青州兵全体将士只想做一件事：解甲归田。他们来自农民，以前是为生活所迫才揭竿而起，曹操给了他们一条活路。为此他们报答了二十八年，现在是回故乡的时候了。所以这支部队才不断开起了小差。曹军将帅们认为，一定要不惜代价阻止青州兵，若抗命不从，则以武力镇压。只有贾逵明白青州兵的心思，“告所在给其廪食”，化解了这场可能出现的危机。
这支历史上赫赫有名的青州兵团，就这样无声无息解散、消失了。史书没有记述他们离开洛阳后的故事，这支来自农民的武装，又悄无声息地回归农民的本分了。