后来，臧霸接连收服了黄巾军残部的吴敦、尹礼、孙观等人，并收纳了他们的部队，经过精心的训练之后，组成了一直战斗力极为强悍的部队。有了这支部队，臧霸攻城略地，盘踞开阳，隐隐间成了独霸一方的一个小诸侯了。就连陶谦这个徐州牧，都有些忌惮臧霸，为了拉拢他，陶谦还表奏臧霸做了偏将军，对臧霸是睁一只眼闭一只眼，任由他在青、徐交界处发展势力而不闻不问。