臧霸是泰山人，生於兗青徐邊。當黃巾之亂爆發時，他加入陶謙的軍隊並立下了許多戰功，最終被封爲騎都尉。騎都尉是一種禁軍官職，通常被視爲類似於都督的軍事職位，在一些方面甚至比太守更具有權力。
在黃巾之亂之後，很多騎都尉開始涌現，這些人包括丁原、公孫瓚、鮑信、沮授以及徐晃和張遼等五虎上將，這些人都是一方軍閥或者左右軍閥的強者。
通過這些名人的經歷，可以看出在黃巾之亂後成爲騎都尉的人都是有本事擔任一方軍閥或者左右軍閥的強者。
臧霸在忠於曹操二徵徐州的過程中表現得非常被動。當時陶謙需要靠青州小霸王劉備來救援，而在劉備接任徐州牧時，臧霸仍然沒有動彈。直到呂布上任後，臧霸才展開了與他的合作關係。
我們很難知道臧霸在那個時期到底在想些什麼。如果他是親袁紹的派系，那麼他就不應該與呂布合作;如果他是袁術的支持者，那麼他也不應該支援劉備南下援助陶謙;如果他是大公孫聯盟的成員，那麼他當時應該親自出擊攻打曹操。因此，臧霸很可能只是一個忠於漢室的官員，而沒有其他的想法。
最初，陶謙被曹操打敗是因爲他謀反了。作爲漢官，臧霸沒有理由去救援陶謙。但是，曹操也沒有頒佈敕令要求臧霸去幫助他。相反，呂布是朝廷任命的潁川太守，他在被曹操打敗後撤退到了徐州。與陶謙和劉備私下協商擔任官職不同，呂布代行徐州牧是合法的。
