早年經歷
明朝弘治初年，毛伯溫遊歷至廣東省惠州府博羅縣主簿丁震家，丁震對毛伯溫一見深器，就收留了他，並供他讀了三年書。毛伯溫離開廣東後還專門尋找過丁震，並給丁家贈送了匾額。
正德二年(1507年)，毛伯溫中舉人。
正德三年(1508年)，毛伯溫考中進士，初任紹興府推官。
正德六年(1511年)，升任河南道監察御史，先後巡按福建、河南。任河南巡按期間，在湖南郴州汝城修建了繡衣坊，是中國現存最早的專門旌表監察官員的牌坊。
嘉靖元年(1522年)，宦官張銳、張忠等被判死刑，其同黨蕭敬、韋霦暗中想拖延行刑。毛伯溫上書請求一併殺了蕭敬、韋霦，宦官們因此才閉上了嘴巴。
仕途多舛
嘉靖初年，毛伯溫升爲大理寺丞，後又升爲右僉都御史，巡撫寧夏。後因李福達一案被重提，毛伯溫因爲在大理寺時誤判重罪，被罷官歸鄉。
嘉靖十一年(1532年)九月，毛伯溫因爲他人推薦而恢復舊職，朝廷令其巡撫山西，後又改爲巡撫順天，但他都沒有上任。朝廷於是讓毛伯溫改爲辦理都察院的事務。
嘉靖十二年(1533年)，毛伯溫升任爲左副都御史。在這個職務上，他又受到趙王府的族人朱祐椋的攻擊，被解除官職聽候考察。過後又被開除了職務。
出征安南
嘉靖十五年(1536年)冬天，皇子朱載壡出生，明世宗打算向外國頒佈詔書。禮部尚書夏言認爲安南多年不來朝貢，不應當派遣使節，並進而請討伐它。明世宗於是起用毛伯溫爲右都御史，讓他和咸寧侯仇鸞整兵待命。毛伯溫以父喪在身推辭，明世宗不答應。
嘉靖十六年(1537年)五月，毛伯溫到達北京，遞上六條方略。恰好這時安南國王孫黎寧派遣陪臣鄭惟僚等人來訴說莫登庸弒君篡權，請明朝興兵替他們復仇。明世宗懷疑情況不真實，命令毛伯溫暫緩出兵，傳令兩廣、雲南守臣調查以後報上來，同時讓毛伯溫協助辦理都察院的事務。御史何維柏奏請讓毛伯溫守完喪，世宗不答應。毛伯溫只好稱病不出，一直到除喪服的祭祀過後纔出來理事。同年冬天，毛伯溫升任工部尚書。
嘉靖十七年(1538年)春天，黔國公沐朝輔等拿莫登庸的降表獻給朝廷，請求寬恕其罪，允許安南來朝貢。在此之前，雲南巡撫汪文盛奏稱，莫登庸聽說朝廷將發兵前往討伐他，派人偷偷來偵察我們。明世宗已傳令要大臣按照以前的詔書出兵，汪文盛又採納安南投降過來的武文淵的計策，上書說莫登庸可以拿下來的情況，一面又傳檄要莫登庸向朝廷上表獻地。此時，明世宗在大臣的意見下改命毛伯溫擔任兵部尚書兼右都御史，限期上任。後又因爲明世宗的個人原因加上兵部尚書張瓚的無能，沒有什麼像樣的計策，明世宗感到不高興，責怪了張瓚一番，軍隊又停止出征了，毛伯溫受命再次協助辦理按察院的事務。
嘉靖十八年(1539年)二月，明世宗住在承天，詔令毛伯溫去總督宣府、大同、山西的軍務。不久選用東宮官員，又給他加官，兼任太子賓客。大同所管轄的鎮邊、鎮川、弘賜、鎮河、鎮虜五座城堡，距城二百多裏遠，是接近敵人營帳的最邊遠地帶。自從巡撫張文錦因爲修築這些城堡導致兵變後，沒有人敢再主張維修它們了。伯溫說：“兵變所以發生，是因爲張文錦用人不當，並不是他的建議有什麼不對。”於是修復了這些城堡，招募三千士兵在這裏防守，分給他們空閒的田地，永久地免除他們的田賦。邊防依仗這一點很有威力。論功，毛伯溫被晉升爲太子少保。時，莫登庸害怕明朝討伐他，幾次上書請求投降。明世宗也想借此機會安撫他，就派侍郎黃綰去招安。黃綰過多地提出各種要求，明世宗一怒之下罷了黃綰的官。然後又下交羣臣議論，大家都說應當討伐安南。明世宗同意了，就在閏七月裏命令毛伯溫、仇鸞南征，文武三品以下官員不聽命令的，允許他們按軍法處治。伯溫等到達廣西后，召集總督張經，總兵官、安遠侯柳珣，參政翁萬達、張嶽等商定，徵調兩廣、福建、湖廣狼土官兵共十二萬五千多人，分置三處哨所，從憑祥、龍峒、思陵州挺進安南，再用兩支奇軍作爲聲援部隊。又傳令雲南巡撫汪文盛率兵駐在蓮花灘，也分兵三路進軍安南。部署已定，碰上仇鸞因罪被召回，就讓柳珣取代了他。
嘉靖十九年(1540年)秋天，毛伯溫等人進駐南寧，傳檄安南臣民，告訴他們大明王朝要選擇黎氏子孫繼承祖宗的家國，只治莫登庸父子的罪，有帶領郡縣投降的，就拿這個郡縣封賞他。又懸重賞緝拿莫登庸父子，同時傳令登庸只要交上土地、人民的簿冊並依此納款，就照詔書中講過的那些饒恕他的罪過。莫登庸非常害怕，派了使臣到萬達那裏求降，措辭很是可憐。萬達把他們送到毛伯溫那裏。毛伯溫奉命答應了，向他們傳達了天子的恩德和威嚴，收取了安南國的地圖、戶籍，還有他們所歸還的欽州四峒地區，暫且命令莫登庸的使臣回國聽令。伯溫把這些情況飛章上奏，明世宗極爲高興，發佈詔書把安南國改名安南都統使司，讓登庸當都統使，世代相承，在境內分設十三個宣撫司，由他自己安排。毛伯溫接受討伐安南的任務一年多時間裏，沒射過一支箭，安南就被平定，這是因爲世宗本來就不打算動兵的緣故。事後論功，毛伯溫被加官爲太子太保。此戰後，毛伯溫將功勞很大的翁萬達、張嶽推薦給明世宗，二人遂得任用。
整飭邊防
嘉靖二十一年(1542年)正月，毛伯溫班師回朝，仍舊辦理都察院的職事。邊關上幾次傳來警報，毛伯溫請修建京師外城。明世宗已批示說可以，給事中劉養直說修廟的工程正在進展中，物力跟不上，世宗就傳令暫停修築外城。同年十月，兵部尚書張瓚去世，毛伯溫就代理兵部的事務。張瓚爲人迷戀權柄，不能盡職，在兵部當了八年尚書，軍事設施全給荒廢了。毛伯溫召集朝臣們商議後奏上二十四條防邊建議，軍令爲之一新。有言官建議覈實新軍、京軍及內府力士、工匠名額，以便節約開支，充實國庫儲備。毛伯溫於是遞上關於應當裁減的冗濫人員的二十多條意見，舉凡錦衣、騰驤等衛，御馬、內官、尚膳等監，這些一向被宦官們佔據的部門，都在裁減之列。明世宗稱讚這個建議，命令立即照此清理。朝廷中多年來存在的這些弊端得到了很大改善，卻得罪了朝廷之中的宦官。
嘉靖二十二年(1543年)二月，明世宗南巡承天府，下詔讓毛伯溫總督宣、大、山西軍務。不久，遴選宮僚，加兼太子賓客。毛伯溫建議將大同管轄的鎮邊、鎮川、弘賜、鎮河、鎮虜五五堡重新營建，募軍三千防守，因此被加封爲太子少保。
削籍病逝
嘉靖二十三年(1544年)秋天，順天巡撫朱方因爲防秋結束請撤回臨時派駐的客兵。不多久，北寇大舉入侵，直逼京師近郊。明世宗大爲震怒，一併逮捕了總督翟鵬，讓他充了軍，把朱方打死在大棍之下。御史舒汀說，朱方只是建議撤回薊鎮的客兵，主張把宣府、大同的客兵一起撤回的是毛伯溫和職方郎韓最。明世宗於是把毛伯溫削除官籍，把韓最打了八十大棍，發配到最邊遠的地方充軍去了，途中被赦免歸鄉。
嘉靖二十四年(1545年)，毛伯溫因背上長出疽瘡而死。
