李元吉選派武藝高強的刺客前往刺殺尉遲敬德。尉遲敬德是久經沙場的人，什麼生死沒見過?他知道李建成肯定會對他下手，乾脆打開房門，每天晚上照常安臥，沒有絲毫懼怕和戒備。刺客幾次試探，都不敢進去。一則是看到“重門洞開”，害怕裏面有埋伏;二則是懼怕尉遲敬德的勇猛。
刺殺不成，李元吉氣到咬牙。他咆哮道：“我就不相信弄不死你。”
李元吉改變了策略。他要借李淵的刀殺掉尉遲敬德。於是，他每次見李淵，都要說一大堆尉遲敬德的壞話，說敬德將要謀反。這是個一個很敏感的話題，畢竟尉遲敬德是中途投降過來的。另外，對於太子和秦王的較量，李淵也心知肚明。現在秦王功勳高、聲望隆，他也想借此機會打壓李世民，這有利於平衡太子集團和秦王集團的力量。
李淵於是下令將尉遲敬德逮捕下獄，並突擊審訊。李淵已經做好了殺掉尉遲敬德的準備。
尉遲敬德被抓，李世民非常氣憤，這不是在整我嗎?他急忙面見李淵，極力陳述尉遲敬德的忠勇，力保敬德。
在李世民的堅持下，尉遲敬德得以活命。
雖然尉遲敬德仍舊活着，但李建成和李元吉已經決定對李世民下手。
恰逢突厥入侵烏城，作爲太子，李建成建議讓李元吉帶隊出征。二人於是密謀利用李世民爲元吉大軍送行的機會，在昆明池除掉李世民。
太子集團的箭已在弦上，到了要發的地步了。
可李世民仍舊遲疑不決。尉遲敬德力諫李世民先下手爲強。他和長孫無忌一起勸李世民動手。尉遲敬德說：“大王若不速正之，則恐被其所害，社稷危矣。”
尉遲敬德將李世民是否行動提高了國家安危的高度。就是說，這件事不單是李世民個人安危的事，也不只是秦王集團安危的事，而是整個國家社稷安危的事。
這就是大事。
可李世民仍舊猶豫，他礙於兄弟情義，不忍心下手。
尉遲敬德進一步陳述說：“雖存仁愛之小情，忘社稷之大計，禍至而不恐，將亡而自安，失人臣臨難不避之節，乏先賢大義滅親之事，非所聞也。以臣愚誠，請先誅之。”
這話已經說得很嚴重了。李世民聽完，下定決心動手，密令長孫無忌召回房玄齡和杜如晦，一起商議細節。
武德九年六月初四那天，李世民帶領一幫武將在玄武門截殺李建成和李元吉。政變現場，李建成被當場射死，李元吉拼死抵抗，一路往武德殿逃跑。尉遲敬德躍馬直追，舉弓達箭，連發數支，李元吉就這樣被射死。
太子集團的薛萬徹、馮立等將領率軍前來救援，屯兵玄武門。在這危急關頭，尉遲敬德充分表現出自身的勇猛和果斷。他砍下李建成和李元吉的頭，提至玄武門，示以衆將領。此時大家都知道大局已定，再抵抗也沒有用了。於是悉數撤去。
政變發生時，李淵正在海池泛舟。李建成兄弟被殺後，李世民派遣尉遲敬德前往保護李淵。尉遲敬德於是“披甲持矛，直至高祖所。”此時與其說是保護，還不如說是挾持。
李淵見尉遲敬德全副武裝衝進來，非常驚訝。此時他已經知道大事不好了。開口便問：“今日作亂是誰?你來此何也?”
尉遲敬德回答得很乾脆：“秦王以太子、齊王作亂，舉兵誅之。恐陛下驚動，遣臣來宿衛。”
既然如此，李淵還有何話可說呢?幾個月後，李淵退位。九年的“武德”時代結束了，一個全新的叫做“貞觀”的時代正徐徐拉開序幕。
政變結束後，李世民將齊王李元吉家的全部財物都賞賜給了尉遲敬德。以前尉遲敬德退還給李元吉的那些財物，又都全部進了自己的腰包。
