李世民征求秦王府幕僚们的意见，大家都说：“齐王凶恶乖张，是终究不愿意事奉自己的兄长的。
近来听说护军薛实曾经对齐王说：‘大王的名字，合起来可以成为一个唐字，大王终究是要主宰大唐社稷。’齐王欢喜地说：‘只要能够除去秦王，夺取东宫太子之位就易如反掌了。’
他与太子谋划作乱还没有成功，就已经有了夺取太子之位的心思。作乱的心思没有满足，又有什么事情做不出来呢！假使这两个人如愿以偿了，恐怕天下就不再归大唐所有。
以大王的贤能，捉拿这两个人就如拾取地上的草芥一般容易，怎么能够为了信守匹夫的节操，而忘了国家社稷的大事呢！”
李世民仍然没有决断，大家又问道：“大王认为舜是什么样的人呢？”李世民答道：“是圣人。”
大家说：“假如舜帝在疏通水井的时候没有躲过父亲与弟弟在上面填土的毒手，便化为井中的泥土了；
假如他在涂饰粮仓的时候没有逃过父亲和弟弟在下面放火的毒手，便化为粮仓上的灰烬了，怎么还能够让自己恩泽遍及天下，法度流传后世呢！所以，舜帝在遭到父亲用小棒笞打的时候便忍受了，而在遭到大棍笞打的时候便逃走了，这大概是因为舜帝心里所想的是大事啊。”
李世民命人算卦以卜吉凶，恰好秦王府的幕僚张公谨从外面进来，便将占卜的龟壳夺过来扔在地上，说：“占卜是为了决定疑难之事的，现在事情并无疑难，还占卜什么呢！
如果占卜的结果是不吉利的，难道就能够停止行动了吗？”于是便定下了行动计划。
李世民命令长孙无忌秘密地将房玄龄等人召回，房玄龄等人不答应回秦王府，说道：“陛下敕书的旨意是不允许我们再事奉大王的。如果我们现在私下去谒见大王，肯定要因此获罪而死，因此我们不敢接受大王的教令！”
李世民发怒，对尉迟恭说：“房玄龄、杜如晦难道要背叛我吗！”
他摘下佩刀交给尉迟恭道：“明公前去察看一下情况，如果他们果真没有回来的意思，可砍下他们头回来见我。”
尉迟恭前去，与长孙无忌一起明示房玄龄等人说：“大王已经将行动的计划决定下来了，众位明公应该速去秦王府中共议大事。
我们四个人不能在街道上同行。”于是命令房玄龄和杜如晦穿上道士的服装，与长孙无忌一同进入秦王府，尉迟恭则经由别的道路也来到了秦王府。
秦王密奏
六月初三己未日（626年7月1日），太白金星再次在白天出现在天空正南方的午位。傅奕秘密上奏道：“金星出现在秦地的分野上，这是秦王应当拥有天下的征兆。”
高祖将傅奕的密奏给秦王世民看。于是这样，李世民乘机秘密上奏父皇，告发李建成和李元吉与后宫的嫔妃淫乱，而且说：“儿臣丝毫没有对不起皇兄和皇弟，现在他们却打算杀死儿臣，这简直就像要替王世充和窦建德报仇。
如今我快要含冤而死，永远地离开父皇，魂魄归于黄泉，如果见到王世充诸贼，实在感到羞耻！”
高祖望着李世民，惊讶不已，回答道：“明天朕就审问此事，你应该及早前来参见朕。”
张婕妤暗中得知了李世民密奏的大意，急忙告诉李建成。
李建成将李元吉召来商议此事，李元吉说：“我们应当管好东宫和齐王府中的士兵，托称有病不去上朝，以便观察形势。”李建成道：“宫中的军队防备已很严密了，我与皇弟应当入朝参见，亲自打听消息。” 于是二人决定先入大内皇宫逼高祖表态。
不料在宫城北门玄武门执行禁卫总领常何名为太子亲信，实际上却从武德二年起就随李世民出征，武德七年的时候奉李世民的命令进入长安，领军玄武门，并收买禁军 ，因此宫中卫队已经倒向秦王，李建成和李元吉却不知道，还以为宫中都还是自己人。
武德九年六月初四庚申日（626年7月2日），李世民率领长孙无忌、尉迟恭、侯君集、张公谨、刘师立、公孙武达、独孤彦云、杜君绰、郑仁泰、李孟尝（一说为长孙无忌、尉迟恭、房玄龄、杜如晦、宇文士及、高士廉、侯君集、程知节、秦琼、段志玄、屈突通、张士贵）等人入朝，并在玄武门埋下伏兵。
李建成、李元吉二人不知底细，也一起入朝，骑马奔向玄武门。此时，高祖已经将裴寂、萧瑀、陈叔达、封德彝、裴矩等人召集前来，准备查验这件事情了。
李建成、李元吉来到临湖殿，察觉到了变化，立即掉转马头，准备向东返回东宫和齐王府。
李世民跟在后面呼唤他们，李元吉心虚，先张弓搭箭射向李世民，但由于心急，一连两三次都没有将弓拉满，箭没有射中。李世民却搭弓射向李建成，将他射死了。
尉迟恭带领骑兵七十人相继赶到，他身边的将士用箭射中了李元吉，李元吉跌下马来。可就在此时，李世民的坐骑受到了惊吓，带着李世民奔入玄武门旁边的树林，李世民又被林中的树枝挂住，从马上摔下，倒在地上，一时爬不起来。
李元吉迅速赶到，夺过弓来，准备勒死李世民，就在这时尉迟恭跃马奔来大声喝住了他。李元吉知道不是对手，赶紧放开李世民，想快步跑入武德殿寻求父皇庇护，但尉迟恭快马追上他，放箭将他射死了。
太子李建成的部下、翊卫车骑将军冯立得知建成身死，叹息道：“难道能够在太子生前蒙受恩惠而太子一死便逃避祸难吗！”
于是，他与副护军薛万彻、屈直府左车骑谢叔方率领东宫和齐王府的精锐兵马两千人，急驰赶到玄武门，准备为太子和齐王报仇。张公谨臂力过人，他独自关闭了大门，挡住冯立等人，冯立等人无法进入。
云麾将军敬君弘掌管着宿卫军，驻扎在玄武门。他挺身而起，准备出战，与他亲近的人阻止他说：“事情未见分晓，姑且慢慢观察事态的发展变化，等到兵力汇集起来，结成阵列再出战，也为时不晚。”
敬君弘不听从，便与中郎将吕世衡大声呼喊着向敌阵冲去，结果全部战死。把守玄武门的士兵与薛万彻等人奋力交战，持续了很长时间，薛万彻擂鼓呐喊，准备进攻秦王府，将士们大为恐惧。
此时，尉迟恭提着建成和元吉的首级给薛万彻等人看，东宫和齐王府的人马顿失战心，迅速溃散，薛万彻与骑兵数十人则逃入终南山中。冯立杀死敬君弘后，对部下说：“这也可以略微报答太子殿下了。”
于是，他丢掉兵器，落荒而逃。 至此，政变以秦王李世民的胜利而告终。