晋阳起兵是李唐王朝推翻隋朝的第一步，也是极为关键的一步。由于李世民修改了史书，所以后世史学界对于晋阳起兵的细节一直有争议。
从目前已知的史料上来看，晋阳起兵的时候应该是李渊、李世民、刘文静和裴寂全都参加。在一些史书中我们看到的李渊是一个忠臣的形象，直到被李世民等人诳进了局才下定决心起兵造反，但是从一些细节来看，这种书法完全是为突出李渊的忠臣和李世民的智勇双全而粉饰的。造反这样的事情要么称王称帝，要么夷灭三族，一定是需要一个长期的考虑，才会做出这样的决定。
《旧唐书·宇文士及传》记载，早在晋阳起兵前四五年，李渊就与宇文士及在涿郡“尝夜中密论时事”，武德二年（619年），宇文士及降唐。李渊对裴寂说：“此人与我言天下事，至今已六七年矣，公辈皆在其后。”从此就可以看出，李渊早就有了吞并天下的野心，只不过伪装得比较好而已。《大唐创业起居注》也有记载：李渊刚做太原留守，就对李世民说：“唐固吾国，太原即其地焉。今我来斯，是为天与；与而不取，祸将斯及。然历山飞不破，突厥不和，无以经邦济时也。”
于是李渊做了一个非常重要的动作，大业十二年（616年），李渊将他行事严谨、沉稳的大儿子派出去做一项非常重要的任务：让李建成去河东暗中交结英俊，发展势力。史称“太子及王，俱禀圣略，倾财赈施，卑身下士，……一技可称，一艺可取，与之抗礼，未偿云倦”。当李建成星夜赶到复命“儿等早蒙弘训，禀教义方，奉以周旋，不敢失坠”，从这里也可看出李渊对隋朝并非一味愚忠，一点想法都没有。
李渊交给李建成的是一件难度很高的任务，第一，河东是当时各方势力的汇集地，必须妥善的处理好和各方势力的关系。第二，暗中交接英俊，集聚人才这件事情，如果做的过火了，很可能让朝廷发觉和警惕，马上将李唐集团的造反之心过早暴露，如果做的太低调，又很难完成为造反聚拢人才的任务。
可是李建成仍然非常出色地完成了任务，即便是通过史料的片段，我们也能看出来。
李渊等待李建成归队晋阳后，发兵直奔长安，他的力量来源有三，第一是自己驻守晋阳的部队，第二是李建成带来的河东部队，第三是突厥的支持部队。
李渊带兵能够在短时间内迅速进入关中，突破冲从封锁取下长安，占领政治、战略制高点，李建成集聚的河东力量至关重要。甚至攻破长安的首股部队，也是李建成招徕的嫡系（史书隐秘不谈）。
所以晋阳起兵时候，李建成没有参加，只是因为他去执行了一件更重要的事情，而这件火候不易拿捏的任务，是不太适合气血方刚，年仅二十的李世民去做的。
大业十三年（617年）六月，李渊正式起兵时，李建成带着弟弟李元吉从河东老家逃到太原，而李渊的庶子李智云未能一起逃走，被隋朝官吏逮捕后杀掉。
李渊正式起兵后，在早期李建成和李世民分别统领一部分军队，李建成带兵也表现得还算中规中矩，起码没有大的问题。不过李建成太子的身份天然不适合继续领兵，太子势力的扩张势必和皇帝产生冲突。李建成在李渊攻下长安后，和李世民一起领兵到洛阳附近，此时李密和王世充正在大战，看到没机会后唐军退兵。此后李建成基本没有再领兵。直到李世民势力扩张太盛，刘黑闼第二次起兵时，李建成才再次领兵作战。但此时李世民已经势大，李建成扩张军中势力虽有一定成效但还是无法和李世民相比。李世民军功越来越多，权力欲越来越强烈，两人开始争储就成为必然，最终在武德九年（626年），李世民杀死李建成，逼迫李渊下台而自己做了大唐的皇帝。