反隋的工作开展十分顺利，大业十三年七月李渊便率军三万誓师，以废昏立明，拥立代王，匡复隋室的名义正式起兵直趋关中。
发布的檄文里他斥责隋炀帝听信谗言，杀害忠良，穷兵黩武，致使民怨沸腾。
誓师后，李渊与长子建成、次子世民挥师南下，先后破守霍邑的隋鹰牙郎将宋老生、渡黄河，对守河东的隋将屈突通围而不攻。
迅速向西南挺进。当时，隋炀帝远在江都，关内隋军力量薄弱；中原瓦岗军与王世充激战方酣，均无暇西顾。
因此李氏父子进军神速，大业十三年十一月九日直接攻入长安。
十一月十三日，李渊宣布遥尊隋炀帝为太上皇，拥立其孙代王杨侑为帝，改元义宁，是为隋恭帝。
恭帝进封李渊为唐王、大丞相、尚书令，以李建成为唐王世子，李世民为京兆尹，改封秦国公，封李元吉为齐国公。
至此李氏父子完全控制了关中局势，紧接着便准备开始扫荡群雄。
义宁二年，徙封李世民为赵国公，三月隋炀帝在江都被禁军将领兵变杀死，五月隋恭帝被迫禅位于李渊。
李渊即皇帝位于长安，国号唐，建元武德，定都长安，是为唐高祖。
李世民为尚书令，李建成为皇太子，封李世民为秦王，李元吉为齐王。
唐朝建立之初，疆土只限于关中和河东一带，尚未完全统治全国，因此，李渊经常派遣儿子李世民、李建成、李元吉出征，逐步消灭各地割据势力。
武德元年六月，李世民攻打据有今甘肃兰州等地的薛举、薛仁果父子，九月薛举战死，十一月俘杀薛仁果，平定了西北广大地区。
武德二年，唐朝用反间计，使李轨集团内部矛盾激化，从而俘杀了李轨，平定了河西走廊。
同年刘武周、宋金刚勾结突厥，攻入河东，占领太原，李元吉、裴寂等败逃。
后李世民出讨河东，收复太原并消灭刘武周势力，刘武周、宋金刚逃往突厥，不久被杀。
当时黄河流域形成夏政权窦建德、郑政权王世充与唐朝三足鼎立之势。
次年，李世民奉命率军东征王世充，窦建德和王世充联盟对抗李世民的军队。
武德四年，武牢关一战中李世民俘获窦建德。促使王世充投降。
武德六年，太子李建成俘斩窦建德余部刘黑闼，平定了河北地区。
武德七年，高开道为其部下张金树所杀，张金树降唐。唐军又消灭了江南的辅公祏势力，终于一统天下。
武德九年，突厥侵犯唐朝边境，李建成向李渊建议，由李元吉做统帅出征突厥。
太子的东宫中担任率更丞职位的王晊，已被秦王李世民收买成为李世民在东宫的眼线。
他悄悄告诉李世民，李建成想借此控制秦王的兵马，并准备在昆明池设伏兵杀秦王，于是李世民决定先发制人。
晋阳起兵是李世民的谋略，李渊曾答应他事成之后立他为太子，但李渊建立唐朝后，却改立李建成为太子。
天下平定后，李世民功名日盛，李建成随即联合李元吉，排挤李世民。
李渊的优柔寡断，也使朝中政令相互冲突，加速了诸子的兵戎相见。
武德九年六月四日，李世民在帝都长安城宫城玄武门附近射杀皇太子李建成、齐王李元吉，史称玄武门之变。
事后，李世民杀李建成、李元吉诸子，并将他们从宗籍中除名，李渊让出军政大权给予秦王李世民。
六月七日，李世民被立为皇太子，李渊下诏说，自今以后军国事务，无论大小悉数委任太子处决，然后奏闻皇帝。
李渊做太上皇以后，开始的几年是在太极宫生活的。一直到贞观三年（629年）四月，他才从太极宫迁出，搬到了大安宫[25]。
在大安宫生活期间，李渊除了参加李世民举行的一些宴会外，几乎不曾离开过大安宫。李世民经常到九成宫（即隋朝的仁寿宫，位于今陕西麟游）避暑，李渊也不愿意出行。
贞观八年十月，李世民决定在宫城的东北方向营建大明宫，作为太上皇的清暑之所。
由于第二年李渊病死，大明宫没有建成，一直到高宗之世，大明宫才渐成规模。
贞观九年五月六日，李渊因病驾崩于垂拱前殿，年七十岁，庙号高祖，初谥太武皇帝。
同年十月，安葬于献陵，其妻窦氏也加号太穆皇后祔葬。
盛唐的开国皇帝李渊的结局还算可以，至少安享晚年没有照耀。
其在位期间政治体制方面，李渊继承了隋朝的制度又有一些发展。
唐朝中央建立政治制度概括地说是三省六部二十四司，三省是尚书省、中书省和门下省。
尚书省掌管全国政令，是命令的执行机关，下属共有六部，即吏、户、礼、兵、刑、工。
吏部掌管官吏的选用、考核与奖惩；户部掌户籍和赋税。
礼部掌礼仪和科举；兵部掌军事；刑部掌刑狱；工部掌土木工程；每部又分四司来作为办事机关。
中书省负责皇帝诏书的起草，是决策机关。
门下省则审核中书省起草的诏书，不合适的驳回修改。
监察机关是御史台，职责是监督、弹劾文武百官。
地方的政权机构基本是两级，即州和县，长官分别是刺史和县令，刺史每年要巡查各县，考核官员政绩，还负责举荐人才。
县令要负责一县的各种事务，官很小却是最繁忙的官员。
军事制度方面为府兵制，是一种职业兵制。
这种制度创始于西魏的宇文泰时期，经过北周、隋朝，沿用至唐朝。
在太原起兵进军长安的途中，李渊就逐步将手下军队纳入了府兵制度中。
府兵制将练兵权和领兵权分离，以防止将领拥兵自重对抗中央。
府兵制建立在均田制的基础上，是兵农合一的制度，士卒平时在家生产，战时出征。
农闲时由兵府负责操练，提高战斗力，在隋文帝时期，便曾实行过这种制度。
府兵制从根本上减轻了国家的负担，它不但能扩大兵源也能保证战斗力。