7月4日，李淵在晉陽宮東部乾陽門街軍門口豎起白旗誓言，任命四個兒子李元吉為鎮北將軍、太原縣守衛，讓他留在晉陽。李淵在誓言中記錄了楊迪皇帝楊光的各種罪行，并宣布將“振興晉陽，尊重大廈，掃除咸洛，集寧玉縣”。第五天，李淵帶領長子李建成、第二個兒子李世民和志愿者從太原南下，指向關中。

　　七月，李淵與長子建成，次子世民揮師南下，先后破霍邑(今山西霍縣)，渡黃河，向西南挺進。當時楊迪皇帝遠在江都(今江蘇揚州)，關內隋軍力量薄弱；中原瓦崗軍和王世充激戰方，無暇西顧。因此，李的父子進軍迅速，11月攻入長安。李淵進入長安后不久，宣布遙尊楊迪皇帝為太上皇帝，將楊迪皇帝孫代王楊宇為皇帝，改元義寧為隋恭皇帝。恭帝進封李淵為唐王，以李建為唐王世子；李世民為京兆尹，改封秦國公；李元吉為齊國公。李世民遷封趙國公，公元618年(義寧二年)。公元618年3月，隋楊帝在江都被部將殺害。

　　五月，李淵即位，國名唐，建元武德，定都長安，為唐高祖。李淵以李世民為書令。不久，李健成為皇太子，李世民為秦王，李元吉為齊王。

　　公元617年(大業13年)11月初9日，李淵率軍攻占長安，以楊迪皇帝的孫為皇帝，為隋恭皇帝。隋恭皇帝任命李淵為大都督內外的軍事、總理和書法記錄，進入唐王。

　　第二年五月，隋恭帝被迫禪位于李淵，李淵即位于長安的皇帝，為唐高祖建立了唐朝。