在公元578年，周武帝病死，宣帝即位。楊堅(jiān)的長(zhǎng)女做了皇后，楊堅(jiān)升任上柱國(guó)、大司馬，掌握了朝政大權(quán)。加上年少的皇帝也比較昏庸荒淫，在群臣中沒(méi)有威信，于是，楊堅(jiān)便開(kāi)始準(zhǔn)備取而代之。

楊堅(jiān)的行動(dòng)多少讓小皇帝有所察覺(jué)，但沒(méi)有真憑實(shí)據(jù)，他也沒(méi)法處罰楊堅(jiān)，何況他還是自己的岳父大人，更難下決心做事。楊堅(jiān)為了避免皇帝的猜疑，就想到地方上去任職，也為將來(lái)有變時(shí)能利用實(shí)力爭(zhēng)奪皇位。于是，他便把這種愿望告訴了自己的朋友、內(nèi)史上大夫鄭譯。

到了公元580年，機(jī)會(huì)來(lái)了，皇帝決定出兵南伐。鄭譯便向皇帝推薦了楊堅(jiān)，皇帝對(duì)鄭譯原來(lái)就很信任，于是任命楊堅(jiān)為揚(yáng)州總管。但是，還沒(méi)等出征，周宣帝便一病不起。在鄭譯的參與和其他關(guān)西士族的支持下，楊堅(jiān)他們做了一個(gè)假詔書(shū)，以宣帝遺詔的名義宣布：楊堅(jiān)以外戚身份入宮輔助政，任宰相，總攬大權(quán)，進(jìn)封為隋王，輔佐剛八歲的周靜帝宇文衍。

宣帝死后，楊堅(jiān)等人并沒(méi)有立即公布消息，而是趁機(jī)用假詔書(shū)奪取了軍政大權(quán)，以及京城部隊(duì)的指揮權(quán)，等一切準(zhǔn)備就緒后，這才發(fā)布了皇帝去世的消息，輔佐小皇帝即位。

楊堅(jiān)做了輔政大臣后，首先建立了新的領(lǐng)導(dǎo)班子，吸收了一些有才干的人，穩(wěn)定政局，并宣布革除宣帝時(shí)的酷厲苛刻之弊，深得人心。然后又向威脅他地位的宗室各王展開(kāi)了攻勢(shì)。

剛?cè)ナ赖闹苄鄣牡艿苡钗馁澰诔⒅泻蜅顖?jiān)的地位不相上下，是楊堅(jiān)秉政的一大障礙。楊堅(jiān)便派人對(duì)他說(shuō)，你不必再這樣勞累地參與政事。以后的皇帝位置肯定是你的，你只管回家等著就行了。宇文贊一來(lái)年輕，二來(lái)也沒(méi)什么謀略，就相信了。

沒(méi)了身邊的對(duì)手，楊堅(jiān)又向其他的王下手了。已經(jīng)成年而且在地方有些勢(shì)力的是五個(gè)王，如果他們聯(lián)合起兵，楊堅(jiān)還很難對(duì)付。所以，在他們得知宣帝病逝的消息之前，楊堅(jiān)便用假詔書(shū)將他們召回到長(zhǎng)安，然后收繳了他們的兵權(quán)和印信。

五個(gè)王見(jiàn)自己無(wú)法與楊堅(jiān)抗衡，便秘密聯(lián)系在外的另一個(gè)王起兵，但不久便被楊堅(jiān)打敗。五王只好尋機(jī)下手。一次，他們?cè)O(shè)下鴻門(mén)宴，請(qǐng)楊堅(jiān)去，幸虧隨從的人有所察覺(jué)，拉他借口跑出來(lái)。然后，楊堅(jiān)便以謀反罪殺掉了主謀的兩個(gè)王，其他三個(gè)不久也被除掉。宗室勢(shì)力被消除后，楊堅(jiān)的皇帝之路平坦了許多。

解除了中央的威脅后，地方勢(shì)力也開(kāi)始反對(duì)他，河南、四川、湖北等地的將領(lǐng)紛紛起兵。經(jīng)過(guò)打與拉兩手策略的較量，楊堅(jiān)在半年后，終于平定了三地的軍事力量，徹底控制了北周的政權(quán)，做皇帝僅僅是一個(gè)形式的問(wèn)題了。

到了公元581年的正月，楊堅(jiān)走了一個(gè)前人使用過(guò)的體面形式——禪讓。他讓人替周靜帝寫(xiě)好退位禪讓詔書(shū)，然后送到他的王府。楊堅(jiān)假意推辭，最后才接受了大家的意思，穿上皇帝服裝，登上心儀已久的寶座。這時(shí)的楊堅(jiān)剛四十歲。

因?yàn)闂顖?jiān)是繼承的父親的爵位隨國(guó)公，后來(lái)又進(jìn)封為隨王，因此把新王朝定名為“隨”，但又覺(jué)得這個(gè)字有個(gè)和“走”同義的偏旁，于是，把這個(gè)不太吉利的偏旁去掉，成了“隋”。

年號(hào)也按照慣例改了，定為“開(kāi)皇”。但都城沒(méi)有變動(dòng)，仍是長(zhǎng)安。楊堅(jiān)雖然改了隨字，但隋朝還是沒(méi)有逃脫短命的命運(yùn)，僅僅三十年便滅了。說(shuō)來(lái)也是巧合，當(dāng)初楊堅(jiān)奪取的是宇文氏的帝位，而他的兒子隋煬帝楊廣也是命喪宇文氏之手。