杨素前文有提到过，他在杨广立为太子事件中阐扬着首要的感化，厥后杨素代替高颖做左仆射成为大隋第一宰相。杨广即位后安定汉王杨谅的兵变以功成为职位超群的尚书令，大业元年（605）三月，杨素与将作大匠宇文恺修建洛阳新城，七月，杨素升为太子太师，余官仍旧，前后犒赏，不成胜数。大业二年（606）六月，杨素升为司徒，改封楚国公。厥后杨素病重，杨广就常派名医诊断，并赐名药医治。大业二年（606）七月二十三日，杨素在洛阳家中归天，约六十六岁。这在《隋书》中是如许记录的：“素虽有建立之策及平杨谅功，然特为帝所猜忌，外示殊礼，内幕甚薄。太史言隋分野有大丧，因改封于楚。楚与隋同分，欲以此厌当之。素寝疾之日，帝每令名医诊候，赐以上药。然密问医人，恒恐不死。素又自着名位已极，不肯服药，亦不将慎，每语弟约曰：‘我岂须更活耶？’”就是说杨素在厥后的时候因为权势的启事非常被杨广所顾忌，以是杨广很但愿杨素早死，而病重的杨素本人也在看懂了杨广的意义后便不再喝药，最后病死。
杨素的病死使得他身后更是极尽哀荣，杨广追赠其为光禄大夫、太尉公、弘农河东绛郡临汾文城河内汲郡长平上党西河十郡太守。给?车，班剑四十人，前后部羽葆鼓吹，粟麦五千石，物五千段。鸿胪监护丧事。还下诏说：“夫铭功彝器，纪德丰碑，以是垂名迹于不朽，树风声于没世。故楚景武公素，茂绩功臣，劬劳王室，竭尽诚节，协赞朕躬。故以道迈三杰，功参十乱。未臻遐寿，遽揖清徽。春秋递代，方绵岁祀，式播雕篆，用图勋德，可立碑宰隧，以彰盛美”。不管后代是如何评价这个军事家、墨客、政治家的杨素，起码他的主子杨广赐与了他做为臣子应有的庄严，比拟后代的魏征杨素应当是非常荣幸的。
大业二年七月，大隋帝国的两个首要级别的人物太子杨昭、能臣杨素的病逝，不管当时还是现在，很多的人都忽视了这对于厥后大隋帝国的影响。特别是杨素身后，大隋的宰相不再是像高颖、杨素一样的一权独大而是五人组合。左翊卫大将军宇文述、黄门侍郎裴矩、御史大夫裴蕴、内史侍郎虞世基、以及老臣苏威，除一个纳言苏威是天然宰相，别的都是加了“参与朝政”的衔行宰相权柄，这五小我被称为“五贵”。说实在的这五小我在才气方面都是比较不错的，至于苏威就不消说了，剩下的宇文述在疆场上是一员比较优良的将领，在杨广即位前就因军功册封国公；裴矩在才气上能够说是非常优良，特别是他在措置中原与四周少数民族之间干系方面绝对是超卓的；裴蕴在政务才气上非常强，