当时出身于番禺越族首级世家、原南陈王勇部将的王仲宣见江南尽乱，便联络泷州土著大酋长、罗州剌史陈佛智反隋。苍梧的陈坦、冈州的冯岑翁、梁化的邓马头、藤州的李光略、罗州的庞靖等处所酋长也纷繁呼应。王仲宣叛军权势大，来势凶悍，兵围广州城，又进兵扼守衡岭。隋将韦?渤稣剑?惺妇x妇?t谡馕＜惫赝罚?诘钡赜凶懦绺咄??馁?蛉送i矶?觯?杆俜1?饩裙阒葜?！k?汕菜镒臃腙崖时?巴?仍???腙哑?蚱鹨宓亩游椋?虏涣耸郑?俪俨辉阜1?y?蛉酥?懒苏飧銮榭龊螅??淮笈?∷?砩洗?读朔腙眩?阉?匮涸谥莞?嘤?铩7蛉擞敕腙阉涫亲嫠锕叵担??谫?蛉说男闹校?词枪?依?娓哂诟鋈死?妫?＜惫赝罚??挛?兀?簧??坏闼角槊孀印7蛉斯匮毫朔腙押螅?锤呐闪硪凰镒臃氚宦适μ址ツ娴吵路鹬恰7氚宦适Φ焦阒莩窍拢?胱な毓阒莸墓俦?镉ν夂希?杆俪龌鳎?殉路鹬钦队诼硐隆h缓螅?氚挥只颖?聊虾＃?胨宄?蠼?乖傅脑??崾Γ?餐?坊魍踔傩??竦么蠼荩?だ??椤?p>
因而杨素持续率军由会稽走海道向泉州追击。时泉州人王国庆为南安豪族，杀刺史刘弘，据州为乱，各处流亡的叛军皆附于他。王国庆自发得海路险阻，而隋军多为北方人，不习海战，遂不设防。杨素率海军从海道掩至，王国庆大惊，弃州逃窜，其众或入海岛，或守溪洞。因而杨素分遣诸将，水、陆分进追捕。并派人密劝王国庆：“尔之罪行，计不容诛。唯有斩送聪明，能够塞责”。王国庆为了保命因而抓获投奔本身的高聪明，送交隋军，杨素将其斩首，余众全数投降。
固然对于杨广做天子之前的一些事情史乘成心忽视而没有很详细的记录，但是在杨广再次以皇子的身份下江南的表示仍然能从一些事件中看到。杨广到了扬州后没有像杨素一样直接带领雄师把兵变者弹压，但是他还是以他特有的攻心战术胜利地招安了多量叛这。如吴郡世族陆知命，在三吴地区人望极高，杨广亲身延请他出面晓谕叛者，使十七城叛者纳城迎降。
杨坚擅权时，杨素知杨坚甚得众心，且有称帝之意，遂主动投到杨坚门下，与其交好。杨坚也知杨素之才，对其也非常正视，不久便以杨素为汴州刺史。后为行军总管插手过讨伐尉迟迥，不久任大将军，领河内兵打败宇文胄军，斩宇文胄。因功迁徐州总管，进位柱国，封清河郡公，邑二千户。其弟杨岳也被封为临贞公。杨坚即位后，杨素任上柱国，并参与了隋朝法律的修定。开皇四年(584年)，拜御史大夫。因为其妻郑氏是个泼妇，杨素一次与其吵架说了一句：“我若作天子，卿定不堪为皇后”。成果被其妻告密，杨素是以开罪，并被免官。幸亏杨坚一向筹办灭亡陈朝，同一中国，杨素曾数次献伐陈之策，此次被免官后，杨素再次献伐陈之策。开皇五年(585年)十月，知杨素才气的杨坚让他担负信州总管，经略长江上游，后为行军元帅与杨广南征灭陈。杨素带领水军在长江上游打的南陈将领心惊胆战，他带领的水军气势弘大，大小战船铺满了整了江面，旗号盔甲在阳光下素净刺眼。而杨素本人端坐在平乘大船之上，面貌体格雄浑魁伟的他让南陈将领望而生畏，都说：“清河公就是长江之神啊！”平陈后因功册封越国公，以其子杨玄感为仪同，杨玄奖为清河郡公。赐物万段，粟万石，加以金宝，又赐陈后主妹及女妓十四人。后又代替去了并州的杨广任内史令成为宰相之一。
而刚从并州回到长安后又马不断蹄赶往江南的杨广看到杨素快速进军，便当即派大将郭衍“领精锐万人先屯京口”，然后向西进兵皖南“黟，歙诸洞”，尽灭叛军；再者让本身晋王府参军段达也率军一万打击方、滁二州，又破汪文进于宣州，有力地共同了杨素的军事行动。