以沈玄侩为首的吴州地区起义军被剿灭后，杨素率大军乘船沿海南下，直扑会稽（绍兴）。
会稽地处东南部，无论是西晋八王之乱后永嘉南渡，还是五胡乱华时南北对峙，会稽地区受北方势力侵入甚少。
对于隋朝政权的认可度，会稽地区百姓最低。
会稽地区叛军首领是高智慧，他号召南陈旧地人揭竿起义反抗隋国朝廷，当地人内心赞同，踊跃参与。
因此，在各地起义军中，高智慧实力最强，拥有一千多艘战船，队伍人数接近10万。
他们已经攻占会稽郡城，杀死朝廷派来的官员。
隋军行军总管来护儿熟悉水战，他自告奋勇申请打头阵，率楼船军与高智慧的水师硬碰硬过招。
几轮交手后，来护儿用火攻击溃了高智慧的水师。
杨素亲自率军趁势由陆路拿下了会稽郡城。
高智慧率领残部，乘船由海路逃往南方永嘉（温州），投奔沈孝彻。
杨素、来护儿紧随高智慧，一路追到永嘉。
与此同时，史万岁击败婺州（金华）汪文进叛军，鱼俱罗击败乐安（台州）蔡道人叛军。
汪文进、蔡道人均被斩杀。
史万岁攻破婺州、斩杀汪文进后，继续南进剿匪，遭到四面州县叛军围攻，作战十分艰苦。
他的队伍在三个月中转战一千多里，经历大小战斗几百次。
由于周边都是山区，交通不便，史万岁的斥候没法与友军互通情报，鱼俱罗、杨素等人都以为史万岁已经殉国、其队伍全军覆没。
史万岁残部被困在山谷里时，他砍削竹片书写了许多封求援信，装在密封的竹筒里，丢进溪水中让其顺流而下，试试运气，希望被隋国友军发现。
吉人自有天佑。
杨素军中的打水军士看见一只水中漂游的竹筒，感觉不同寻常，便捞上来上报。
杨素见到了史万岁的求援信，一边紧急派队伍前往救援，一边将此事上奏长安。
皇帝杨坚阅览了杨素军报，感叹不已。
他下旨赏史万岁十万钱，将他由上开府仪同三司（从四品），升为左领军将军（从三品）。
杨素集中来护儿、鱼俱罗等大军，猛攻永嘉。
最终，永嘉城破，沈孝彻被杀。
高智慧在精锐死士保护下逃出，带着几百人跑到泉州，投奔泉州王国庆的起义军。
王国庆是泉州本地豪强，他率部众偷袭泉州刺史部，斩杀了刺史刘弘后宣布起义，得到当地世族支持。
对高智慧的溃败，王国庆感到可惜。但对他的来投，王国庆很是欢迎。
杨素率大军紧追至泉州。
无论是攻城还是守城，无论是陆战还是水战，杨素是当世最顶级的军事家。
面对王国庆、高智慧的泉州防御堡垒，杨素麾下猛将们一如既往地互相竞赛，仿佛是参加军事演习。
双方的死伤都十分惨烈，但隋军官兵个个士气高昂、奋不顾身。
相反，南方军见到北方军如此拼命进攻，心里渐渐发怵。
交战时士气一旦松动，便会一触即溃、不可收拾。
不久，泉州城被攻破。
王国庆、高智慧率部突围出城，逃往深山老林里。
叛军进入闽地崇山峻岭之中，隋国朝廷军要清剿他们，那就非常麻烦了。
杨素另辟蹊径，派王国庆手下降将前往劝降，允诺：只要王国庆斩杀高智慧，杨素担保王国庆性命无忧。
王国庆自知大势已去，于是擒拿高智慧，率部下向杨素投降。
杨素将高智慧斩首，头悬泉州城门。
至此，江南反叛全部被平定。