平定陈友谅以后，吴王班师回应天休整了半年多，就开始准备对付东边那个老冤家——张士诚。
张士诚趁朱元璋忙于西线上与陈友谅作战，无暇东顾之机，蚕食了朱元璋很多州县，南起绍兴，北至通泰，高邮、淮南、泗州，东北至济宁，甚至连朱元璋的家乡濠州都被张士诚夺去。张士诚的城池一下多了几十个，疆域几乎翻了一番。真是小人得志猖狂，他也就骄傲自大起来。认为朱元璋也不过尔尔，便令群臣歌功颂德，并公开向元朝皇帝邀功封王，遭到朝廷拒绝，他就狂妄自大地自封吴王，于是江南就出现了两个吴王的局面。
张士诚自封吴王后，遂在平江（苏州）大修官第王府，封其弟张士信为左丞相，女婿潘绍元为参谋。张士诚成天只知红灯酒绿，花天酒地，过着纸醉金迷的生活。其他一切政务都交给弟、婿二人做主。这两个人更是荒淫无度，享乐腐化。手下更有黄敬夫、蔡彦夫、叶德新三个亲信，在平江城欺压百姓，无恶不作，老百姓一个个切齿痛恨。当时平江百姓和军中，广泛流传着一首歌谣：“丞相张太爷，想建千秋业，贤能他不用，专宠黄蔡叶，欺压老百姓，坏事全作绝，一朝西风起——干瘪。”
吴王召集大臣商议如何进攻张士诚，现在吴王的力量是今非昔比，谁都清楚对付张士诚现在是绰绰有余，所以，文武百官一听说对付张士诚大家都摸拳擦掌，纷纷发言，大家七嘴八舌，莫衷一是。吴王见了忙说道：“这样好了，还是请先生说说在军事上如何布署和进攻。”
刘伯温说道：“关于张士诚的情况，大家都很清楚，我们容忍他已很久了，现在是集中精力来解决张士诚的问题的时候。消灭张士诚我们不能用对付陈友谅的办法来对付他，对付陈友谅我们是集中优势兵力打歼灭战，现在张士诚兵力比较少，也比较弱，而且也相对分散，所以我们采取‘分而治之，各个击破’的办法来进行。从现在起，我们进入征东时代，我们去征东，一定要作到‘师出有名’，我已把讨伐张士诚的檄文写好，罪状有八条之多，现请吴王过目，如果没有异议，就广泛抄写，四处张贴，以张我军之正气。”
吴王接过一看，只见檄文写道：
惟兹姑苏张士诚，为民则私贩盐货，行劫于江湖，兵法则首聚凶徒，负固于海岛，其罪一也；
恐海隅一区，难抗天下大势，诈降于元，坑其参政赵琏，囚其待制孙为，其罪二也；
厥后掩袭浙西，兵不满万数，地不足千里，僭称改元其罪三也；
初寇我边，一战生擒其亲弟，再犯浙省，揭矛直捣其近郊，首尾畏缩，乃又诈降于元，其罪四也；
阳受元朝之名，阴行假王之令，抉制达丞相，谋害杨左丞，其罪五也；
占据江浙，钱粮十年不贡，其罪六也；
知元纲已坠，公然害其丞相达识贴木儿、南台大夫普化贴木儿其罪七也；
恃其地险食足，诱我叛将，掠我边民，其罪八也。
凡地八罪，理宜征讨，以靖天下，以济斯民。
丙午年十月
吴王览毕，连声叫好说道：“好，檄文写得很好，简明扼要，这样我们就出师有名了。马上刻印五千张，广泛张贴。我再重申一下军纪：‘此行毋妄杀，毋乱掠，毋发丘垄，毋毁庐舍，毋毁损士诚母墓，违令有刑。’这是舆论方面的准备，我们具体行动怎么作呢？”
刘伯温拿出一张地图挂在屋中央继续说道：“我们作法是分三步走：第一步先派兵从北面向东推进，攻占泰州、高邮、徐州、淮安、宿州、濠州、泗州，把这些原属我们的州县全部夺回来，进一步把东吴北边淮河下游地区的州县一一攻下，第二步把平江南面的湖州、杭州、海宁、嘉兴、常熟、无锡逐一攻下，叫平江变成一座孤城，把张士诚的水师圧迫而龟缩在太湖北部，然后一举歼灭其水师，平江就不攻自破了。一旦平江变成一座孤城，张士诚就成了瓮中之鳖，就可以不战而下。所用时间力争在一年之内。”
吴王听了十分高兴，遂遣徐达为大将军，常遇春为副将军，率兵二十万，直取淮东。
大军所至，势如破竹，遂下泰州，围高邮。张士诚也学乖了，使出围魏救赵的办法，他不派人去救高邮，而是派了数百艘船，沿江而上，来攻江阴，江阴守将吴桢、吴良弟兄严阵以待，吴王朱元璋闻讯亲率兵来救江阴，恰逢张士诚士兵攻城，城内外一番夹击，张士诚舟师腹背受敌，大败而去，生俘士兵两千余人。徐达见江阴获胜，遂努力攻高邮，一鼓而下。徐达常遇春又马不停蹄攻淮安，张士诚派徐义带水师来援，徐达派常遇春去打援，他自己则照常攻淮安，常遇春一遇徐义，一夜将其击溃，并夺战船百余艘，徐义连夜逃走，淮安守将梅思祖见状，只好出城投降，并献所属四县。徐达遂还师攻兴化，也是一鼓而下，至此淮东遂平。刘伯温的第一步战略构想在半年之内按期完成。北面只有濠州一座孤城没有收复。
吴王朱元璋派韩政、顾时领兵两万前去取濠州，濠州守将李济带兵坚守，韩政、顾时架起云梯，炮石轮番攻击，毁坏无数城墙。城中百姓自然暗中帮助韩政、顾时，李济见孤城难守，只得开城出降。
吴王元璋见濠州收复，遂带领濠籍将士第三次还乡祭祖扫墓，又将朱氏陵园和皇觉寺重新进行修整，置守陵人二十户，并招集濠州父老，社会名流前来饮宴，吴王向父老乡亲发表演说道：“我离濠州时间长，转战四方，现在终于又回来了，归省坟墓，与父老子弟重新相见。但我苦不能久留，只能与父老畅饮尽欢，希望家乡父老率子弟躬耕田地，蔚然成风，一乡安，我在外地也就心安了。”
吴王临行时，复命免除濠州租税，一州百姓皆欢欣鼓舞。
吴王回到应天，复命徐达、常遇春率二十万人杀进太湖，准备进攻平江，捣毁张士诚老巢。吴王、刘伯温密授计于徐达、常遇春，叫他们临行时带上前张士诚降将熊天瑞同行，假装袭平江，来到太湖中，熊天瑞果然逃归张士诚，报信去了，徐达常遇春忙带兵直扑湖州。吴王同时令李文忠向杭州前进，华云龙向嘉兴前进，杭、嘉二处自然不敢贸然来援湖州。湖州就成了一座孤城。
太湖里突然一下添了二十多万水师，这帮水师都是常遇春带领的鄱阳湖大战出来的人，一个个如狼似虎，张士信的五万水师一触即溃，因为常遇春有神机营的佛郎机炮逞威，这些东西他们见所未见，闻所未闻，常遇春的水师一入太湖，如入无人之境，把张士信的水师压迫在太湖北岸。刚开始张士信还是用老经验办事，领着水师四面八方杀来，想利用太湖他们地形熟，就远用弓箭，近用刀枪来攻击常遇春的水师，谁知他们船刚一出现，就被佛郎机炮连船带人一起轰翻入湖中；再近些就挨双筒枪所伤，张士信的水师哪里见过这个场面？第一仗张士信就损失过万，生俘尹义、陈旺、石清、汪海等人。张士信赶紧带着残部向太湖北边逃去，龟缩在湖北的覃东、胥口一带。
徐达奋勇前进，直至湖州城郊三里桥。
湖州守将张天麟被张士诚封为右丞，率领偏将黄宝、陶子宝守城，防止徐、常二位将军来攻湖州。当常遇春领兵来到湖州城城下，黄宝出城迎战常遇春，刚交战不上三合，就被常遇春隔开枪，轻舒猿臂，将黄宝活捉过去，抛在地上，众士兵一拥上前捆绑而去。张天麟在城上看得真切而明白，口中说道：“朱元璋手下有如此虎将，难怪张士诚的城池丢得那么快！”
随后徐达大兵来到城下，把湖州团团围住，张天麟在城上望见城外旌旗林立，把湖州被围得如铁桶一般，张天麟见了肝胆俱裂，五脏如焚，兵无斗志，将无守心，人心惶惶。张天麟也没有办法，回府后只得借酒浇愁。
这时，张士诚又派吕珍、朱暹和五太子领兵六万来援湖州，兵扎城东，大有城内外夹击徐达、常遇春之势。
徐达和常遇春商量，认为兵不能扎一地，应像攻淮安一样，攻城和打援应分工合作。仍然由徐达领兵十万攻城，常遇春分兵十万打援。
两军既相互呼应，又可防敌夹击，免遭腹背受敌之险，灵活机动。
常遇春把兵带到姑嫂桥，连忙在各要隘之地，建立了十个营垒，各留守卒万人和一强将把守。吕珍和常遇春是一对老冤家，他们在淮东多次交手，总是以吕珍失败而告终。这一次吕珍特别小心，他也不敢轻进，就在城东设立五寨与常遇春相持。常遇春也变得乖巧起来，不与之正面交锋，只派出探子注意打探吕珍的粮道运输。一天，得到消息：张士诚的女婿潘元绍运粮来乌镇，常遇春马上派廖永忠夜里突然袭击乌镇，将所有粮草全部夺过来。潘元绍因跑得快，才没有被活捉。
潘元绍连夜逃回平江报信，张士诚速调太湖水师徐志坚带上两万人来攻击姑嫂桥，常遇春听到这个消息，就令部将沈进、扈华各领兵埋伏于姑嫂桥的左右两侧，专等徐志坚到来。
徐志坚在黄昏时分到达姑嫂桥，上岸立寨。刚到初更时分，风雨骤至，徐志坚全部人马正进入梦乡，不料常遇春的沈、扈二将突然从四面八方杀至，徐志坚不知是怎么回事就束手就擒。
张士诚急派在淮安吃败仗的那个徐义领赤龙船亲兵来援姑嫂桥，常遇春连派王铭领着神机兵去攻击赤龙船，赤龙船没有防备，霎那间佛郎机炮怒吼起来，赤龙船一下变成了赤火船，呼啦一下全部烧起来，徐义这个倒霉蛋只好乘小船逃之夭夭。
五太子气愤不已，把所有兵船开来孤注一掷要与常遇春决一死战。常遇春就和五太子大战起来。
这时，薛显、王铭带着神机营四面八方把五太子围住，薛显、王铭正好在上风，这一下五太子就吃大亏了，他的兵船纷纷被机炮击中，被火烧得七零八落，五太子赶快逃进大营，喘息了好久，才回过神来，叹道：“厉害，厉害！这是他娘的什么炮，打在哪里就是火海一片！我现在明白了，为什么陈友谅六十万人在鄱阳湖只跑脱了三个人！”
五太子、吕珍、朱暹三人在一起商量破敌办法，商量了好一阵，谁也拿不出好主意，大家面面相觑，你看着我，我看着你，说话都支支吾吾的。还是五太子爽快，他对二人说道：“算了，你们大家都不好开口，还是我来说吧，这个仗我看没法打了，陈友谅六十万人都全军覆灭，我们区区六万人还能打过徐达、常遇春二十万人？你看我去攻击人家，好几百条船，一万多人，转眼就报销了。我看这个仗不能打了，再打下去，我们剩下的五万人将会被全部歼灭，为了拯救这五万条人命，就让我一人来作个不忠不孝的人吧！救了五万条性命，功德无量，就算让我一人下地狱我也心甘情愿。让菩萨明鉴：我不是怕死的人。”
吕珍站起来边搓手边说：“五太子的话我完全同意。说真的，大王对我恩重如山，我实在不忍心背叛他，但这五万条性命比起大王来，那就更为重要些。我和常遇春打过多年仗，我一次也没有赢过他，何况那时我们还很强盛。今天情况更不同了，这仗再打下去就会全军覆灭，我们东吴到今天是气数已尽了。”