张辽之疾久未痊愈，曹丕命人把他接到自己的行营，自己则车驾亲临，握着他的手，赐给他御衣，太官每天来送御膳。病情稍有好转后，张辽便返回其军中，然后率军与朱灵一同还屯合肥，忠于职守。
正当其时，孙权再次背叛曹魏，曹丕派张辽乘舟，与曹休到海陵临江驻防。此时，虽然张辽受到曹休（曹丕的族兄）的督领，但孙权得知张辽至此，甚为忌惮，敕令诸将道：“张辽虽然抱病，但仍是难以抵挡的，千万要谨慎！”同年，张辽与王凌等人进军至广陵。一天夜里，吕范等人的东吴水军漂至北岸。张辽与王凌等人出战，大破吴将吕范等人，并缴获了大量舟船。但张辽的病情却也日渐严重，最后终于在江都逝世，一代名将就此陨落。曹丕为之流涕，谥曰刚侯。其子张虎嗣任其爵。
黄初六年（225年），曹丕追念张辽、李典在合肥之功，诏曰：“合肥一役中，张辽、李典仅以步卒八百人，破贼十万之众，自古用兵，未见如此。他们使贼众至今仍气为之所夺，真可谓国之爪牙。现分封张辽、李典的家族各增邑百户，对他们两人各自的一个儿子赐爵为关内侯。”
正始四年（243年），张辽得享从祀于曹操庙庭。
(本章完)