字は文遠。はじめ丁原に仕えたが、丁原が殺されると以後、董卓・呂布・曹操に仕えた。
官渡の戦いの前哨戦・白馬の戦いでは機動部隊を率いて関羽とともに顔良を破った。
その後、賊徒討伐や曹操の河北平定戦に従事し功績をあげた。特に袁尚を支援する烏丸を討伐したおり、その将・トウ頓を斬ったのはその最たるものである。
曹操が西方・漢中に兵を進めると張遼は楽進・李典とともに、孫権に備えるため合肥に駐屯した。平素三将は仲が悪かったが、いざ敵に対すると見事に連携した。
西暦215年、孫権が合肥に進攻してくると、800人の決死隊とともに孫権本陣に突入しこれを大いに混乱させ、孫権を追い詰めた。これで出ばなをくじかれた孫権軍は合肥を攻めきれず撤退した。
以後ずっと対呉戦線に従事し、孫権は敵陣に張遼あると聞くと大いに彼をおそれ警戒した。
西暦222年病没。