，塞外的胡人在檀石槐的统治下变得逐渐强势。
因此，张辽所在的雁门郡经常遭受胡人的烧杀抢掠。张辽也就在这长期的边塞战乱中长大。
担任雁门郡吏期间，张辽被丁原看中，带回了京城。
入京后，张辽先后从事于丁原、何进、董卓和吕布。
后续李傕郭汜进侵长，击败吕布，张辽又开始跟随吕布向东奔逃。
建安元年，吕布夺取徐州，张辽也被任职为鲁国国相，时年二十八岁。
之后吕布部下奉命购买军马，但在途中金银被刘备军队劫掠了。
张辽虽与同乡关羽交好，但仍然奉命与高顺一齐攻打刘备军队。
被逼无奈下刘备向曹操求援，曹操便派遣夏侯惇帮助，结果张辽高顺先后击败夏侯惇和刘备。
此时的曹操正在征讨张绣，但得知刘备被击溃的消息后，掉头转而攻打吕布。
吕布闭城不出，但被手下绑缚陈宫开门投降。
吕布失败后，张辽作为降将归顺曹操，也算正式揭开了张辽的政治生涯。
此后官渡之战爆发，张辽和关羽作为前锋，击败颜良军队。
虽然此战张辽风头被关羽盖过了，但张辽在官渡之战中，仍数有战功。
袁绍去世后，其子袁谭与袁尚内斗，张辽趁袁尚攻打袁谭之际，攻打邺城。
在曹军和袁谭的前后夹击下，袁尚败逃。
张辽招安当地部从后，跟从曹操进攻袁谭。
张辽击败袁谭后，顺势攻破了公孙度的部下。
建安十二年，曹操欲征讨袁尚、袁熙与乌桓，在张辽的进谏下决心攻伐。
也是在这场白狼山之战力，张辽与张郃、曹纯等人成功斩杀了乌桓单于蹋顿，并将乌桓整个部落杀降殆尽。
白狼山之战也是汉人击败胡虏的重要一战，张辽也因此名声卓著。
如果说白狼山之战使得张辽名声大噪，那么真正使张辽名震天下的战役就不得不提逍遥津之战了。
当时曹操带走大批军队想要西征，合肥一带只留下了张辽、乐进和李典等少量将领与部从，这空虚的战力必然会引得孙权的进攻，于是张辽便提前做好了准备。