张郃出生于河间郡鄚县，东汉末年，他参加讨伐黄巾军的招募，担任颍川郡人韩馥部下的军中司马。
初平二年，韩馥被迫让出冀州以后，张郃带兵归顺袁绍，被任命为校尉抵御北方诸侯公孙瓒。
公孙瓒被击败以后，张郃因为立功多，升任宁国中郎将。
建安五年，曹操与袁绍在官渡对峙，袁绍派遣部下淳于琼等人督运粮草驻扎在乌巢，曹操亲自率军迅速来攻打。
张郃便劝说袁绍，现在曹军精锐，淳于琼等人一定会被击溃，淳于琼一旦兵败，则将军大势已去，应该尽快派兵前去救援。
“而谋士郭图则反对这个意见，他认为应该直接攻打曹军本营，曹军肯定会返回，困局自然解开。”
“张郃再劝，曹军大本营守卫坚固，很难攻破，如果淳于琼等人被抓，袁绍全军就都要成为俘虏了。”
“然而袁绍更看中郭图的意见，于是只派出轻军去救援淳于琼，却用重兵让张郃、高览去攻打曹军大本营，当时守营的主将是曹仁，他们未能攻下。”
“后来曹操果然击败了淳于琼等人，乌巢粮草也被烧毁，袁绍军队溃败。”
“郭图为此感到羞惭，于是诬陷张郃，说他对于袁军的失败很高兴，所以出言不逊。”
“张郃害怕被追究，便和将领高览一起烧掉攻城橹，投靠了曹军。”
“曹操知道张郃来投十分高兴，举例说当初伍子胥没有早早醒悟，使自身陷入危机，哪比得上微子抛弃殷纣，韩信离楚归汉呢。”
“张郃被曹操任命为偏将军，封爵都亭侯。”
“张郃受到曹操重用，被授与军队跟随曹操攻打邺城，成功攻下邺城后，又跟随曹操去渤海攻打袁绍的儿子袁谭。”
“后张郃亲自率军围困雍奴，大败了对方。”
“曹操征讨柳城时，张郃与曹将张辽都担任先锋军。”
“在白狼山一役，张郃受张辽指挥，大破乌桓，张辽斩单于蹋顿及许多各部落王，俘虏胡汉两族二十余万人，最终平定乌桓。”
“张郃因功升任平狄将军。之后他又率兵去东莱郡讨伐管承，再与张辽等人共同征讨占据氐族六县反叛的陈兰、梅成。”
“陈兰等人潜入灊山中的天柱山，其山险峻高二十余里，张郃随张辽等人围攻天柱山，最终攻下，大获全胜，斩获了陈兰、梅成的首级。”
“张郃跟随曹操到了渭南，击溃了马超、韩遂等人。”
“围困了安定，降服了杨秋。又同曹军将领夏侯渊一起征讨鄜城的首领梁兴及武都一带的氐族人。”
“张郃抵达渭水上，马超令氐族、羌族数千来抵御张郃。”
“还未交战，马超就退走，张郃率军收取了马超军队的军用物资。”
“当夏侯渊到达时，诸县皆已投降张郃。”
“再次攻破马超的部队后，张郃还平定了割据凉州的宋建的统治区域。”
“建安二十年三月，曹操亲征占据汉中的张鲁。”
“抵达陈仓后，准备自武都郡进入氐族部落；”