第二日一早，曹军饱食，张辽令手下人人负柴草一具，迅速来到关下，堆砌柴草点燃，刹那间浓烟滚滚。张辽带领手下在关下齐声呐喊，貌似有前军万马要进攻。
张燕在关前早已等待，一见烟起，立即下令全军猛攻。关中守将夏昭、邓升大惊，不知背后有多少曹军，归路和粮道已断，壶关军心已乱，无法再守，带领手下弃关而逃，张辽手下兵少，不敢拦截，只是象征性追击一会儿就收兵进驻壶关。在壶关大牢，张辽还救出渑池县长贾逵，贾逵因有意要投靠曹操，被夏昭、邓升关押，张辽本欲将贾逵送到邺城，但贾逵的祖父病故，于是贾逵回家奔丧守孝，相约孝期过后再去邺城。
张辽出奇兵袭取壶关，通往并州的道路被打通，对高干形成关门打狗之势，高干担心自己投靠曹操会落得像袁谭一样的下场，只得固守重镇上党并派人向匈奴单于呼厨泉求救。
曹操听闻壶关已得，重赏张辽，升张辽为中坚将军，再仔细打听得胜经过之后，曹操对张辽刮目相看。
张辽兑现自己的承诺，将所有的赏赐全部发放给手下，近三千人分，每分不了多少，张辽又从张燕那里借些钱财发给众人，大加犒赏。至于壶关内的财货，张辽不敢动，全部交给曹操。