赵匡胤在统一了中国南方后，马上出兵攻打北汉都城太原。北汉请辽朝出兵援助，结果宋军吃了败仗。
宋太宗想灭辽，收回燕云十六州。杨业是降将，不可能得到重用。没想到宋军一下子被打败了，宋太宗也中了一箭，非常狼狈。宋国对辽国从进攻转为防守。宋太宗任命潘美为大将，潘美和杨业的关系很好，于是杨业升为副将。
杨业迎来了人生巅峰。他受命镇守雁门关。雁门关在当时非常重要，重中之重，易守难攻。当时，杨业只有几千人，辽军却有十万骑兵精锐。杨业对辽军很熟悉，开战前，作为守关主将的杨业却带了几百人「逃走」了，一路上砍伐收集树枝。其实，杨业绕到了辽军背后发起攻击。古代战争就是心理战，杨业在马尾上扎上树枝，尘土飞扬，看上去有几万人，辽军一下子阵脚大乱。 公元979年，宋太宗亲率十万大军把“十国”中的最后一国灭掉，消除了五代十国分立割据的局面。北汉国有一名老将杨业，也归附了宋朝。宋太宗早就听说杨业武艺高强，因而十分器重他，并任命他做大将。
宋太宗灭了北汉，想乘胜攻打辽朝，收复北方失地。宋军攻势凌厉，北方有几个州的辽朝守将纷纷投降。宋军在打到幽州(今北京)时，辽朝大将耶律休哥带领援兵赶到，双方在高梁河(今北京城西)大战，宋兵惨败。宋太宗乘了一辆驴车，狼狈逃回东京。
从那以后，辽军不断袭击宋朝边境。宋太宗十分担心，就派杨业为代州刺史，扼守雁门关。雁门关在杨业的把守下，坚若磐石，辽军多次进攻都被击退。不久辽景宗耶律贤死去，即位的辽圣宗耶律隆绪才12岁，由他的母亲萧太后执政。这时有边将向宋太宗上奏章，认为辽朝政局变动，正好趁这个机会收复燕云十六州。宋太宗接受了这个意见，在公元986年，派曹彬、田重进、潘美率领三路大军北伐。这一年，宋太宗的年号是雍熙，史称“雍熙北伐”。
三路大军分路进攻，旗开得胜。潘美和杨业并为一路人马，出了雁门关，很快就收复了4个州。但是曹彬率领的主力因为孤军深入，被辽军杀得大败，宋太宗赶快命令各路宋军撤退。潘美、杨业在掩护军民撤退的途中，监军王侁命令从大路行军，不同意杨业在小路伏击辽军、掩护撤退的方法，主将潘美也支持王选的主张。杨业无可奈何，只好带领手下人马出发了。临走的时候，他流着眼泪对潘美说：“这个仗肯定要失败。
