在平定南方诸国其间，宋太祖曾两次出兵进攻北汉，但都没胜利。公元976年10月，宋太祖突然死去，大臣们根据宋太祖的母亲留下的遗言，都拥戴赵光义做皇帝。赵光义就是历史上的宋太宗。
宋太宗登上皇位，彻底地统一了南方。公元979年正月，宋太宗亲率大军北征，采用了围城打援的战法，派潘仁美等率军四面合围太原，并击败了辽朝的援兵。北汉主刘继元困守孤城，在外无援兵、内部厌战的情况下，于五月初五被迫投降。北宋王朝自公元963年至979年，经过十六年的战争，结束了自唐朝安史之乱以来的藩镇割据和五代十国的分裂局面，实现了南北方主要地区的统一。
在北汉国主刘继元投降的时候，刘继元手下有一名老将杨业，也归附宋朝。宋太宗早就听说杨业武艺高强，十分器重他，任命他做大将。
宋太宗灭了北汉，想乘胜攻打辽朝，收复北方失地。宋军攻势凌厉，北方有几个州的辽朝守将纷纷投降。宋军一直打到幽州（今北京市）。后来，辽朝派大将耶律休哥救援。双方在高梁河（今北京市城西）打了一仗，宋兵大败，宋太宗乘了一辆驴车，逃回东京。
从此以后，辽军不断袭击宋朝边境，以后西北方又兴起了西夏，也不断南侵。宋太宗以及以后的宋朝皇帝都派很多的兵将在边关上把守，英勇杀敌，他们中的代表人物就是祖孙三代的抗辽、抗西夏的杨家将。
高梁河一战，辽军打败了宋军，辽景宗得意洋洋并扬言：“朕要发兵，乘胜追击，一举灭掉大宋。”公元980年3月，辽景宗不顾肖皇后以及其他人的阻拦，发兵十万，直向雁门关扑来。
雁门关在代州的北面，守将杨业知道如果雁门关一丢，代州肯定就保不住了。他和手下的将领们商量仗应该怎样打。有的说要死守硬拼，等候救兵。杨业一听，摇了摇头，对众人说：“敌人十万大军，而我们才几千人马，硬拼是不行的，我们应用计谋取胜。”
辽兵到雁门关，驻扎下来。天黑了，伸手不见五指，这时杨业带领几百士兵，骑着马绕到敌人后面，突然向辽兵杀了过来。宋兵边冲边喊，辽兵一个个睡得正香，听到外面喊杀声惊天动地，连东西南北都找不到了。辽兵只顾自己逃命，辽将也没了办法，只好一齐向北逃。杨业没费多少人马就取得了重大胜利。
雁门关大捷以后，杨业威名远扬。辽兵一看到“杨”字旗号，就吓得不敢交锋。人们给杨业起了个外号，叫做“杨无敌”。
杨业立下大功，也引起一些边防将领的妒忌。有人给宋太宗上奏章，说了杨业许多坏话。宋太宗正要依靠杨业，不理睬那些诬告，把那些奏章封好了，派人送给杨业。杨业见宋太宗这样信任他，自然十分感动。
过了几年，辽景宗耶律贤死去，即位的辽圣宗耶律隆绪才十二岁，由他的母亲萧太后执政。有个边将向宋太宗上奏章，认为辽朝政局变动，正好趁这个机会收复燕云十六州失地。宋太宗接受了这个意见。公元986年，宋太宗派出曹彬、田重进、潘仁美率领三路大军北伐，并且派杨业做潘仁美的副将。
三路大军分路进攻，旗开得胜。潘仁美、杨业的一路人马出了雁门关，很快就收复了四个州。但是曹彬率领的主力孤军深入，后来被辽军杀得大败。宋太宗赶快命令各路宋军撤退。
潘仁美、杨业接到命令，就领兵掩护四个州的百姓撤退到狼牙村。那时候，辽军已经占领寰州（今山西朔县东，寰音huán），兵势很猛。杨业建议派兵佯攻，吸引住辽军主力，并且派精兵埋伏在退路的要道，掩护军民撤退。
监军王
杨业说：“现在敌强我弱，这样做一定要失败。”
王侁带着嘲笑的口吻说：“杨将军不是号称无敌吗？现在在敌人面前畏缩不战，是不是另有打算？”
这一句话把杨业激怒了。他说：“我并不是怕死，只是看到现在时机不利，怕让兵士们白白丧命。你们一定要打，我可以打头阵。”
主将潘仁美也支持王侁的主张。杨业无可奈何，只好带领手下人马出发了。临走的时候，他流着眼泪对潘仁美说：“这个仗肯定要失败。我本来想看准时机，痛击敌人，报答国家。现在大家责备我避敌，我不得不先死。”
接着，他指着前面的陈家峪（今山西朔县南，峪音yù）对潘仁美说：“希望你们在这个谷口两侧，埋伏好步兵和弓弩手。我兵败之后，退到这里，你们带兵接应，两面夹击，也许有转败为胜的希望。”
杨业出兵没有多远，果然遭到辽军的伏击。杨业虽然英勇，但是辽兵像潮水一样涌上来。杨业拼杀了一阵，抵挡不住，只好一边打一边后退，把辽军引向陈家峪。
杨业到了陈家峪，正是太阳下山的时候。他退到谷口，只见两边静悄悄，连宋军的影儿都没有。潘仁美带领的主力到哪儿去了呢？原来杨业走了以后，潘仁美也曾经把人马带到陈家峪。等了一天，听不到杨业的消息，王侁认为一定是辽兵退了。他怕让杨业抢了头功，催促潘仁美把伏兵撤去，离开了陈家峪；等到他们听到杨业兵败，又往另外一条小道逃跑了。
杨业见约定的地点没人接应，气得直跺脚，只好带领部下转身跟追上来的辽兵展开搏斗，兵士们个个奋勇抵抗。但是辽军越来越多，后来，杨业身边只有一百多个兵士。他含着泪，高声向兵士说：“你们都有自己的父母家小，不要跟我一起死在这里，赶快突围出去，也好让朝廷得知我们的情况。”
兵士们听了这些话，再看看杨业浴血奋战的情景，感动得都流下热泪，没有一个愿意离开杨业。最后，兵士都战死了，杨业的儿子杨延玉和部将王贵也牺牲了。杨业身上受了十几处伤，浑身是血，还来回冲杀，杀伤了几百名敌人。不料一支箭飞来，正射中他的战马，马倒在地下，把他摔了下来。辽兵乘机围了上来，把他俘虏了。
杨业被俘以后，辽将劝他投降。他抬起头叹了口气说：“我杨业本来想消灭敌人，报答国家，没想到被奸臣陷害，落得全军覆没，哪还有脸活在世上呢？”他在辽营里，绝食了三天三夜，就牺牲了。
杨业战死的消息传到东京，朝廷上下都为他哀痛叹息。宋太宗丧失了一名勇将，自然也感到难过，把潘仁美降职处分，王侁革职查办。
杨业死后，他的后代继续守边关、抗敌兵。杨延郎是杨业七个儿子中最出名的一个，又叫杨延昭，就是后人广为传颂的“杨六郎”。杨延昭早年跟随杨业打仗，常常为先锋。后来他镇守河北边关，长达二十多年，他的军队纪律严明，多次打败了辽国军队，立下赫赫战功。杨延昭的儿子杨文广，也是将门虎子。他后来跟随范仲淹在西北同西夏国作战，立下不朽业绩。
杨家祖孙三代英勇杀敌，为保卫国家作出了贡献。他们一家的英勇事迹受到人们的传诵和赞美，民间流传的杨家将故事表达了人们的怀念和敬佩之情。