北伐，收复为辽所占领的燕云16州领土，割断辽与北汉的联系，进而消灭北汉这一公开的敌对势力，然后统一南方诸国；另一条道路则是南征，在完全征服了南方8个割据势力以后，再来亡北汉，攻取燕云16州，将契丹赶回长城以北。经过君臣之间的反复论证，宋太祖集思广益，最后终于在建隆三年确立了“先南后北”的统一方针。

    乾德元年（公元963年），宋太祖任命慕容延钊为湖南道行营都部署，李处耘为都监，率安、复等10州之州兵出征荆湖。临行前，他对慕容延钊和李处耘说：“出征湖南，必然要借道于南平，南平国势卑弱，可顺便将其攻灭。”

    慕容延钊等依计而行，于乾德元年二月，出兵湖南途中攻破江陵，高继冲遂以3州17县，142300户归降。一个月后，湖南亦被平定，又得14州1监66县，97380户。

    平定荆湖以后，“水陆皆可趋蜀”，后蜀这一雄据川中的南方大国已处于坐以待毙的境地了。乾德二年（公元964年）十一月，宋太祖派大将王全斌、曹彬分兵两路，仅用66天的时间就灭亡了后蜀，取得了46州、240县的广大领土。

    后蜀物产丰富，府库充盈，号称“天府之国”。平定后蜀后，宋太祖特命参知政事（副宰相）吕余庆为成都知府，协同王全斌等人大肆搜刮。一时间，船载路运，“日夜不息”，大量财富被集中到东京开封。这固然加强了宋王朝的国力和财力，但同时却又激化了后蜀地区的社会矛盾，在此后相当长的一段时间里，后蜀一直动乱不已，民变、兵变相继发生，牵扯了北宋王朝的很大一部分兵力。

    平定后蜀不久，宋太祖先后派遣了侯霸荣、惠磷等人为间谍，打进了北汉内部。侯、惠等人积极活动，很快买通了当时北汉宰相郭无为。在郭无为的安排下，侯惠等人都成了北汉的宫庭供奉官，可以方便地出入宫禁。

    开宝元年（公元968年）八月，宋太祖发大兵进攻北汉。同时又密令侯、惠等人相机行事，里应外合，“迎接”宋军。九月，宋军突破了北汉的团柏谷防线，越过汾河桥，进逼太原城下。

    在宋军进逼太原城下的同时，侯霸荣在郭无为的支持下，发动了宫廷政变，刺杀了北汉国主刘继恩。但意想不到的是，郭无为此时却又突然变卦。就在侯霸荣率人刺杀刘继恩时，他却悄悄调动部队包围了刺杀现场，将侯霸荣和其同党全部杀死。

    郭无为的临阵变卦，搅乱了宋太祖精心布置的一着妙棋，宋军的失败也在眼前。果然，宋兵围困太原不久，契丹即以兵来援北汉，围城的宋军腹背受敌，大败而归。北汉乘机反攻，宋朝方面自八月进军以来所占领的州县不但全部丢兵，还被北汉军队打进了晋、绛二州，大掠而去。

    本来，此次开战前，宋太祖已将北汉君臣投降后的官职提前封好了，没想到最后的结局却是这样。次年二月，为雪前耻，他决定亲率大军征讨北汉。战事一开始，北宋方面很顺利。三月，宋太祖即率大军突破了北汉的数道防线，进抵太原城下，将其团团围住。但此后战事即进入胶着状态。宋军发起的几次强攻都被北汉名将刘继业击退。强攻不行，宋太祖又采取了长期围困的政策，但三个多月过去了，仍没能将太原攻克。这年的闰五月，宋兵正式从太原撤兵。北汉军队又一次乘势追击，宋军丢失了大批粮草，损失比上一次还要严重。

    北宋自建隆三年（公元962年）九月首次对外用兵起，至乾德三年（公元965年）正月，不足3年的时间，就平定了南平高氏、湖南周氏、后蜀孟氏3个割据政权，统一了63州1监的大片领土。但可惜的是，自平蜀后，几乎完全是由于宋太祖个人的举措失当，导致了一系列意外的变故，先是蜀中动荡不已，紧接着又是两次北征太原，损失惨重，“先南后北”的统一大业