耶律德光命降将赵晖为陕州（今河南陕县）留后，赵晖杀掉来使，复举行起义。耶律德光派往各地的契丹地方官，或被杀，或被驱逐。这时，晋河东节度使刘知远在晋阳称帝，建立汉（后汉）政权。各地一些后晋官吏也先后起兵降汉，攻打辽军。耶律德光见难在中原立脚，决定北还。

    当年三月，耶律德光召见众臣说：“天时逐渐暑热，我难以在此久留，要暂回上京探省太后。”于是诏命以汴州为宣武军，以妻兄萧翰为节度使。四月初一，尽载晋室府库珍宝，率军离开封北上。四月十三日，行至高邑，耶律德光突然得病，胸腹烦热，勉强北行。四月二十二日至栾城，病重去世，卒年46岁。当年九月，葬于风山怀陵（位于今内蒙古巴林左旗西北），统和二十六年（公元1008年）谥曰“孝武皇帝”，增谥“孝武惠文皇帝”。庙号“太宗”。