朱元璋建立明王朝后，将历代皇帝的宗庙设在南京。嘉靖皇帝为了祭祀方便，令人在北京修建历代帝王庙。
据《春明梦余录》记载，北京历代帝王庙由景德崇圣殿、东西两配殿、东西燎炉、祭器库、景德门、神厨、神库、宰牲亭、钟楼、庙街东西景德牌坊、下马牌等组成。景德崇圣殿为正殿，殿内60根巨柱，由金丝楠木制成。相比南京历代帝王庙正殿的单檐庑殿顶，北京历代帝王庙正殿的屋顶样式升至最高级——重檐光殿顶，屋顶上的黑琉璃瓦绿剪边，十分庄重肃穆，元世祖忽必烈的牌位也在其中。
当时北方的蒙古土默特部十分彪悍，俺答汗经常率兵袭扰明朝边境，一度兵临北京城，让嘉靖帝十分惊慌，武力要求明朝政府开放边贸，史称“庚戌之变”。明朝为了和平和安宁，不得不开放宣府、大同等地与蒙古进行马匹交易，让嘉靖有苦难言。
最受“苦虏之扰”的嘉靖帝到了晚年，每写“夷狄”字必极小，凡诏旨及章疏均是如此，足见其厌恶程度。元世祖的“缺席”，恰是嘉靖年间对外政策的真实写照。
礼科给事中陈棐看出了嘉靖皇帝的心事，上奏请求“宜撤忽必烈及其臣木华黎等五人神主”，嘉靖当场同意。嘉靖二十四年（公元1545年），忽必烈及木华黎等人的牌位被强行撤出帝王庙，而位于南京、北京两地的忽必烈塑像也被全部砸毁。
清朝时顺治皇帝又将忽必烈重新请进帝王庙，帝王宗庙中已增至25位皇帝。康熙帝认为只要不是无道昏君和亡国君主均可入祀，乾隆年间增至188位，秦始皇因“功不抵过”未能入祀，最后一位是“亡国之君”崇祯帝。
