忽必烈是1260年5月在开平即大汗之位的，7月，忽必烈率军北上，击败阿里不哥并占领汗庭所在地和林。当年十二月，漠北已经进入寒冷的冬季，忽必烈率领军队顶着风雪，从翁金河畔（和林以南今蒙古国谢图汗左翼后旗南）出发，离开了蒙古大汗四季营地、斡耳朵以及和林，南下返回燕京。

随着时间的推移，忽必烈处理汉地事务越来越多，不得不频繁召见燕京行中书省官员赶赴开平奏事或者接取圣旨。随着中原汉地的地位越来越突出，开平的地理位置太过偏北，很难有效控制汉地。忽必烈冬季时节也经常驻帐于燕京郊外，此时城中的宫殿早已成为废墟，他只好驻跸燕京近郊，也就是金朝的离宫——太宁宫。他需要选择一个新的地点作为都城之所在。

忽必烈还在藩邸为宗王时，曾经与木华黎的孙子霸突鲁分析天下大势。霸突鲁就建议忽必烈把新城的选址放在幽燕之地，他说，“幽燕之地，龙盘虎踞，形势雄伟，南控江淮，北连朔漠。且天子必居中以受四方朝觐。大王果欲经营天下，驻跸之所，非燕不可。”霸突鲁所描绘的前景打动了忽必烈，经营天下，不正是自己长久以来所追求的目标么？

燕京东控辽东，西拥太行，自古以来就是华北通往辽东和蒙古的必经之地，同时也是中原王朝抵御北方游牧部落南侵的军事重镇。石敬塘割让“燕云十六州”以后，辽国将燕京定为五都之一。金灭辽后，海陵王完颜亮为了实现“提兵百万西湖上，立马吴山第一峰”，于1153年再一次将都城定在此地，当时称为中都。

近百年来，燕京一直都是辽、金两朝的国都和政治中心，尤其是木华黎受成吉思汗之命经营汉地以来，燕京已经成为蒙古在汉地的大本营。窝阔台灭金后，设置中州断事官，统辖中原诸路，这就是燕京行尚书省的由来。忽必烈要想有效控制中原，燕京无疑是最佳选择。

1263年5月，忽必烈改开平为上都。1264年7月，阿里不哥南下归降，忽必烈的心腹大患至此彻底消除。8月，忽必烈下命改燕京为中都。

虽然燕京地区当时还有曾经作为金国的中都故城，不过中都故城在蒙古灭金的过程中遭受了严重破坏。尤其是自1215年5月31日被蒙古军队攻陷之后，城内宫殿多被拆毁或失火焚毁，所谓“可怜一片繁华地，空见春风长绿蒿”。

因为蒙古人向来厌恶被火烧过的地方，而且金代燕京城的城市供水来源——莲花河水系已经出现水量不足的情况，无法满足都城日常生活所需用水。

综合考虑来自各方面的意见之后，忽必烈决心完全抛弃金中都旧址，建设一个属于自己的全新的都城。1264年12月，时年五十岁的忽必烈以一种“功成不必在我”的雄大气魄，正式下令开始中都建设。至元九年（1272年）二月，忽必烈又改中都为“大都”。西方人称之为“汗八里”，即“大汗之城”。从此，蒙古国的两都制正式确立。