在唐朝衰落后，中原朝廷再也无力控制塞北，契丹民族乘机崛起，经过一系列攻伐，由超级强人辽太祖耶律阿保机在916年建立，两年后，耶律阿保机就开始兴建上京（临潢府），为辽代五京之首，其余四京是东京辽阳府（辽宁省辽阳市）、南京析津府（北京市）、中京大定府（内蒙古宁城县）、西京大同府（山西省大同市）。

史载，上京为辽太祖创业之地，负山抱海，天险足以为固，水草便畜牧。公元916年，耶律阿保机在龙化州（今敖汉旗东部）称帝建辽，918年命礼部尚书康默记充当版筑使建都城，仅百日便初具规模，名曰皇都。辽太祖死后，太宗即位继续营建皇都。

938年，太宗改皇都为上京并设临潢府。上京城分南北二城，北名皇城，为皇族居所；南名汉城，为汉族人居所。两城相连呈“日”字形。两城建筑与布局是辽“以国制治旗但，以汉制待汉人”的政治制度的反映。

辽上京作为辽之都城历经204年。1120年金兵攻占上京。金时将上京改为北京临潢路，至元代上京逐渐废弃。皇城内现存石刻观音、龟形碑座各一具，附属建筑有南北二塔。现皇城内仍遗存皇城残墙、雕花柱础、石刻观音像及大量珍贵的地下文物等。

根据历史考证，辽国上京的位置，在今内蒙古自治区巴林左旗林东镇南。抗日战争时期，日本人曾在此挖掘，不知是否挖走了好东西。1962年内蒙古自治区文物工作队进行了全面勘探和试掘。1961年中华人民共和国国务院公布为全国重点文物保护单位。

而在2015年，上京的宫城位置也已经被初步确认。2014年，考古工作队已对辽上京遗址宫城北墙、南墙、西墙上的６处城墙遗址以及西门遗址进行了考古发掘，清理面积１０００平方米。