西汉武帝时，霍去病率军沿湟水谷地向西，打败羌人，修建西平亭，以彰其功，西平就是西宁最早的地名。

205年(东汉献帝建安十年)，分金城郡西部设西平郡，首府就在今西宁市区。三国时期，西平郡属曹魏。

五胡十六国时，甘凉地区征伐不断，先后出现了五个凉国，凡是在河西立国图王者，都要争夺西宁。

609年(隋炀帝大业五年)三月，帝从京城出巡，四月大猎于陇西，至狄道(今甘肃临洮)，出临津关(今甘肃永靖)至西平（今青海西宁），陈兵讲武，进攻吐谷浑。

隋军在覆袁川大败吐谷浑，可汗伏允率数十骑西奔党项，其地皆空，今青海大部、新疆南部、甘肃南部、四川西北一带地方，东西三千里，南北千余里，皆为隋有。

唐朝时，西宁称鄯城，鄯州治所在湟水县。

北宋初，西宁称青唐城，吐蕃首领唃厮啰在今青海北部建立了王国，臣服北宋，1033年把都城迁到青唐城，分为二城，西是王城，东是商城。