当时，包括上海在内的苏南地区，划入了江浙行省管理。元朝的每个省，下辖了各个路，每个路下辖了各个州府，每个州府下辖了各个县，相当于4级区划结构。元朝虽然设立了行省制度，奠定了行省的框架，但各方面的问题太多。首先，各省的区划不合理，地方管理难度很大。第二，各地的机构简单粗犷，相互重叠，效率不高。

1368年，朱元璋建立明朝以后。根据明朝的实际情况，在元朝行省的基础框架上，进一步调整了各地的区划。明朝第三位皇帝朱棣在位时期，随着明朝的迁都，最终形成了南北直隶与13个省的区划。我国很多省份的大体区划，基本上都是在明朝统治时期设立的，例如江西省、山西省、山东省等等。与现在的区划相比，已经非常接近了。

当时，南直隶大体上包括了江苏省、安徽省和上海市等地。17世纪中期，清朝逐步确立了自己的统治以后，根据清朝的需要，进一步调整各地的区划。最后，出现了大清内陆18个省的模式。南直隶被改为了江南省，不过，由于江南省的面积太大。1667年，康熙皇帝在位的初期，在四大辅政大臣的主持下，江南省被拆分为江苏省、安徽省。

在江苏省内，设立了各个州府，例如徐州府、松江府、苏州府。其中，松江府基本上就是上海市的前身，下辖了华亭县、上海县、青浦县、娄县、奉贤县、金山县、嘉定县、宝山县等地，管辖范围并不算小。1840年之后，西方列强对清朝发动了一系列的战争，例如鸦片战争、甲午战争等等。清朝一败再败，不得不割地赔款，开放了一系列的口岸。

其中，上海县成为了其中之一。西方列强先后划分了各个租界，外来资本的注入，刺激了上海县和周边区域的发展。不过，此时的上海仍然隶属于江苏省管理。1927年，鉴于上海市的综合实力，上海市被提升为特别市，脱离了江苏省。当时的特别市，基本上等同于现在的直辖市，不过不完全一样。一转眼到了建国初期，随着局势全面稳定，我国进入了战后重建、恢复生产、发展经济的阶段。

与此同时，一系列重要项目在全国各地设立。但是，上海市成为了直辖市之一。不过，上海市的管辖范围并不算大，因为外围的各个县，隶属于了江苏省的松江专区管理。上海市此时没有下辖县或者县级市，下辖了30个区，分别是：黄浦区、老闸区、邑庙区、蓬莱区、嵩山区、卢湾区、常熟区、徐汇区、长宁区、普陀区、闸北区、静安区、新成区、江宁区、北站区、虹口区、北四川路区、提篮桥区、杨浦区、榆林区、新市区、江湾区、吴淞区、大场区、新泾区、龙华区、洋泾区、真如区、高桥区。

1953年，上海市又设立了水上区，总计31个区。不得不说，当时的区划过于复杂，每个区的管辖范围都不大。因此，到了1956Ian，上海市的区划，进行了大规模的调整。老闸区并入了黄浦区，北四川路区并入了虹口区，北站区并入了闸北区。常熟区并入了徐汇区，静安区分别并入了新成区、长宁区，嵩山区分别并入了邑庙区、卢湾区。

此外，撤销了高桥区、洋泾区、杨思区，设立了东郊区。撤销了吴淞区、江湾区、大场区，设立了北郊区。撤销了真如区、新泾区、龙华区，设立了西郊区。历经这一轮调整以后，上海市调整为18个区，分别是：黄浦区、邑庙区、蓬莱区、卢湾区、徐汇区、长宁区、普陀区、闸北区、新成区、江宁区、虹口区、提篮桥区、榆林区、杨浦区、东昌区、东郊区、北郊区、西郊区。