第一圣殿，即所罗门圣殿复原模型

根据希伯来圣经记载，当犹太人返回其故土后，开始在所罗门圣殿原址建立新圣殿。圣殿最终在公元前516年完工，这就是所谓的第二圣殿，但这时的第二圣殿并不包括今天西墙这一部分。今天西墙这一部分建筑成为圣殿的一部分是因为公元前19年左右，以色列希律王开始扩建圣殿，使得圣殿面积增加了一倍，而今天我们所看到的“哭墙”，是当时扩建后的圣殿的西墙的一部分。当然有考古学家认为在公元前4年希律王去世时，其实整个圣殿的围墙并没有完工，而是到了阿格里帕二世统治时期才最终完成的。

希律王

第二圣殿复原模型

公元前63年，以色列被罗马征服，成为罗马帝国的一个省，即犹太省。公元66年，犹太人开始反抗罗马统治，这一反叛最终被未来的罗马皇帝韦帕芗（Vespasian）和提图斯（Titus）所镇压。在平叛过程中，提图斯率领罗马军团在围攻耶路撒冷时，将第二圣殿焚毁以报复犹太人的起义，只留下圣殿西墙，即今天的“哭墙”。

耶路撒冷的围城及毁灭（1850，David Roberts）