耶路撒冷名称的准确来源尚无法确定。在希伯来语中，Yelushalaim这个名字可以理解为yelusha(遗产)和shalom(和平)的合成词。另一个比较普遍的解释是它将《圣经》里两个城市的名字结合在一起：耶布斯(Jebus)和撒冷(Salem，意"和平")。撒冷这个地名出现在《创世纪》14章，是大祭司麦基洗德的住处，他为来到这里的亚伯拉罕祝福。耶路的意思是"基石"或者"城市"，撒冷为和平，因而耶路撒冷有"和平之城"之称。

在阿拉伯语中，耶路撒冷的名称是القدس‎或بيتالمقدس‎。قدس‎意思是圣地，在词前加冠词ال‎成为القدس‎，特指圣城耶路撒冷。同样的，بيت‎意为房屋、住宅，المقدس‎意为神圣的(人)、圣洁的(人)，两词合起来组成بيتالمقدس则特指圣城耶路撒冷，字面意思也是圣人之家即圣地。

耶路撒冷在希伯莱文中意为"和平之城"，阿拉伯语叫"古茨"意为"圣城"。其最著名的是1公里见方的老城，其城墙高12米，有8座城门，分为基督、阿拉伯、犹太、亚美尼亚4个区，老城东南0.14平方公里的圣殿山，是圣城中的圣城。