I samband med FN:s delningsplan för det brittiska mandatet 1947 skulle Jerusalem bli en internationell stad, varken arabisk eller israelisk, under en tioårsperiod. Efter dessa tio år skulle en folkomröstning hållas där befolkningen skulle få avgöra vilket land de ville tillhöra. De israeliska ledarna accepterade idén, inklusive internationaliseringen av Jerusalem, medan de arabiska vägrade. Sedan 1800-talet fanns det en judisk majoritet i staden vilket tydligt framgår i de Ottomanska folkräkningarna från tiden.
När Israel utropade sin självständighet 1948 attackerades landet av sina arabiska grannar. Jordanien erövrade östra Jerusalem och den Gamla staden. Efter självständighetskriget ockuperade Jordanien östra Jerusalem och Gamla staden och de judiska invånarna tvingades därifrån. Under jordanskt styre jämnades det judiska kvarteret och alla dess historiska synagogor med marken. Gravstenar från den judiska kyrkogården användes som byggnadsmaterial. Inga israeler eller judar hade längre tillgång till den Västra muren. Detta kan jämföras med i dag då alla religioner har tillgång till sina heliga platser i Jerusalem.
I samband med sexdagarskriget 1967 ville Israel inte ha en konflikt om Jerusalem. Man skickade därför ett meddelande till Jordaniens kung Hussein där man sa att så länge fronten hölls lugn skulle man inte anfalla vare sig Jerusalem eller Västbanken. Efter egyptiska påpressningar började dock Jordanien beskjuta civila mål i Israel.
Den sjätte juni svarade Israel och dagen efter, den 7 juni 1967, kunde israeliska styrkor inta den Gamla staden. Senare den dagen meddelande Israels försvarsminister Moshe Dayan att staden var återförenad. Sexdagarskriget slutade med ett eldupphör den 11 juni 1967. Året efter, den 12 maj 1968, utropade regeringen en ny helgdag – Jerusalemdagen.
I år firas Jerusalemdagen den 8 maj.