В 716 г. резиденция халифов перенесена в Рамлу и Иерусалим утрачивает значение административного центра. В период антиомейядских волнений последний из халифов этой династии Маруан II приказывает сровнять стены Иерусалима с землей…
Начавшееся в 750 г. владычество династии Аббасидов, резиденция которых находилась в Багдаде, ознаменовало собой начало длительного упадка Иерусалима. Тем не менее правители династии приезжали в Иерусалим, и по их приказанию были восстановлены городские стены. В 800 г. Гарун аль-Рашид передал христианские святыни Иерусалима под покровительство Карла Великого, что дало толчок к строительству христианских храмов и монастырей в городе.
В 878 г. вся территория Израиля была присоединена к египетскому султанату, и с тех пор и вплоть до Османского завоевания в 1516 г. (за исключением периода 1099–1187 гг., когда город был столицей королевства крестоносцев) Иерусалим находился под властью египетских правителей. Он не играет важной роли в политических событиях на Ближнем Востоке и лишь изредка упоминается в летописях. Однако арабские историки сообщают, что правителей Египта погребали в Иерусалиме.
Религиозная вражда между общинами мусульман, христиан и евреев Иерусалима не раз выливалась в кровавые стычки. Так, в 938 г. мусульмане, а в 966 г. мусульмане и евреи учинили антихристианские погромы, разграбили и сожгли церковь Гроба Господня и другие святыни. Во время этого погрома убит иерусалимский патриарх, а труп его сожжен.
В 1071 г. Иерусалим был захвачен сельджуками и присоединен к великой империи султанов Ирака и Персии. В 1098 г. Фатимидам удалось вновь овладеть Иерусалимом. Однако через год, 15 июля 1099 г., город был после сорокадневной осады взят крестоносцами.
Крестоносцы, обосновавшиеся здесь надолго, превратили Иерусалим в столицу Иерусалимского королевства. В первые годы их правления, ознаменованные смутами и экономическим бездействием, город оставался почти безлюдным. Но к середине XII в. начался расцвет Иерусалима: на том месте, где когда-то находился дворец Ирода, строятся королевский и патриарший дворцы, а поблизости – монастыри и дормитории рыцарей различных орденов; тысячи паломников из всех уголков христианской Европы стекаются сюда…