За городскими стенами, главным образом к востоку и югу, в долинах Кидрон и Гей-Хинном находился Иерусалимский некрополь, среди надгробий которого выделялись высеченные в скале в I в. н. э. так называемые гробницы Иехошафата, Авессалома, Зхарии, а также священнического рода Хезир, а на севере – так называемая гробница Судей (члены Синедриона).
Произвол римских прокураторов Сирии, в состав которой после смерти Агриппы I была включена Иудея, вызвал осенью 66 г. восстание, вскоре превратившееся в настоящую войну. Небольшой римский гарнизон, стоявший в Иерусалиме, был уничтожен, а отряды римского союзника Агриппы II изгнаны из города. Римские части, посланные в Иерусалим, захватили в октябре 66 г. Новый город, однако не удержали его и во время отступления были разбиты в его окрестностях.
Летом 68 г. к стенам Иерусалима подступили воины императора Веспасиана. Но Иерусалим все еще оставался свободным. Весной 70 г. римские силы под командованием Тита подошли к городу. Не прекращавшиеся до того распри и кровавые столкновения между различными фракциями были оставлены, и все повстанцы объединились для защиты.
Осада Иерусалима и бои за город продолжались пять месяцев. Через несколько недель после начала осады Титу удалось, разрушив участок Третьей стены, завладеть Бет-Зейтой. Подступив ко Второй стене (близ нынешнего так называемого Русского подворья), Тит овладел ею после ожесточенных боев: осажденные защищались с крайним упорством, производя подкопы под насыпи римлян и сжигая осадные машины. Яростное сопротивление заставило Тита отказаться от штурма стен и попытаться взять город измором. Римские легионы наглухо блокировали город, и когда в начале августа штурм был возобновлен, крепость Антония пала, и несколько дней спустя римляне с боем захватили Храм и предали его огню. Верхний город был взят месяцем позже. Большинство жителей Иерусалима было убито или погибло от голода, уцелевшие были казнены или проданы в рабство. Все храмовые сокровища были увезены в Рим.
Точно так же, как когда-то, таинственно исчезли скрижали с Десятью заповедями, после разграбления римлянами храмовых сокровищ затерялись следы знаменитого золотого семисвечника – меноры. Последнее, что о ней известно: она была перевезена в Рим. Город был разрушен, исключение составили три башни-цитадели Ирода и примыкавшая к ним часть городской стены, предназначенная для защиты Десятого легиона, расквартированного среди городских развалин. На Храмовой горе римляне построили языческий храм.
В 130 г. император Адриан посетил Иерусалим и распорядился построить на развалинах города римскую колонию, которой было дано название Элия Капитолина. Основание на развалинах Иерусалима римского города и осквернение святейшего в глазах евреев места языческим богослужением стало одной из главных причин восстания Бар-Кохбы (см. подробнее в общем историческом разделе), в ходе которого евреи овладели городом, соорудили на месте разрушенного временный Храм и, возможно, возобновили жертвоприношения.