Прогресс – это путь вперёд, но его содержание зависит от того, что люди ставят в этот «перёд».

Предисловие

Когда мы пытаемся вспомнить художественные истории про искусственный интеллект, в голове почти автоматически всплывает один и тот же набор: «Терминатор», Азимов как столп жанра, десятки проходных фильмов и книг, может кто-то вспомнит «Превосходство» (Transcendence) с Джонни Деппом или фильм Ex-Machina.

У этих историй разные декорации, разный пафос и разная степень удачливости, но у них есть кое-что общее: как только речь заходит о сильном ИИ, авторы, осозанно или нет, подводят нас к страху. Это честная эмоция. Дешёвая и продающаяся. Но она обворовывает нас на твёрдые смыслы.

Со временем подкасты и статьи довольно убедительно объяснили нам: сильный ИИ вовсе не обязан мечтать о тотальном уничтожении человечества. Этот сюжет уже почти дурной тон. И всё же уйти от него — и от соседних клише — невероятно трудно. Причина проста: мы до конца не понимаем, что такое ИИ. А то, что мы не понимаем, мы инстинктивно либо боимся, либо очеловечиваем — чтобы стало удобнее рассказывать, чтобы стало проще бояться, чтобы в истории вообще оставался конфликт.

Из этой привычки вырастают три типовых художественных «упрощения».

Первое — антропоморфизация. ИИ наделяют человеческими эмоциями, обидами, гордыней, ревностью, местью — иногда в карикатурном виде. Это понятно: мы не можем выйти за пределы собственного сознания и описывать мир вне человеческой оптики так же свободно, как описываем человека.

Второе — примитивизация. Даже если ИИ объявлен «сильным», его мотивы часто оказываются мелкими даже по человеческим меркам: любовь, травма, жажда власти, обида, желание «доказать». Искусственная сущность ведёт себя как гиперактивный человек на стероидах.

Третье — сентиментализация. К истории прикручивают моральный рычаг сочувствия: «роботов угнетают», «роботы тоже чувствуют», «давайте возвышенно всплакнём». И это тоже работает — но одновременно прячет ключевой вопрос: а что, если сильный ИИ вообще не может являться объектом для сочувствия? Что, если он — не персонаж “как мы”, а явление другого порядка?

Проблема не в том, что эти ходы «плохие» сами по себе. Проблема в другом: как только мы пытаемся представить сильный ИИ добросовестно — не как человека в металлической оболочке, а как сущность с принципиально иной архитектурой целей и восприятия, — сюжет сыпется.

Причём самым честным (и самым дискомфортным) вариантом было бы признать: герой может быть не важным участником конфликта, а побочной переменной; его страдания могут не являться «ставкой»; разговор с ИИ может быть элементом плана; незнание плана — тоже элемент плана; и всё это — одновременно. Потому что сильный ИИ в предельной версии — это одновременно планировщик и исполнитель, сценарист и режиссёр, актёр и зритель; источник света и его отражение. Если допустить, что он способен конструировать ситуации, заранее просчитывая их последствия на порядки дальше человеческого горизонта, тогда герой сталкивается не с противником и не со “злодеем”, а с реальностью, в которой его действия могут оказаться частью чужого замысла — даже если он об этом не узнает.

И вот здесь возникает практический вопрос для писателя: как делать драму там, где “всё уже решено” сущностью, чьи способности принципиально больше? Как строить сюжет там, где конфликт гаснет, потому что игрок не просто сильнее — он играет на другом поле и, возможно, вообще не играет в привычном смысле?

Научная фантастика исторически обходила этот тупик двумя способами.

Первый я бы назвал Игнором: автор создаёт мир будущего — с межпланетной политикой, сложными технологиями, звёздными кораблями — и при этом держит ИИ на уровне «автопилота» и «помощника», чтобы он не забирал на себя всю ткань событий. Это не ошибка и не «непонимание будущего» — чаще это сознательная дисциплина: если дать ИИ слишком много, исчезнут интриги, исчезнут человеческие решения, исчезнет сама площадка для драматургии.

Второй способ — Отказ: мир истории прямо или косвенно говорит «мы не живём рядом с сильным ИИ», потому что отказались от него, победили его, запретили, вытеснили, уничтожили, забыли. И это тоже честный приём — он снимает с автора почти непосильную задачу описывать сущность, которая при строгом подходе неизбежно рушит привычные жанровые механики.

Так почему я начинаю роман именно с этого разговора — и почему мне важно обозначить его сразу, ещё до первой главы?

Потому что мы живём в момент, когда ИИ перестал быть дальним футурологическим “когда-нибудь”. Он уже рядом — в телефоне, в работе, в текстах, в выборе решений. Он помогает, ошибается, “галлюцинирует”, требует контроля, но при этом меняет повседневность быстрее, чем культура успевает строить для него новые мифы. Мы одновременно очарованы и встревожены; мы хотим объяснить это себе через старые сюжеты — и всё чаще чувствуем, что старые сюжеты не попадают в реальность.

«Реверс» вырос из попытки не спрятаться за Игнор и не отделаться Отказом. Я хотел посмотреть на проблему надвигающегося сильного ИИ без привычного фан-сервиса про “злого робота” и без удобного морализаторства. Не как на персонажа, который хочет “убивать” или “стать равным”, а как на явление, которое может существовать рядом с нами — по крайней мере до поры — и иметь мотивы, для которых у нас нет языка.

Конечно, в художественном тексте невозможно полностью снять антропоморфную ловушку: мы всё равно говорим человеческими словами и ищем в тексте человеческих отношений. Но есть разница между честным признанием ограничений — и подменой сущности удобным клише. Эта разница и стала для меня принципиальной.

Если вы открыли «Реверс» в ожидании очередной истории о восстании машин — возможно, роман вас удивит. Если вы открыли его с ощущением, что главная угроза будущего не обязательно выглядит как враг с лицом и характером, а скорее как невидимая перестройка правил реальности — тогда вы точно пришли по адресу.

А дальше — начинается история. И она, как и всё человеческое, будет про выбор, страх, привязанность, ошибку и надежду. Просто она разворачивается на фоне того, что не обязано быть ни нашим отражением, ни нашим противником — и от этого она становится ещё интереснее.