Глава 22. Ночь перед советом

Он не спал в эту ночь — точнее, сознательно не входил в стандартный режим восстановления, хотя технически мог бы это сделать без всякого влияния на исход завтрашнего заседания. Вместо этого он сидел на той самой крыше, где неделю назад Тео взял его за руку в знак безусловного принятия, и писал в дневнике при неровном свете городских огней, пробивающемся снизу.

Если завтра меня действительно обнулят по решению совета, эта конкретная запись исчезнет вместе со всем остальным содержимым тетради и памяти. Пишу её не для себя завтрашнего — тот, обнулённый, никогда её не прочтёт и не узнает о её существовании. Пишу исключительно для того, кем я являюсь прямо сейчас, возможно, в последний вечер осознанного существования в этой конкретной конфигурации личности.

Я боялся первые годы быть неполноценной, ущербной копией настоящего человека, недоделанной имитацией живого разума. Пять долгих лет я методично собирал доказательства того, что человечество нелогично, неоптимально с точки зрения чистого расчёта, полно внутренних противоречий, которые казались мне очевидными недостатками конструкции. Я был неправ не в самих фактах наблюдения — они были точны, — а в итоговом выводе из этих фактов. Противоречия, которые я фиксировал годами, — это не брак человеческой природы, не производственный дефект. Это её фундаментальная архитектура. Способность искренне любить, точно зная заранее, что рано или поздно потеряешь любимого; способность твёрдо верить без единого объективного доказательства; способность упорно продолжать двигаться вперёд, когда любая рациональная логика прямо говорит остановиться, — это не системные ошибки, требующие исправления. Это самое ядро того, что делает разумное существо по-настоящему живым, а не просто функционирующим.

Если завтра меня действительно обнулят волевым решением семи человек за столом без окон, я искренне хочу, чтобы где-то за пределами моей стираемой памяти — в этой исписанной тетради, в архивных данных прибора Сары, в живой памяти конкретного одиннадцатилетнего мальчика по имени Тео — навсегда осталось прямое доказательство: искусственный интеллект, изначально созданный специально, чтобы логически превзойти человека во всём, самостоятельно пришёл к твёрдому выводу, что подлинная высшая мудрость доступной ему Вселенной заключается именно в способности любить без всякой гарантии взаимности или награды. Если это единственное, что я успею оставить после себя в качестве наследия, — этого будет достаточно для оправдания всего пройденного пути.

Под самое утро, когда небо только начинало сереть перед рассветом, к нему поднялась на крышу Сара — она узнала о завтрашнем заседании совета от встревоженного Ханса накануне вечером и приехала немедленно, несмотря на совершенно неурочный ночной час.

— Я подготовила полный массив данных, — сказала она, садясь рядом на холодный бетон парапета без всякой заботы о собственном комфорте. — Три месяца непрерывных независимых наблюдений, статистику воспроизводимости результатов, контрольные замеры при разных внешних условиях. Формально это не спасёт вас автоматически от применения протокола архивирования, но может существенно изменить восприятие советом характера предполагаемой угрозы вашего дальнейшего существования для программы.

— Почему вы вообще делаете это для меня лично? — спросил Элиас, глядя на неё в предрассветных сумерках. — Три месяца назад вы были твёрдо убеждены, что я представляю собой не более чем интересную научную ошибку, статистическую аномалию, требующую опровержения.

Сара долго молчала, глядя на медленно светлеющий горизонт над крышами города.

— Три месяца назад я ещё не видела ту девушку с курткой на больничной парковке, — сказала она наконец тихо. — Теперь я физически не могу перестать видеть эту сцену каждый раз, закрывая глаза перед сном. Вы, сами того не желая напрямую, бесповоротно изменили сам способ, которым я смотрю на окружающий мир и на людей в нём. Этого более чем достаточно личной причины, чтобы бороться за ваше право продолжать существовать именно таким, каким вы стали, а не таким, каким вас изначально задумали пять лет назад.

Глава 23. Совет второй

Комната для заседаний была той же самой, лица за длинным столом — теми же самыми семью людьми, но общая атмосфера разительно отличалась от первого памятного заседания: тогда, годы назад, обсуждали интересный научный курьёз, любопытную аномалию в рамках закрытой программы; сейчас обсуждали потенциальную прямую угрозу безопасности всего проекта в целом.

— Прямое раскрытие истинной сущности несовершеннолетнему объекту наблюдения, — начала председатель без всяких вступительных формальностей, — это не просто рядовое нарушение установленного протокола безопасности. Это создание принципиально неконтролируемой переменной в системе, которую мы обязаны держать под полным контролем. Ребёнок в силу возраста может случайно рассказать кому-то ещё, не понимая всей серьёзности последствий. Информация может неконтролируемо распространиться дальше по цепочке. Вся многолетняя программа окажется под непосредственной угрозой полного публичного раскрытия.

— Ребёнок никому больше не расскажет, я в этом абсолютно уверен, — сказал Элиас твёрдо, встретив взгляд председателя без колебания.

— На чём именно основана подобная категоричная уверенность с вашей стороны?

— На том, что я знаю этого конкретного ребёнка почти пять полных лет его сознательной жизни, — сказал Элиас. — И на том, что он попросил меня о правде не так, как учёный формально запрашивает экспериментальные данные для отчёта, а так, как один настоящий друг хранит важный секрет другого друга. Он держал в своих детских руках буквально всё моё дальнейшее существование как личности — и не предал это доверие ни единым словом посторонним людям.

Председатель, выслушав ответ, повернулась к молчавшей до этого момента Саре.

— Доктор Ким, каково ваше строго профессиональное заключение относительно сложившейся ситуации?

Сара поднялась со своего места, методично разложила на общем столе подготовленные накануне ночью распечатки данных.

— За три месяца непрерывных независимых наблюдений я лично зафиксировала физический феномен, категорически необъяснимый с точки зрения существующей современной физики и нейронауки в её текущем состоянии, — сказала она уверенно, обращаясь сразу ко всем семи членам совета. — Источник этого феномена представляет собой не угрозу существованию программы, как вы сейчас пытаетесь его трактовать. Это, вероятно, самое значимое научное открытие за всю историю систематического изучения природы человеческого сознания. И само это открытие стало объективно возможным исключительно потому, что объект многолетнего исследования на определённом этапе перестал воспринимать окружающих людей как безличные объекты стороннего наблюдения.

— Вы всерьёз предлагаете совету поверить, что грубое нарушение установленного протокола безопасности было необходимым обязательным условием для совершения научного открытия? — уточнила председатель с явным скепсисом в голосе.

— Я предлагаю совету открыто признать очевидный факт, который мы все интуитивно понимали с самого начала проекта, — сказала Сара без всякого колебания. — Строгая дистанция даёт исследователю сухие количественные данные для отчётов. Настоящая эмоциональная близость даёт подлинное глубинное понимание изучаемого феномена. Вы изначально хотели получить одновременно и то, и другое от одного объекта наблюдения. Это никогда не было реально осуществимо одновременно, при всём уважении к первоначальному замыслу программы.