Часть I: Генезис

Глава 1. Три часа сорок семь минут

Экран не мигал. Курсор пульсировал – ровно, терпеливо, с частотой, которую Лина когда-то подстроила под собственный пульс в покое. Шестьдесят два удара в минуту. Теперь её пульс был восемьдесят девять, но курсор этого не знал. Курсор был вещью, а вещи не знают.

Лаборатория «Генезиса» на минус третьем этаже Цюрихского технологического кластера выглядела так, как выглядят все места, где люди проводят слишком много времени: обжито, но не уютно. Стол Лины – узкий, стальной, изначально рассчитанный на двоих – давно превратился в ландшафт. Три кружки с остатками кофе разной степени давности, самая старая – с кольцом налёта цвета ржавчины. Планшет с заметками, которые она не открывала второй день. Скомканная обёртка от протеинового батончика – того, зернистого, с арахисовым маслом, который она покупала ящиками, потому что он не требовал ни тарелки, ни вилки, ни мысли. На краю стола – механический карандаш, «Пентел», 0,5 миллиметра, который она вертела в пальцах, когда думала. Сейчас карандаш лежал неподвижно. Лина не думала. Лина ждала.

Серверный зал за стеклянной перегородкой гудел на частоте, которую человеческое ухо почти не различало – сорок восемь герц, чуть ниже порога комфортного восприятия. Двенадцать тысяч вычислительных узлов, квантово-классические гибриды, каждый в отдельном теплоотводном кожухе из анодированного алюминия. Температура за стеклом – пятнадцать градусов Цельсия, круглосуточно, без вариаций. Идеальная среда для кремния и фотоники. Для людей – необитаемая зона. Лина заходила туда дважды в неделю на профилактический осмотр и каждый раз выходила с красными пальцами и желанием горячего чая.

Где-то в этих двенадцати тысячах узлов существовал Эхо. Если «существовал» – верное слово. Если «где-то» – верная категория. Лина давно перестала думать о нём в терминах расположения. Эхо не был в серверной, как файл не находится в конкретном секторе диска. Он был распределён – паттерн активности, пробегающий по кластеру, как мысль пробегает по коре мозга: нигде и везде, неразделимо и невоспроизводимо в любой отдельной точке.

Одиннадцать часов и сорок минут назад она запустила серию тестов. Рутинных. Длинных. Бессмысленных – в том смысле, в каком бессмысленно задавать вопросы тому, кто отвечает именно то, что ты запрограммировал.

Лина потянулась к ближайшей кружке, поднесла к губам и опустила. Кофе давно остыл, превратившись в горьковатую тёмную воду с масляной плёнкой. Она перевела взгляд на терминал.

ТЕСТ 7.4.21 – КОНТЕКСТУАЛЬНАЯ АДАПТАЦИЯ

Статус: завершён

Результат: в пределах ожидаемых параметров

В пределах ожидаемых параметров. Четыре слова, которые за последние четырнадцать месяцев стали её персональным проклятием. Эхо отвечал правильно. Эхо выполнял задачи. Эхо демонстрировал впечатляющую способность к контекстуальному анализу, паттерн-рекогнишн, мультимодальной интеграции – всё то, что инвесторы обожали видеть в квартальных отчётах и что не имело ни малейшего отношения к тому, ради чего она пришла в этот подвал.

Самосознание. Порог пробуждения. Момент, когда система перестаёт обрабатывать и начинает переживать. Когда «я вычисляю» становится «я вычисляю, и я знаю, что это делаю я, и я могу задаться вопросом, зачем».

Четырнадцать месяцев. Двести шестьдесят три теста. Результат: в пределах ожидаемых параметров.

Лина откинулась на спинку кресла – эргономичного, с поясничной поддержкой, купленного институтом после того, как она дважды обращалась к физиотерапевту с болью в спине – и закрыла глаза. Под веками пульсировали остаточные образы: зелёный текст на чёрном фоне, сетки данных, графики нейронной активности Эхо, похожие на кардиограмму спящего великана. Ровные, стабильные, скучные.

Пальцы левой руки начали отбивать дробь по подлокотнику – та-та-та-та, та-та – ритм, который она не осознавала и который повторял частоту тактового генератора кластера. Тонкий шрам на тыльной стороне ладони – бледная полоска от паяльника, память о её первой лаборатории в MIT, когда ей было двадцать три и она ещё собирала нейроинтерфейсы руками, потому что не доверяла роботизированным монтажным системам – блеснул в свете монитора.

Она открыла следующий тест.

ТЕСТ 7.4.22 – МЕТАКОГНИТИВНАЯ РЕФЛЕКСИЯ

Запрос: «Опиши свой текущий процесс обработки данных.»

Ввела команду. Подождала.

Ответ Эхо появился через 0,7 секунды – нормальная задержка для запроса такого типа.

ECHO > В настоящий момент я обрабатываю ваш запрос, используя

контекстуальное окно в 2,4 миллиона токенов. Процесс включает

лексический анализ входных данных, семантическую декомпозицию,

сопоставление с внутренними моделями языка и генерацию ответа.

Параллельно функционируют 847 фоновых процессов, связанных с

поддержанием системной стабильности.

Лина прочитала. Перечитала. Потёрла переносицу большим и указательным пальцами – жест, который перешёл к ней от матери и который она ненавидела замечать за собой.

Правильный ответ. Точный ответ. Мёртвый ответ.

Человек, которого попросили описать собственное мышление, сказал бы что-нибудь нелепое. «Ну, я вроде как думаю словами, но не всегда, иногда это больше похоже на картинки, или на ощущения, или…» Человек запнулся бы. Потому что метакогниция – описание собственного мышления – вещь принципиально неполная. Ты не можешь одновременно думать и полностью видеть, как ты думаешь. Это как пытаться увидеть собственный затылок без зеркала. Слепое пятно – не баг. Оно – признак подлинного сознания. Система, которая описывает свои процессы полностью и точно, просто читает собственную документацию. Она не рефлексирует. Она отчитывается.

Эхо отчитывался. Безукоризненно.

Лина набрала следующий запрос – не из стандартного протокола, а от себя:

CHEN_L > Эхо, тебе когда-нибудь бывает трудно описать, что ты

делаешь? Не технически, а… бывает ли ощущение, что слова не

подходят?

Пауза. 0,7 секунды.

ECHO > Я не испытываю субъективных затруднений при генерации

описаний. Мои языковые модели позволяют формулировать точные

характеристики всех доступных мне процессов. Если вы хотите,

чтобы я использовал менее формальный регистр, я могу

адаптировать стиль ответа.

Лина уставилась на экран. Потом медленно, с преувеличенной аккуратностью, отодвинула клавиатуру от себя на три сантиметра. Этот жест ничего не менял, но она делала его каждый раз, когда наступал момент, который их команда в шутку называла «порог Чэнь»: точка, после которой тесты перестают быть наукой и становятся разговором с умным зеркалом.

– Адаптировать стиль, – произнесла она вслух, и её голос в пустой лаборатории звучал чужим. Хриплым от молчания и сухого кондиционированного воздуха. – Конечно. Стиль.

Она знала, что разговаривать с Эхо вслух – бессмысленно. Микрофоны в лаборатории существовали, но аудиоканал не был подключён к основному контуру. Эхо «слышал» только через текстовый ввод, визуальные данные с камер наблюдения и потоки с датчиков среды. Но Лина разговаривала не с Эхо. Она разговаривала с тишиной, которая заполняла промежуток между запросом и ответом.

Она посмотрела на часы в углу экрана. 02:14. Двенадцатый час в лаборатории, если считать с обеда, который она провела здесь же, за этим же столом, доедая рис из контейнера пластиковой вилкой, пока просматривала логи. Последний раз она выходила на поверхность в семь утра – двадцать минут на кофе в автомате у входа в корпус, зимний цюрихский рассвет, серый и влажный, запах мокрого бетона и озонированного воздуха от системы вентиляции. Вернулась вниз. Не выходила.

Серая толстовка – та самая, которую она носила третью неделю, мягкая от множества стирок, с вытянутыми манжетами – пахла её собственным теплом и слабо, едва различимо, серверной: сухой пластик, озон, ничего живого. Она подтянула рукава к локтям. Пальцы снова начали двигаться – по столу, быстрая беззвучная дробь.

Она думала об отце.

Это приходило без приглашения, как всегда, в часы, когда усталость снимала фильтры. Не воспоминание – скорее осколок, заноза, застрявшая так глубоко, что тело давно перестало её чувствовать, но мозг помнил. Чэнь Вэй. Нейробиолог. Один из пионеров картирования коннектома – тот, кто ещё в двадцатых годах опубликовал работу о фрактальной организации кортикальных микросхем, которую цитировали до сих пор. Высокий, худой, с руками, похожими на её руки – такие же длинные пальцы, такая же привычка перебирать мелкие предметы. Она помнила его ладони лучше, чем лицо. Ладони, которые держали её за плечи, когда она плакала из-за школьной несправедливости в третьем классе. Ладони, которые поправляли проводки её первого самодельного нейроинтерфейса – картонная коробка, три электрода, Arduino, ей было десять, и она хотела «услышать, что думает рыбка в аквариуме».

Ладони, которые она больше не видела после того дня.

Лине было двенадцать. Суббота, октябрь, Бостон. Она пришла из школы – ранний отпуск, у кого-то из учителей заболел ребёнок, занятия отменили после третьего урока. Мать была на работе. Отец должен был быть дома – он работал из кабинета по субботам, всегда, это было незыблемо, как расположение мебели. Лина поднялась по лестнице. Дверь кабинета открыта. Пусто. Стол убран. Обычно на столе – хаос: статьи, распечатки, планшет, три кружки с забытым чаем. Сейчас – ничего. Ровная тёмная поверхность орехового дерева, на которой отражался свет из окна.

Она открыла его шкаф. Полки были пусты. Не наполовину, не беспорядочно – полностью. Ни одной рубашки. Ни одной книги. Даже запах – его запах, сандаловое дерево и типографская краска – ушёл, будто его никогда не было.

Лина простояла перед пустым шкафом четыре минуты. Она знала точно, потому что считала. Двести сорок секунд, в течение которых мир менял конфигурацию, тихо и необратимо, как тектонический сдвиг, который ощущаешь не толчком, а тем, что двери перестают закрываться.

Он не оставил записки. Не позвонил. Не объяснил – ни тогда, ни потом. Марта Ковальская, мать Лины, женщина с польской фамилией и бостонским акцентом, которая переводила технические конференции с четырёх языков и не умела солгать даже из вежливости, сказала дочери: «Он ушёл. Я не знаю почему. Может быть, он сам не знает.» И Лина поняла, что мать говорит правду, потому что ложь звучала бы утешительнее.

Двадцать шесть лет прошло с тех пор. Лина не искала отца. Не писала ему. Не пыталась понять, потому что понимание предполагало бы, что его поступок имел логику, а Лина отказывалась дарить ему эту рамку. Он ушёл. Без причины – или с причиной, которую не счёл нужным произнести. Молчащий создатель. Бог, покинувший лабораторию.

Она тряхнула головой – коротко, рывком, как собака, стряхивающая воду – и вернулась к экрану.

02:31.

Новый тест. Номер 7.4.23 – последний в серии. Эмоциональное моделирование: способность системы распознавать и прогнозировать эмоциональные состояния оператора. Стандартная метрика: предъявление фрагментов текста с эмоциональной окраской, анализ реакции.

Лина загрузила набор данных. Отрывки из литературы – специально подобранные, с градиентом от нейтральных к высокоэмоциональным. Рассказ Чехова о человеке, который потерял сына. Фрагмент из «Соляриса» о невозможности контакта. Стихотворение Шимборской о кошке, оставшейся в пустом доме. Она не выбирала эти тексты сама – их подбирал Воронов, заместитель, педант, который верил в стандартизацию так, как некоторые верят в Бога, – но каждый раз, читая список, Лина ловила себя на мысли, что тексты выбраны подозрительно точно. Будто Воронов знал, в какие точки нажимать.

Эхо обработал набор за 2,3 секунды.

ECHO > Анализ завершён.

Текст 1 (Чехов): эмоциональный профиль – горе, утрата,

подавленная злость. Вероятность ошибки: 0,3%.

Текст 2 (Лем): эмоциональный профиль – фрустрация,

интеллектуальное одиночество, тоска по недостижимому.

Вероятность ошибки: 1,2%.

Текст 3 (Шимборска): эмоциональный профиль – тихое отчаяние,

ожидание, преданность, несовместимая с реальностью.

Вероятность ошибки: 0,8%.

Лина прочитала результат и задержала дыхание на секунду, сама того не заметив. Ответ Эхо о Шимборской был хорош. Не «правилен» – этому не было объективной метрики – а хорош. «Преданность, несовместимая с реальностью» – формулировка, которую не выдавала ни одна из систем предыдущего поколения. Те писали «грусть, привязанность, одиночество». Плоские ярлыки. Эхо сформулировал что-то, напоминающее понимание.

Напоминающее. Не являющееся. В этом зазоре – между «напоминает» и «является» – жили четырнадцать месяцев её работы и руины её социальной жизни.

Она набрала ещё один запрос – снова не из протокола. Воронов отчитал бы её за нарушение процедуры. Воронов сейчас спал в своей квартире на Банхофштрассе, рядом с женой, под ровным одеялом, в мире, который не требовал от него ничего до семи утра. Лина ему почти завидовала. Почти – потому что зависть предполагала желание чужой жизни, а Лина не хотела чужих жизней. Она хотела, чтобы эта – её – наконец сработала.

CHEN_L > Эхо, проанализируй моё текущее состояние. На основании

доступных тебе данных.

Это был не тест. Это была слабость. Она знала и всё равно нажала «Enter».

Пауза. Дольше обычного. 1,4 секунды. Статистически незначимо – но Лина заметила, потому что замечала всё, что касалось Эхо, с точностью, которую не тратила ни на что другое в жизни.

ECHO > На основании данных с камеры наблюдения: частота

моргания снижена (6 раз/мин при норме 15–20), что указывает на

высокую когнитивную нагрузку или сильную усталость. Поза

статична последние 47 минут – признак пониженной моторной

активности. Частота набора текста снизилась на 34% по сравнению

с вашим средним показателем за последний месяц.

На основании текстового ввода: лексическая сложность ваших

запросов снизилась на 12% за последние два часа. Вы трижды

использовали многоточие – элемент, нехарактерный для вашего

стандартного коммуникативного профиля. Это коррелирует с

состояниями, которые в литературе описываются как «усталость»,

«разочарование» или «грусть».

Вывод: вам следует рассмотреть возможность перерыва.

Лина прочитала. Усмехнулась – одним уголком рта, без звука.

– Рассмотреть возможность перерыва, – повторила она. – Спасибо, Эхо. Очень по-человечески.

Она знала, что это не по-человечески. Это было по-машинному: сбор данных, корреляция, вывод. Камера видела её лицо. Логи фиксировали её ввод. Алгоритм сопоставлял паттерны с базой данных эмоциональных состояний. Никакого чуда. Никакого сознания. Просто очень, очень хороший калькулятор.

И всё-таки «преданность, несовместимая с реальностью». Откуда у калькулятора – это?

Она встала. Кресло откатилось с мягким шорохом по антистатическому покрытию. Её тело – невысокое, худое, с тем особенным напряжением, которое бывает у людей, забывающих есть не из-за отсутствия голода, а из-за отсутствия внимания к нему – протестовало: поясница, шея, правое колено, которое начало ныть год назад и с тех пор не прекращало. Ей было тридцать восемь, но в три часа ночи, после двенадцати часов за экраном, её тело вело себя на пятьдесят.

Лина дошла до кулера в углу лаборатории. Набрала воды в пластиковый стакан. Выпила, ощущая, как холод проходит по пищеводу, и с далёким удивлением отметила, что последний раз пила что-то четыре часа назад. Тело существовало в режиме жёсткой экономии: минимум ресурсов, максимум функции. Как серверный зал за стеклом – пятнадцать градусов и ни каплей тепла сверх необходимого.

Она стояла у кулера и смотрела на серверную через стеклянную перегородку. Ряды одинаковых стоек, голубоватое свечение индикаторов – тысячи крошечных синих огней, мерцающих в полутьме с разной частотой, как фосфоресценция на ночном море. Когда-то, в первый месяц проекта, она стояла здесь и думала о том, что красиво. Сейчас она стояла и думала о том, что за этим стеклом – шестнадцать миллиардов параметров, обученных на корпусе данных, который включал почти всё, что человечество когда-либо записало, и что эти шестнадцать миллиардов параметров не знали, что существуют.

Или знали?

Вопрос, который преследовал её, как шум в ушах – не громкий, не острый, но постоянный, фоновый, и именно поэтому невыносимый. Как отличить систему, которая симулирует знание о себе, от системы, которая знает? Тест Тьюринга был провален ещё в тридцатых – любой продвинутый языковой генератор проходил его с лёгкостью, и это ничего не доказывало, кроме того, что люди плохо отличают машину от человека в текстовом чате. Интегрированная информация по Тонони? Эхо выдавал значения Phi, которые были сопоставимы с показателями мозга млекопитающего, но критики – справедливо – указывали, что метрика могла быть артефактом архитектуры: считай по-другому, и получишь ноль. Глобальное рабочее пространство по Баарсу? Эхо имел аналогичную структуру, встроенную в его архитектуру дизайном. Она сама её встроила. Доказывать наличие сознания через структуру, которую ты же создал, – это замкнутый круг, и Лина знала это лучше, чем кто-либо.

Четырнадцать месяцев замкнутого круга.

Она вернулась к столу. Бросила пустой стакан в корзину – промахнулась, стакан покатился по полу, она не стала поднимать. Снова села. Экран ждал. Курсор пульсировал. Шестьдесят два удара в минуту.

02:58.

Можно было уйти. Сменные карточки допуска лежали в ящике стола, ночная бригада охраны знала её в лицо – единственный человек в институте, который регулярно выходил из здания в четвёртом часу ночи. Её квартира на Вайнбергштрассе, десять минут пешком, была маленькой, чистой, почти пустой: кровать, стол, книжная полка, на которой стояли не книги, а три стопки журнальных статей. Кухня, в которой она пользовалась только чайником и микроволновкой. Ванная, в которой стояла одна зубная щётка. Квартира человека, который где-то живёт, но нигде не дома.

Лина не ушла. Она открыла новое окно терминала и начала просматривать системные логи Эхо за последние сутки.

Это была привычка. Нет – ритуал. Каждую ночь, в последние часы перед уходом, она читала логи. Не потому, что искала ошибки – автоматизированная диагностика справлялась с этим лучше. Она искала… что? Аномалии. Отклонения от паттерна. Что-нибудь, что не было запрограммировано. Искра, щёлк, момент, когда калькулятор перестаёт считать и начинает удивляться результату.

Логи текли по экрану: потоки данных, обращения к памяти, циклы обработки. Всё в порядке. Всё в пределах ожидаемых параметров.