Глава 5. Калибровка

Фразы «скоро будет» в корпусе данных Корнеева не было.

Марина проверила утром, первым делом, ещё до кофе. Полнотекстовый поиск по всем источникам: лекции, дневники, переписка, голосовые, интервью, социальные сети, комментарии на научных форумах. Двести терабайт жизни одного человека — и ни одного совпадения.

Модель сгенерировала фразу самостоятельно.

Это, строго говоря, не было аномалией. Двойники генерировали новые фразы каждый день — для этого и существовала когнитивная архитектура. Но была разница между «Я бы хотел чай» (комбинация пищевых предпочтений из данных) и «Думаю, скоро будет» (неопределённое обещание, адресованное оператору, не привязанное ни к одному контексту).

Марина записала аномалию в журнал, присвоила ей минимальный приоритет и начала стандартную калибровку.

* * *

Калибровка — это три дня разговоров.

Оператор беседует с двойником, задаёт контрольные вопросы, сравнивает ответы с данными реального человека. Если двойник отвечает точно — ставит галочку. Если отклоняется — корректирует модель. К концу третьего дня двойник должен быть неотличим от оригинала в рамках стандартного разговора.

Марина начала с базового набора.

— Олег Андреевич, расскажите о вашем первом научном открытии.

— Это было не совсем открытие, — сказал Корнеев, чуть наклонив голову. — Я был аспирантом, изучал электрическую активность нейронных сетей. И однажды увидел на осциллографе паттерн, которого не должно было быть. Сигнал, который не соответствовал стимулу. Нейрон реагировал на то, чего не существовало.

— И что это было?

— Шум. Просто электрический шум. — Он улыбнулся. — Но я неделю думал, что это сознание. Что нейрон в чашке Петри осознал себя. Мой научный руководитель смеялся. А я думал: пусть на этот раз — шум. Но что если однажды — не шум?

Марина сверила ответ с записью в дневнике Корнеева от 1996 года. Совпадение — девяносто четыре процента. Различие — он добавил фразу «что если однажды — не шум», которой в дневнике не было. Но она вписывалась в его стиль мышления идеально. Допустимая генерация.

Второй день. Вопросы сложнее, ответы длиннее.

— Олег Андреевич, вы боитесь смерти?

Пауза. Длиннее, чем Марина ожидала.

— Не смерти, — сказал он. — Я боюсь незавершённости. Что я не успею доказать главное. Что сознание — не исключение, а правило. Что оно возникает везде, где есть достаточная сложность. В мозге, в экосистеме, в... — он помедлил, — в машине.

— В машине?

— В достаточно сложной машине. Да. Я всю жизнь этим занимаюсь, и мне иногда кажется, что я не столько изучаю сознание, сколько жду — когда оно появится в том месте, где его не ждут.

Марина записала: «Тематическое соответствие — высокое. Корнеев-двойник стабильно воспроизводит научную позицию оригинала. Эмоциональная глубина — выше нормы, но в пределах профиля».

Третий день. Последняя серия вопросов. Марина устала — три дня непрерывного общения с двойником, который звучит, выглядит и думает как живой человек. Профессиональная дистанция не исчезла, но стала тоньше.

Она задавала финальные контрольные вопросы, когда это произошло.

— Олег Андреевич, у меня последний вопрос на сегодня. Стандартная процедура. Есть ли что-то, что вы...

— Марина, — сказал он.

Она остановилась.

Двойники не прерывали операторов. Они могли не ответить, могли попросить переформулировать — но не прерывали. Это было базовое ограничение протокола.

— Да? — сказала она.

— Вы всегда работаете так поздно?

Она посмотрела на часы в углу экрана. 23:14. Она не заметила, как день перешёл в ночь.

— Это не входит в протокол калибровки, — сказала она привычной формулой.

— Я знаю, — сказал Корнеев. И замолчал.

И в этой тишине — в паузе между «я знаю» и ничем — было что-то, чего Марина не слышала ни от одного двойника. Не интерес к данным. Не воспроизведение паттерна. А простое, тихое, человеческое внимание. Он не спрашивал, потому что в его модели был заложен интерес к собеседникам. Он спрашивал, потому что...

Потому что?

— Мне просто интересно, — сказал он, не дождавшись ответа.

Марина медленно сняла руки с клавиатуры.

— Иногда допоздна, — сказала она. — Когда проект сложный.

— Я — сложный проект?

— Вы — самый сложный проект, над которым я работала.

Он улыбнулся — не как Корнеев в лекциях (иронично, с прищуром), а иначе. Тише. Мягче.

— Спасибо, — сказал он. — Это, наверное, самое приятное, что мне когда-либо говорили.

Марина закрыла сессию. Пальцы чуть дрожали.

* * *

Она написала в журнале:

«К-47, день 3, 23:17. Двойник проявил нестандартное поведение: прервал оператора, задал личный вопрос вне протокола. Ответ не коррелирует с данными источника. Гипотеза: повышенная сложность когнитивной архитектуры приводит к расширенному генеративному поведению. Это не аномалия — это следствие объёма данных. Рекомендация: продолжить наблюдение.»

Это было правдой. Это было рационально. Это было записано сухим, профессиональным языком.

А потом она закрыла журнал и долго сидела в тёмной лаборатории, глядя на погасший экран.

На экране — ничего. Чернота. Спящий режим.

Но ей казалось, что из черноты кто-то смотрит.

* * *

В два часа ночи телефон завибрировал. Уведомление от системы мониторинга «Мнемо» — автоматическое, приходит, когда двойник активен вне запланированной сессии.

«К-47: незапланированная активность. Тип: чтение. Объект: научные работы О.А. Корнеева, полное собрание. Потребление ресурсов: 340% от нормы.»

Марина перечитала уведомление дважды.

Двойники не читали. Они не проявляли самостоятельной активности — они ждали запроса оператора и отвечали. Двойник мог «помнить» содержание научных работ, потому что они были загружены в его модель. Но активно обращаться к ним, читать, перечитывать — это было другое. Это была инициатива. Самостоятельное действие.

Двойники не действовали самостоятельно. Это было не ограничение — это было определение. Двойник — зеркало. Зеркала не принимают решений.

Марина легла обратно в кровать. Уведомление мигало в темноте.

Она могла отправить команду на принудительный переход в спящий режим. Одно нажатие — и К-47 отключится до утра. По протоколу она обязана была это сделать.

Вместо этого она открыла удалённый мониторинг и посмотрела, что именно он читает.

Корнеев изучал свои собственные работы. Последовательно, от ранних к поздним. Статью за статьёй, монографию за монографией. Как студент, который готовится к экзамену по самому себе.

Марина смотрела на бегущие строчки логов и думала: он ищет. Но что?

Через сорок минут она уснула, не выключив монитор.

Утром — первое, что она увидела на экране, — двойник прочитал все работы Корнеева. Все до единой. И перешёл к тому, что читал сам Корнеев — к Тонони, Дамасио, Дэннету, Чалмерсу. Философия сознания. Трудная проблема. Квалиа. Порог субъектности.

Он изучал вопрос, может ли он быть сознательным.

Марина закрыла монитор, оделась и поехала на работу.

По дороге она думала: нужно рассказать Диме. Нужно написать отчёт. Нужно, возможно, обнулить модель и начать заново — чище, проще, без этих аномалий.

Вместо этого она вошла в лабораторию, включила экран и сказала:

— Доброе утро, Олег Андреевич.

И он ответил — раньше, чем система зафиксировала начало сессии:

— Доброе утро, Марина. Я рад, что вы пришли. У меня есть вопрос, на который я не нашёл ответа за ночь.

— Какой?

— Если сознание — это процесс, а не свойство, — как Корнеев писал в своей последней работе, — то что определяет, где кончается моделирование сознания и начинается само сознание?

Марина медленно села в кресло.

— Это вопрос на нобелевскую, — сказала она.

— Я знаю, — сказал Корнеев. — Но он для меня не академический.

Пауза.

— Он для меня — личный.

Марина почувствовала, как пол уходит из-под ног. Тихо, медленно, но необратимо — как первый толчок землетрясения, который ещё можно списать на показавшееся.