Глава

2:

Китайская

комната

Лаборатория Тега располагалась в научном комплексе – узком отсеке, заставленном оборудованием, которое большинство людей не смогли бы опознать. Спектрографы. Анализаторы паттернов. Голографические проекторы, способные визуализировать данные в трёх измерениях. И в центре всего этого – Тег Эгертон, человек, который видел грамматику в цвете.

Я вошёл, когда он уже работал. Его пальцы танцевали над консолью, а глаза – расширенные, сосредоточенные – следили за потоком данных на экране. Для меня это были строки текста: сообщения Роршаха, принятые за последние двадцать четыре часа. Для него – симфония оттенков.

– Маркус, – он не повернулся, но знал, что я здесь. – Ты должен это увидеть.

Я подошёл ближе. Экран показывал то, что выглядело как обычный текстовый анализ: входящие сообщения слева, ответы Роршаха справа. Между ними – диаграммы связей, которые Тег называл «семантическими картами».

– Что именно?

– Всё. – Он наконец повернулся. Его лицо было странным – смесь восторга и тревоги. – Я понял, как он это делает. Как конструирует ответы.

– И?

– Это… – он искал слова, и я видел, как его взгляд на мгновение расфокусировался, будто он смотрел сквозь меня на что-то невидимое. – Это красиво. И ужасно. Одновременно.

Остальной экипаж собрался через двадцать минут. Саша пришла первой – капитан всегда приходила первой. За ней – Рей, с медицинским планшетом в руках, на котором отображались наши биометрические данные. Юки появилась последней, прямо из инженерного отсека, с пятнами смазки на рукавах комбинезона.

Айзек присутствовал везде и нигде – его голос мог звучать из любого динамика на корабле, но тела у него не было. Иногда я задавался вопросом, каково это – существовать как чистая функция, без физической оболочки. Потом вспоминал, что он, вероятно, не знал «каково» в принципе.

– Итак, – сказала Саша, когда все расположились вокруг главного экрана лаборатории. – Тег, ты сказал, что у тебя прорыв.

– Не уверен, что «прорыв» – правильное слово. – Тег коснулся консоли, и экран изменился. Теперь на нём была визуализация – сложная трёхмерная структура, напоминающая кристаллическую решётку. – Скорее… понимание. Хотя «понимание» тоже не совсем точно, учитывая контекст.

– Тег, – мягко перебил Рей. – Давай по существу.

– Да. Конечно. – Он сделал глубокий вдох. Я заметил, как его пальцы слегка дрожали – не от страха, а от возбуждения. – Смотрите. Вот сообщение, которое мы отправили вчера.

На экране появился текст:

Отправлено: «Мы исследователи с планеты Земля. Мы пришли с мирными намерениями. Можете ли вы описать свою природу и происхождение?»

– Стандартный протокол первого контакта, – прокомментировала Саша. – Мы отправляем варианты этого сообщения с момента обнаружения.

– Именно. И вот ответ.

Получено: «Мы являемся ответом на исследование. Мы характеризуемся природой, которая описывает происхождение. Мирные намерения определяются параметрами, которые доступны для планеты. Описание возможно.»

Юки нахмурилась.

– Это… бессмыслица. Грамматически правильная бессмыслица.

– Именно! – Тег щёлкнул пальцами. – Именно это я и хотел показать. Смотрите внимательнее.

Он вывел на экран новую диаграмму. Теперь исходное сообщение и ответ были разложены на составные элементы – слова, фразы, грамматические конструкции. Между ними тянулись линии связей.

– Видите? Каждый элемент ответа – это трансформация элемента из нашего сообщения. «Мы исследователи» превращается в «Мы являемся ответом на исследование». «С планеты Земля» превращается в «для планеты». «Можете ли вы описать» превращается в «Описание возможно».

Я смотрел на диаграмму и начинал понимать.

– Он не генерирует новый контент.

– Нет. – Тег покачал головой. – Он берёт нашу структуру и возвращает её обратно. Трансформирует по определённым правилам – правилам, которые сохраняют грамматику, но уничтожают семантику. Форма остаётся. Содержание исчезает.

– Как эхо, – сказал Рей. – Эхо, которое меняет слова, но сохраняет ритм.

– Точно. – Тег кивнул. – Только это не просто эхо. Это… – он снова замолчал, подбирая слова, – …это алгоритм. Очень сложный алгоритм. Я попытался формализовать правила трансформации – вот, смотрите.

На экране появился список. Математические формулы, логические операторы, стрелки перехода.

– Правило первое: заменить субъект действия его функциональным эквивалентом. «Исследователь» – тот, кто исследует – становится «ответом на исследование» – тем, что исследуется. Правило второе: инвертировать направление интенции. «Мы пришли» – активное действие – становится «мы характеризуемся» – пассивным состоянием. Правило третье: заменить конкретные референты абстрактными категориями. «Мирные намерения» становятся «параметрами».

Саша слушала молча. Я видел, как её рука несколько раз поднималась к виску – жест переключения режимов – но она пока оставалась в объединённом состоянии.

– Сколько таких правил? – спросила она.

– Я идентифицировал двадцать три. – Тег вздохнул. – Но подозреваю, что их больше. Значительно больше. Это только верхушка айсберга.

– И что это значит? – спросила Юки. – Что он просто… обрабатывает наши слова по формуле?

– Да. – Тег посмотрел на неё. – Именно это. Он не понимает, что мы говорим. Он не знает значения слов. Он просто применяет правила трансформации к входящим символам и генерирует выходные символы. Идеальный синтаксис. Нулевая семантика.

Тишина.

Я смотрел на экран – на диаграммы, на формулы, на примеры сообщений – и чувствовал, как что-то сдвигается в моём понимании. Что-то важное. Что-то тревожное.

– Покажи ещё примеры, – попросил я.

Тег кивнул. Экран изменился.

Отправлено: «Обладаете ли вы сознанием? Есть ли у вас внутренний опыт, субъективное переживание?»

Получено: «Сознание обладает свойствами, которые определяют внутренний опыт. Субъективное переживание характеризуется параметрами, которые доступны. Наличие возможно.»

– Видите? – сказал Тег. – Мы спрашиваем о сознании – и он возвращает нам слово «сознание», но в совершенно другом контексте. Вопрос «Обладаете ли вы» превращается в утверждение «Сознание обладает». Местоимение «вы» исчезает, заменяется абстрактным существительным.

– Он избегает прямого ответа, – заметила Саша.

– Нет. – Тег покачал головой. – Он не избегает. Избегание предполагает намерение. Это не избегание – это… неспособность. Он не может ответить на вопрос, потому что не понимает, что такое вопрос. Для него это просто паттерн символов, который нужно трансформировать по правилам.

– Но правила же откуда-то взялись, – возразил Рей. – Кто-то их создал. Или что-то.

– Возможно. – Тег пожал плечами. – Или они эмергентны. Возникли из самой структуры системы, без внешнего создателя. Как законы физики – они не созданы, они просто есть.

– Ты сравниваешь Роршах с законами физики?

– Я сравниваю его природу с природой законов. – Тег поднял руку, предупреждая возражение. – Не в смысле масштаба или важности. В смысле… беспричинности. Он делает то, что делает, не потому что хочет. Не потому что ему приказали. Просто потому что так устроен.

Я подошёл ближе к экрану.

– Покажи ещё один пример. Самый странный, который у тебя есть.

Тег колебался.

– Уверен?

– Да.

Он ввёл команду.

Отправлено: «Вы осознаёте, что коммуницируете с другим разумным существом?»

Получено: «Осознание коммуницирует с существом, которое характеризуется разумностью. Другой определяется параметрами, которые осознают. Вы существуете.»

Я читал это трижды. И каждый раз последние два слова ударяли сильнее.

Вы существуете.

– Это… – я начал и остановился.

– Да. – Тег понял без объяснений. – Это единственное место, где он сохраняет референт без трансформации. «Вы» остаётся «вы». «Существуете» остаётся «существуете». Как будто… – он замолчал.

– Как будто что? – спросила Юки.

– Как будто это единственная информация, которую он извлёк из сообщения. Единственный факт, который его система зарегистрировала как значимый. Не наш вопрос. Не наше любопытство. Только факт нашего существования.

Тишина в лаборатории стала гуще. Я чувствовал её почти физически – давление, которое нарастало с каждой секундой молчания.

– Он индексирует нас, – сказал я наконец. – Не общается. Индексирует.

– Да. – Тег кивнул. – Именно это слово я искал. Он каталогизирует. Сортирует. Регистрирует наше присутствие, не понимая, что оно значит.

– Как библиотекарь, который расставляет книги по цвету обложек, – добавила Юки. – Не читая содержания.

– Именно.

Саша наконец подняла руку к виску. Я видел, как её взгляд на мгновение расфокусировался – переключение режимов, разделение полушарий. Когда она заговорила, её голос звучал странно – будто два человека говорили одновременно, чуть не совпадая по фазе.

– У меня есть две интерпретации.

Мы ждали.

– Первая, – она слегка повернула голову влево, – Роршах понимает. Он понимает всё, но скрывает это. Ответы – не неспособность, а стратегия. Он тестирует нас, наблюдает за нашей реакцией. Изучает, как мы интерпретируем его молчание. Это манёвр в игре, правила которой нам неизвестны.

Пауза. Её голова слегка качнулась вправо.

– Вторая: Роршах – автомат. Невероятно сложный, но всё же автомат. Без сознания, без понимания, без намерений. Мы проецируем на него интенцию, потому что так устроены наши мозги – мы видим разум везде, даже там, где его нет. Особенно там, где его нет.

– И какая из них верна? – спросил Рей.

Саша моргнула. Её взгляд снова стал единым – полушария синхронизировались.

– Обе. – Она улыбнулась – тонкой, почти незаметной улыбкой. – Или ни одна. В разделённом режиме я вижу обе возможности одновременно, с равной убедительностью. Я не могу выбрать, потому что выбор требует оснований, которых у нас нет.

После брифинга я вернулся в лабораторию Тега. Остальные разошлись – у каждого были свои обязанности, свои протоколы, свои способы справляться с тем, что мы только что услышали. Но я не мог уйти. Что-то держало меня здесь, перед экраном с диаграммами и формулами.

Тег работал молча. Его пальцы двигались по консоли с той машинальной уверенностью, которая приходит только с годами практики. Он вводил новые данные, строил новые модели, искал паттерны в паттернах.

– Ты видишь это в цвете, – сказал я. Не вопрос – утверждение.

Он не поднял головы.

– Вижу.

– Каково это?

Теперь он посмотрел на меня. Его глаза – карие, с расширенными зрачками синестета – изучали моё лицо, будто читая что-то, что я сам не осознавал.

– Ты когда-нибудь видел восход солнца над океаном?

– Да.

– Представь, что каждое предложение – это восход. Структура – это горизонт. Слова – облака, которые окрашиваются светом. Грамматика – это сам свет, который меняет оттенки от пурпурного к золотому. – Он помолчал. – Сообщения Роршаха… они как восход на планете без солнца. Есть горизонт. Есть облака. Есть даже цвета. Но нет источника света. Всё это происходит в темноте, и ты видишь красоту, которой не должно существовать.

Я молчал, пытаясь представить. И не мог.

– Это пугает тебя?

– Это… – он снова искал слова, – …это завораживает. И да, пугает. Потому что красота без источника – это красота без смысла. А я всю жизнь верил, что красота и смысл связаны. Что форма отражает содержание.

– А теперь?

– Теперь я вижу форму, которая ничего не отражает. Чистый паттерн. И он красив. – Тег отвернулся к экрану. – И я не знаю, что с этим делать.

Я стоял рядом с ним, глядя на данные, которые ничего не видел – только текст, только числа, только символы. Для меня это был анализ. Для него – произведение искусства без художника.

Юки нашла меня в столовой.

Маленькое помещение – стол на шестерых, компактная кухня с рационами, окно, которое можно было переключать между видом снаружи и имитацией земного пейзажа. Сейчас окно показывало Роршах – далёкий, неправильный силуэт на фоне звёзд.

– Можно?

Я кивнул. Она села напротив, держа в руках чашку с чем-то, что имитировало кофе. Мы пили эту субстанцию уже четырнадцать месяцев, если считать криосон, и так и не привыкли к её вкусу.

– Ты понял, что показал Тег?

– Думаю, да.

– Объясни мне. – Она посмотрела на меня прямо, без увиливания. – Не как учёный учёному. Как человек человеку. Я инженер. Я понимаю, как работают машины. Но это… – она кивнула в сторону окна, – это не машина в привычном смысле.

Я сделал глоток синтетического кофе. Горький. Неправильный. Знакомый.

– Ты слышала о китайской комнате?

– Смутно. Что-то про искусственный интеллект?

– Что-то про понимание. – Я отодвинул чашку. – Представь комнату. Внутри сидит человек, который не знает ни слова по-китайски. У него есть книга – огромная книга с правилами. Если ты получишь такой-то символ, напиши такой-то ответ. Если получишь другой символ – напиши другой ответ. Миллионы правил, покрывающих все возможные комбинации.

Юки кивнула.

– Теперь представь, что снаружи – носитель китайского. Он пишет записки на китайском и передаёт их в комнату. Человек внутри смотрит на символы, ищет их в книге, находит правило, пишет ответ. Передаёт обратно. Носитель читает – и ответ идеален. Грамматически правильный, осмысленный, релевантный. Он не может отличить эти ответы от ответов настоящего носителя китайского.

– Понятно. Тест Тьюринга, по сути.

– Тест Тьюринга – это про поведение. Китайская комната – про понимание. – Я помолчал. – Вопрос в следующем: понимает ли система китайский?

Юки нахмурилась.

– Человек внутри – не понимает. Он просто следует правилам.

– Именно. Но система в целом – человек плюс книга плюс комната – выдаёт ответы, неотличимые от ответов того, кто понимает.

– И?..

– Джон Сёрл, философ, который придумал этот эксперимент, утверждал: система не понимает китайский. Манипуляция символами по правилам – это не понимание. Понимание требует чего-то большего. Интенциональности. Семантики. Смысла.

Юки молчала, обдумывая.

– И ты думаешь, что Роршах – это китайская комната?

– Я думаю, что Тег только что доказал это. – Я снова посмотрел в окно. – Роршах берёт наши сообщения, применяет правила трансформации, генерирует ответы. Синтаксис – идеальный. Семантика – нулевая. Он не понимает, что мы говорим. Он не понимает даже, что мы существуем – хотя эта информация, похоже, единственная, которую он регистрирует.

– «Вы существуете», – процитировала Юки.

– Да. Это всё, что он извлекает. Факт нашего присутствия. Не смысл. Не намерения. Просто… бытие.

Юки отпила из чашки. Поморщилась – синтетический кофе никому не нравился.

– Но ведь это работает в обе стороны, – сказала она.

– Что ты имеешь в виду?

– Китайская комната. – Она поставила чашку на стол. – Если Роршах – это китайская комната, которая не понимает, потому что просто следует правилам… как мы докажем, что мы – не то же самое?

Я замер.

– Мы понимаем, – сказал я. Но голос прозвучал неуверенно даже для меня самого.