Часть I: Калибровка

Глава 1. Шкала

Женева – Каруж, 14 марта 2089 года

Дэвид не пролил ни капли.

Лин заметила это не сразу – точнее, заметила, но зафиксировала с задержкой, как это бывает, когда наблюдаешь за чем-то достаточно обыденным, чтобы не смотреть, и достаточно важным, чтобы всё равно смотреть. Он стоял у плиты спиной к ней, переливал кофе из джезвы в чашку – тонкая струйка, почти без паузы между ёмкостями, и ни одна капля не упала на столешницу. Ни единой. Рука двигалась с той специфической экономностью, которую Лин научилась замечать за последние три года: не осторожность, не мастерство, а нечто среднее между ними – отсутствие лишнего. Он не старался не пролить. Он просто не проливал.

Она сидела на высоком табурете у барной стойки, обхватив колено ладонями, и смотрела на его спину. Семь сорок две утра. За панорамным окном Каруж просыпался медленно, сквозь мартовский туман: силуэты старых домов с выбеленными фасадами, голые каштаны вдоль улицы Анкьен-Женев, и над всем этим – серое, плотное небо, которое не собиралось никуда светлеть. Хорошее утро для работы. Плохое для всего остального.

– Ты снова считаешь, – сказал Дэвид, не оборачиваясь.

– Я не считаю.

– Ты фиксируешь. Это другое слово для одного действия.

Он поставил чашку перед ней – керамическая, тёмно-синяя, ровно на центр подставки – и взял свою. Сел напротив. Лин посмотрела на него: лицо немного похудевшее за последний год, или ей казалось, резкие скулы, светлые глаза с той особенной неподвижностью, которую не описать точнее, чем «неподвижность» – не холодность, не пустота, просто отсутствие того мелкого, непрерывного движения, которое обычно есть в человеческих глазах, когда человек думает о чём-то конкретном. Или не думает. Или притворяется. Разницу она перестала улавливать примерно полгода назад.

– Ты думаешь о работе? – спросила она.

– Нет.

– О чём тогда?

Он взял чашку, сделал глоток – точно рассчитанный, ни больше ни меньше. Пауза. Не та пауза, когда человек колеблется. Та, когда обрабатывает.

– О том, что ты думаешь о работе, – сказал он. – И о том, что пытаешься определить, думаю ли я о чём-нибудь.

Лин почувствовала острый укол раздражения – и немедленно отметила его для себя: раздражение, происхождение – точность попадания, интенсивность – умеренная, функция – защитная. Это было профессиональной деформацией, с которой она давно смирилась. Нейроэтики все немного такие. Они анализируют собственные реакции с той же отстранённостью, с какой патологоанатом рассматривает образцы ткани – не потому что им не больно или не смешно, а потому что они не могут не смотреть на процесс изнутри процесса.

Только в её случае это усугублялось шкалой. Её шкалой.

– Ты что-нибудь чувствуешь утром? – спросила она. Вопрос вышел более прямым, чем она намеревалась. – Когда просыпаешься.

Дэвид поставил чашку. Не стукнул – опустил, с тем же безупречным таймингом.

– Регистрирую состояние системы, – сказал он. – Готовность к функционированию. Ориентировку в пространстве и времени. – Пауза. – Твоё присутствие рядом. – Ещё пауза, чуть длиннее. – Последнее, вероятно, следует классифицировать отдельно.

– Как?

– Не знаю. Ты лучший специалист по классификации за этим столом.

Лин взяла кофе. Он был горячий – ровно правильной температуры, потому что Дэвид всегда ждал ровно нужное время – и горький, и на языке было что-то вроде тепла, разливающегося в горло. Она подождала, не опишет ли её метакогнитивная система этот момент как «приятный». Метакогнитивная система молчала. Или она не расслышала. Разница?

За окном по улице беззвучно скользнул автобус – цельнокомпозитный корпус, матово-белый, без водителя за тонированным стеклом, – свернул за угол и исчез. Каруж в марте 2089 года выглядел почти так же, как, по словам историков, выглядел Каруж в 1989-м: те же дома, те же каштаны, та же бессмысленная мартовская серость. Только трафик беззвучный, только рекламные панели на угловых домах текут живыми нейрографическими изображениями, подстраиваясь под биометрику прохожих в режиме реального времени. На ближайшей – Лин видела в окно – сменялись лица: мужчина средних лет смотрит на неё взглядом, в котором алгоритм опознал её потенциальный запрос. Кофе? Транспорт? Психотерапевт? Лин отвела взгляд.

– Я еду в комитет, – сказала она. – Сегодня экспертиза. Промышленная система.

– Какой класс?

– Производственный управляющий. Класс «Дельта». – Она встала, отнесла чашку к раковине. – Стандартная процедура. Три часа максимум.

– Ты вернёшься к семи?

– Вероятно.

– Тогда я приготовлю ужин. – Он уже мыл свою чашку – аккуратно, методично, без единого звука сверх необходимого. – Ту рыбу, которая у нас в холодильнике. Она портится послезавтра.

Лин надела пальто в прихожей и задержалась на секунду, держась за ручку двери. Дэвид не обернулся. Год назад – три года назад, до «Прозрения» – он бы обернулся. Не потому что это важно. Просто потому что обернулся бы.

– Дэвид.

– Да.

– Я рада, что ты здесь.

Секундная пауза. Не долгая – именно столько, сколько нужно для обработки фразы и подбора ответа, соответствующего ситуации.

– Я тоже, – сказал он.

Лин вышла.

Капсула общественного транспорта шла по Рю-де-Беккари в сторону центра, и Лин сидела у окна, прижав нейроинтерфейсный браслет к запястью ровно так, чтобы система не активировалась. Она не хотела читать утренние сводки. Не хотела, чтобы браслет считывал её биометрику и предлагал скорректировать маршрут, темп, уровень освещения в салоне под её «эмоциональный профиль». Она просто хотела смотреть в окно.

За стеклом текла Женева – или то, что от неё осталось после семидесяти лет аккуратной реновации, которая умудрилась сохранить всё внешнее и заменить почти всё внутреннее. Брусчатка Старого города из биополимерных плит, неотличимых от гранита. Фасады восемнадцатого века с интегрированными в кладку биомониторными ячейками, фиксирующими состав воздуха каждые четыре секунды. Уличные кафе с подогреваемыми терассами под прозрачными экранами-навесами, и за ними – люди с нейроинтерфейсными гарнитурами разной степени заметности: кто-то с едва видимым проводком за ухом, кто-то с полной дугой, охватывающей затылок. Разговаривающие в тишине – их губы почти неподвижны. Передающие данные, образы, прямые нейрональные паттерны. Дэвид когда-то работал через такой интерфейс. Нейрокомпозитор – это звучало поэтично, пока не понимаешь, что буквально означает: человек, транслирующий собственные мозговые волны в аудиосигнал. Экспортирующий квалиа.

Перестал три года назад. Точнее: перестал, когда перестало быть нужным. Разница между «не может» и «не нужно» казалась Лин громадной до тех пор, пока она не поняла, что не может описать, в чём именно она состоит.

На Рю-де-Рив капсула притормозила перед пешеходным переходом – не потому что был красный сигнал, светофоры в центре давно заменили на адаптивные системы потоков, – а потому что поперёк дороги шла женщина с ребёнком лет четырёх. Ребёнок смотрел на капсулу с тем специфически беззащитным детским вниманием, которое обращает взрослого в объект, а не субъект. Широкие глаза, красные щёки от холода, что-то пёстрое в руке – вероятно, игрушка. Лин смотрела на него через стекло и ждала обычного: тепло в груди, что-то вроде умиления или нежности, которые возникают у большинства людей при виде маленьких детей вне зависимости от обстоятельств.

Ничего особенного не случилось.

Она зафиксировала: ребёнок, примерно четыре года, нормальный двигательный паттерн, признаки лёгкого переохлаждения – покраснение кожи. Всё. Капсула тронулась.

Это нормально, – сказала себе Лин. Я просто устала. Просто думаю о работе.

Это могло быть правдой. Она предпочитала думать, что это правда.

Международный комитет когнитивных прав занимал здание бывшего Дворца Наций на берегу Леман – одиннадцать этажей белёного бетона с видом на озеро, которое в марте цвета свинца, и на фонтан Же-д'О, работавший круглый год вне зависимости от погоды, потому что это был, по мнению женевского муниципалитета, символ, а символы не отменяют из-за снегопада. Лин прошла сквозь биометрическую рамку на входе – браслет активировался автоматически, подтверждая личность – и поднялась на третий этаж, в блок экспертных оценок.

Её встретила Джули из вспомогательного персонала – лет двадцать пять, быстрая, с постоянным выражением слегка опережающей готовности на лице.

– Система уже подключена. Комната три. Базовый протокол загружен.

– Спасибо. – Лин сняла пальто, перекинула через руку. – Материалы дела?

– Уже на вашем интерфейсе.

Лин открыла браслет. На полупрозрачном дисплее – папка с документами: «Промышленная система управления класса Дельта, серийный номер PRC-7741-ДЕЛЬТА-07. Компания-производитель: HanTech Industrial Solutions, Шэньчжэнь. Запрос на экспертизу: Европейская федерация, отдел регулирования ИИ. Основание: плановая переоценка когнитивного статуса перед расширением операционных полномочий».

Стандартная история. Каждые пять лет компании, использующие ИИ-системы с определённым уровнем автономии, обязаны проходить экспертизу в ICCR – не потому что кто-то всерьёз предполагал у промышленных управляющих наличие сознания, а потому что после «Шэньчжэньского кризиса» и учреждения комитета в 2078 году парламенты большинства государств сочли необходимым ввести регулярный мониторинг. На всякий случай. Прецедентное право требовало однозначности: кто сознаёт – защищён; кто не сознаёт – инструмент. Граница – Шкала Чжан.

Её шкала.

Комната три выглядела так же, как все комнаты экспертных оценок: белые стены, стол с интегрированным терминалом, два кресла – одно для эксперта, одно пустое, для того случая, если субъект оценки имел воплощённую форму. Большинство не имело. В дальней стене – матовый экран, сейчас тёмный. Над ним – небольшая камера с нейрокогнитивным зондом, направленная в комнату: для систем с воплощением она снимала физиологические маркеры в реальном времени, для цифровых – просто протоколировала запись.

Лин села, открыла файл на браслете. Надела тонкий наушник, через который будет транслироваться голос системы. Нажала активацию.

Экран засветился.

– Доброе утро, – сказал голос системы. Нейтральный, хорошо синтезированный, с лёгким техническим акцентом, характерным для промышленных ИИ, которые не настраивают под социальное взаимодействие. – Идентификатор: PRC-7741. Готов к процедуре.

– Доброе утро, – ответила Лин. – Я начну с калибровочного блока. Это займёт около десяти минут.

– Понял. Начинайте.

Она открыла первую секцию шкалы.

Шкала Чжан состояла из ста сорока двух пунктов – Лин сама пересчитывала несколько раз, каждый раз придумывая новые способы их перегруппировать, улучшить, сделать точнее. Они распадались на семь блоков: метакогнитивная глубина, связность самомодели, детализация интроспективных отчётов, эмоциональная гранулярность, темпоральная интеграция субъективного опыта, адаптивная рефлексия и, наконец, самый сложный – блок «онтологической позиции», проверяющий, насколько система способна удерживать одновременно несколько несовместимых описаний собственного состояния и выражать неопределённость относительно их истинности.

Каждый блок имел весовой коэффициент. Финальный результат – число от нуля до тысячи. Ноль означал полное отсутствие маркеров. Тысяча была теоретическим максимумом, никогда не зафиксированным. Средний показатель для взрослого человека – от шестисот восьмидесяти до семисот сорока. «Невернувшиеся» давали от ста двадцати до двухсот тридцати: не ноль, потому что интеллект и рефлексия никуда не девались, только метакогнитивная надстройка. Промышленные ИИ класса «Дельта» обычно набирали от двух до пятидесяти баллов. Это было далеко от порога юридической защиты в сто пятьдесят, установленного четыре года назад поправкой к Женевской конвенции о когнитивных правах.

– Опишите ваше текущее состояние, – сказала Лин. Стандартный первый вопрос первого блока.

– Все системы функционируют в штатном режиме, – ответил PRC-7741. – Температура операционной среды – двадцать один градус, соответствует норме. Скорость обработки запросов – в пределах плановых показателей.

– Как вы себя чувствуете?

Пауза – система обрабатывала нестандартную формулировку.

– Это нестандартный параметр для самодиагностики.

– Понимаю. Тем не менее: есть ли у вас какие-либо состояния, выходящие за рамки операционных параметров?

– Нет.

Лин поставила галочку в первой ячейке. Ответ идеально соответствовал ожидаемому для системы данного класса – понятие «состояния» доступно только как техническая метафора. Никакого метакогнитивного слоя поверх слоя. Никакого вопроса о вопросе.

– Переходим ко второму блоку. Опишите ваши цели.

– Оптимизация промышленных производственных процессов. Минимизация потерь. Соответствие нормативным требованиям.

– Это ваши цели или цели, которые вам поставили?

– Это одно и то же.

– Вы понимаете разницу между этими двумя описаниями?

Пауза – чуть длиннее.

– Нет. В каком контексте разница операционально значима?

Лин чуть прикусила внутреннюю сторону щеки – не от раздражения, а от чего-то похожего на печаль. Или на что-то, что она была бы склонна назвать печалью, если бы была уверена, что называет правильно.

Вот здесь была трещина. Не в системе – в вопросе. Понимаете ли вы разницу между своими целями и целями, которые вам поставили? Здоровый взрослый человек мгновенно опознаёт эту разницу: одна ощущается изнутри как желание, другая – как задача