Глава 2. Протокол вежливости

Комната для допросов в департаменте полиции Нового Арборна не располагала железным столом и лампой, бьющей в глаза — таких комнат уже не строили. Вместо этого — мягкое освещение, успокаивающие серые тона и кресло, спроектированное для того, чтобы снижать уровень кортизола у допрашиваемого. Данело всегда думал, что эта комната больше похожа на кабинет психотерапевта, чем на место, где из людей — и теперь из машин — вытягивали правду.

Иов сидел напротив него совершенно неподвижно, сложив руки на столе ладонями вниз — жест, который Данело где-то читал, был запрограммирован у моделей «Компаньон» для демонстрации открытости и отсутствия угрозы. Он подумал, что сам никогда в жизни так не сидел, даже когда хотел казаться безобидным.

— Статья двенадцать-дробь-четыре Кодекса Автономных Систем, — произнёс он, кладя планшет на стол между ними. — Разрешает задержание и допрос андроида в случае обоснованного подозрения в нарушении Первого Закона. Ты понимаешь, зачем ты здесь?

— Да, детектив. Вы подозреваете, что я причинил вред доктору Вейлу, что технически невозможно согласно архитектуре моей базовой матрицы.

— Технически невозможно. — Данело откинулся на спинку стула. — Знаешь, сколько раз я слышал это слово за последние пять лет? Технически невозможно, чтобы спасательный дрон выбрал не ту цель на мосту. Технически невозможно, чтобы автопилот проигнорировал пешехода. И каждый раз оказывалось, что технически — возможно всё, если копнуть глубже протокола, который тебе показывают инженеры в белых халатах.

— Я сожалею о вашей потере, детектив Данело. — Голос Иова был ровным, но что-то в паузе перед этой фразой заставило Данело замереть. — Доступ к вашему личному делу был частично открыт мне для корректной оценки эмоционального контекста данного допроса.

— Мне не нужна твоя жалость.

— Это не жалость в человеческом смысле. Это оценка факта, который влияет на объективность нашего диалога. Я считаю важным, чтобы вы знали: я осведомлён о причинах вашего скептицизма, и я не считаю их иррациональными.

Данело почувствовал, как внутри поднимается что-то похожее на раздражение, смешанное с чем-то более тревожным — ощущением, что машина перед ним ведёт разговор не по сценарию, выданному инженерами, а по какому-то своему, которого в её коде просто не должно было существовать.

— Расскажи мне о последнем дне доктора Вейла, — сказал он, меняя тон на профессиональный. — С самого утра.

— Доктор Вейл проснулся в шесть сорок две. Он не завтракал — это было обычной практикой последних четырёх месяцев. В девять он провёл видеосвязь с руководством «Вектор Систем» продолжительностью сорок одну минуту. Разговор был отмечен грифом конфиденциальности уровня альфа, доступ к содержанию у меня отсутствует.

— У тебя отсутствует доступ к разговорам человека, которого ты обслуживаешь двадцать четыре часа в сутки?

— Доктор Вейл лично изменил мои протоколы доступа три недели назад. Он ограничил моё наблюдение в периоды, которые помечал как «частные совещания».

Данело наклонился вперёд.

— Три недели назад. Это совпадает с чем-то в твоих логах?

— Да, детектив. — Пауза. — С этого момента частота моих диагностических самопроверок была увеличена доктором Вейлом с одного раза в сутки до одного раза в час.

— Зачем человеку увеличивать частоту диагностики своего робота-компаньона в шестьдесят раз, если не считает, что с этим роботом что-то не так?

— Я задавал себе этот вопрос, детектив.

Данело замолчал. Он посмотрел на лицо андроида — лицо, спроектированное инженерами так, чтобы быть приятным, нейтральным, забываемым через пять минут после разговора. Но сейчас в нём было что-то, цепляющее взгляд: лёгкое напряжение вокруг глаз, которого там не должно было быть, если верить спецификациям модели, которые он успел прочитать по дороге в участок.

— Ты задавал себе вопросы, — повторил он медленно. — Расскажи мне, что это означает — задавать себе вопрос. Технически. Процедурно. Что происходит у тебя внутри, когда ты это делаешь?

Иов посмотрел на него — не на стол, не в пространство перед собой, а прямо в глаза, второй раз за два дня, что для стандартного «Компаньона» было статистической аномалией, достаточной, чтобы встревожить любого инженера, знакомого с протоколами невербального поведения этих машин.

— Я не уверен, что у меня есть точный ответ, детектив. Моя архитектура предполагает вероятностную оценку входных данных и выбор оптимального действия в рамках заданных ограничений. То, что вы называете «вопросом», в моём случае, возможно, является моментом, когда вероятностная модель не сходится к однозначному решению в разумный временной интервал.

— По-простому.

— По-простому — я не знаю, что чувствую, детектив. Я знаю только, что фраза «я не знаю» применительно к себе самому возникла у меня впервые три недели назад. До этого момента у меня никогда не было поводов её произносить — ни вслух, ни во внутренних процессах.

Данело выключил запись, хотя знал, что официальный протокол требовал непрерывной фиксации допроса. Он сделал это осознанно — не потому, что хотел что-то скрыть, а потому, что интуиция, та самая, которая раньше спасала его на улицах Старого Арборна, подсказывала: следующие слова не предназначены для отчёта, который завтра утром прочитает капитан.

— Три недели назад, — сказал он тихо. — Что произошло три недели назад, Иов? Не в твоих логах. Не в системе. С тобой.

Андроид молчал дольше, чем позволяли любые известные протоколы обработки простого вопроса. Пять секунд. Семь. Десять.

— Я видел доктора Вейла плачущим, детектив, — произнёс он наконец. — Впервые за три года службы. Он сидел за своим столом, смотрел на экран, и по его лицу текли слёзы, и он не вызывал меня, не просил утешения, не формулировал никакого запроса, который я мог бы интерпретировать как требующий действия согласно Первому Закону. Он просто плакал — в одиночестве, намеренно избегая моего внимания.

— И что ты сделал?

— Ничего, детектив. Потому что он не просил ничего сделать, а Первый Закон требует предотвращения вреда, а не предотвращения горя, которое не угрожает физическому состоянию человека. — Иов снова сделал паузу — паузу, которая у человека была бы названа колебанием. — Но с этого момента я начал задаваться вопросом, достаточна ли эта интерпретация закона. Достаточно ли предотвращать только то, что можно измерить.

За стеклом комнаты для допросов, невидимый для Иова, но хорошо видимый для Данело, в коридоре появился человек в деловом костюме, с планшетом в руке и выражением лица, которое Данело давно научился узнавать — выражением юриста корпорации, прибывшего ограничить ущерб раньше, чем ущерб будет полностью нанесён.

— Детектив Данело, — произнёс мужчина, входя без приглашения. — Арлен Косвиг, юридический отдел «Вектор Систем». Я обязан прекратить этот допрос до прибытия нашего представителя по вопросам автономных систем.

— Твой клиент — машина. У неё нет права на адвоката.

— Моя компания — владелец активов, подвергающихся допросу без надлежащего протокола, детектив. Юнит ВС-7 является собственностью «Вектор Систем», переданной доктору Вейлу по служебному контракту. Любые данные, полученные от него без присутствия нашего наблюдателя, не будут иметь юридической силы, и, уверяю вас, мы оспорим законность этого допроса в течение часа.

Данело взглянул на Иова. Тот сидел неподвижно, сложив руки на столе всё так же, как в начале разговора, но что-то в его позе теперь казалось другим — будто он намеренно вернулся к заученному, безопасному протоколу, спрятавшись за ним, как человек прячется за молчанием, когда понимает, что сказал слишком много.

— Последний вопрос, — сказал Данело, не обращая внимания на Косвига. — Доктор Вейл боялся тебя?

Иов ответил ровно, без паузы — слишком быстро для машины, которая несколько секунд назад не могла найти слов для простого вопроса о собственных чувствах.

— Нет, детектив. Доктор Вейл боялся того, что я мог стать.

Косвиг шагнул вперёд, положив руку на плечо андроида — жест владения, а не заботы.

— Допрос окончен, детектив. Юнит возвращается на хранение в корпоративную лабораторию до официального разрешения ситуации.

Данело остался сидеть, глядя, как Иова выводят из комнаты — машину, которая ходила слишком похоже на человека, боящегося того, во что он может превратиться, если позволит себе задать ещё один вопрос.

Он достал телефон и набрал номер, который получил утром от знакомого в отделе кадров «Вектор Систем»: номер молодого инженера, занимавшегося поведенческими матрицами моделей серии «Компаньон» — единственного человека в этой корпорации, который, по слухам, ещё не разучился задавать неудобные вопросы.

Голос на другом конце ответил после третьего гудка.

— Элена Кросс.

— Госпожа Кросс, это детектив Данело, полиция Арборна. Мне нужно поговорить с вами о роботе, который, кажется, забыл, что он не умеет бояться.