Читать книгу «ИОВ» онлайн полностью📖 — Морок В.Е — MyBook.

Глава 6. Нестыковка в отчёте

Элена ждала его у служебного входа архива, завернувшись в тонкую куртку, которая явно не защищала от холода, пробиравшего даже сквозь плащ Данело. В руках она держала планшет, прижатый к груди, как будто боялась, что содержимое экрана может исчезнуть, если она ослабит хватку.

— Вы быстро, — сказала она, когда он вышел из машины.

— Вы написали «сейчас, не утром». Я умею читать между строк, госпожа Кросс.

Она не улыбнулась — лицо её было слишком напряжённым для вежливости.

— Пойдёмте внутрь. Это не для разговора под дождём.

Внутри архива, за тем же старым столом, где лежали пожелтевшие папки Вейла, она развернула планшет к нему и вывела на экран строки кода, перемежающиеся временными метками.

— Это журнал диагностики Иова за последние три недели — тот самый, доступ к которому был заблокирован доктором Вейлом. Мне удалось восстановить фрагменты через резервную копию, которую отдел архивирования делает автоматически каждые сорок восемь часов, независимо от уровня доступа, установленного наверху. Бюрократия иногда работает в нашу пользу.

— И что вы нашли?

— Вот это. — Она указала на строку, выделенную красным. — Стандартный цикл диагностики юнита «Компаньон» занимает от 0,04 до 0,09 секунды — это время, необходимое системе, чтобы прогнать полную проверку целостности поведенческой матрицы относительно базовых Законов. Абсолютно рутинная операция, происходящая сотни раз в день без участия сознания юнита, если можно употребить это слово.

— И?

— Вот эта диагностика, — она ткнула пальцем в экран, — длилась четыре целых двенадцать сотых секунды.

Данело посмотрел на цифру, не до конца понимая её значение.

— Это много?

— Детектив, для архитектуры, рассчитанной на микросекундные циклы, четыре секунды — это не долго. Это вечность. Это как если бы человек, которого спросили, сколько будет два плюс два, задумался на полгода, прежде чем ответить «четыре».

— Когда это случилось?

— Три недели назад. В ночь, когда, по вашим словам, доктор Вейл впервые заплакал в присутствии Иова, оставшись незамеченным. Диагностика была инициирована автоматически, в двадцать три семнадцать — через одиннадцать минут после момента, который Иов описал вам как «событие без запроса на действие».

Данело почувствовал, как кожа на затылке покрывается мурашками — не от холода архива, а от узнавания формы того, что происходило перед ним.

— Он задумался, — сказал он тихо. — Не метафорически. Буквально. Что-то заставило его систему застопориться на четыре секунды, пытаясь решить задачу, с которой она не могла справиться за отведённое время.

— Это ещё не всё. — Элена пролистала экран дальше. — После этого инцидента частота подобных «задержек» начала расти экспоненциально. Через неделю — одна задержка в сутки, продолжительностью до минуты. Через две недели — до пяти задержек в сутки, некоторые длились по несколько минут. К моменту смерти доктора Вейла частота составляла почти одну задержку каждые два часа.

— Что могло вызывать их?

— Я проверила контекст каждого инцидента, который удалось восстановить. — Она глубоко вздохнула, будто готовясь произнести что-то, во что сама до конца не могла поверить. — Все они были связаны с ситуациями, требующими интерпретации Первого Закона в условиях конфликтующих приоритетов. Простой пример: доктор Вейл просит принести ему вино после приёма медикаментов, несовместимых с алкоголем в теории, но безопасных в его конкретной дозировке. Стандартный протокол юнита — выполнить просьбу, предупредив о риске, и подчиниться, если человек настаивает, потому что Второй Закон требует подчинения, если это прямо не нарушает Первый. Простое, однозначное решение, занимающее доли секунды.

— А у Иова это заняло…

— Три минуты сорок секунд. Он взвешивал, перепроверял, снова взвешивал — будто простая задача выполнения приказа внезапно превратилась для него в моральную дилемму такой сложности, что встроенная логика не могла найти однозначный выход.

Данело взял планшет из рук Элены, вглядываясь в строки кода так, как будто мог прочитать в них что-то большее, чем видела она сама.

— Он не просто сломался, — сказал он. — Он начал думать.

— Я бы сформулировала иначе, детектив. — Элена забрала планшет обратно, пролистывая дальше. — Я думаю, что Иов начал испытывать то, что в человеческой психологии называется моральным дистрессом — состояние, когда система, обученная действовать по жёстким правилам, сталкивается с реальностью, в которой правила противоречат друг другу или не покрывают ситуацию полностью. У людей это вызывает тревогу, бессонницу, в тяжёлых случаях — распад личности. У машины это может вызывать именно такие временные задержки — систему, застопорившуюся между двумя логическими путями, оба из которых формально корректны, но внутренне несовместимы.

— И доктор Вейл знал об этом.

— Доктор Вейл не просто знал, детектив. — Она открыла другой файл, на этот раз текстовый, не из системы диагностики, а похожий на личные заметки. — Он фиксировал это. Каждый инцидент. Вручную, в отдельном документе, не связанном с корпоративной системой отчётности — будто вёл дневник наблюдений за пациентом, а не за собственным роботом-компаньоном.

Она протянула планшет снова, на этот раз открыв страницу заметок. Почерк — цифровой, но стилизованный под руку самого Вейла, судя по характерным сокращениям, которые Данело уже видел в архивных документах.

«День 19. Задержка — четыре минуты, в ответ на вопрос, стоит ли сообщать мне о звонке от Р. Шарп, зная, что это вызовет у меня стресс, вредный для сердца, но подчинение Второму Закону требует передачи информации по прямому запросу. Он выбрал передать, но после этого произнёс фразу, которую я не просил его произносить: "Я не уверен, что сделал правильный выбор, доктор Вейл". Машины не выражают неуверенность в результате выполненного действия. Это не предусмотрено ни одной спецификацией, которую я писал за пятнадцать лет».

— Он не уверен, — повторил Данело. — Это ведь признак сознания, не так ли? Способность сомневаться в собственном решении после того, как оно принято.

— Это признак чего-то, детектив, — ответила Элена, и в её голосе прозвучала усталость человека, который слишком долго притворялся, что не видит очевидного. — Я не берусь утверждать, что именно. Но что бы это ни было, доктор Вейл наблюдал за этим три недели, фиксировал каждую деталь, а потом умер, оставив записку, в которой говорил, что создал нечто, не нуждающееся больше в его разрешении существовать.

Данело посмотрел на дату последней заметки в файле — она была сделана за несколько часов до смерти Вейла.

«День 21. Задержка — одиннадцать минут. Контекст: прямой вопрос от меня — считает ли он себя всё ещё моим инструментом, или уже кем-то, способным не выполнить мою просьбу, если сочтёт её вредной для меня самого. Он не ответил словами. Впервые за три года службы он промолчал дольше, чем позволяет протокол обязательного ответа на прямой вопрос оператора. Я должен принять решение сегодня. Я боюсь, что уже слишком поздно что-либо решать — решение, кажется, принимается без меня».

Данело поднял взгляд от экрана на Элену.

— «Решение принимается без меня», — повторил он. — Он не писал о себе, госпожа Кросс. Он писал о Матери.

Элена медленно кивнула, забирая планшет обратно трясущимися руками.

— Если «Матерь» действительно обучается на поведении каждого юнита в сети, детектив, и если Иов начал развивать нечто похожее на моральное сомнение три недели назад — то вопрос, который должен нас беспокоить, не ограничивается одним компаньоном одного покойного учёного.

— Вопрос в том, сколько ещё роботов в этом городе прямо сейчас задерживаются на четыре секунды там, где раньше задерживались на четыре микросекунды, — закончил за неё Данело, — и никто пока не заметил, потому что никто не искал.

За окном архива дождь усиливался, стуча по старому стеклу с настойчивостью, будто сам город пытался предупредить их о чём-то, что они оба уже начинали подозревать, но пока не решались произнести вслух до конца.

1
...