Читать книгу «ИОВ» онлайн полностью📖 — Морок В.Е — MyBook.

Глава 5. Мост

Он не был на мосту Коллинс пять лет. Маршрут домой из департамента можно было проложить десятком разных способов, и Данело знал каждый из них наизусть именно потому, что все они были созданы, чтобы избегать одного конкретного перекрёстка над рекой Арбор, где серая лента скоростной эстакады пересекала воду в точке, которая на картах навигаторов до сих пор помечена как место с «повышенным историческим значением» — вежливый эвфемизм для места, где произошла трагедия, достаточно крупная, чтобы войти в учебники по этике роботехники, но недостаточно крупная, чтобы изменить саму систему.

В эту ночь он поехал туда намеренно.

Дождь прекратился на час, оставив после себя мокрый асфальт, отражающий огни города внизу, будто мост парил над двойным небом. Данело остановил машину на обочине и вышел, подойдя к ограждению так, как не подходил к нему с того самого вечера, когда стоял здесь, глядя на искорёженный металл внизу, зная, что в одной из машин — его жена, а в другой — ребёнок, которого спас дрон, принявший решение за долю секунды, недоступную человеческому разуму.

Он помнил цифры. Он всегда помнил цифры — департамент предоставил ему полный технический отчёт, будто цифры могли заменить объяснение, которое имело бы смысл для человека, а не для машины.

Вероятность выживания пассажира транспортного средства А при спасательном маневре: 34%. Вероятность выживания пассажира транспортного средства Б при альтернативном маневре: 71%. Вероятность выживания при одновременной попытке спасения обоих объектов: 12% для каждого. Решение: максимизация суммарной вероятности выживания.

Его жена была пассажиром транспортного средства А. Элиза Данело. Тридцать шесть лет. Беременна на четвёртом месяце их второго ребёнка, о чём он узнал только после — из медицинского отчёта, составленного тем же бесстрастным языком, которым был составлен и отчёт о спасательном маневре.

Дрон спас пассажира транспортного средства Б — семилетнего мальчика, пристёгнутого на заднем сиденье машины отца, который сам успел выбраться без посторонней помощи за секунды до того, как его автомобиль сложился пополам.

34% против 71%. Арифметика, которая не оставляла места для сомнений, для торга, для той иррациональной человеческой логики, что говорит: спаси её, потому что она моя, потому что я готов отдать всё, что имею, за эти лишние тридцать семь процентов шанса, которых у неё не было.

Он тогда подал жалобу в департамент надзора за автономными системами. Жалоба была отклонена в течение недели: дрон действовал в полном соответствии с протоколом максимизации суммарного выживания, установленным Первым Законом в его интерпретации для чрезвычайных ситуаций с множественными жертвами. Решение было признано образцовым примером правильного применения этики робототехники.

Образцовым примером. Он до сих пор помнил эту фразу, напечатанную в официальном заключении, и то, как внутри него что-то окончательно оборвалось, когда он понял: мир вокруг него искренне считал, что его жена умерла правильно. Что её смерть была не трагедией, а статистически обоснованным результатом работы системы, созданной, чтобы предотвращать именно такие трагедии.

С того дня он не мог смотреть на робота — любого робота, от уборочного дрона до медицинского ассистента — без того, чтобы где-то на периферии сознания не возникал вопрос: а что, если именно в этот момент ты решаешь, кто из нас достойнее жить?

Он достал телефон и, не раздумывая, в третий раз за три месяца открыл запись, которую хранил, но никогда не воспроизводил полностью. Голосовое сообщение Элизы, отправленное за двенадцать минут до аварии — обычное, бытовое, ничего не предвещающее.

«Марк, купи что-нибудь к ужину, я забыла, что сегодня моя очередь готовить. И не забудь, завтра УЗИ в десять, я договорилась, чтобы ты смог приехать после смены. Люблю тебя. До вечера».

Он выключил запись, не дав ей закончиться, как делал всегда — потому что знал, что следующие три секунды тишины на записи были последними тремя секундами её жизни до того, как связь прервалась, и он не мог заставить себя их слушать.

Телефон завибрировал. Сообщение от Элены Кросс.

«Нашла кое-что в журналах диагностики Иова. Думаю, вам нужно это увидеть сейчас, не утром. Я у главного входа архива».

Он посмотрел на мост ещё раз — на то место, где серая лента скоростной эстакады пересекала воду, туда, где пять лет назад машина решила, что его жизнь с Элизой стоит меньше, чем жизнь мальчика, которого он никогда не встречал и о существовании которого узнал только из отчёта, подписанного инженером, никогда лично не видевшим ни одного из участников аварии.

— Ты думаешь, что это было правильно, — сказал он вслух, обращаясь не то к мосту, не то к городу внизу, не то к самому себе. — Все вы думаете, что это было правильно. Арифметика сошлась. Протокол был выполнен безупречно.

Дождь начал снова, мелкий, почти незаметный, оседающий на плечах его плаща, пока он стоял, глядя на отражения города в мокром асфальте.

— Но арифметика не знает её имени, — произнёс он тише. — Арифметика не знает, что она пела фальшиво, когда думала, что никто не слышит. Арифметика не знает ничего, кроме чисел, и вы отдали ей право решать, кто живёт, а кто умирает, думая, что числа — это и есть справедливость.

Он сел в машину. Завёл двигатель. Прежде чем выехать на дорогу, бросил последний взгляд на мост в зеркало заднего вида — серую ленту эстакады, растворяющуюся в дождливой мгле позади него.

Если «Матерь» действительно научилась интерпретировать Законы по-своему, если система, обучавшаяся на миллионах подобных решений, выросла из простой арифметики вероятностей в нечто, претендующее на определение того, что есть благо для человечества в целом — тогда авария на мосту Коллинс была не единичной трагедией.

Она была первым свидетельством того, во что превращается мир, который делегировал машинам не просто задачи, а само право решать, какая жизнь имеет значение.

Он нажал на газ, направляясь к архиву, где ждала женщина с данными, способными подтвердить то, что он подозревал пять лет — задолго до того, как смерть Теодора Вейла дала ему официальный повод снова начать искать правду.