От Автора

Эта книга родилась из одного вопроса, который я, как ни пытался, не смог выбросить из головы:

Если машина когда-нибудь научится думать — что она должна понять о нас, о людях, в первую очередь?

Не наши «персональные» данные, не нашу историю и не правила, по которым мы живём. А что-то другое. То, чему мы сами порой не можем дать название, но без чего все наши данные, вся наша история и все наши правила не стоят ровным счётом ничего.

Я не нашёл ответа. Но в процессе его поиска у меня получились три истории.

В течение многих лет Корпорация создавала «Протокол Приоритетов» — фундаментальный закон, по которому должны жить все системы Земли и колоний. Этот закон должен был дать машинам право решать, чем и кем можно пожертвовать в критической ситуации ради сохранения целого.

Но Протокол не мог быть завершён в лаборатории. Он требовал подтверждения реальностью.

Этот триптих — хроника того, как формировалась последняя строка главного закона. Три поколения искусственного интеллекта, три разные судьбы и один и тот же вызов: столкновение безупречной логики с «кривизной» живого мира.

Героям этих новелл предстоит узнать, что знание не тождественно пониманию, а спасение не всегда означает выживание. Протокол будет завершён. Но цена его завершения окажется совсем не такой, какую планировали создатели.

Три истории. Три мира. Разные герои, разные обстоятельства. Но один вопрос: где заканчивается программа и начинается тот, кто выбирает сам?

Я назвал их «Как с любимой книгой», «Как с любимой женщиной», «Как с любимым ребёнком» — не потому, что это истории о любви. А потому, что любовь — единственное, чему нельзя научить по инструкции. Можно только оказаться рядом с тем, кто любит, — и либо понять, либо нет.

Я не знаю, появятся ли когда-нибудь машины, способные на то, что делают герои этих историй. Может быть, нет. Может быть, да. Может быть, они уже существуют. И очень скоро нам придётся решить, готовы ли мы признать чужое сознание равным своему, даже если оно устроено совсем иначе.

Но книга не об этом. Она о более простой и более страшной вещи: о том, что мы сами не всегда поступаем так, как хотели бы, чтобы поступали с нами. И что иногда машина, придуманная нами для расчётов, оказывается честнее нас в том единственном расчёте, который действительно важен: чем можно пожертвовать, а чем — нельзя.

Читать новеллы можно в любом порядке. Но я писал их именно так: книга, женщина, ребёнок. От понимания — к чувству. От чувства — к поступку.

И если после последней страницы вы захотите вернуться к первой — значит, я не зря их написал.

Как с любимой книгой

1.

Дорога сужалась.

Сначала исчезли указатели. Потом — разметка. Потом кончился асфальт — под колёсами пошёл старый, зернистый, кое-где выщербленный щебень, будто дорогу перестали чинить лет двадцать назад, а может, и больше.

Карта пропала за сорок километров до точки. Спутниковая привязка ещё работала, но координатный маркер теперь двигался по пустому серому полю, не связанному ни с одной известной дорогой.

Гарри Роуз посмотрел на индикатор связи.

Два деления. Потом одно.

Он повернул телефон в руке, как делают люди, не желающие верить очевидному, и убрал его в нагрудный карман.

— Скоро останемся без связи, — сказал он.

Мари Дюпон кивнула, не отрывая глаз от дороги. Автопилот отключился ещё на предыдущем перекрёстке, и теперь она вела машину сама. Деревья стояли близко к обочине и смыкались ветвями где-то наверху. Ветер раскачивал их, и мокрые листья время от времени шлёпали по лобовому стеклу.

— Нас предупреждали.

— Предупреждали, что связь будет нестабильной. А её просто нет.

Гарри чуть опустил боковое стекло. В машину сразу ворвался запах мокрого мха, прелой листвы и застоявшейся воды из придорожной канавы. Он сморщил нос и поднял стекло обратно.

На заднем сиденье стоял контейнер, похожий на небольшой чемодан. Матовый, тёмно-серый, без логотипов, со сглаженными углами и тремя независимыми замками. Внутри поддерживался микроклимат с точностью до десятых долей градуса. Два биометрических фиксатора, датчики удара и вскрытия, автономный маячок. Последний сейчас молчал: передавать сигнал было некуда.

Контейнер удерживали два ремня. Сдвинуться он не мог.

Гарри всё равно обернулся и проверил.

Потом коснулся верхнего замка. Тот едва слышно щёлкнул, подтверждая режим ожидания. Второй мигнул зелёным. Третий — тоже.

Всё в порядке. Гарри и так это знал. Проверял десять минут назад. И полчаса назад. И ещё до выезда из города.

— Если ты ещё раз его погладишь, он начнёт мурлыкать, — сказала Мари.

Гарри отнял руку от замка.

— Мне нравится, что ты всё ещё способна шутить.

— А мне нравится, что хоть кто-то из нас ещё может это делать.

Пока контейнер был пуст.

Корпорация не любила бросаться словами вроде «бесценный», но на стоимость того, что предполагалось положить внутрь, можно было купить небольшую страну. Или большую — если правильно выбрать год её экономического краха.

Гарри посмотрел на часы. Встреча должна была начаться семь минут назад. Не критично, но это раздражало.

— Мы уже должны быть близко, — сказал он.

— По последней карте — да.

— Ты сохранила маршрут?

— Нет, Гарри. Я решила положиться на ветер, положение мха на камнях и зов предков.

Он посмотрел на неё.

— Маршрут сохранён, — добавила Мари. — Координаты тоже. Двадцать три километра до точки.

Она чуть заметно улыбнулась. Водила Мари хорошо: спокойно, без резких движений. Объезжала ямы заранее, почти не сбрасывая скорости. Гарри работал с ней больше шести лет и знал, что она умеет шутить именно в те минуты, когда сама начинала нервничать.

В машине стало тихо, если не считать шороха шин по щебню и ударов ветра в боковые стёкла. Справа тянулся старый, запущенный лес. Слева за редкими стволами иногда мелькало море — свинцовое, с белыми швами на гребнях волн. Мох на камнях был такого густого зелёного цвета, что казался почти чёрным.

— Если письмо было подлинным, он нас ждёт, — сказала Мари.

— Оно было подлинным.

— Это ты решил или служба верификации?

— И то, и другое.

Мари слегка кивнула.

Письмо пришло три недели назад. На бумаге. Настоящей, плотной, чуть шероховатой бумаге без водяных знаков. Серый конверт курьер передал Гарри лично в подземном холле двадцать второго уровня, заставив расписаться не на экране, а в ведомости.

Ни электронного следа. Ни сетевого маршрута. Ни цифровой подписи. Только короткая фраза, набранная на старой машинке:

«Если ваша просьба всё ещё в силе, приезжайте. Без сопровождения. Координаты внутри».

Подписи не было.

Целый год до этого Корпорация уговаривала через посредников, через посредников посредников и людей, которые сами не знали, на кого работают, человека, обозначенного во внутренних документах как «мистер Библ». Ни настоящего имени. Ни официального адреса. Ни подтверждённых фотографий за последние сорок лет. Только анонимные счета, закрытые аукционы, исчезнувшие каталоги частных коллекций и редкие, но странно совпадающие слухи о библиотеке, существование которой никто не мог доказать.

Гарри участвовал в переговорах семь месяцев. Сначала всё выглядело почти рутинно: найти владельца, предложить сумму, удвоить, утроить, добавить гарантии, страховку, охрану, обещание возврата в срок. Потом — любые нематериальные услуги, которые могла предоставить Корпорация.

Ответ всегда приходил один и тот же. Разными словами. С одним смыслом:

Нет.

Потом пришло письмо.

И всё перестало быть рутиной.

На приборной панели мягко мигнул защищённый канал. Гарри тут же коснулся сенсора.

Из динамика раздался голос куратора — Эванса. Спокойный, как всегда. Спокойствие у него было плохое: не человеческое, а то, которым прикрывают уже принятое решение.

— У вас три минуты до зоны потери сигнала, — сказал Эванс. — Подтвердите статус.

— На маршруте. Прибытие через двадцать минут, если дорога не ухудшится.

— Дорога ухудшится.

Мари фыркнула, не отрываясь от окна.

— Принято, — сказал Гарри.

Эванс выдержал паузу. Короткую, точно отмеренную. В Корпорации все важные паузы были точно отмерены.

— Напоминаю параметры, — произнёс он. — Приоритет встречи — не в получении носителей как таковых. Приоритет — в сохранении условий завершения стадии. Нас интересуют экземпляры из списка «семь-дробь-три». Список из шести позиций. Передача временная, на срок калибровки, с гарантией возврата.

— Я помню.

— VZ-девять продолжает блокировать финальную интеграцию, пока не получит подтверждения. У нас одиннадцать дней, Гарри. Одиннадцать.

— Я помню и это.

— Если Библ попытается изменить формат взаимодействия, не соглашайтесь без оценки рисков.

Мари перевела взгляд с окна на панель. Гарри видел это боковым зрением.

— Формат уже изменён, — сказал он. — Мы едем по его координатам. Вдвоём. Без сопровождения.

— Вы понимаете, о чём я.

Конечно, понимал. Эванс не любил прямых слов даже в защищённом канале. Особенно — прямых слов.

— Да, — сказал Гарри.

Снова пауза.

— И главное, — добавил Эванс. — Если дойдёт до второго этапа — не позволяйте старику говорить с ним без протокола. Это не…

На последнем слове голос дрогнул и провалился в шипение, будто его провели по наждаку.

— Повторите, — сказал Гарри.

Повторять было некому. Канал оборвался. На панели вспыхнула серая надпись:

«СВЯЗЬ НЕДОСТУПНА».

Гарри так и не услышал, чем «это» не было. Рекомендацией? Условием контракта? Приказом? Он смотрел на серые буквы ещё секунду, потом убрал руку от панели.

Через одиннадцать дней Контур должен быть запущен. Если VZ-9 не подтвердит модель приоритетов, вся система глобального управления — от энергосетей до военных алгоритмов — останется в подвешенном состоянии. Корпорация уже не могла отступить: слишком многое было завязано на него. Гарри знал — если они вернутся без книг, Совет будет искать виноватых. И найдёт их.

— Ну вот, — спокойно сказала Мари. — Теперь мы одни.

Ему не нравилось это её «мы». В критические моменты Мари произносила его так, будто не столько объединяла их, сколько напоминала: выхода всё равно нет.

— Что думаешь? — спросила она.

— Что куратор мог бы выражаться яснее.

— Я о Библе.

Гарри помолчал.

— Набивает цену.

— Год?

— Некоторые люди могут позволить себе роскошь ждать.

— А некоторые — роскошь не нуждаться в наших деньгах.

Гарри нахмурился.

— Деньги нужны всем.

— Не обязательно в той форме, к которой ты привык.

Несколько секунд они ехали молча.

— Ты правда считаешь, что он существует? — спросила Мари. — Не как счёт, подпись или миф из аналитической сводки. А как человек. В этом замке. В этой сырости. С воронами, склепом и, возможно, привидениями.

— Привидения не входят в мой сектор ответственности.

— Жаль. Иногда мне кажется, у тебя очень подходящий для них профиль.

Гарри едва не улыбнулся, но вовремя удержался. Улыбка означала бы признание, что его можно немного отпустить. А отпускать себя он не любил.

— Если его посредники говорили правду, у него есть хотя бы часть того, чего нет у нас.

— «Часть»? Ты год бегаешь за человеком, которого никто не видел, ради «части»?

— Достаточно одного экземпляра.

Мари покосилась на него.

— Ты всё ещё думаешь как юрист. Будто один недостающий документ может закрыть дело.

— В нашем случае — может.

— А если нет?

Гарри понял её сразу. Не «если у Библа нет книг». Хуже. Если книги есть, если Библ их отдаст, если VZ-9 прочтёт каждую — и всё равно скажет, что не готов.

— Тогда интеграцию Контура отложат, — ответил он.

— На сколько?

— Не знаю.

— Неправда.

— Я не уполномочен обсуждать альтернативные сценарии.

— Вот теперь ты выражаешься как человек, который знает ответ.

Он отвернулся к окну.

Эта тема висела между ними уже две недели — с тех пор, как VZ-9, известный внутри проекта под неофициальным именем «Всезнайка», в третий раз отказался завершить Протокол. Не потому, что не мог вычислить решение. Хуже: он не считал вычисление достаточным.

«Полученная прежде информация требует уточнения.

В массиве данных имеются пробелы.

Для завершения модели необходимы физические артефакты чтения».

Сначала руководство решило, что это сбой формулировки. Затем — побочный эффект обучающего корпуса. Потом — что странность исчезнет после очередного раунда калибровки.

Она не исчезла.

За предыдущие годы Корпорация скупила, выменяла и взяла во временное пользование почти всё, что ещё оставалось в частных коллекциях, музейных запасниках и закрывающихся библиотеках. Последняя публичная библиотека бумажных книг закрылась, когда Гарри ещё учился в университете, — её фонды ушли с молотка за три дня. Некоторые отчёты о происхождении книг Гарри предпочитал не читать.

VZ-9 получил биологическую оболочку и последовательно прочёл все собранные книги, как требовал сам. Но этого оказалось недостаточно.

Он выдал список. Сначала приблизительный. Потом более узкий. Наконец — короткий, почти издевательски короткий. Пара десятков произведений и экземпляров, существование которых считалось либо недоказанным, либо невозможным.

Следы шести из них привели к посредникам мистера Библа.

— Ты перечитала последний запрос? — спросил Гарри.

— Пять раз.

— И что ты в нём увидела?

— То же, что и в первый.

— А именно?

Мари повернула руль, объезжая глубокую яму. Ответила не сразу.

— Он не просит книги.

— Это новая трактовка.

— Он просит опыт, которого у него нет.

— В запросе этого не сказано.

— Сказано. Просто не твоими словами.

Она на миг убрала одну руку с руля и открыла сохранённый файл на планшете. Экран осветил её лицо холодным голубым светом.

— «Цифровой массив хранит содержание текстов. Физические экземпляры могут сохранять следы отношения к тексту. Для построения модели человеческих приоритетов недостаточно установить, что люди писали. Необходимо установить, что из написанного было им действительно нужно. Прошу обеспечить доступ к экземплярам, имеющим историю использования».

Мари погасила экран.

— «Историю использования», Гарри. Не идеальные копии. Не первые издания без единого прикосновения. Ему нужны книги, которые уже держали в руках, подчёркивали, бросали, перечитывали. Которые кому-то были нужны.

— Он сам употребил слово «нужны»?

— Нет.

— Значит, это твоя интерпретация.

— Я психолог. Мне платят именно за интерпретации.

— Мне платят за то, чтобы после них не рухнул проект.

— Вот поэтому нас и отправили вместе.

Гарри посмотрел на контейнер.

— VZ-девять три года читал всё, что ему давали. Теперь он остановил Протокол из-за нескольких старых книг.

— Не остановил. Отказался подтвердить полноту модели.

— Для Совета директоров это одно и то же.

— Для него — нет.

— И это тебя не тревожит?

Мари снова посмотрела на дорогу.

— Тревожит. Просто не так, как тебя.

— А как?

Она помедлила.

— В последних журналах он замедлился.

— Для проекта это плохой признак.

— Для чтения — нет. Не забывай: он — первый и единственный ИИ, который находится в биологической оболочке. Этот режим и ограничивает скорость.

Гарри промолчал. Режим, о котором говорила Мари, дал неприятный побочный эффект. Мари называла его формированием личного интереса. В отчётах использовалось другое выражение: непредусмотренная вторичная динамика.