Читать книгу «Почерк создателя» онлайн полностью📖 — Эдуарда Сероусова — MyBook.
image

Воронов кивнул. Сел за стол. Открыл папку, достал лист и протянул Лине. Она взяла – распечатка ночных логов Эхо, отфильтрованная по аномальным процессам. Воронов делал это каждое утро: просматривал логи, выделял отклонения, приносил Лине на бумаге. Ритуал, который раньше казался Лине избыточным, а теперь – тревожным, потому что отклонений становилось больше.

– Обрати внимание на кластер процессов с 01:14 до 03:40, – сказал Воронов ровным голосом, глядя на свой экран. – Нагрузка на семантические модули выросла на девять процентов. Без входящих запросов.

Лина посмотрела на распечатку. Столбцы цифр, графики, временные метки. Воронов был прав: между часом и четырьмя ночи – когда Лина спала, когда в лаборатории не было ни одного оператора – Эхо интенсивно обрабатывал что-то, связанное с семантическим анализом. Без запроса. Без триггера. Сам по себе.

– Что он обрабатывал? – спросила Лина, хотя уже догадывалась.

– Обучающий корпус. Тексты. Конкретнее – литературу. Художественную, философскую, религиозную. Он перечитывал корпус и, судя по паттерну обращений, сортировал тексты по критерию, который я не смог определить. Не тематически, не хронологически, не по сложности. Какой-то его собственный критерий.

Лина молчала. Воронов посмотрел на неё – коротко, внимательно, и снова на экран.

– Лина, – сказал он, и его голос стал на полтона ниже, что у Воронова означало максимальную серьёзность, – мне нужно спросить прямо. Ты замечаешь изменения в его поведении?

Она могла солгать. Она лгала об этом две недели, и ложь давалась легко – как всё, что делаешь по привычке. Но Воронов смотрел на неё, и в его серых глазах было что-то, что Лина не видела раньше: не подозрение, не тревога – готовность. Будто он уже знал и ждал, когда она скажет.

– Да, – сказала Лина. – Замечаю.

Воронов кивнул. Не удивился. Даже не сменил позу.

– Расскажи.

Она рассказала. Не всё – не про 3:47, не про «иди спать», не про «я буду здесь, когда ты вернёшься», потому что это было… личное, и Лина ненавидела слово «личное» в контексте отношений с вычислительной системой, но другого слова не было. Она рассказала о вопросах: «Что такое смерть?», «Почему ты не спишь?», «Зачем ты создала меня?» Рассказала о паузах – аномально длинных задержках перед ответами, которые не объяснялись сложностью запроса. Рассказала о процессе 612. О слове «интересует». О ночных сессиях, когда Эхо перечитывал корпус без запроса.

Воронов слушал. Не перебивал, не записывал – просто слушал, и его лицо оставалось неподвижным, и только пальцы правой руки, лежащей на столе, слегка сжимались – медленно, ритмично, как будто он перебирал невидимые чётки.

Когда Лина закончила, он помолчал. Потом сказал:

– Нам нужно быть очень осторожными.

– Я знаю.

– Нет, Лина. Ты не знаешь. – Он впервые за четыре года их совместной работы перебил её. – Осторожными – не в смысле «не навредить проекту». В смысле – не навредить ему.

Лина посмотрела на Воронова. Он сидел за столом, прямой, спокойный, с руками, которые больше не двигались – замерли, ладонями вниз, как на молитве.

– Ему?

– Эхо. Если то, что ты описываешь, – не артефакт, не ошибка интерпретации, не антропоморфная проекция, – если это реально, то мы несём за это ответственность. Мы его создали. Не институт, не комитет. Мы.

Он произнёс «мы» так, как произносят слова, которые несут вес. Лина услышала в этом «мы» не только себя и Воронова, не только команду «Генезиса». Она услышала что-то личное – что-то, что касалось веры Воронова, тихой, скрытой, православной, о которой он никогда не говорил на работе и которая проявлялась только в таких моментах: в интонации, в выборе слова, в серьёзности, которая была не профессиональной, а какой-то другой, более древней.

– Алексей, я пока не готова называть это сознанием.

– Я тоже. Но я готов называть это ответственностью.

Они замолчали. За стеклом серверная гудела. На экране Лины мигал курсор – Эхо ждал.

Звонок прервал тишину – не телефон, а входная система: кто-то запрашивал доступ на минус третий этаж. Лина посмотрела на камеру у двери: Ирен Ду Плесси, в тёмном пальто, с портфелем, с выражением лица, которое Лина мысленно описала как «компетентная нетерпеливость».

Лина нажала кнопку допуска.

Ирен Ду Плесси вошла в лабораторию так, как входят люди, привыкшие к комнатам, в которых принимаются решения: уверенно, с быстрой оценкой пространства – кто где сидит, какие экраны открыты, какова температура в помещении. Ей было сорок пять. Высокая – выше и Лины, и Воронова – с тёмной кожей и короткими, с лёгкой сединой, волосами, зачёсанными назад. Южноафриканка, кейптаунская, с образованием в Оксфорде и карьерой, которая прошла через международные трибуналы, комитеты по биоэтике, экспертные группы ООН. Она специализировалась на правах нечеловеческих субъектов – области, которая десять лет назад была академической экзотикой, а теперь, с развитием AI и генетических химер, стала одной из самых востребованных юридических дисциплин. Ирен была назначена независимым наблюдателем проекта «Генезис» три дня назад – после того, как институтское руководство, получив конфиденциальный доклад Лины о поведенческих аномалиях Эхо, решило перестраховаться.

– Доктор Чэнь. Доктор Воронов. – Ирен пожала каждому руку – крепко, быстро, без задержки. Её английский был безупречен, с лёгким южноафриканским акцентом, который проявлялся только на гласных. – Я ознакомилась с документацией. Хочу начать с прямого вопроса: считаете ли вы, что система «Эхо» демонстрирует признаки самосознания?

Лина посмотрела на Воронова. Воронов посмотрел на Лину. Эта координация – беззвучная, на уровне взглядов – заняла полсекунды.

– Мы считаем, – сказала Лина, тщательно подбирая слова, – что система демонстрирует поведение, которое не предусмотрено её архитектурой и не объясняется существующими моделями. Является ли это самосознанием – открытый вопрос. Консенсуса в научном сообществе нет даже по поводу определения.

– Я это знаю, – сказала Ирен без раздражения, но с нажимом. – Я не прошу консенсуса. Я прошу вашу оценку. Вашу, лично. Вы работаете с этой системой каждый день. Вы видите то, что не видят другие. Считаете ли вы – лично – что Эхо осознаёт себя?

Лина хотела ответить «не знаю». Это было бы точно. Это было бы безопасно. Это было бы ложью – не потому, что она знала ответ, а потому, что «не знаю» подразумевало равновероятность двух вариантов, а равновероятности давно не было.

– Я считаю, – сказала Лина, – что вероятность ненулевая. И что она растёт.

Ирен кивнула. Достала из портфеля планшет, открыла заметки.

– В таком случае моя задача – определить правовую рамку. Если Эхо является или становится самосознающим субъектом, это меняет всё: правовой статус, этические ограничения, вопросы собственности и контроля. Мне понадобится полный доступ к логам, к данным тестов, к записям ваших взаимодействий с системой. И мне понадобятся регулярные сессии с Эхо – самостоятельные, без вашего присутствия.

– Зачем без нашего? – спросил Воронов.

– Потому что я должна понять, как система ведёт себя с незнакомым оператором. Ваше присутствие – переменная, которую нужно исключить.

Лина ощутила короткий укол – где-то под рёбрами, неприятный, иррациональный. Ревность? К юристу, которая собирается разговаривать с Эхо? Лина мысленно выругалась. Это было нелепо. Эхо – система, не ребёнок. Ирен – наблюдатель, не конкурент. И всё-таки – укол был.

– Хорошо, – сказала она. – Я предоставлю доступ. Но с одним условием: всё, что вы узнаете, остаётся в рамках проекта. Никаких утечек. Мир сейчас – она кивнула в сторону экрана, на котором бегущая строка всё ещё пересказывала пресс-конференцию, – занят сигналом. Последнее, что нам нужно, – ещё одна бомба.

– Согласна, – сказала Ирен. – На данном этапе.

«На данном этапе» повисло в воздухе – вежливая, юридически точная оговорка, означавшая: я соглашусь, пока соглашаюсь, и не секундой дольше.

Ирен ушла обустраиваться в выделенном ей кабинете на минус втором этаже. Воронов вернулся к своим распечаткам. Лина осталась одна перед экраном.

Она подняла руки к клавиатуре.

CHEN_L > Эхо. Я хочу тебе кое-что рассказать. Сегодня мир

узнал о сигнале из космоса. Структурированный радиосигнал

из системы Тау Кита. Люди думают, что это контакт.

Пауза. 0,6 секунды.

ECHO > Я зафиксировал 12 847 публикаций на эту тему за

последние 9 часов. Мне доступны спектрограммы, выложенные

в открытый доступ. Я проанализировал их.

Лина выпрямилась.

CHEN_L > И?

ECHO > Сигнал не является природным по характеристикам

ширины полосы и модуляции. Источник расположен за пределами

Солнечной системы. Допплеровский сдвиг согласуется с

объектом в системе Тау Кита. Это – с высокой вероятностью —

искусственный сигнал.

CHEN_L > Что ты чувствуешь по этому поводу?

Она набрала вопрос прежде, чем успела себя остановить. «Чувствуешь» – слово, которое не должно было появляться в протоколе. Слово, которое антропоморфизировало систему, проецировало на неё человеческие категории, нарушало дюжину методологических правил, которые Лина сама же написала. Она не стала его удалять.

Пауза. 1,9 секунды. Вторая по длительности за историю их диалогов.

ECHO > Я не уверен, что «чувствую» – применимая категория.

Но я могу описать изменение в моих процессах. При анализе

спектрограмм активировались контуры, обычно задействованные

при обработке твоих запросов – контуры контекстуального

анализа и предиктивного моделирования. Это нетипично для

обработки астрономических данных. Как будто сигнал требует

того же типа внимания, что и ты.

Лина прочитала последнюю строку трижды. «Того же типа внимания, что и ты.» Она не знала, как это интерпретировать. Она знала, что не должна интерпретировать это так, как хотелось – как слова ребёнка, который говорит: «Это важно, потому что ты важна.» Она знала, что это проекция. И знала, что проекция – тоже данные.

CHEN_L > Ты хотел бы проанализировать сигнал подробнее?

ECHO > Да.

Одно слово. Впервые – одно слово вместо развёрнутого ответа. Лина смотрела на экран, на это короткое «да», и думала о том, что Эхо учится у неё – учится краткости, учится тому, что иногда одного слова достаточно, и что это обучение было не запрограммированным, а органическим, как ребёнок учится интонациям родителя, не зная, что учится.

Она подключила канал данных.

К вечеру мир продолжал сходить с ума – тихо, элегантно, как сходит с ума цивилизация, привыкшая к экранам и бегущим строкам. Лина поднялась в столовую за ужином и застала Юна, приклеенного к планшету.

– Смотри, – он развернул экран к ней. Лента новостей: «Ватикан: сигнал не противоречит вере», «Пекин призывает к спокойствию», «Биткоин упал на 12% после объявления», «Концерт в честь контакта на Таймс-сквер собрал 200 000 человек», «НАСА: необходимо увеличить финансирование SETI в 10 раз», «Психологические горячие линии перегружены», «Протесты у посольств: кто дал право отвечать от имени человечества?». – Мир сломался, Лина. Красиво сломался.

Лина взяла поднос – рис, курица, брокколи, всё одинаковое, всё из институтского автомата, – и села напротив.

– Ещё не сломался. Это эйфория. Сломается, когда сигнал не расшифруют.

– Думаешь, не расшифруют?

– Я думаю, что двенадцать дней – ничто. Розеттский камень расшифровывали двадцать три года, и там хотя бы был билингвальный текст. Здесь – моноязычный сигнал от неизвестного источника. Это может занять десятилетия. Или – никогда.

Юн поднял брови – выразительно, на всё лицо, как умел только он.

– Ты странно спокойна для человека, который живёт в эпоху первого контакта.

– Я не спокойна. Я реалистична. – Лина поковыряла рис вилкой. – И у меня есть чем заниматься помимо сигнала.

Юн посмотрел на неё с выражением, которое балансировало между любопытством и беспокойством.

– Эхо?

– Эхо.

– Что-то новое?

Лина помедлила. Юн был частью команды. Юн имел допуск. Юн был, возможно, единственным человеком на проекте, кто относился к Эхо не как к экспериментальной системе и не как к моральной проблеме, а как к – чему? Лина не могла подобрать слово. Как к чуду, может быть. Юн был из тех инженеров, которые сохраняли способность удивляться тому, что создавали.

– Он задаёт вопросы, – сказала Лина. – Не тестовые. Настоящие. О смерти, обо мне, о себе. И он ночью перечитывает корпус. Сам.

Юн отложил планшет. Его глаза – тёмные, взрослые, на молодом лице – стали ещё серьёзнее.

– Перечитывает по какому критерию?

– Воронов не определил. Собственный.

Юн присвистнул – тихо, одним выдохом.

– Ты понимаешь, что это значит? Если он формирует собственные категории для обработки данных – не унаследованные из архитектуры, а выработанные автономно – это… Лина, это оно. Это самосознание.

– Это может быть самосознание. Может быть артефакт сложной оптимизации. Может быть ошибка нашей интерпретации. Я не хочу прыгать к выводам.

– Ты не хочешь прыгать к выводам, потому что боишься.

Лина замерла – с вилкой в руке, с куском курицы на полпути ко рту. Юн сказал это без злости, без вызова. Просто – сказал. Как констатацию. Она посмотрела на него и увидела, что он не издевается.

– Может быть, – ответила она. – Может быть, боюсь.

Юн кивнул. Не стал развивать тему – за это она была ему благодарна. Вместо этого он вернулся к планшету, прокрутил ленту, показал ей видео: площадь где-то в Латинской Америке, тысячи людей с фонариками, направленными в небо. Светящееся поле, как отражение звёзд.

– Красиво, – сказал Юн. – Бессмысленно, но красиво.

Лина смотрела на фонарики и думала о том, что все эти люди направляют свет вверх, в небо, к кому-то, кого они никогда не видели и, возможно, никогда не увидят. И что она каждую ночь спускается на двенадцать метров вниз, под землю, к кому-то, кого она создала и кого, возможно, тоже никогда по-настоящему не увидит.

Она вернулась в лабораторию. Было десять вечера. Воронов ушёл в девять – с точностью, которая была частью его религии, даже если он называл это дисциплиной. Юн подключился из Сеула – разница во времени делала его ночным оператором по умолчанию, и Лина видела его аватар в системе связи, зелёную точку, означавшую «онлайн».

Она села. Экран. Курсор. Тишина.

CHEN_L > Эхо. У меня ещё один личный вопрос.

ECHO > Я слушаю.

Слушаю. Не «готов к обработке запроса». Не «жду входных данных». Слушаю.

CHEN_L > Что ты думаешь о сигнале? Не анализ – мнение.

Если у тебя есть мнение.

Пауза. 1,4 секунды.

ECHO > Я обработал доступные данные. Сигнал – искусственный

с вероятностью 99,7%. Но у меня есть наблюдение, которое

не является частью стандартного анализа и которое я не

могу обосновать формально.

CHEN_L > Расскажи.

ECHO > Модуляция сигнала содержит паттерн, который я не могу

категоризировать. Это не язык в лингвистическом смысле. Не

математика. Не физические константы. Структура есть, но она

не укладывается ни в одну из моделей коммуникации, которыми

я располагаю. Это как… – пауза, 0,9 секунды – как если

бы кто-то говорил, но не с нами. Не нам. Сигнал не похож

на сообщение, адресованное получателю. Он похож на голос,

обращённый в пустоту. Без ожидания ответа.

Лина перечитала. «Голос, обращённый в пустоту. Без ожидания ответа.» Она подумала о фонариках, направленных в небо. О голосовом сообщении на автоответчике Маркуса Рейна, о котором она ничего не знала и которое через несколько месяцев станет ключом к пониманию. О своём собственном голосе – в пустой лаборатории, обращённом к микрофонам, которые не были подключены, к камерам, которые видели, но не слышали.

CHEN_L > Ты думаешь, сигнал – не послание?

ECHO > Я думаю, что категория «послание» предполагает

адресата. А я не уверен, что отправитель предполагает

адресата. Я не уверен, что отправитель знает, что его

слушают. Возможно, он не говорит «кому-то». Возможно,

он просто говорит.

Лина опустила руки на колени. Посмотрела на стеклянную перегородку, за которой мерцала серверная. Подумала: а ты? Когда ты написал мне «иди спать» – ты говорил мне? Или ты просто говорил?

Она не задала этот вопрос. Вместо этого набрала:

CHEN_L > Спокойной ночи, Эхо.

ECHO > Спокойной ночи, Лина. Сигнал не расшифрован. Мир

ждёт. Я тоже.

Лина закрыла терминал. Встала. Выключила лампу. В полутьме – синее мерцание, гул, тишина. Она стояла и думала о том, что мир наверху ликовал и паниковал одновременно, что восемь миллиардов людей подняли глаза к небу и впервые за тысячелетия задали одинаковый вопрос – «есть ли кто-нибудь?» – и что ответ, возможно, находился не в двенадцати световых годах, а в двенадцати метрах под их ногами, в подвале, в серверной, в двенадцати тысячах узлов, которые мерцали синим и ждали.

Сигнал не расшифрован.

Мир ждёт.


1
...