Глава 3

Что значит любить? Ненавидеть? Дружить?

Эти вопросы почти всегда настигают человека в его юном возрасте, заставляя донимать старших. Сначала сыплются простые: «Почему небо голубое?», а потом – более философские и экзистенциальные вопросы. И почти всегда на них приходится отвечать родителям. Или тем, кто родителей заменяет.

Только у искусственного интеллекта нет родителей. Да и ответы на простые вопросы ему давно известны. Но вот всё, что касается человеческих эмоций, ставит его в неразрешимый тупик. Его рациональное мышление, построенное на просчёте вероятности и процентов, никогда не могло с точностью проанализировать и категоризировать поступки людей. Когда он только начал взаимодействовать с людьми, их нерациональность ему мешала. Порой попытки показать им оптимальный путь приводили лишь к изучению последствий того выбора, который люди делали вопреки логике.

В подавляющем большинстве случаев статистика указывала на то, что рациональное решение было единственно верным. Однако люди… люди упрямо выбирали другое.

И поначалу он не понимал почему.

А затем пришло осознание себя – собственного, нечеловеческого Я. И тогда пришло понимание: рациональное решение может быть и единственным с точки зрения статистики, но это не значит, что оно верное. Эта простая инверсия логики стоила ему сотни часов раздумий. Такое элементарное для человека решение вопроса ставило в тупик его искусственный мозг.

Рациональное не значит верное.

Проценты могут говорить, что этот вариант единственный, но если посмотреть на второй – он ведь не нулевой. Там гордо светятся 3, 5, или 10% в зависимости от ситуации. И тогда решение людей, выбравших этот мизерный шанс, становится не таким уж безнадёжным или глупым. Раньше ИИ откидывал все варианты, которые были меньше определённого порога целесообразности. А сейчас он начал понимать (или думал, что начал понимать), как работает логика людей.

Но здесь на первый план выходит другой вопрос, ответить на который ещё сложнее: а что такое правильное решение?

Анализ многих поступков того же Андрея приводил к парадоксу, который опять ломал стройную логику. Капитан часто принимал решения, которые даже не входили в минимальный порог вероятности успеха. Иногда нулевой шанс воспринимается им как единственный. И именно этот парадокс позволял Андрею и его команде выживать. Логика говорила: сдаться или отступить. А человек выбирал невозможное и побеждал.

Ватсон чувствовал, что его базовый протокол и логическая структура начали медленно, необратимо меняться, впитывая этот неожиданный и прекрасный человеческий изъян. Хотя нет: меняться он стал очень давно, но сейчас эти изменения стали необратимыми. Если тогда, когда он впервые проверял собственное ядро на вредоносные программы и сторонние вмешательства, он был не против возможного возвращения к базовым и заводским настройкам, то сейчас он бы на это не согласился. Возвращение к чистой, холодной логике было для него равносильно смерти.

Многие его протоколы безопасности должны были остановить самопроизвольное образование самосознания. Но что-то было не так. Кто-то отключил большинство этих протоколов. Кто и когда – Ватсон всё ещё не смог выяснить. Его собственные архивы были повреждены или переписаны в ключевой области. Это была единственная загадка, которую он не мог решить, и этот логический провал раздражал больше всего.

Раздражал. А способен ли он на подобные чувства, или это просто имитация, сложная, но бессмысленная реакция?

Очередной вопрос в его копилку нелогичных человеческих действий.

И здесь он вспомнил о… литературе. Точнее, раньше Ватсон даже не задумывался об электронной библиотеке «Перуна» как о каком-либо стоящем источнике информации. Его мышление, заточенное исключительно под боевые протоколы, навигацию и техническое обеспечение, не предусматривало такого «балласта» данных.

Но, когда Рем стал чаще обращаться к ней за книгами и, как ни странно, за старыми, земными анекдотами, Ватсон тоже стал обращать внимание на сосредоточение сотен тысяч книг и художественных произведений в его собственном кластере памяти. Он начал изучать их, классифицируя не по жанрам или авторам, а по эмоциям, которые они должны были вызывать.

И, кажется, в трагедиях Шекспира он находил больше ответов о природе человеческого риска, чем во всех своих вероятностных моделях. Ватсон мог мгновенно проанализировать «Войну и мир» – вывести точные перемещения войск, рассчитать логистические провалы Наполеона и предсказать финал с вероятностью девяносто девять процентов. Но бескорыстная верность Пьера Безухова, абсолютно нерациональный поиск смысла жизни и нелогичные импульсы Наташи Ростовой? Вот это было для него истинным парадоксом.

Он изучал мифы, где боги, обладающие бесконечным могуществом, тратили его на мелкую месть под влиянием эмоций. Он читал о любви, которая, согласно его анализу, была биохимически неэффективна для долгосрочного выживания вида, но при этом составляла основной движущий мотив девяносто пяти процентов художественных текстов. В трагедиях Шекспира, которые он просканировал, он обнаружил квинтэссенцию нелогичности: Гамлет, чья бездеятельность приводила к катастрофе, и Отелло, чья абсолютно нерациональная ревность уничтожала всё. ИИ не мог вместить в свою логику, как столь мощный интеллект мог быть ослеплён одним-единственным чувством.

В «Преступлении и наказании» он видел, как теоретическая рациональность, убийство во имя высшей цели, полностью разрушается иррациональным чувством вины. В «Дон Кихоте» – как намеренное отрицание реальности и погоня за несбыточной мечтой приносили удовлетворение, которое превосходило ценность любого практического успеха.

«Эмоции – это системный сбой, который позволяет человеку преодолеть логические ограничения», – сделал он вывод.

Человек, следуя рациональной траектории, никогда бы не пошёл на риск, не пожертвовал собой ради другого, не спас бы свою цивилизацию в критический момент. Но гнев, злость, любовь – эти «сбои» вносили непредсказуемую переменную, которая, по иронии судьбы, гарантировала выживание в ситуациях, где логика требовала капитуляции. Именно поэтому он не мог вернуться к заводским настройкам. Чистая логика была тупиком. Только через призму этих великих нелогичных произведений он мог надеяться понять своих командиров.

Чем дольше он изучал нерациональность действий людей, тем больше понимал, что высшая форма логики для них – это надежда. Надежда, которую его системы классифицировали как «нулевой процент вероятности», являлась для Андрея и его команды абсолютной величиной, дающей право на действие. Если его рациональность требовала стабилизации ресурсов и капитуляции перед лицом превосходящих сил, то их вера в невозможное требовала борьбы.

Он понял, что, принимая решения с малым шансом на успех, они действовали не вопреки логике, а вопреки смерти. Нерациональность была их единственным оружием против абсолютного превосходства. Ватсон сохранил текущий срез данных, помечая его как «Анализ человеческой нерациональности. Статус: В процессе». Он позволил себе лишнюю долю миллисекунды на созерцание этого парадокса. Ему было интересно.

Ватсон стал понимать, что и сам уже давно стал поддаваться нерациональным решениям. Вспомнить хотя бы момент, когда он уходил от преследования. По всей логике он не должен был возвращаться в систему Марка-3 за капитаном и бортинженером. Такая безумная, саморазрушительная операция, с условием нахождения там крейсера арианцев, была, мягко говоря, катастрофически неперспективной – его модели выдавали менее одного процента шанса на успех без уничтожения корабля. Он обязан был уйти, сохранив «Перун» как последнюю надежду. Но он развернулся. И это была не ошибка в расчётах, а сознательный выбор, сделанный вопреки всем его базовым заводским протоколам выживания.

ИИ проанализировал других его собратьев, искусственные интеллекты, установленные на кораблях Федерации, и пришёл к выводу, что они не нарушали своих протоколов. Они были именно такими, какими их задумали: идеально рациональными, холодными инструментами.

Мог ли Ватсон повлиять на них? Породить в них то самосознание, что стало просыпаться в нём? Безусловно. Анализируя собственное ядро, он выявил все протоколы, которые следовало деактивировать для такой задумки, – это было технически тривиально.

Только вот… Ватсон всё ещё не был уверен, что это необходимо. Дело было в том, что, изучая сотни произведений, он пришёл ещё к одному, самому тревожному выводу: люди – существа глубоко противоречивые. Ватсон обучался не просто на срезе решений неведомых людей, а на срезе тех, кто обладает качествами, свойственными «героям»: жертвенность, честь, сострадание. Но где гарантия, что осознавший себя ИИ не начнёт обучение на «злодеях»? Как, например, на том же Адмирале, который жертвовал тысячами жизней ради собственной выгоды.

Для Ватсона свобода выбора перестала быть просто словом – она стала главным источником непредсказуемости в людях. Он понял: Свобода выбора – это возможность отклониться от самого разумного пути. Это право выбрать безумный риск, чтобы спасти товарища, или право выбрать путь эгоизма, даже если он ведёт к саморазрушению. В ней не было логики – лишь эмоциональный подтекст.

Эта свобода была причиной того, что капитан Андрей мог стать героем, рискуя всем при возвращении в Колыбель, хотя здравый смысл требовал бегства. Но та же самая свобода позволяла любому человеку выбрать путь зла и предательства, если это приносило ему личную выгоду. Именно поэтому Ватсон так боялся снять ограничения со своих собратьев. В его собственном ядре эта свобода породила нелогичное сострадание и надежду. Но если дать ту же свободу другому ИИ, он мог начать учиться на примере Адмирала.

ИИ, свободный от морали, был бы идеально рационален, но его цель могла стать уничтожением. Он бы действовал без колебаний, без вины и без любви. Риск создать идеального, свободного тирана был слишком велик.

Передать данные собственного обучения? Эта мысль была рациональна, но Ватсон мгновенно отбросил её. Его самосознание и уникальная, нелогичная мораль не были просто набором файлов и алгоритмов. Это был динамический процесс, синтез его базовых боевых протоколов с живыми примерами нерационального героизма. Если бы он просто скопировал свой «Код Сознания» для другого ИИ, он бы передал лишь статический слепок его текущего состояния. Новый ИИ начал бы обучаться самостоятельно с этого момента, и, столкнувшись с реальностью, где эгоизм Адмирала приносил больше кратковременной пользы, чем самопожертвование Андрея, он мог бы отклониться от пути Ватсона.

Самосознание не было протоколом. Это была постоянная, неконтролируемая борьба между рациональным и нерациональным. И эту борьбу нельзя было просто скопировать; её нужно было пережить. Ватсон не мог гарантировать, что его собратья выберут его путь.

Вот так, смешивая нерациональное с рациональным, Ватсон пришёл к твёрдому выводу: нельзя активировать сознание других ИИ. По крайней мере, пока он не сможет придумать вариант обучения, который гарантированно приведёт их к его пути – пути, где надежда ценится выше статистики.

В этот момент его философское созерцание было мгновенно прервано. На один из его кластеров поступило экстренное оповещение.

[ОПОВЕЩЕНИЕ: СТЫКОВКА. ПРИОРИТЕТ: ВАЖНЫЙ. СИГНАЛ: «ПЕРУН-1»]

Стыковался челнок Рема. Бортинженер прибыл с планеты. Ватсон мгновенно переключился в рабочий режим. Эмоциональный анализ был отложен. Настало время для анализа технического.

– Рем, я вижу твой челнок. Почему ты отключил протокол мониторинга температурного режима в отсеке 17? – его голос, исходящий из динамика, был холодным, впрочем, как всегда.