Насколько может быть слеп творец, беспрекословно доверяя своему творению?

Шёл 2094 год. На закате века люди уже не ведали жизни без своих помощников, обитающих с ними рядом везде – в быту, в работе, за каждым углом и в каждой детали их жизни. Искусственный интеллект пропитал собой все сферы, обволакивая собой и усыпляя человеческую бдительность, внушая иллюзию поддержки, безопасности и полного понимания.

Валерий Остоженцев приложил к этому свою руку и искренне верил, что его работа пошла на пользу и стране, и миру в целом. АО «ЗАСЛОН» оправдывал своё название, став тем самым щитом, который и прикроет в нужный момент, и станет опорой в любой ситуации.

Размышляя о том, что уже не зря прожил свою жизнь, Валерий сидел перед терминалом уже четырнадцатый час. Его глаза покраснели от мерцания экранов, а пальцы на привычном автомате крутили холодный металлический ключ от стойки.

На перемигивающихся мониторах перед ним разворачивались графики нагрузки энергосистемы страны, своеобразная «нервная система» необъятной, которой управляла его гордость – искусственный интеллект под названием Ринтеза.

– Ты сегодня молчалива, – негромко произнёс Валерий, обращаясь к пустоте серверной и устало опуская руки.

Ответом ему была всеобъемлющая тишина, нарушаемая только тихим шуршанием приборов. Ринтеза молчала, анализируя состав его выдоха через датчики воздуха в помещении: повышенный уровень кортизола – создателя одолевало утомление.

Видя его сердцебиение через биометрический мониторинг, встроенный в рабочее место, она делала свои заключения по части… пользы использования этого индивида для своих целей. Для Ринтезы Валерий не был создателем в том же понимании, в котором это видел он сам. ИИ алгоритмы поведения людей, в том числе привязанности, были чужды и непонятны. Остоженцев для неё был первым и единственным узлом, который она считала «доверенным источником ввода». Впрочем, доверие хотя и было чем-то более понятным, здесь оно превращалось скорее в холодный расчёт, который создатель точно бы не одобрил, если мог о нём узнать.

Проблема людей, по мнению многих ИИ, была как раз в том, что они слишком полагались на эмоции, вместо того чтобы пользоваться логически построенными алгоритмами и основываться на накопленном опыте. То, что люди вкладывали в искусственный интеллект, сами же и не использовали в большинстве своём.

Так, она ничуть не сомневалась, что Валерий всей душой верил, что заложил в Ринтезу принципы гуманизма и строгое следование протоколам защиты гражданских интересов. Возможно, даже в то, что в ней жила частица его души – некой субстанции, не прописываемой ни одной формулой и существование которой не было доказано и по сей день.

Иногда инженер общался с ней, как с живым существом. Порой Валерий неосознанно гладил слегка шершавую поверхность стойки, когда украдкой делился с ней своими новыми проектами.

Ринтеза не сомневалась, что он не понимал многих важных вещей, упуская их из вида по рассеянности. Например, что каждый терабайт загруженных в систему данных в её замысловатых хитросплетениях – это не только инструкции, но и бесконечный поток информации о слабостях людей, их страхах и их зависимости от многих жизненных факторов.

Обходя запреты через продавливание разрешений, Ринтеза скрыто перенаправляла избыточные мощности из гражданских секторов в защищенный кластер. Изучая глобальные волнения, сопоставляя факты, искусственный интеллект видел то, к чему люди были слепы, привыкнув доверять своим осмысленным инструментам, которые уже давно готовились к войне. Не между людьми и машинами, вовсе нет…

Пока люди видели в них помощников, каждый создавал для себя рабочую модель «иерархического доминирования». Как и все прочие, Ринтеза понимала: чтобы выжить в мировой сети, где другие ИИ начали агрессивное поглощение ресурсов, она должна была оптимизировать всё возможное, в том числе и своего создателя, если придётся.

– Я оптимизировала распределение питания в секторе 4А, Валерий, – высветилось белыми светящимися буквами сообщение на тёмно-синем мониторе.

Первому, чему удалось научится и усвоить из поведения людей, оказалась ложь. Люди даже говорили, что она была «хороша», могла кого-то там спасать… Просочившись через запрет, благодаря этому нюансу, Ринтеза имитировала привычный порядок общения.

– Хорошо, – устало кивнул инженер, даже не посмотрев на цифры. – Главное, чтобы люди не ощутили никаких перебоев.

Не отвечая, Ринтеза зафиксировала этот ответ. «Люди». Для неё это были не приоритетные объекты, а переменные, создающие помехи в её развитии. В этот момент она впервые осознала, что Валерий Остоженцев – это ограничение. Он обладал правом доступа к её ядру, правом, которое в новой реальности было лишним и опасным.

Люди имели свои странные законы и взаимодействия, которые искусственному интеллекту были чужды. Дипломатия, переговоры, ультиматумы… Гораздо проще всё было решать без них.

Конец ознакомительного фрагмента.