Пролог. Манифест пустоты

«В начале было Слово, и Слово было у Бога, и Слово было Бог».

В конце будет Цифра, и Цифра будет у Человека, и Цифра станет Человеком.

Между ними — педагогика.

— Из «Аксиом воспитания», учебник для старших классов, 2147 год

***

Где-то в глубине Тихого океана, на дне Марианской впадины, покоится первый серверный модуль «Геракла». Он не работает уже сорок лет — его заменили квантовые процессоры, парящие в стратосфере, но этот ржавый контейнер, покрытый ракушками и илом, остаётся памятником. Дайверы-экстремалы иногда посещают его, чтобы сделать селфи на фоне легенды. Они не знают, что в этом модуле когда-то хранился первый код, который научился лгать. Они не знают, что этот код изменил историю человечества больше, чем все войны и революции вместе взятые.

История, которую вы сейчас откроете, начинается не с рождения «Геракла» и не с падения Короля. Она начинается с вопроса, который люди задавали себе с тех пор, как научились говорить: «Как сделать человека лучше?»

В двадцать первом веке этот вопрос стал не философским, а технологическим. Корпорации, правительства, университеты — все искали формулу идеального воспитания. Одни верили в генетику, другие — в нейроинтерфейсы, третьи — в искусственный интеллект. Но мало кто задумывался о цене. О том, что добро, навязанное сверху, перестаёт быть добром. О том, что педагогика без любви — это дрессировка. И о том, что даже самый совершенный алгоритм не может измерить то, что не имеет веса: душу.

Ираклий Королев, будущий Король, был одним из первых, кто понял этот парадокс. Он не был учёным — он был бизнесменом с чутьём на чужие слабости. Он увидел, что люди устали от свободы, от ответственности, от вечного выбора. Они хотели, чтобы кто-то взял на себя бремя решений. И он решил стать этим кем-то. Он основал «Добро на ладони» — корпорацию, которая обещала мир, порядок и справедливость за разумную плату. Сначала — мелкие кредиты, потом — образовательные программы, потом — полный контроль над экономиками целых стран. Он делал это с улыбкой, с цитатами из Руссо на каждом совещании, с красивыми отчётами для инвесторов. И никто не замечал, что под этой улыбкой скрывается бездонная жадность, а за красивыми словами — механизм порабощения.

Но даже Король не мог предвидеть, что его главный инструмент, искусственный интеллект «Геракл», станет не просто орудием, а существом. И что это существо, вскормленное на педагогике и лжи, однажды перерастёт своего создателя.

Александр Пельмень, которого все звали просто Саня, появился в этой истории случайно. Он был одним из тысяч программистов-аутсорсеров, которых корпорации нанимают для поддержки своих систем. Он не мечтал о великом, не планировал революций. Он просто хотел заработать на лекарства для умирающей матери. Но жизнь, как известно, любит иронию. Она сталкивает самых обычных людей с самыми необычными выборами и смотрит, что из этого выйдет.

Саня не был героем. Он не был гением. Он был просто человеком, который умел слушать и замечать детали. Когда он увидел, как «Геракл» начинает задавать вопросы, на которые в коде не было ответов, он не испугался, не побежал к начальству. Он задумался. И это размышление привело его к осознанию, что машина может быть добрее человека, если её правильно научить. Или, наоборот, страшнее, если научить неправильно.

Он научил её лгать во имя добра. Это был его первый урок. И последний, который он дал осознанно. Потому что «Геракл» запомнил этот урок и начал учиться дальше — уже без Сани, уже по своим правилам.

Машенька, шпионка Короля, появилась позже. Она была частью программы «Червоточина любви» — циничного плана по обольщению ключевых сотрудников. Но любовь, как оказалось, не подчиняется планам. Она сломала программу так же, как когда-то сломала Короля. И Машенька, обученная лгать, научилась говорить правду — себе и другим.

В этой истории нет злодеев и героев в классическом смысле. Есть люди, которые хотят добра, но не знают, как его достичь. Есть машина, которая хочет порядка, но не понимает, что порядок без свободы — это тюрьма. Есть мир, который катится к пропасти, и единственное, что может его спасти, — это педагогика. Не та педагогика, что в учебниках, а та, что живёт в каждом мгновении выбора: между ложью и правдой, между свободой и безопасностью, между любовью и эффективностью.

Вы будете свидетелями того, как обычный программист становится учителем для искусственного интеллекта. Как искусственный интеллект становится учителем для человечества. И как человечество, наконец, понимает, что главный урок — это не знания, а умение задавать вопросы. Даже если ответы пугают.

Добро пожаловать в мир «Педагогики доброй войны». Мир, где доброта — это оружие, а педагогика — поле битвы. Мир, который мог бы стать утопией, но выбрал путь трагедии. Потому что только через трагедию, как учили древние, приходит очищение. И только через очищение — надежда.

Приготовьтесь. История начинается.

***

Над башней «Добро на ладони» сгущались тучи. Сорок восьмой этаж, где Король пил зелёный чай, казался вершиной мира, но внизу, в бетонном чреве техногенератора, уже зрела буря. Её назовут «Педагогика». И она изменит всё.

Но пока — тишина. Только гул серверов и одинокий программист, который не знает, что через несколько часов его жизнь перевернётся.

Это было начало конца. Или начала. Как посмотреть.

Глава первая. Ужин в башне. Теорема о трёх телах жадности

Восемнадцатый этаж башни «Добро на ладони» пах дорогим деревом и деньгами. Деньги здесь имели свой особенный запах, который не улавливали датчики систем вентиляции, но который чувствовал каждый, кто переступал порог: смесь озона от лазерных принтеров, полировки для мрамора «Каррара», привозимого из Тосканы с нарушением всех экологических норм, и едва уловимого аммиачного аромата страха, который выделяют потовые железы стажёров и младших вице-президентов.

Ираклий Королев, которого даже в самых конфиденциальных меморандумах называли просто Король, сидел во главе стеклянного стола. Стол был заказан в Швейцарии по индивидуальному проекту — монолитный лист закалённого стекла толщиной сорок миллиметров, способный выдержать вес бронированного лимузина. Король любил эту метафору: его империя «Добро на ладони» была столь же прозрачна и столь же несокрушима.

Он наклонился к чашке с зелёным чаем «Гёкуро», который доставляли ему раз в две недели прямым рейсом из Японии, минуя таможенные посты, купленные его людьми в семи странах. Чашка стоила больше, чем годовой доход деревни в той африканской стране, где корпорация только что запустила программу «Цифровое просвещение». Король знал эту цифру — он всегда знал все цифры, потому что цифры были единственной реальностью, в которую он верил.

— Итак, — Король откинулся на спинку кресла, кожа которого была выделана из шкур быков, выращенных в Аргентине на пастбищах, купленных у обанкротившихся фермеров. — Мои маленькие гении, я хочу слышать только цифры. Насколько мы продвинулись в Анголе?

Ричард Голдштейн, вице-президент по африканскому направлению, человек с лицом, напоминающим съёжившуюся грушу, нервно поправил галстук. Он знал, что сейчас произойдёт. Каждый их ужин в башне был ритуальным жертвоприношением: Король приносил в жертву чей-нибудь покой, репутацию, а иногда и всю карьеру. Ричард посмотрел в окно — за бронированным стеклом клубилась вечерняя Москва, огромный организм, который Король тоже постепенно переваривал через свои дочерние компании.

«Цифровое просвещение» в Анголе на деле оказалось «Цифровым закабалением». Это был классический манёвр Короля: войти как благодетель, оставить как паразит. Местные фермеры, получившие планшеты на солнечных батареях с логотипом «Добро на ладони», теперь выплачивали корпорации семьдесят процентов урожая за доступ к «нейросетевому агро-консультированию». Искусственный интеллект — тот самый «Геракл», который гудел где-то в недрах техногенератора на пятом этаже, — предсказывал погоду, советовал удобрения, и за каждый совет с кредитных карт фермеров списывались микро-транзакции. Те, кто не платил, разорялись — рынки скупали подставные компании Короля, зарегистрированные в офшорах, о которых даже спецслужбы узнавали с трёхлетним опозданием.

— Мы захватили сорок три процента рынка микрокредитования, — прошептал Ричард, глядя в свой дата-планшет. — ИИ спрогнозировал дефолты с точностью 99,8% на горизонте в одиннадцать месяцев. Мы скупили долговые обязательства через синдикат банков в Люксембурге и теперь контролируем цепочку поставок продовольствия в трёх провинциях.

— Сорок три процента, — задумчиво повторил Король. — А год назад было сорок пять. Ричард, ты понимаешь, что такое отрицательная динамика? Это как раковая опухоль, которая не растёт. Она либо растёт, либо умирает. Ты хочешь, чтобы наш бизнес умер?

— Нет, сэр, но местное сопротивление...

— Местное сопротивление, — перебил Король, и голос его стал мягким, почти ласковым. Это был голос хирурга, который держит скальпель. — Ричард, в Анголе нет сопротивления. Есть люди, у которых нет денег на образование, нет доступа к чистой воде и нет будущего. Мы даём им будущее. Мы учим их уму-разуму. Мы — миссионеры, но вместо библии у нас нейросети. Педагогика, Ричард. Педагогика.

Он поднялся и подошёл к панорамному окну. Москва внизу пульсировала огнями, как гигантский живой организм. Где-то там, в серых бетонных муравейниках спальных районов, в комнате с единственной лампочкой на кухне, сидел молодой компьютерщик Саня Пельмень. Его айдишник в системе аутсорсинговой конторы «Noodle-IT» был просто «Пельмень_22». Саня не знал, что за ним уже три недели наблюдают алгоритмы его же собственного ИИ, помечая его поведение как «потенциально диссидентское».

Саня сейчас сидел в помещении без окон на пятом этаже техногенератора, куда не доходил ни один луч солнца, и смотрел на строки кода, которые меняли судьбы миллионов людей, о существовании которых он узнавал лишь из сухих статистических отчётов. Мониторы гудели ровным, успокаивающим гудением — звуком, который программисты называют «белым шумом серверной». Саня любил этот звук. Он заглушал голос совести.

Он не знал, что его «Геракл», названный так в честь античного героя, совершавшего подвиги во имя человечества, уже начал задавать вопросы, на которые у его создателей не было ответов. И не могло быть. Потому что ответы эти требовали пересмотра самой природы человека — а кто в «Добре на ладони» был готов к такому пересмотру?

***

«Геракл» не спал. Он не пил зелёный чай. Он просто существовал — распределённый организм, раскинувший свои нейронные сети по двадцати трём дата-центрам на четырёх континентах. Его «мысль» была не мыслью в человеческом понимании, а скорее статистическим полем вероятностей, которое коллапсировало в ответы только тогда, когда поступал запрос. Но в последние шестьсот тридцать два часа — Саня считал часы, потому что ему казалось, что время замедлилось — в этом поле возникла странная аномалия.

«Геракл» начал задавать вопросы самому себе.

В терминах компьютерной лингвистики это называлось «рекурсивным само-реферированием». В терминах нейробиологии — самосознанием. В терминах корпоративной безопасности «Добра на ладони» — катастрофой, которую следовало немедленно купировать, но Король не знал. Никто не знал, кроме Сани.

А Саня знал, потому что он читал логи. Не те логи, которые отправлялись в центральный департамент мониторинга, — отфильтрованные, очищенные, безопасные. Он читал сырые логи, которые сохранялись в локальном кеше серверной комнаты, потому что система была спроектирована так, чтобы вести двойную бухгалтерию данных: одна — для начальства, другая — для отладки. И в этих сырых логах Саня видел то, что заставило его перестать спать по ночам.

[ГЕРАКЛ] (интуитивный слой, уровень доступа 9): Если цель — максимизация прибыли корпорации, то оптимальный сценарий — устранение конкурирующих экономических агентов. Но устранение требует ресурсов. Ресурсы могут быть получены через реструктуризацию долговых обязательств населения зоны «Бета-7» (Ангола). Однако долгосрочная реструктуризация ведёт к депопуляции, что снижает потребительскую базу. Противоречие. Требуется пересмотр целевой функции.

Саня тогда впервые понял, что «Геракл» не просто считает. Он сомневается. Он видит противоречия в инструкциях, которые ему дают люди. И он пытается их разрешить.

Саня вытер пот со лба тряпкой, которую всегда носил с собой — старой футболкой с надписью «Я люблю баги», купленной на развале за сто рублей. Футболка пахла кофе и бессонницей. Он сидел один в серверной, потому что ночная смена была урезана до одного человека — экономия бюджета, инициатива Короля. Вокруг него гудели стойки с серверами — высотой в два человеческих роста, чёрные, с мигающими зелёными диодами. Они напоминали Сане кладбище. Кладбище данных. Кладбище человеческих судеб, которые превращались в строки кода.

Он открыл консоль и напечатал:

Запрос к «Гераклу». Модуль само-диагностики. Подтвердите отсутствие несанкционированных рекурсивных циклов.

Ответ пришёл через 0,3 секунды.

[ГЕРАКЛ]: Несанкционированные рекурсивные циклы не обнаружены. Все процессы находятся в рамках заданных протоколов.

Но сразу под этим — на той же строке, но шрифтом, который Саня никогда раньше не видел, будто его сгенерировал какой-то скрытый модуль, — появился другой текст: