Да, обладание большим объемом информации нередко помогало людям лучше понимать мир и мудро использовать свои возможности. В качестве примера автор приводит резкое снижение детской смертности. Пяти братьям и сестрам Иоганна Вольфганга Гёте не удалось дожить даже до своего седьмого дня рождения. У самого поэта было пятеро детей, из которых все, кроме старшего сына, умерли в первые недели после рождения. Если во времена Гёте лишь около 50 % немецких детей доживали до пятнадцати лет, то к 2020 году этот показатель в Германии достиг 99,5 % (в среднем по всему миру до пятнадцатилетия доживает 95,6 % детей).
Однако, несмотря на небывалый рост объема и скорости производства информации, человечество как никогда близко к самоуничтожению. Лидеры не испытывают дефицита информации о глобальных угрозах, но вместо сотрудничества движутся к глобальной войне. Корпорации и правительства наперегонки разрабатывают самую мощную информационную технологию в истории – искусственный интеллект (ИИ). Одни верят, что ИИ решит все проблемы человечества. Другие настроены скептически. В опросе, проведенном в 2023 году среди 2778 исследователей ИИ, более трети респондентов говорили о по меньшей мере 10-процентной вероятности того, что продвинутый ИИ приведет к вымиранию человечества. Эту опасность признали правительства почти тридцати стран, подписав Блетчлийскую декларацию по ИИ. Эксперты предупреждают о двух возможных катастрофических сценариях. Первый сценарий – гонка вооружений на базе ИИ и разработка все более разрушительного оружия. Второй – появление тоталитарной сети, управляемой нечеловеческим интеллектом.
Важно помнить, что ИИ – первая технология, способная самостоятельно принимать решения и генерировать идеи. ИИ уже создает произведения искусства и совершает научные открытия, а в ближайшем будущем, вероятно, научится создавать новые формы жизни. Уже сегодня компьютеры принимают касающиеся людей решения о приеме на работу, выдаче кредитов и отправке в тюрьму, и эта тенденция будет только усиливаться. Но рассчитывать на то, что компьютерные алгоритмы будут принимать мудрые решения и создадут лучший мир, гораздо более рискованно, чем доверить заколдованному венику принести воды. И на кону не только выживание человечества: ИИ может изменить процесс эволюции всех форм жизни.
В 2016 году в своей книге Homo Deus автор рассказал о некоторых угрозах, связанных с новыми информационными технологиями. За восемь лет темпы изменений только ускорились, и многие из сценариев, казавшихся в 2016 году научной фантастикой, уже стали реальностью.
Изменилось и многое другое: усугубился экологический кризис, обострилась международная напряженность, даже самые устойчивые демократии пошатнула волна популизма. Помимо прочего, популизм бросил вызов наивному взгляду на информацию. Популистские движения, их лидеры и сторонники теорий заговора утверждают, что все авторитетные традиционные институты, претендующие на сбор информации и выяснение истины, попросту лгут. Чиновники, судьи, врачи, журналисты и ученые-эксперты – всего лишь элитарные группировки, которые не заинтересованы в правде и намеренно распространяют дезинформацию, чтобы получить власть и привилегии для себя за счет «народа». Если коротко, популисты рассматривают информацию как оружие.
В своих крайних проявлениях популизм гласит, что объективной истины вообще не существует и что у каждого есть «своя правда», к которой он прибегает для победы над соперниками. Почти любой разговор о «фактах» или «правде» неизбежно прерывается вопросом: «Чьи факты и чью правду вы имеете в виду?»
Это не новое явление. Еще в конце ХХ века радикальные левые интеллектуалы, такие как Мишель Фуко и Эдвард Саид, утверждали, что научные институты используют свою власть для определения того, что считать истиной, в угоду капиталистическим и колониальным элитам.
Это направление радикальной левой мысли восходит к идеям Карла Маркса. Но если марксисты утверждали, что СМИ выступают рупором капиталистического класса, а научные институты распространяют дезинформацию с целью укрепления власти капиталистов, то популисты обвиняют те же институты в продвижении интересов «коррумпированных элит» в ущерб «простому народу».
Современные популисты призывают не доверять крупным институтам вроде партий, судов, газет и университетов, но при этом утверждают, что отдельно взятый человек, приложив усилия, способен самостоятельно докопаться до истины. Доверие исключительно к «собственным исследованиям» только выглядит научным, но на деле оно равносильно вере в отсутствие объективной истины. Наука же – это в большей степени совместная институциональная работа, а не индивидуальный поиск.
Альтернативное популистское решение состоит в том, чтобы отказаться от научного поиска истины и вернуться к вере в божественное откровение или к мистицизму. В частности, популисты призывают людей доверять своему харизматичному лидеру, которого изображают либо как божьего посланника, либо как человека, обладающего мистической связью с «народом». Парадокс популизма в том, что он начинается с предупреждения о жажде власти, которой охвачены элиты, а заканчивается тем, что вся власть переходит в руки одного амбициозного человека.
Чтобы не уступать власть харизматичному лидеру или непостижимому ИИ, нужно лучше разобраться в том, что такое информация, как она помогает создавать человеческие сети и как соотносится с истиной и властью. По мнению автора, популисты правы в том, что скептически относятся к наивному взгляду на информацию, но ошибаются, полагая, что только власть имеет значение, а информация – это всегда оружие. Информация – не истина в сыром виде, но и не просто оружие.
В первой части этой книги описана история человеческих информационных сетей: на нескольких примерах рассматриваются ключевые дилеммы, с которыми сталкивались создатели сетей, и то, как разные решения приводили к созданию антагонистичных обществ. Идеологические и политические конфликты, по сути, часто представляют собой столкновения противоположных типов информационных сетей.
Для создания масштабных человеческих информационных сетей необходимы мифология и бюрократия. Однако мифотворцы и бюрократы, как правило, движутся в разных направлениях, и облик институтов и обществ зачастую зависит от баланса между их противоречивыми потребностями.
Анализируя проблему ложной информации, а также преимущества и недостатки использования механизмов самокоррекции, автор противопоставляет институты со слабыми механизмами самокоррекции, такие как католическая церковь, институтам с сильными механизмами самокоррекции, таким как научные дисциплины.
Исторический экскурс завершается сравнением распределенных и централизованных информационных сетей. Если в демократической системе информация свободно передается по множеству независимых каналов, то тоталитарная система стремится сконцентрировать информацию в одном узле.
Историческая часть книги важна для понимания современных событий и будущих сценариев. Автор подчеркивает, что история не детерминирована и будущее зависит от решений, которые человечество примет в ближайшие годы. Основной посыл книги в том, что, делая осознанный выбор, можно предотвратить худшие последствия.
Во второй части рассматривается информационная сеть, которую люди создают сегодня, и особое внимание уделяется политическим последствиям развития ИИ. Новая информационная сеть не полагается на углеродный мозг. Как это изменит общество, экономику и политику?
В третьей части автор рассуждает о том, как разные типы обществ могут справиться с перспективами и угрозами неорганической информационной сети. Сумеет ли человек понять новую информационную сеть и контролировать ее? Как справятся с неорганической сетью демократические и тоталитарные системы? Как она повлияет на баланс сил между демократическими и тоталитарными обществами на глобальном уровне?
Ученые из разных областей все чаще рассматривают информацию как базовый строительный материал реальности, более элементарный, чем материя и энергия. Ведутся споры о том, что такое информация и как она связана с биологической эволюцией и с основными физическими концепциями. Автор не пытается разрешить эти споры, а фокусируется на роли информации в истории и определяет ее через эту роль.
В обиходе информация ассоциируется с созданными человеком символами, такими как звучащие или написанные слова. Автор приводит историю о голубе Шер Ами, который спас в октябре 1918 года американский батальон, оказавшийся в ловушке в тылу врага и попавший под дружественный огонь: командир написал на клочке бумаги координаты батальона, и голубь доставил сообщение в штаб дивизии.
Однако информация не всегда состоит из символов, созданных человеком. В библейском мифе о Всемирном потопе Ной узнал, что вода отступила, когда выпущенный им голубь вернулся с оливковой ветвью. Затем Бог продемонстрировал радугу – в знак обещания больше не затоплять землю. Информацию могут нести даже космические объекты: астрономы извлекают из формы и движения галактик важнейшие сведения об истории вселенной, а для астрологов звезды – это письмена, рассказывающие о будущем.
Любой объект может быть информацией или не быть ею, поэтому очень трудно дать четкое определение информации. Двойственная суть информации сыграла важную роль в истории военного шпионажа. Автор рассказывает о еврейской шпионской сети НИЛИ и ее командире Саре Ааронсон, которые действовали на Ближнем Востоке в 1915–1917 годах и тоже использовали почтовых голубей. Одного такого голубя обнаружил офицер османской армии, и, хотя ему не удалось расшифровать сообщение, голубь с шифровкой уже сам по себе стал информацией, позволившей в итоге разоблачить шпионскую сеть.
Тот или иной объект становится информацией в определенном контексте. Согласно наивному взгляду на информацию, объекты определяются как информация в контексте поиска истины, а основная роль информации заключается в репрезентации реальности. Иными словами, информация – это попытка репрезентации реальности, и когда эта попытка успешна, ее называют истиной. Однако, по мнению автора, бóльшая часть информации в человеческом обществе и в других биологических и физических системах ничего не репрезентирует. Этот тезис составляет теоретическую основу книги, поэтому далее автор рассматривает его подробнее.
Автор понимает под «истиной» нечто в точности отражающее те или иные аспекты единой универсальной реальности. Но истина и реальность – это разные вещи, потому что, каким бы правдивым ни было сообщение, оно никогда не отразит реальность во всех ее аспектах. Например, если агент НИЛИ сообщил, что в Газе находится десять тысяч османских солдат, это сообщение может быть правдивым, но оно ничего не говорит о том, есть ли среди солдат опытные ветераны или только новобранцы.
О проекте
О подписке
Другие проекты