В наше время научные открытия – особенно те, в которых есть острая необходимость, – распространяются со скоростью света. Создание новой вакцины обычно занимает годы, ноModerna Biotechnology Incorporated предложила вакцину от коронавируса всего через 42 дня после 10 января 2020 года – дня, когда шиповидный белок SARS-Cov-2 был впервые описан в научной публикации. Полная разработка, тестирование и одобрение вакцины, предлагающей надежную и эффективную защиту от серьезной болезни, вызываемой вирусом COVID, заняли меньше года. Никогда еще барьеры на пути распространения идей и технических новинок не были так слабы, а кумулятивная сила науки – так велика.

Однако, чтобы обратить эти достижения на благо миллиардов людей по всему миру, нам необходимо изменить направление работы. Начать следует с противостояния слепому технооптимизму нашего времени, а затем разработать новые пути использования открытий и инноваций.

Хорошая и в то же время плохая новость заключается в том, что мы используем знание и науку в соответствии со своимви́дением – с нашим пониманием того, как превращать знания в технологии и методы для решения конкретных проблем. Именно видение определяет наши цели и подсказывает, как их достичь, какие альтернативные методы рассматривать, а какие нет и что в итоге считать приобретением, а что – потерей. Короче говоря, наше видение – это то, чего мы ожидаем от новых технологий и как определяем их потенциальные плюсы и минусы.

К сожалению, даже в лучшие времена направление научного поиска и то, как мы используем уже известные инновации, задают в первую очередь власть имущие. Таким образом, новые технологии и их применение оказываются тесно связаны со взглядами и интересами влиятельных людей – и нередко дорого обходятся всем остальным. К счастью, и наше видение, и наш выбор можно изменить.

Общее видение, присущее изобретателям, критически важно для постепенного накопления знаний и играет центральную роль в том, как все мы используем новые технологии. Возьмем паровой двигатель, преобразивший европейскую, а затем и мировую экономику. Быстрый прогресс в этой сфере с начала XVIII века основывался на общем понимании проблемы, требующей решения: понять, как выполнять механическую работу при помощи пара. Первый широко известный паровой двигатель создал Томас Ньюкамен примерно в 1712 году. Полвека спустя Джеймс Уатт и его деловой партнер Мэтью Боултон усовершенствовали конструкцию Ньюкамена, отделив конденсатор и разработав новый вариант двигателя, более эффективный и коммерчески намного более успешный.

Общий взгляд на проблему очевиден в том, чего и как пытались достичь эти изобретатели – научиться при помощи пара двигать поршень в цилиндре вперед-назад, таким образом совершая работу, а затем оптимизировать этот двигатель для применения в самых разных областях. Общее видение не только позволяло им учиться друг у друга, но и означало, что они будут решать поставленную задачу схожим образом. Поначалу они сосредоточились на так называемом атмосферическом двигателе, в котором конденсированный пар создает внутри цилиндра вакуум и поршень движется под действием атмосферного давления. Другие возможности – например, паровой двигатель высокого давления, впервые описанный Якобом Леупольдом в 1720 году, – все дружно игнорировали. Двигатели высокого давления, в которых использовались два поршня – вверх их двигало давление пара, а вниз сила земного притяжения, – распространились только в XIX веке.

Кроме того, видение этих ранних разработчиков паровых двигателей включало в себя высокую мотивацию и полное пренебрежение к «сопутствующим потерям», которые приносили их изобретения, – например к судьбам малолетних детей, надрывающихся на работе в угольных шахтах, осушение которых стало возможно только благодаря мощным паровым насосам.

Что верно для паровых двигателей, верно и для всех прочих технологий. Ни одна технология не существует в отрыве от стоящего за ней видения. Мы ищем пути решения проблем, с которыми сталкиваемся (это видение). Представляем себе, какие инструменты могли бы нам помочь (тоже видение). Из многочисленных путей, открытых перед нами, выбираем два-три и сосредотачиваемся на них (тоже одна из сторон видения). Затем на основе этого понимания начинаем экспериментировать, пробуем разные подходы, что-то изобретаем. По ходу возникают препятствия, случаются неудачи, обнаруживается «цена вопроса»; почти наверняка всплывают неожиданные последствия – в том числе чьи-то потенциальные страдания. Нас это останавливает? Заставляет задуматься – и, быть может, даже отказаться от своей мечты? Или мы мчимся вперед, несмотря ни на что? Это тоже зависит от видения.

Но чем определяется, какое видение возьмет верх? Хоть речь и идет о том, как лучше использовать наши коллективные знания, решающими факторами становятся здесь вовсе не научные и не строго логические соображения. Выбор в этом контексте определяет власть и сила – прежде всего сила убеждения, о которой мы поговорим в главе третьей, – поскольку разные решения несут выгоду разным людям. У кого больше власти – у того и больше шансов убедить остальных в правоте своего видения, чаще всего тесно связанного с личными интересами. А тот, кому удается превратить свои идеи в общее видение, укрепляет свое положение в обществе и обретает дополнительную власть.

Не будем обманываться монументальными технологическими достижениями человечества. Мы по-прежнему готовы попасть в ловушку общего видения. Компании вкладывают деньги в то, что их управленцы считают наиболее выгодными решениями. Если компания, например, устанавливает новые компьютеры – значит, прибыль от них превысит их стоимость. Но в мире, где наши действия подчиняются общему видению, таких гарантий нет. Если убедить всех в том, что нам совершенно необходим искусственный интеллект, все начнут внедрять технологии, основанные на искусственном интеллекте, даже там, где существуют иные и, возможно, более выгодные пути организации производства. Схожим образом, если большинство исследователей развивают машинный интеллект в определенном направлении, скорее всего, другие покорно, даже слепо, двинутся по их стопам.

Еще более серьезные последствия возникают у наших решений, когда речь идет об универсальных технологиях, таких как электричество или компьютеры. Универсальные технологии создают платформу, на которой можно разработать множество практических решений, полезных (а иногда и вредоносных) во многих областях, для множества групп людей. И платформы также можно развивать в самых разных направлениях.

Электричество, например, не только стало более дешевым источником энергии, но и открыло дорогу множеству инноваций: радиоприемникам, бытовой технике, кинопродукции, телевидению. Сделало возможной фундаментальную реорганизацию промышленности: улучшилось освещение, появилась возможность индивидуального питания станков, стало возможно выполнять новые, более сложные и точные технические задачи. Основанные на электричестве новшества увеличили потребность в сырье и других материалах, например химикатах и топливе, а также в перевозках и продаже готовых изделий. Это привело к созданию новых пластмасс, красок, металлов, средств передвижения, которые затем использовались в других промышленных отраслях. А еще электричество создало условия для куда более серьезного, чем прежде, промышленного загрязнения окружающей среды.

Хотя многоцелевые технологии можно развивать очень по-разному, оказавшись в плену общего видения, люди начинают видеть лишь одну возможную траекторию; им становится трудно оторваться от нее и исследовать другие, быть может, более выгодные для общества. Горстка людей принимает решения – большинство с ними пассивно соглашается. Так естественный ход прогресса оказывается искривлен – в пользу тех, кто обладает властью, принимает решения и навязывает свое видение другим, и против тех, чьи голоса в обществе не слышны.

Возьмем для примера решение китайской Коммунистической партии ввести систему социального кредита, которая собирает информацию о частных лицах, компаниях, государственных организациях, следя за их надежностью и за тем, соблюдают ли они установленные правила. В 2009 году эта система была впервые введена на местном уровне, теперь действует уже по всей стране – и заносит в черные списки людей и организации, которые высказывают или публикуют в соцсетях что-либо, идущее вразрез с линией партии. Это решение, повлиявшее на жизнь 1,4 миллиарда человек, приняли несколько партийных лидеров вместе с главами китайских IT-гигантов, таких какAli Baba или Baidu. Мнения тех, чью свободу слова и собраний, возможность получить образование, работу в госструктуре, путешествовать, даже получать жилье и госуслуги теперь ограничивает эта система, разумеется, никто не спрашивал.

И такое происходит не только в авторитарных государствах. В 2018 году основатель и директорFacebook^[2] Марк Цукерберг объявил: алгоритмы работы его соцсети будут модифицированы так, чтобы облегчить пользователям «значимое социальное взаимодействие». На практике это означало, что платформа приоритизирует в новостной ленте посты от других пользователей, в первую очередь от родных и друзей, и пессимизирует выдачу постов от новостных агентств и известных брендов. Цель этих изменений состояла в том, чтобы увеличить вовлеченность пользователей, ведь люди с бо́льшим интересом читают и чаще «лайкают» посты своих знакомых. Основным последствием стало то, что пользователи начали больше времени проводить в Facebook с последующим обвальным распространением фейковых новостей и ростом политической поляризации: необъективные и попросту лживые посты теперь стремительно распространялись от одного пользователя к другому. Эта перемена повлияла не только на почти 2,5 миллиарда пользователей платформы – политические последствия этого сказались еще на миллиардах людей, не присутствующих в Facebook. А кто принял решение? Сам Цукерберг, главный исполнительный директор компании Шерил Сэндберг и еще несколько лиц из топ-менеджмента. Никто не посоветовался ни с пользователями платформы, ни с гражданами пострадавших от этого стран.

Что стояло за решениями китайской Коммунистической партии иFacebook? Ни в том, ни в другом случае они не были продиктованы принципами науки и техники. Не были они и очевидными следующими шагами на каком-то логически неизбежном пути прогресса. В обоих случаях мы видим разрушительную роль своекорыстных интересов – желания заткнуть рот оппозиции или повысить доходы от рекламы. Центральное место занимает взгляд руководства страны/компании на то, как должно быть организовано сообщество и чему в нем следует отдавать приоритет. Но еще важнее то, как высокие технологии используются для контроля: над политическими взглядами населения в случае Китая и над общественной активностью людей и информацией о них – в случае Facebook.

Вот что упустил Фрэнсис Бэкон и понял Г. Дж. Уэллс, имея преимущество в 275 лет истории человечества: технологии – это власть не только над природой, но и над собратьями-людьми. Дело не только в том, что от внедрения технических новинок одни выигрывают больше, чем другие. Речь о более фундаментальном принципе: различные способы организации производства обогащают и наделяют властью одних, ввергая в нищету и лишая власти других.

Эти соображения столь же важны для направления научно-технического поиска и в других сферах. Управленцы и владельцы бизнесов зачастую стремятся увеличить автоматизацию и усилить надзор, поскольку это позволяет им увеличить контроль над производством продукции, сэкономить на зарплатах и ослабить рабочее движение. Эта их потребность преобразуется в стимуляцию ученых и требование от них искать новые пути автоматизации и надзора – даже если развитие других технологий, не столь враждебных работникам, скорее поможет повысить производительность и найти путь к общему процветанию.

И в этих случаях общество может стать заложником видения, сформированного представителями власти и отвечающего их интересам. Подобное видение помогает лидерам в области бизнеса и высоких технологий осуществлять планы, делающие их еще богаче, влиятельнее, могущественнее. Элиты могут убеждать себя: что хорошо для них – хорошо и для общего блага. Могут даже прийти к мысли, что на благородном пути прогресса оправданы любые жертвы – особенно если высокую цену платят молчаливые и незаметные члены общества. Вдохновляемые таким эгоистичным видением, лидеры отрицают, что существует множество путей развития, имеющих очень разные последствия. Могут даже оскорбиться, если указать им на альтернативы.

Неужели от гибельных идей, навязываемых людям без их согласия, нет никакой защиты? Как остановить влияние классовых предрассудков на развитие высоких технологий? Неужели мы обречены бегать в колесе, где сменяют друг друга горделивые и эгоцентричные фантазии, определяющие собой наше будущее?

Нет. Не стоит отчаиваться: история учит нас, что более инклюзивное видение – такое, которое прислушивается к голосам более широкого круга и яснее представляет себе последствия для всех, – вполне возможно. Общее процветание возможно там, где предприниматели и разработчики новых технологий вынуждены считаться с какими-то иными силами и отвечать перед ними; в этом случае методы производства и инновации развиваются в большем согласии с интересами простых людей.

Инклюзивное видение не избегает спорных вопросов – например о том, стоит ли выгода для одних той цены, которую неизбежно заплатят другие. Оно оценивает все последствия социальных решений и не затыкает рты тем, кто от них не выигрывает.

Держаться ли нам узкого, эгоцентрического видения или перейти к более инклюзивному – тоже вопрос выбора. Исход зависит от того, найдутся ли в обществе альтернативные источники власти, сумеют ли те, кто не вхож в высокие кабинеты, организоваться и заставить себя услышать. Если мы не хотим подчиняться видению правящих элит, то должны найти способы им противостоять и противопоставлять их эгоизму свое, более инклюзивное видение. К сожалению, в век искусственного интеллекта это становится все сложнее.

Огонь нашего времени

На заре истории жизнь человечества преобразил огонь. Древнейшие слои, обнаруженные при раскопках в Сварткрансе, пещере в Южной Африке, показывают нам человеческие кости, обглоданные хищниками – медведями и крупными кошачьими. Для крупнейших хищников тех времен человек был легкой добычей. Особую опасность представляли темные места вроде пещер – нашим предкам приходилось их избегать. Но вот в этой пещере появляются первые следы огня – слой прогоревших углей возрастом приблизительно в 1 млн лет. И дальше археологические находки показывают совершенно обратную картину: начиная с этого времени основная масса костей в пещере – не человеческие. Они принадлежат животным. Овладев огнем, древние гоминиды смогли изгнать хищников из пещер, поселились там – и сами стали хищниками.

Ни одна другая технология за последние 10 000 лет даже близко не оказала такого фундаментального влияния на всю нашу жизнь. Но сейчас – по крайней мере, если верить его пропагандистам, – появился новый кандидат на пьедестал – искусственный интеллект (ИИ). ДиректорGoogle Сундар Пичаи говорит об этом без обиняков:

«ИИ, возможно, самый важный проект в истории человечества. На мой взгляд, он принесет более серьезные перемены, чем электричество или даже огонь».

ИИ – это название отрасли информатики, разрабатывающей «разумные» машины, то есть машины и алгоритмы (инструкции по решению проблем), способные выполнять сложные высокоуровневые задачи. Современные разумные машины делают то, что еще пару десятилетий назад казалось невозможным. Примеров множество: программы распознавания лиц, поисковики, угадывающие, что мы хотим найти, системы рекомендаций, предлагающие продукты, которые нам больше всего понравятся (или, как минимум, которые мы с наибольшей вероятностью купим). Многие современные системы общаются с людьми с помощью естественного языка, преобразуя компьютерные запросы и команды в человеческую речь. Сири, созданнаяApple, или поисковик Google – примеры систем, основанных на ИИ, широко известных и распространенных во всем мире.

Энтузиасты ИИ указывают и на некоторые впечатляющие достижения. Программы ИИ умеют распознавать тысячи различных предметов и образов, осуществляют перевод простых текстов более чем на сто языков. Помогают диагностировать рак. Делают инвестиции – порой успешнее популярных финансовых аналитиков. Помогают юристам и их помощникам просеивать тысячи документов и находить среди них те, что могут пригодиться в деле. Переводят инструкции, данные на естественном языке, в компьютерный код. Даже сочиняют музыку, отдаленно напоминающую Баха, и пишут газетные статьи (впрочем, бессодержательные и скучные).

В 2016 году компания по разработке ИИDeepMind выпустила AlphaGo – программу для игры в го, победившую одного из двух лучших игроков в мире. Год спустя за ней последовала AlphaZero