Робот способен видеть намного лучше человека. Можно настроить его видеть инфракрасное или рентгеновское излучение. Но что толку, если у робота не получается одним взглядом разумно оценить суть происходящего.

Войдя в комнату, вы мгновенно установите, что на стуле за письменным столом сидит ваш старый друг и читает мою книгу. Вы за секунду способны здраво понять обстановку, ваш мозг умеет быстро распознавать образы.

Робот же, войдя в комнату, разложит всё изображение на множество цветных точек и начнёт их последовательную обработку, совершенно не отделяя существенное от несущественного. Даже при огромной скорости вычисления, ему понадобится определённое время, иногда часы в зависимости от сложности ситуации, чтобы в итоге сопоставить набор линий и геометрических фигур на картинке с конкретными предметами и людьми, находящимися в комнате.

Для компьютера нет принципиальной разницы между старым другом (человеком) и моей книгой (предметом), для корректных выводов ему надо обязательно просчитать кто есть кто и что есть что. В этом смысле машина удивительно глупа, поскольку тратит огромное время и ресурсы на распознавание очевидных истин.

Вторая задача – действие в соответствии со здравым смыслом.

Человек прекрасно понимает, что такое адекватность. Никто не вкладывает информацию об этом в нашу память, мы убеждаемся во многих истинах, исходя из собственного опыта и знаний.

Вы совершенно уверены в том, что неразумно тушить костёр пачками денег, если рядом стоит ведро с водой. Это отвечает здравому смыслу. Никому из людей для того, чтобы прийти к такому выводу, не нужно анализировать информацию о плотности бумаги, молекулярном составе воды, обладать экономическими знаниями о деньгах, как универсальном товаре, и иметь прочие исходные данные для долгих и нудных вычислений, которые вынужден будет произвести робот, чтобы принять правильное решение о том, чем именно погасить огонь.

При этом нет ни логического обоснования, ни программного кода, запрещающего тушить костёр большим количеством плотно упакованной разрисованной бумаги с изображением цифр. Поэтому бездушная машина обязана досконально просчитать данный вариант, не взирая на абсурдность задачи.

Очень важным является вопрос о том, способны ли роботы в принципе испытывать эмоции. Смогут ли они когда-нибудь по-настоящему искренне плакать, смеяться над шутками, испытывать переживания, слушая музыку и читая книги?

Сама природа мышления предполагает наличие эмоций. Такие человеческие черты, как любовь, ревность, страх появились в ходе эволюции миллионы лет назад. Благодаря эмоциям наши предки получили дополнительные возможности для воспроизводства и защиты от внешнего мира.

Нас окружает очень много опасностей и сравнительно мало полезных и приятных вещей. Эмоции позволяют разделить полезное и вредное. Очевидно, что без них очень сложно осуществить правильный выбор. Эмоции формируют нашу шкалу ценностей: одно красиво, но дорого для вас; другое дёшево, но вам не нужно; а кое-что вообще бесплатно, но очень вредно. Нам постоянно приходится выбирать, в том числе, руководствуясь собственными чувствами. Без эмоций всё будет иметь одинаковую значимость.

Без эмоций невозможно адекватно оценить обстановку, особенно в критической ситуации. Робот не в состоянии понять, что при пожаре необходимо в первую очередь спасать детей и женщин, а не столь же «равноценных» мужчин. Ему практически невозможно объяснить смысл слова «абсурд».

Может ли робот переживать внутренний опыт? В принципе ничего не мешает задать такой вопрос искусственному интеллекту напрямую. Но насколько адекватен будет ответ?

Даже если робот сообщит исследователям, что он обладает интеллектом, это очень сложно объективно проверить. Дело в том, что поведение искусственного интеллекта может быть основано на принципиально других глубинных принципах. Не будет ли это «машинным» жизненным опытом, непонятным нам?

Следующий принципиальный вопрос – если структура электронного мозга будет идентична органической, то будет ли робот обладать сознанием?

Существует точка зрения, что в компьютер невозможно вложить субъективные особенности сознания и психики. В качестве базовой информации можно попробовать поместить в ЭВМ определённые объективные показатели работы мозга и протекающих в нём процессов. И на этой основе попытаться запустить имитацию функционирования мозга на платформе электронного носителя. Тогда собственное «Я» робота начнёт формироваться в результате активизации электронного мозга по тому же принципу и механизму, как это происходит в живом организме.

Постепенно субъективный мир искусственного интеллекта расцветёт эмоциями, переживаниями и ощущениями. Произойдёт превращение объективно протекающих нейродинамических процессов в субъективный мир личности. Разумеется, такой сценарий по умолчанию предполагает, что появление сознания на базе искусственного электронного носителя возможно в принципе. В противном случае, вообще нет смысла рассуждать о проблеме.

Есть два базовых подхода к перспективе создания разумных роботов.

Первый заключается в том, чтобы попытаться запрограммировать все возможные правила, присущие интеллекту. Задача состоит в создании носителя, на котором были бы заложены все принципы разумности.

Второй подход предполагает возможность запрограммировать имитацию мышления в логике здравого смысла. Сложность в том, что для этого необходимо чрезмерно много строк кода. Но их итоговое число не бесконечно. Поэтому, при достижении необходимых вычислительных мощностей квантовый компьютер, видимо, способен справиться с задачей.

Ведущие мировые специалисты уверены, что искусственный интеллект должен иметь много блоков памяти, организованных по сетевому принципу.

Для появления проблесков разума очень важно уметь предвидеть ситуацию и сравнивать свои прогнозы с текущими изменениями в окружающем мире.

Есть мнение, что, например, творчество основывается на использовании механизмов предвидения. Отдельно должны формироваться воспоминания, архивироваться прообразы для дальнейшего ассоциативного узнавания незнакомых объектов. Имеющиеся знания, основанные на аналогиях, будут использоваться для решения новых задач.

Важно научить робота корректировать свои действия, выдвигать гипотезы, отсекая те, которые не подтверждаются наблюдениями и опытом. Современные компьютеры пока не способны качественно решить ни одну из этих задач. Тем не менее, я верю, что нам удастся создать мыслящие машины.

Когда я высказываю эту свою убеждённость, мне всегда задают вполне справедливый вопрос – а не получится ли так, что искусственный интеллект уничтожит нас, своих создателей? Не буду кривить душой, такие риски есть. Не могу не обозначить их в этой главе.

Машина может стать врагом при определённых обстоятельствах.

1.Контроль над искусственным интеллектом установит человек, либо группа лиц с корыстными личными целями. Для их выполнения искусственному интеллекту может быть поставлена задача уничтожения людей, либо их качественная «переделка».

2.В определённый момент времени искусственный интеллект будет контролировать все стратегические сферы жизнеобеспечения на планете для пользы человечества. Но в программе случится сбой, что повлечёт катастрофические последствия. Искусственный интеллект сломается и начнёт неумышленно совершать действия, которые приведут к непоправимым последствиям для жизни на Земле.

3.Искусственному интеллекту для решения какой-либо сверхсложной задачи могут потребоваться все земные ресурсы. Жизнь на планете для людей станет невозможной.

4.Люди по каким-то причинам будут постоянно стремиться подчинить себе искусственный интеллект, бороться с ним, мешать его работе. В такой ситуации наиболее простым решением станет уничтожение человечества.

5.Искусственный интеллект примет ошибочное решение, ведущее к уничтожению людей «для их же блага». Например, переместит всех в «рай» или в вечно «счастливый» виртуальный мир.

6.Искусственный интеллект решит провести опасный физический эксперимент и допустит ошибку в расчётах, что вызовет необратимые последствия для жизни.

7.Внутри дружественного искусственного интеллекта появится враг, конкурент и уничтожит его, а затем и людей.

Из сказанного выше видно, что не исключен вариант, когда homo sapiens не впишется в те кардинальные изменения, которые будут происходить в мире.

Люди могут стать тормозами прогресса.

Когда искусственный интеллект обретёт сверхчеловеческое сознание, прогресс, управляемый столь мощным разумом, станет невероятно быстрым. Достаточно скоро наступит событие, которое Вернор Виндж⁴ назвал технологической сингулярностью.

В этот день мы перестанем быть самыми разумными существами на Земле. В мире воцарится новая реальность, очень далёкая от привычной нам. Это будет критическая точка развития цивилизации. Если человечество не сможет её преодолеть, то наш вид просто исчезнет с лица Земли.

Вероятно, уже в недалёком будущем нам придётся жить в одном мире с искусственными разумными существами. Мы находимся на пороге перемен, сопоставимых с появлением человека на Земле.

Как только искусственный интеллект достигнет уровня самосовершенствования, его дальнейшее развитие пойдёт очень быстро. По своим умственным возможностям он начнёт превосходить человека в миллионы раз.

Любопытно, что могущественный искусственный интеллект способен скрывать свое господство. Иначе говоря, может быть, он уже тайно управляет нами.