В какой-то момент нашей космической истории, которая насчитывает 13,8 миллиарда лет, произошло нечто поразительное. Обработка информации стала настолько разумной, что у жизненных форм сформировалось сознание
Я не вижу существенной разницы между тем, как действует мозг земляного червя, и тем, как работает компьютер. На мой взгляд, эволюция предполагает, что может не быть качественного различия между мозгом земляного червя и человека. Из этого следует, что компьютер, в принципе, может копировать человеческий интеллект или даже превзойти его
Наша Вселенная очнулась и стала осознавать саму себя. Я считаю поистине триумфом то, что мы – не более чем звездная пыль – пришли к такому глубокому пониманию Вселенной, в которой живем.
Если компьютеры продолжат подчиняться закону Мура и удваивать быстродействие и объем памяти каждые восемнадцать месяцев, в итоге получится, что в какой-то момент ближайшего столетия они превзойдут человека по интеллектуальным способностям.
Потенциальная выгода огромна; мы даже не можем представить, какие достижения нас ждут впереди, если наши умственные способности получат подкрепление в виде средств, предоставляемых разработчиками искусственного интеллекта.
Люди, ограниченные малой скоростью биологической эволюции, не смогут конкурировать с ним и окажутся вытесненными. А еще в будущем искусственный интеллект может обрести собственную волю, которая вступит в конфликт с нашей.
Думая о нашей возможности сохранять в долгосрочной перспективе контроль над более совершенными системами искусственного интеллекта, следует ли вооружать их и доверять им нашу защиту?
Например, военные разных стран мира рассматривают возможность в ближайшей перспективе начать гонку автономных оружейных систем, которые способны сами выбирать и уничтожать выбранные ими цели.
Если в краткосрочной перспективе влияние искусственного интеллекта зависит от тех, кто его контролирует, то в долгосрочной будет зависеть от того, сможем ли мы контролировать его вообще.