«Восстание машин отменяется! Мифы о роботизации» читать онлайн книгу📙 автора Дэвида Минделла на MyBook.ru
image
  1. MyBook — Электронная библиотека
  2. Библиотека
  3. Дэвид Минделл
  4. «Восстание машин отменяется! Мифы о роботизации»
image

Отсканируйте код для установки мобильного приложения MyBook

Премиум

4.5 
(12 оценок)

Восстание машин отменяется! Мифы о роботизации

292 печатные страницы

2016 год

12+

По подписке
549 руб.

Доступ ко всем книгам и аудиокнигам от 1 месяца

Первые 14 дней бесплатно
Оцените книгу
О книге

Будущее уже наступило: роботов и новые технологии человек использует в воздухе, под водой и на земле. Люди изучают океанские впадины с помощью батискафов, переводят самолет в режим автопилота, используют дроны не только в обороне, но и обычной жизни. Мы уже не представляем мир без роботов.

Но что останется от наших профессий – ученый, юрист, врач, солдат, водитель и дворник, – когда роботы научатся делать все это?

Профессор Массачусетского технологического института Дэвид Минделл, посвятивший больше двадцати лет робототехнике и океанологии, с уверенностью заявляет, что автономность и искусственный интеллект не несут угрозы. В этой сложной системе связь между человеком и роботом слишком тесная. Жесткие границы, которые мы прочертили между людьми и роботами, между ручным и автоматизированным управлением, только мешают пониманию наших взаимоотношений с робототехникой.

Вместе с автором читатель спустится на дно Тирренского моря, чтобы найти древние керамические сосуды, проделает путь к затонувшему «Титанику», побывает в кабине самолета и узнает, зачем пилоту индикатор на лобовом стекле; найдет ответ на вопрос, почему Нил Армстронг не использовал автоматическую систему для приземления на Луну.

Книга будет интересна всем, кто увлечен самолетами, космическими кораблями, подводными лодками и роботами, влиянием технологий на наш мир.

читайте онлайн полную версию книги «Восстание машин отменяется! Мифы о роботизации» автора Дэвид Минделл на сайте электронной библиотеки MyBook.ru. Скачивайте приложения для iOS или Android и читайте «Восстание машин отменяется! Мифы о роботизации» где угодно даже без интернета. 

Подробная информация

Переводчик: 

Виктория Краснянская

Дата написания: 

1 января 2015

Год издания: 

2016

ISBN (EAN): 

9785961446944

Дата поступления: 

30 мая 2020

Объем: 

527047

Правообладатель
1 860 книг

Поделиться

Serkona

Оценил книгу

Хорошее профессиональное исследование от человека, который разбирается в своей теме.

Если Вы все еще боитесь Скайнет и ждете Джона Коннора, то стоит прочитать эту книгу и понять, как и где сегодня взаимодействуют человек и робот. «Сегодня», кстати, здесь относительное, потому что люди применяют роботов примерно с середины XX века. Используют роботов, совершенствуют их, вполне успешно контролируют.

Во многом, книга посвящена роботам как помощникам ученых. В этой сфере у них тоже были (и есть) проблемы, но их решают. У автора получилось интересно описать сугубо научно-технические вопросы, что здорово на мой взгляд. Кроме научных проблем книга посвящена и вполне бытовым вещам, которые касаются каждого из нас (мне было интересно и важно узнать, как автоматизированные системы применяются при пилотировании самолета. Так спокойнее в салоне сидеть).

Между делом Дэвид Минделл поговорил и о будущем. Например, об автомобилях без водителя. Здесь он критикует разработки Google и обоснованно, с моей точки зрения, критикует проект. Отдельным плюсом книги назову понятное изложение, доступное человеку, далекому от этой сферы. Так что если вы гуманитарий, но хотите немного разобраться в теме, то книгу стоит взять.

Нашла только один минус. При хорошей структурированности книги, автор иногда углубляется в достаточно мелкие детали. Может быть, они важны, но в моем случае детали замедляли темп чтения, я вязла и путалась в тексте. Опять же, для подготовленного читателя подробности могут добить достоверность информацию или раскрыть что-то новое.

Рекомендую читать после Юваля Ноя Харари, неплохо расширяет картину мира.

Поделиться

PavelMozhejko

Оценил книгу

«Люди устроены по-особому. Во многом они не столь разумны, как мы, роботы, поскольку их цепи в меньшей степени запрограммированы. Говорят, что это имеет свои преимущества». (Айзек Азимов «Стальные пещеры»)

Миллионы лет назад наши предки изготовили первое примитивное орудие труда. А сейчас, в нашем распоряжении огромное количество разнообразных устройств, использующих новейшие научные и технические достижения. Вслед за ремесленничеством пришли мануфактуры, за ними заводы и фабрики, их сменили крупные автоматизированные производства, а вслед за автоматизацией пришла роботизация. Глядя на этот исторический вектор, можно заметить, что роль человека в цепи производства неизменно снижается, стремясь к нулю. Все чаще вокруг нас звучат выражения: искусственный интеллект, автопилот, нейросети, компьютерное зрение и пр. Кажется, еще чуть-чуть, и роботы станут отдельной независимой частью производства, и более того, самой жизни. Но стоит ли нам бояться того, что в ближайшее время более работоспособные, быстродействующие и точные автоматизированные механизмы вытеснят человека из различных сфер его деятельности? Дэвид Минделл, профессор истории развития техники и промышленности Массачусетского технологического института, имеющий 35-летний опыт исследования подводного мира при помощи робототехники, а также занимающийся автоматизацией воздушных судов, утверждает, что бояться тотальной роботизации в ближайшее время не стоит. И эта книга как раз об этом.

«За долгие годы накопления опыта, поиска и разговоров с людьми я убедился в том, что мы должны изменить свое мнение по поводу роботов. Даже язык, на котором мы о них говорим, взят скорее из научной фантастики XX века и не имеет ничего общего с техническими достижениями современности. Например, дистанционно управляемые летательные аппараты называются дронами, как будто они являются лишенными разума автоматами, в то время как на самом деле они строго контролируются людьми. Роботов часто представляют (и продают) как полностью автономных посредников, однако даже сегодняшняя ограниченная автономность зачастую существует только в человеческом воображении. Роботы, которых мы столь широко и разнообразно используем, едва ли являются автоматами, несущими угрозу, – они внедрены в социальные и технические сети, как и мы сами. <…> Моя цель – уйти от этих мифов и осмыслить концепцию автономности в контексте XXI века

Дэвид Минделл считает, что все мифы о «восстании машин» берут свое начало из неправильного понимания сути автоматизации, а также, неверного определения роли человека в том или ином процессе. Давайте представим себе линию, соединяющую два полюса. На левом полюсе будет человечество, не владеющее орудиями труда и тем более средствами автоматизации. На правом, будет мир «восставших машин», где человек не играет никакой роли. Так вот, левый полюс мы уже никогда не увидим, потому что он остался с нашими далекими предками в глубине веков. Тотальный мир машин нам также не известен, потому что до сих пор, как бы не была сложна та или иная машина, как правило, она не умеет сама добывать себе энергию, самовоспроизводится, принимать сложные решения в уникальных и непредсказуемых ситуациях. А все остальное, находится между этими полюсами, т.е. представляет собой синтез умений человека и способностей машин. Так, например, может показаться, что условный автопилотируемый автомобиль «Тесла» может однажды самопроизвольно совершить наезд на человека. Но если подробно разобрать ситуацию, станет понятно, что «Тесла» - это не отдельное существо, а его автопилот – это всего лишь компьютерное зрение, работающее по определенным алгоритмам, которые… задает ЧЕЛОВЕК. Таким образом, в этой ситуации мы видим не «бунт машины», а ошибку программиста или инженера. Подобным образом, можно разобрать самые разные области автоматизации и увидеть, насколько машины до сих пор зависят от человека (хотя верна и обратная связь). Более того, взаимодействие человека с машиной может привести, как к трагическим последствиям, так и к позитивным. Эта двойственность хорошо проиллюстрирована примером катастрофы рейса 447 авиакомпании Air France:

«Катастрофа самолета рейса 447 авиакомпании Air France и операция по поиску его обломков связывают воедино современную автоматизацию и робототехнику в двух экстремальных средах: на границе стратосферы и в глубинах моря. Воздушное судно упало в океан из-за ошибок во взаимодействии человека с автоматизированными системами. Потом его обломки были обнаружены людьми с помощью дистанционно управляемых и автономных роботов.»

*Схема батискафа "ЭЛВИН"

Чтобы избежать недопонимания, Дэвид Миндел задаётся определением автономности, акцентируя внимание на информацию:

«В данной книге рабочее определение автономности будет таким: разработанные человеком средства преобразования информации, получаемой из окружающей обстановки, в целенаправленные планы и действия

Автор выделяет три мифа о робототехнике, ведущие к искажению правильного ее понимания.

«Давайте перечислим три мифа XX века, связанные с робототехникой и автоматизацией. Первый миф – о линейном прогрессе – идея о том, что техника перейдет от непосредственного управления человеком к дистанционному контролю, а затем – к полностью автономным роботам. <…> Но нет никаких оснований предполагать, что эволюция пойдет именно по этому пути, что «непосредственно технологии», как пишет Сингер, приведут к чему-то подобному. На самом деле существуют подтверждения того, что люди постепенно входят в более глубокий контакт со своими машинами.
<…> Самые развитые (и сложные) технологии – не те, которые работают отдельно от людей, а те, что наиболее глубоко внедрены в социальную систему и быстрее откликаются на происходящее в ней. Второй миф – миф о замещении, идея о том, что машины начнут постепенно брать на себя все выполняемые людьми задачи. Этот миф является родившейся в XX веке версией того, что я называю феноменом железной лошади. Первоначально люди воображали, что железные дороги сведут на нет необходимость в лошадях, но поезда показали себя весьма неважными лошадьми.
<…> Наконец, у нас есть третий миф – миф о полной автономности, утопическая идея о том, что сегодня или в будущем роботы смогут действовать полностью самостоятельно. Да, автоматы, конечно, могут взять на себя часть задач, ранее выполняемых людьми, и они действительно способны в течение некоторого ограниченного периода времени действовать самостоятельно в ответ на изменения окружающих условий. Но машины, которые не зависят от указаний человека, – это бесполезные машины. Только камень может быть действительно автономным (но даже камень был создан и помещен на свое место благодаря окружающей его среде).»

Постепенное расширение использования автоматизации приводит нас к так называемой «дилемме автоматизированных систем»:

«Дилемму автоматизированных систем, с которой сталкиваемся мы все: когда компьютеризированное управление отделяет нас от реальной сущности задач, мы можем потерять способность работать без компьютеров и стать совершенно другими людьми. Если эти системы откажут или утратят связь, как это неизбежно, хотя и редко, происходит, мы, возможно, не сумеем снова включиться в процесс и вновь стать такими же людьми, какими были раньше.»

Дэвид Минделл выделяет два типа автоматизации: информационную и управляющую:

«Пример индикаторов на лобовом стекле показывает, что, пытаясь решить проблемы с автоматизацией, возникающие в авиации и других отраслях, мы должны искать новаторские разработки, которые соединяли бы людей и машины, а не просто добавлять новое оборудование и программное обеспечение. Некоторые из этих разработок получили название «информационная автоматизация»: она в новых формах снабжает данными пилотов-людей и противопоставлена «управляющей автоматизации», которая на самом деле ведет вместо них самолет.»

Цитируя Кэти Эббот, автор отмечает одно из главных свойств автоматизации - смену локализации ошибок:

«Кэти Эббот – доктор философии в области вычислительных систем, главный научный консультант и технический эксперт Федерального управления гражданской авиации США по человеческим факторам в автоматизации кабины экипажа и сопредседатель рабочей группы. Она подчеркивает, что автоматизация не исключает человеческого вовлечения в управление самолетом, но, скорее, переносит его. Автоматизируя задачи, «мы не исключаем возможность человеческой ошибки, – объясняет Эббот, – мы просто меняем место, где ошибка происходит». Более того, она указывает на то, что опытные пилоты совершают такое же количество ошибок, как и менее опытные, но это ошибки другого плана. С точки зрения познавательного процесса ошибка – это «побочный эффект наличия мозгов» и необходимая для обучения вещь.»

Роботы и специальные машины как правило отлично выполняют операции узкого спектра, но им сложно работать в изменяющихся условиях, так, как это делают люди. Отсюда вытекает еще одно важное правило:
«Что хорошо для роботов, то хорошо и для людей; что затруднительно для людей, то, как правило, гораздо труднее сделать роботу.»
В своей книге, Дэвид Минделл каждую главу посвятил определенному направлению автоматизации и роботизации. Глава «В море» посвящена глубоководным исследованиям аппаратами «Элвин», «Ясон», «ANGUS» и пр. В ней можно увидеть, как постепенно присутствие человека в самом аппарате переросло в дистанционное управление роботизированным «блуждающим глазом». Глава «В воздухе» рассказывает историю автоматизации управления воздушными суднами, описывая цепочку: ручное управление – автопилот и системы автоматической посадки – ИЛС (индикаторы на лобовом стекле) – комбинация всех предыдущих пунктов. Глава «На войне» посвящена исключительно практике эксплуатации военных БПЛА «Предейтор» ВВС США. Отсюда можно узнать, каково это, быть пилотом машины, летающей на расстоянии в половину земного шара, вовлекаются ли пилоты БПЛА в процесс управления сильнее, нежели пилоты истребителей, и считается ли такая профессия престижной. Глава «В космосе» посвящена в частности телескопу «Хаббл» и его ремонту, а также различным луноходам и марсоходам. Отсюда можно узнать, насколько просто или легко управлять марсоходом при 20-минутной задержке сигнала. Отдельная глава посвящена доказательству того, что истинная автономность на данный момент – утопия. Здесь же можно увидеть критику взглядов на автоматизацию компании Гугл, стремящейся полностью исключить человека, например, из процесса управления автомобилем, вместо того, чтобы дополнить его возможности и упростить эту задачу. В этой же главе затронуты некоторые морально-этические вопросы роботизации.

«Мы рассказывали истории о машинах трех типов: управляемых человеком, как пассажирские самолеты, на которых мы летаем каждый день; удаленно управляемых, как подводные дистанционно управляемые аппараты, которые исследовали и составляли карты древних обломков кораблекрушений; и автономных, как подводный аппарат АВЕ или марсианские роверы, связанные с человеком не настолько непосредственно и способные принимать самостоятельные решения. Мы следовали за людьми и машинами через большие системы и информационные сети. В каждом случае мы становились свидетелями присутствия, решений и экспертного опыта человека и наблюдали изменения, вызванные новыми технологиями, пусть и не всегда ожидаемые. Не сами роботы меняют сущность работы и людей, которые ее выполняют, а новые комбинации людей и автоматических машин

Близкое взаимодействие человека и машины порой делает трудноопределимым род деятельности, что хорошо видно на примере пилотов БПЛА:

«Формулирование требований к подготовке и норм приема на работу было отложено на годы из-за разногласий по поводу того, должны ли пилоты «Предейтора» считаться «летным экипажем» или «операторами летательного аппарата». В субкультуре военно-воздушных сил летным экипажем считались пилоты, которые получали летную денежную надбавку и дополнительную оплату за время выполнения боевой задачи, тогда как «операторы летательных аппаратов» таких надбавок не получали. Разница между «настоящими» солдатами, действующими на переднем крае, и тысячами специалистов обеспечения в военной социальной структуре была значительной. «Предейтор» подточил это разграничение, создав «удаленных солдат».

Блок управления беспилотником MQ-1 Predator

На примере авиации мы видим, насколько важно пилотам чувствовать свою вовлеченность в процесс управления воздушным судном:

«Хэнк обнаружил, что пилоты не доверяют системе автоматической посадки. «Они просто не понимали, что происходит: эта штука ведет мой самолет, а я не в курсе, что она делает». Получив индикаторы на лобовом стекле, как выяснил Хэнк, «они начали думать: "Хорошо, теперь самолетом снова управляю я"». Некоторые заказчики стали просить установить индикаторы вместо системы автоматической посадки. <…> Некоторые полагают, что благодаря полетам с индикатором на лобовом стекле улучшились их навыки ручного управления: «Я был хорошим пилотом, но теперь я просто великолепен». По словам одного летчика, «это отдельно взятое техническое усовершенствование действительно развивает навыки использования штурвала и педалей рулевого управления, а также повышает степень уверенности пилота». Часто это ощущение контроля резко отличается от того, что происходит на более автоматизированных самолетах: «Так что компьютер еще и приглядывает за нами. Это не как на "Аэробусе"», где даже есть знаменитая шутка о последних словах пилота: "Что происходит? Оно не работает, бум!" Мы по-прежнему контролируем ситуацию. Мы можем отвергать решения компьютера, но он нам помогает».
<…> Поскольку программное обеспечение только создает символы, а не меняет положение плоскостей управления (что некоторые люди до сих пор подразумевают под управлением самолетом), пилоты могут обрабатывать его данные, улучшать результат и оставаться более вовлеченными в процесс

*Индикатор на лобовом стекле (ИЛС (англ. head-up display, HUD)

В распространении автоматизации играет свою роль и маркетинг, используя некоторые лингвистические уловки:

«В общем, автопроизводители не уклоняются от пути постепенного внедрения изменений, продавая элементы автоматики под обозначением «средства безопасности», а вовсе не как средства автономии

На примере подводных аппаратов Дэвид Минделл формулирует общую тенденцию автоматизации:

«Так или иначе, но границы между пилотируемыми, дистанционно управляемыми и автономными подводными аппаратами начинают размываться. Инженеры сейчас грезят об исследованиях океана при помощи многочисленных аппаратов, работающих согласованно. Внутри некоторых из них могут быть люди, другие окажутся дистанционно управляемыми или автономными, и каждый из этих аппаратов будет способен работать в любом из режимов в нужные моменты времени

Это неочевидно на первый взгляд, но иногда, на пути автоматизации стоят не проблемы, вызванные недостаточностью технологий, а проблемы с «социализацией» технологии, выдачей ей кредита доверия от общества. Примером тому могут послужить беспилотные пассажирские самолеты.

«С точки зрения техники автоматизация рулежки, процедур взлета, следования воздушной трассе и посадки уже хорошо зарекомендовала себя. Сам по себе беспилотный самолет – кажется, уже решенная техническая задача, но лишь в том случае, если не брать в расчет его человеческое окружение. И вновь мы увидели, что полностью автономное функционирование – не такая уж большая проблема. Можно сказать, что данная технология уже есть в наши дни, но приобрести социальную значимость и начать приносить общественную пользу ей мешает то, что для этого нужны не только сами машины, но и являющиеся частью повседневной жизни социальные, политические и экономические системы, в которых есть место для вышеназванных машин и в которых они приносят практическую и опытную пользу, а это проблема гораздо более широкого плана.»

Но даже прошедшая «социализацию» технология требует решения еще одного очень важного вопроса – вопроса ответственности.

«Юристы и законоведы лишь начинают изучать проблемы ответственности, связанные с эксплуатацией автомобилей без водителей. Если в вашем понимании автономность – это когда транспортное средство само принимает решения, то цепочка ответственности может оказаться прерванной. Кто будет виноват, если ваш «гугломобиль» свалится вместе с вами в кювет? Этот вопрос касается не только того, что именно юристы пропишут в контрактах, он касается фундаментального понимания автономности: если некая система действительно работает самостоятельно, то как ее производитель может быть виноват, если что-то пойдет не так? (Некоторые полагают, что традиционное понимание ответственности производителя применимо и здесь: если компания выпускает продукт, она же и несет за него ответственность.) С практической точки зрения как можно выдать сертификат безопасности на программное обеспечение для машины без водителя?
<…> Сторонники «гугломобилей» и многие журналисты технической прессы упускают из виду то, что вопросы ответственности за возможный риск и сертификацию техники – отнюдь не второстепенные «социальные» проблемы на пути этого, в остальных отношениях независимого технического новшества. Напротив, именно эти проблемы и являются ключевыми в деле автономии, и поиск решений принципиально важен для определения будущего и наших роботов, и нас самих. Это не просто какие-то технические вопросы – это вопрос о том, кому доверять управление

***
У Дэвида Минделла получилась интересная и увлекательная книга, одновременно восхваляющая технологии автоматизации и очерчивающая важные вопросы, с ней связанные. Это отличное «техническое» чтиво, которое понравится как будущим или явным инженерам, так и любителям твердой научной фантастики ближнего прицела.
Главный вывод, который можно сделать из книги Минделла заключается в том, что «восстание машин» действительно отменяется. Не будет никакой одномоментной революции, когда роботы и автоматы «сойдут с ума» и заживут своей жизнью. До сих пор во всех процессах в разных узлах цепи управления ключевую роль играет человек, и его роль хоть и меняется в своей сути, но не теряет своей важности. Более того, все способы управления эволюционируют и взаимно проникают друг в друга, образуя при синтезе новые способы взаимодействия друг с другом.

«Нет постепенного линейного перехода от управляемых людьми аппаратов к дистанционно управляемым, а от них – к автономным. Вместо этого мы наблюдаем процесс слияния. Ручной режим управления, дистанционный и автономный развиваются совместно, и грани между ними постепенно стираются

***
В чем заключается парадокс авиации, сколько человек на самом деле задействовано в управлении военным беспилотником, почему Google не прав, кто такие «дети пурпура», как ошибаются операторы беспилотников и прочее, смотрите в дополнительных ЗАМЕТКАХ-ЦИТАТАХ ниже.

ЗАМЕТКИ
В чем заключается парадокс авиации, и кто такие «дети пурпура»?

«Авиации свойственен парадокс: по мере увеличения автоматизации возрастает безопасность во многих аспектах, но на пилотов в то же время ложится больший груз. Каждая техническая система может в какой-то момент отказать, а люди в эти критические минуты будут вынуждены вмешаться. Но, слишком отдалившись от своей машины, они, вероятнее всего, растеряли свои навыки, и тогда их вмешательство может привести к беде. Именно это случилось с рейсом 447 авиакомпании Air France. Но просто обвинить пилотов и объяснить все эти аварии и несчастные случаи «человеческими ошибками» не значит понять суть проблемы.
<…> На видео, записанном в 1990-е годы, мы можем увидеть учебный семинар авиакомпании American Airlines, где опытный пилот-инструктор сокрушается по поводу «детей пурпура» – пилотов, которые стали столь зависимы от автоматизации, что просто откидываются на спинку кресла и позволяют компьютеру вести самолет по курсу, который на мониторе показывается пурпурной линией.»

Значимость индикаторов ИЛС в цифрах:

«Сотрудники фонда рассмотрели почти тысячу аварий с участием коммерческих и корпоративных авиалайнеров за двенадцать лет (1995–2007) и попытались определить, какое влияние мог бы оказать ИЛС при его наличии. Они пришли к выводу, что современные, конформные индикаторы с широким полем зрения могли предотвратить 38 % аварий, разобранных в этом исследовании, и почти 70 % аварий при взлете и посадке. ИЛС обеспечивал безопасность во многих отношениях, но самую главную роль играл вектор направления полета.»

Как вовлекаются в управление беспилотниками их пилоты?

«Паря над землей и разглядывая свою цель с высоты, операторы средств обнаружения БПЛА «Предейтор» начинают «чувствовать себя так, как будто сами являются приборами обнаружения», имея в виду маленький купол с камерами, лазерами и сервомеханизмами, который находится под носом летательного аппарата. Сидя в своем трейлере, пилоты и операторы средств обнаружения выворачивают шеи и двигаются так, будто пытаются рассмотреть объект на экране сверху или заглянуть за него. Иногда во время напряженных моментов они начинают переговариваться шепотом, хотя даже их самый громкий крик невозможно услышать там, где находится аппарат. Инструкторы думают, что такое ощущение присутствия позволяет операторам средств обнаружения сосредоточивать внимание на месте действия, испытывать больший интерес к тому, что они видят, быстро обнаруживать движение и реагировать на аномалии. Летчики-истребители, которые действительно летают над полем боя, признают, что не испытывают такого реального ощущения присутствия, как операторы средств обнаружения. Из-за сочетания различных факторов – от размера экрана до наличия других людей – приборы обнаружения на их реактивных самолетах не дают такого эффекта присутствия.»

БПЛА в цифрах (сколько на самом деле задействовано человек в управлении беспилотником):

«Каждая группа боевого воздушного патрулирования, способная нести продолжительное 24-часовое дежурство над целью, состоит из четырех аппаратов. Несмотря на то что группа называется беспилотной, для обеспечения ее работы требуется более 150 человек. По состоянию на 2009 год в управлении летательными аппаратами типа «Предейтор» участвует почти 4 % всего персонала военно-воздушных сил и более 9 % пилотов. Производство БПЛА «Предейтор» А закончилось в 2011 году, но «Предейтор В», так же называемый «Рипер», – более тяжелая вооруженная модель, у которой в два раза больше запас по скорости и дальности полета и в десять раз больше грузоподъемность – по-прежнему сходит с лент конвейеров.»

Суть военных БПЛА:

«Задача «Предейтора» не равна той, которую может выполнить одно воздушное судно, один пилот или автономный дрон. Скорее, этот аппарат принадлежит к глобальной системе со множеством связанных между собой пользователей и заказчиков, находящихся в совершенно разных местах. Для некоторых аппарат представляет собой революцию в военном деле, для других – это просто новое военное орудие в арсенале, для третьих – переход через этическую черту, открывающий возможность убивать на расстоянии. Но чем «Предейтор» не является, так это автономной системой, которая сама принимает решения и обходится без контроля людей.»

Неполное понимание ситуации и искажение информации у операторов "Предейтора":

«Иногда даже поступки и намерения своих военных трудно правильно интерпретировать. Однажды группа боевиков выбежала из горящего здания, и один из них, скорчившись, упал на тротуар. Американские солдаты наземных войск отреагировали на этот инцидент. Операторы «Предейтора» видели, как один из них подошел к боевику, отступил назад, поднял автомат и застрелил его. Команда «Предейтора» подала жалобу на нарушение солдатом законов войны. Эта жалоба стала причиной для начала расследования, которое установило, что на боевике был «пояс шахида» и он собирался его взорвать, когда солдат застрелил его. «Не понимая, что ваше поле зрения ограничено двумя измерениями и 20 градусами, – осознал один из пилотов, – вы думаете, что ориентируетесь в ситуации, тогда как на самом деле не слышите команд».

Награда, отражающая отношение к БПЛА и их пилотам в ВВС США:

«В феврале 2013 года, как бы в ответ на предложение Блэра, уходящий со своего поста министр обороны Леон Панетта объявил о новой награде – медали «За отличие в боевых операциях», для получения которой не требовалось проявлять героизм в реальных условиях и рисковать в бою. Она была учреждена специально для тех, кто управляет дронами или ведет войну в киберпространстве и не имеет права получать другие награды. Новая медаль была призвана отмечать «особые достижения, оказавшие непосредственное влияние на исход боевых или других военных операций и не предполагавшие физического участия в них». В иерархии наград она должна была располагаться над «Бронзовой звездой», присуждающейся за героизм на поле боя, и ниже летного креста «За заслуги». <…> Награжденные орденом «Пурпурное сердце» также присоединились к осуждающим, заявив, что «ставить то, что в целом является наградой за довольно хорошую службу, выше награды за героизм – это унизительно и оскорбительно для любого американского строевого солдата, летчика, моряка или морского пехотинца, рискующего своей жизнью и переносящего ежедневные тяготы в боях во враждебной обстановке». В ответ на эти возражения преемник Панетты Чак Хэйгел приказал упразднить медаль практически сразу же, как принял пост. Через несколько недель эта награда прекратила свое существование.»

Критика решений по автоматизации компании Google:

«Как это ни забавно, именно такая высокотехнологичная компания, как Google, в своей риторике шагает назад в XX век, архаически выставляя водителя пассивным наблюдателем. Их «новый» подход становится жертвой всех трех порожденных XX веком мифов о роботах и автоматизации: 1) автомобильная техника должна логически развиваться до полной, утопической автономности (миф о линейном прогрессе); 2) автономные системы управления освободят водителя от обязанности водить (миф замещения); 3) автономные машины могут действовать полностью самостоятельно (миф о полной автономности). Наши исследования работы систем в экстремальных средах научили нас тому, что такая утопическая автономность рушится при столкновении с реальными условиями среды, в которых людям приходится рисковать жизнью. И в действительности утопия автоматизации от Google оказывается намного более хрупким и менее функциональным решением, чем богатая автоматизация, нацеленная на помощь водителю-человеку. Действительно, присутствие живого водителя в автоматизированном автомобиле вызывает проблемы с путаницей режимов, концентрацией внимания и интерфейсами взаимодействия, но все эти проблемы решаемы – особенно с учетом опыта, полученного нами на уроках экстремальных сред. Однако вместо этого инженеры из Google гонятся за призраком наивной автоматизации, пытаясь поставить задачу таким образом, чтобы ее могли решать программы от Google. Подобный способ формулировки проблем особенно приятен инженерам по причине его замкнутой на себя природы: пусть вождение сводится лишь к навигации и предотвращению столкновений. Данная форма автоматизации может быть приемлема для узкого, локального использования (меня не удивит появление таких машин без водителей в нишевых применениях, например, для развозки пассажиров в пределах парковок или кампусов колледжей, примерно, как это делают монорельсы в аэропортах). Но вождение автомобиля во всей его полноте – социальная активность, которая испытывает влияние всего разнообразия географических, экономических, культурных и других факторов. Google ничего не говорит о том, как их программный код должен учитывать это чудесное многообразие. И, более того, просто потому, что в машинах будут ездить люди, встают непростые вопросы о допустимом риске, надежности и степени вины той или иной стороны в происшествии, на которые необходимо отвечать. У инженеров Google есть привычка постоянно хвалить друг друга за то, что они берутся за самые трудные задачи, но в этом случае они закрыли глаза на все важные и социально значимые проблемы и сделали выбор в пользу узких алгоритмических решений.
<…> Эксперименты подсказывают нам подход, альтернативный тому, который предлагает компания Google, – не устранять водителя, а заново продумать его роль

*Марсоход Curiosity и его селфи на Марсе

МОЕ МНЕНИЕ ОБ ИЗДАНИИ:
Качественное издание в традиционном для «АНФ» оформлении.
Формат стандартный (145x215 мм), твёрдый переплёт, без суперобложки, 310 страниц.

Достоинства издания: хорошее качество печати; белая бумага; твёрдый переплёт, наличие колонтитулов, информация об авторе, примечания, предметно-именной указатель, ч/б иллюстрации с подписями.
Недостатки издания: не обнаружено.

ПОТЕРЯЛ БЫ Я ЧТО-НИБУДЬ, ЕСЛИ БЫ ЕЕ НЕ ЧИТАЛ:
Больше да, чем нет. Не сказать, что автоматизация и роботизация были * моим главным интересом (хотя некоторые мысли о ней очень интересны и важны). Больше меня впечатлил «эффект присутствия», который дает эта книга, когда читаешь про управление беспилотником, самолетом или марсоходом. Это чем-то напоминает чтение твердой научной фантастики.

КОМУ ПОРЕКОМЕНДОВАЛ БЫ:
Книга будет интересна тем, кто увлекается техникой в целом, и автоматизацией в частности. Любому любознательному человеку будет интересно узнать о том, как операторы взаимодействуют со сложными машинами, такими как авиалайнеры, военные БПЛА, марсоходы и субмарины. Книга может быть интересна любителям твердой научной фантастики ближнего прицела.

ВИДЕО В ТЕМУ: Иронию, над миром победившей тотальной роботизации, можно увидеть в эпизоде «Три робота» из сериала «Любовь, смерть и роботы» (2019) по ссылке ниже.

02:10

Chitatel_S

Оценил книгу

В книге рассказывается не о проблемах, которые могут возникнуть при возникновении искусственного интеллекта, - оказалось, что автор рассуждает о степени автоматизации отдельных процессов в отдельных сферах деятельности. Да и заглядывает он недалеко в будущее, в основном анализируя эффективность современных роботов и автоматизированных систем.

Автор - профессор аэронавтики и астронавтики, а также профессор Массачусетского технологического института, посвятивший больше двадцати лет робототехнике и океанологии, с уверенностью заявляет, что автономность и искусственный интеллект не несут угрозы. В этой сложной системе связь между человеком и роботом слишком тесная. Жесткие границы, которые мы прочертили между людьми и роботами, между ручным и автоматизированным управлением, только мешают пониманию наших взаимоотношений с робототехникой.

Вместе с автором читатель спустится на дно Тирренского моря, чтобы найти древние керамические сосуды, проделает путь к затонувшему «Титанику», побывает в кабине самолета и узнает, зачем пилоту индикатор на лобовом стекле; найдет ответ на вопрос, почему Нил Армстронг не использовал автоматическую систему для приземления на Луну.

Автор развенчивает и некоторые "мифы" XX века:
1. Миф о линейном прогрессе – идея о том, что техника перейдет от непосредственного управления человеком к дистанционному контролю, а затем – к полностью автономным роботам;
2. Миф о замещении – идея о том, что машины начнут постепенно брать на себя все выполняемые людьми задачи;
3. Миф о полной автономности – идея о том, что в будущем роботы смогут действовать полностью самостоятельно.

Неожиданно для себя узнаешь некоторые очень любопытные факты. Например:
- В 1966г бомбардировщик ВВС США В-52 потерпел крушение и уронил в океан неподалеку от берегов Испании водородную бомбу(!). Её пытались поднять с помощью глубоководного аппарата «Элвин», - он обнаружил её на глубине 900м, но не достигнув поверхности снова её уронил(!), причем в ещё более глубокое место, и её так до сих пор и не нашли.

Автор сначала рассказывает о применении глубоководных аппаратов, потом много рассказывает о дронах («Предейтор» и «Рипер») и о их участии в военных действиях, разведке и просто слежке за объектами, в том числе и по охране собственных баз; потом о применении роботов в космосе; о машинах без водителей (на автопилоте).

И везде все сводится к тому, что имеющиеся у нас роботы – это не разумные машины. Они запрограммированы каким-то человеком и эффективны лишь в той мере, в какой программист опишет всевозможные ситуации и действия машины в них. Если робот попадет в ситуацию, которую программист не предвидел, то машина впадет в ступор, в то время как человек предпримет какие-то действия, что эту проблему решить. Полностью автономные роботы есть, но люди обычно боятся им доверять ответственные задания, они предпочитают их дистанционно контролировать, а чаще – просто дистанционно ими управляют (как дронами или глубоководными аппаратами), чтобы избежать возможных ошибок, приводящих к катастрофам и потере дорогостоящей техники.

Автор поднимает проблему излишнего доверия к неразумной ещё технике, приводя пример с катастрофой авиалайнера в 2009г, когда над Атлантикой у Боинга отключился автопилот и пилоты так растерялись, что свалили совершенно исправный самолет в океан (все погибли). О том, как оператор дрона однажды расстрелял колонну мирных граждан, едущих на свадьбу, приняв их за боевиков (если даже человек ошибается, то как это можно доверить машине?!).

Читается легко, но очень скоро устареет, так как, повторяюсь, автор описывает проблемы современности.

Поделиться

Еще 1 отзыв
иногда большая степень автоматизации на самом деле является менее мудрым решением.
10 августа 2018

Поделиться

навыки летчиков совершенствуются благодаря непосредственной практике управления самолетом, а не простому наблюдению.
10 августа 2018

Поделиться

Хэнк обнаружил, что пилоты не доверяют системе автоматической посадки. «Они просто не понимали, что происходит: эта штука ведет мой самолет, а я не в курсе, что она делает»
10 августа 2018

Поделиться

Еще 11 цитат

Переводчик

Другие книги переводчика