Собственно, прочитал эту книгу из чисто спортивного интереса. Хотелось понять, считает ли Мередит Бруссард, как и большинство людей (а тем более большинство журналистов), что ИИ = большой смартфон, запрограммированный гениальным хакером или нет?
Ответ (да, считает) получил очень скоро. Те, кто общался со мной на Лайвлибе или в оффлайне, знают, что я категорически против такой трактовки. Но книгу всё-таки дочитал, поскольку автор -- не простой журналист, а какой-то "вычислительный". Стало любопытно, что же это такое.
Да, мои взгляды значительно отличаются от её.
Во-первых, отличие есть в словах. В определениях.
Есть ИИ -- искусственный интеллект, и есть МА -- механизация и автоматизация. Автор всё время говорит об МА, хотя называет его ИИ.
Это противоречие легко преодолеть. Всякий раз как Мередит Бруссард говорит "ИИ" читайте "МА". Тогда вы согласитесь практически со всеми её идеями. Читайте также "МА" и вместо "систем с оператором в контуре управления" и тому подобных эвфемизмов. Оттого, что мы кого-то назовём "оператором машинного доения", этот кто-то всё равно останется дояркой и никакого интеллекта в используемом оборудования от этого не появится. Разве что у доярки повысится зарплата, да и то не обязательно.
Мередит Бруссард находится в плену двух заблуждений, как, впрочем, и большинство современных людей.
Первое терминологическое, я о нём уже сказал только что. Поскольку ИИ на сегодня не существует, все приведённые в книге примеры лишены предполагаемого автором смысла.
Да, почитать об этом интересно, но совершенно излишне всякий раз доказывать, что это всего лишь тупая программа, а не интеллект.
Парадокс в том, что автор не видит, что все приведённые примеры с разных сторон приближают мир к рождению настоящего интеллекта. При этом, как только машина оставляет в чём-то человека позади, так сразу человек объявляет, что именно для этого рода деятельности интеллект не нужен.
Вот пример.
Когда-то давно я играл в шахматы с программой Каисса. Скажу вам, когда эта огромная шумная железяка берёт у вас фигуру, это реально впечатляло! Машина понимала игру, строила комбинации, даже жертвовала, когда надо, пешки.
Тогда у неё ещё можно было выиграть, и большинство людей придерживалось мнения: пусть машина выиграет у гроссмейстера, тогда мы признаем её умной. Подтекст подразумевал: этого не будет никогда.
Машина выигрывает теперь у гроссмейстера. И что?
А ничего. Теперь оказывается, машина делает что-то не так. Не как человек. Не играет она, якобы, а перебирает варианты или что-нибудь в таком духе. Что угодно делает, но только не играет.
В этой логике выходит: если самолёт летает не как птица, то это означает, что он что́? не летает?
Другой пример: машинный перевод.
Ну-ка найдите человека, который сможет перевести простую фразу с йоруба на маратхи. Может быть, есть такой человек, но замучаешься его искать. А google translate не только переведёт, но и вслух скажет.
Тоже, видимо, что-то как-то не так делает google. Не переводит. И вообще, для перевода с йоруба на маратхи интеллект не требуется.
Ну хорошо, пусть так. Однако, повторюсь: ключевое понятие тут такое, что всё это вместе приближает нас к тому моменту, когда мы сможем обсудить с машиной "Братьев Карамазовых", и она нас поймёт! И не говорите вслед за Мередит Бруссард, что этого не будет никогда. Будет. Ещё очень не скоро будет, зато наверняка знаю: когда это случится, Мередит Бруссард объявит, что для обсуждения Братьев интеллект не требуется.
Автор обзывает меня техношовинистом. OK, принимая во внимание только что сказанное, я в ответ обзову её гомошовинисткой. Ещё неизвестно, у кого ярлык хлеще получится :)
Ещё одна ошибка, свойственная Мередит Бруссард, как и абсолютному большинству людей такая. Она считает, что в людях и собаках есть некая недостижимая и непостижимая нематериальная волшебная сущность. И сущности этой никогда не может быть у машины. Рассуждая об автомобилях без водителя, она говорит так:
Разум – вот ключевая проблема. А поскольку не существует способа запрограммировать теорию мышления, машина никогда сможет реагировать на препятствия так же, как человек.
Вот так вот. Никогда.
И тут же рассказывает, как, по её мнению, управляется беспилотный автомобиль. Примерно так:
switch (объект) {
case столб: объехать_столб()
case светофор: объехать_светофор()
case человек: объехать_человека()
case собака: объехать_собаку()
case птица: хрен_с_ней__сама_улетит()
...
...
}
Скажу честно: я не знаю, как управляется беспилотный автомобиль. Но я съем свою шапку, если программа выглядит так, как показано. Ставлю рубль, что при такой программе управления автомобиль не доедет и до первого столба, потому что ему встретится на дороге не учтённая программистами кошка или стрекоза.
Вот ещё на ту же тему:
Машинное обучение (ML) предполагает, что каким-то образом компьютер обзавелся субъектностью и разумом, поскольку он «учится», ведь обучение – это слово, которое применяется к разумным существам вроде людей (или частично разумным, например животным).
Тут снова призову на помощь google. Отлично помню, как лет пять назад смеялся над его переводом фразы 'this fly can fly' = "этот летать может летать". Проверьте сами, сегодня перевод предлагается такой: "эта муха может летать". Выходит, google учится? По логике автора, каким-то образом компьютер обзавелся-таки субъектностью и разумом?
Ну и уж до кучи.
Если вы удалите из компьютера его часть, то он просто перестанет работать.
Это не так. Даже вычислительным журналистам не дано всё знать.
В 80-х годах прошлого века я работал с машиной СМ-2. Это была отечественная разработка, программно совместимая с Hewlett Packard и предназначенная для управления опасными и ответственными процессами. В частности, такая машина управляла климатической установкой Мавзолея Ленина. Для этого у неё было два одинаковых процессора.
Многие сегодня мне не поверят, но работала она так.
1. Запускаем программу. Два процессора весело моргают.
2. Выдёргиваем один из процессоров из розетки. Он гаснет, но второй продолжает моргать. Программа работает, хотя и медленнее.
3. Выдёргиваем выключенный процессор из стойки, вставляем вместо него новый, набираем волшебный код на пульте и давим кнопку "Пуск". Оба процессора моргают, программа ничего не заметила.
Как тебе такое, Илон Маск?
И ещё об обучении.
Мередит Бруссард описала в красках процесс программирования AlphaGo. Всё сделали люди. Они заложили в базу данных 30 миллионов партий, сыгранных людьми, и у них вышла тупая железяка, которая только и умеет, что выполнять заложенные в неё заранее алгоритмы игры в го.
Вот если бы машина сама научилась играть в го!..
Насколько я понимаю, написала она это в 2017 году.
И надо же такому случиться! Мередит поторопилась всего чуток! В том же 2017 году IBM сообщила о программе AlphaGo Zero. В программу заложили только правила постановки фишек в го. После этого она сыграла сама с собой несметное число партий и обыграла чемпиона мира! Сама, блин, научилась!
Более того, через некоторое время та же программа научилась играть и в шахматы. Думаю, со временем, может освоить и преферанс, почему бы нет?
Полагаю, Мередит Бруссард сильно расстроилась, когда об этом прочитала.
Ещё видел странность:
Не буду вас обманывать: программирование – это математика. И если кто-то пытается убедить вас в обратном, что, мол, без математики можно научиться программировать, то, скорее всего, вам пытаются что-то продать.
Это ложь. Точнее говоря, девушка не знает, что такое математика.
Обещаю: ничего никому продавать не собираюсь. Просто проделаем эксперимент.
Берём знакомого программиста и просим его решить уравнение dy/dx = ky.
9 из 10 программистов этого сделать не смогут. То есть, разумеется, через несколько минут они найдут решение в интернете. Но математики они не знают и не переживают от этого. Они прекрасно вколачивают программы любой сложности на любом языке для любой системы.
Программирование больше всего похоже не на математику, а на решение кроссвордов. Ну или, как совершенно справедливо выражается Мередит Бруссард:
Современное программирование похоже на ремесло – на строительство дома или создание мебели.
Ещё больше -- на отвёрточную сборку мебели из Икеи.
Книга полна также обычной журналистской демагогии с уклоном в эмоции.
Пока еще никому не удалось создать подобные аппаратное и программное решения, которые гарантировали бы безопасную езду в любой местности и при любой погоде.
Это правда. Правда также и то, что пока еще никому не удалось создать живых водителей, которые гарантировали бы безопасную езду в любой местности и при любой погоде. Но ничего, ездят.
И ещё фразы про детей, старушек и злобных программистов-маньяков вроде такой:
Захотите ли вы оказаться на одной дороге или на тротуарах, проехать на велосипеде рядом с автомобилями без водителей с сомнительной программой, настроенной на убийство вас или водителя?
Уж не знаю, на убийство чего или кого настроен автомобиль, но он уж точно будет гораздо реже, чем белковый пушистый водитель:
-- пить за рулём,
-- отвлекаться на музыку или новости,
-- превышать скорость,
-- выезжать на встречку,
-- пытаться проскочить перекрёсток на красный,
-- сносить шлагбаум и таранить товарный поезд
-- и т.д. и т.п.
Самое главное же и неожиданное вот что: несмотря на всё перечисленное (и не перечисленное) книга мне понравилась! Удивительно, но это так.
Я специализируюсь на разделе журналистики данных под названием вычислительная журналистика, ее также называют анализом алгоритмической ответственности.
...
С помощью этой книги я хочу воодушевить людей. Я хочу, чтобы они поняли принципы работы компьютера и перестали бояться программ.
Я знаю принципы работы компьютера (полагаю, даже лучше, чем Мередит Бруссард) и не боюсь программ. Но про вычислительную журналистику ничего не знал. Это оказалось и интересно, и полезно.
Узнал и ещё много-много всего.
Например, государственные школы в Филадельфии, каковы они были 10 лет назад, до изумления похожи на наши нынешние. И ничего удивительного, что некоторые учебники в них стоят по сто баксов и более. Так всегда бывает, когда за дело берётся государство. И никакие технологии, разумеется, ученикам не помогут.
Вот на эту тему свежайший анекдот:
Мой ребёнок учится дома.
Прошу администрацию школы сдать деньги на новые шторы и ремонт мебели.
В Америке жизнь действительно кипит. Процветает общественная дискуссия на любые самые завиральные темы. Никто не боится оскорбить чьи-то чувства или заработать обвинение в распространении фейков. В результате они постоянно снабжают мир как безумными идеями, так и неоценимыми научными, техническими и культурными новинками.
Постоянно в самых неожиданных местах проходят какие-то сумасшедшие мероприятия. Обычно они ничего хорошего не дают, но раз в несколько лет на них знакомятся люди, которые потом создают Google, Amazon и т.п.
Мередит Бруссард однажды даже выиграла такой "хакатон в автобусе". Счастья это ей не принесло, но впечатлений оставило море.
Кроме того Мередит Бруссард рассказала о своей работе преподавателя и о нескольких проектах, в которых принимала участие.
Один из проектов она сделала практически в одиночку. Чтобы я понял, она рассказала о запутанной системе финансирования избирательных кампаний в США. Я давно потерял нить её рассуждений, понял только, что всё офигительно сложно у них. И оказалось, что Мередит всё это собственными руками запрограммировала. Я оценил сложность и красоту её решений.
Респект и уважуха!
Убеждения Мередит Бруссард в том, что в IT-индустрии существует заговор мужчин против женщин, я не разделяю, но это бог с ней. О политических пристрастиях спорить нет смысла, тем более, что есть у неё и другие идеи, которые я и упоминать не буду. Некоторые из них приводят меня в полный ужас. Думаю, их оценила бы Ирина Яровая, не к ночи будь помянута.
Мередит испытывает оптимизм: надеется, что кое-что ещё воплотится в жизнь.
Я испытываю ещё больший оптимизм: уверен, что Ирина Яровая до нужного места не дочитает. Не осилит и двух первых глав -- и слава богу.
В общем, несмотря на все наши идейные расхождения, Мередит Бруссард человек умный и интересный.
Сомневаюсь, что тот сможет оценить эту книгу, кто не знает хотя бы азов программирования. Если честно, желательно понимать и не только азы. А уж тем, кто боится программ эту книгу точно нельзя открывать. В этом смысле автор задачу не выполнила.
Зато я вспомнил битвы давно минувших дней. Спасибо за это.
Давненько не писал я такого длинного отзыва. Противоречивая книга, но тем она и интересна.