Цитаты из книг автора «Александр Панчин»

Третья проблема связана с разной ценой ошибок модели. Представьте, что нейронная сеть принимает решение о том, угрожает ли одному самолету опасность столкновения с другим, на основании показаний приборов. Лучше ведь подать ложную тревогу, чем не заметить потенциальную опасность. Ошибки неравноценны. Наши предки жили в неблагоприятных условиях, когда принять шорох листьев за шаги хищника было менее страшно, чем наоборот. Наше мышление смещено в сторону поспешного поиска значимых закономерностей и потенциальных опасностей. Но в спокойной дискуссии о науке или паранауке, в условиях, когда нам ничто не угрожает и есть время подумать, подобная поспешность в выводах неоправданна и чревата ложными результатами.

Долгое время исследователи путем проб и ошибок вырабатывали и отлаживали принципы познания. Этот процесс продолжается и по сей день. Научный метод не защищает от неточностей и заблуждений полностью. Но велика вероятность, что со временем они все будут найдены – исправлены и развенчаны. Увы, многие не учатся на чужих ошибках и по-прежнему считают, что субъективное мнение сопоставимо с фактом, а поток сознания – с научным исследованием, что проверка гипотез не нужна, а обман в науке допустим. Думаю, именно поэтому мы так часто доверяем необоснованным суждениям. И лучшая защита от темных искусств – умение распознавать чужие и собственные некорректные выводы. Как написал Карл Саган, “открытый ум – это прекрасно, однако следите, чтобы оттуда все не выпало” .

Если мы хотим оценить качество построенной модели, нам недостаточно проверить, как хорошо она справляется с данными, на которых обучалась. Хорошая модель должна справиться и с незнакомыми ей фотографиями. А значит, надо добавить новые данные и оценить качество модели на них. Именно это и предлагает наука: мы строим модель мира, а затем проверяем ее предсказания на новых данных. Недостаточно просто иметь хорошее объяснение уже известным фактам. Нужно уметь прогнозировать.

Допустим, программа должна распознавать пол человека по фотографии. На входе она получает большое количество изображений мужчин и женщин с правильно указанным полом. На выходе получается модель, использующая набор параметров, чтобы максимально точно разделить фотографии на две группы. Первая проблема, с которой сталкивается как мозг, так и компьютер, – избыточное обучение. Нейронная сеть будет лучше классифицировать фотографии, на которых она обучалась, чем новые снимки. Предположим, случайно получилось, что в обучающей выборке женщины были чаще блондинками, а мужчины – брюнетами. Модель начинает использовать эту особенность при принятии решений, даже если на самом деле такой закономерности нет. Таким образом, любая нейронная сеть склонна к апофении.

добавь я заранее, что малые размеры чайника не позволяют обнаружить его даже при помощи самых мощных телескопов. Однако, заяви я далее, что, поскольку мое утверждение невозможно опровергнуть, разумное человечество не имеет права сомневаться в его истинности, мне справедливо указали бы, что я несу чушь. Но если бы существование такого чайника подтверждалось древними текстами, о его подлинности твердили по воскресеньям с амвона и мысль эту вдалбливали с детства в головы школьников, то неверие в его реальность казалось бы странным, а сомневающихся передавали бы в просвещенный век на попечение психиатров, а в Средневековье – в опытные руки инквизиции .

С одной стороны, не стоит настаивать, что чего-то абсолютно точно не существует или что оно невозможно, ведь мы не хотим попасть в байесовскую ловушку. С другой – не стоит слишком серьезно относиться к одиночным свидетельствам, идущим вразрез со всей совокупностью научных фактов. Вероятность, что они ошибочны, с любой практической точки зрения неотличима от единицы. Именно в таких случаях уместно говорить, что бремя доказательства лежит на заявителе.

Как говорил Дэвид Юм, “никакое свидетельство не достаточно для установления чуда, кроме такого, ложность которого была бы большим чудом, нежели тот факт, который оно стремится установить” . Сам факт существования рассказов о чудесах, противоречащих надежным знаниям о мире, не удивительнее, чем существование сказок и фэнтези – книг о Гарри Поттере, эльфах и гномах.

Наука в чем-то похожа на этого демона или пытается им стать. Ученые постоянно генерируют бессмысленные и ложные утверждения вперемешку с важными и правильными, и порой самое сложное – отфильтровать нужное. Если признать, что все методы познания равноправны, а в науке все дозволено, мы утонем в бесконечном потоке недостоверных и нелепых идей.

…Демон записывал на бумажной ленте все, что узнавал от колеблющихся атомов, читал о том, как вить кисточки для алебард, и о том, что дочь царя Петриция из Благолонии звалась Горбундой и что съедал за вторым завтраком Фридрих II, король бледнотников, до объявления войны гвендолинам, и о том, сколько электронных оболочек насчитывалось бы в атоме термионолиума, если бы такой элемент мог существовать, и каковы размеры заднего отверстия крохотной птички, называемой куротел… вся эта вполне правдивая и во всех отношениях осмысленная информация… совершенно не нужна, ведь она превращалась в ужасную смесь, от которой разламывалась голова…

Сокал хотел показать, что люди часто некритично относятся к тяжелому для восприятия нагромождению слов, если за ним авторитетный автор и “правильная идеология” – в данном случае та, что ставит под сомнение объективность и рациональность научного познания, популярная среди любителей философии постмодернизма.