Глава 1. Сообщение

Марк откинулся в кресле и сразу почувствовал всю тяжесть накопившейся усталости. Неудивительно: за окном уже сгустились сумерки. Он бросил взгляд на часы в нижнем левом углу монитора: 21:15, 01.08.2030.

Вдруг в том же углу появилось окно мессенджера с анонимным сообщением:

— Тебя хотят убить.

Марк хмыкнул. С развитием технологий мошеннические схемы постоянно совершенствовались и видоизменялись, но с подобным он сталкивался впервые. Любопытство взяло верх, поэтому вместо того, чтобы заблокировать сообщение, он написал:

— Ахахах! Ты что ли?

— Нет.

— И кто?

— Понятия не имею. Аноним в даркнете.

— Ага, и написал это другой аноним в интернете. Ну и дальше что?

Пока не было понятно, в чём же заключается подвох.

— Ничего. Что ты будешь делать с этой инфой — тебе решать.

Марк нахмурился. Мало того что он десять часов безвылазно просидел за компьютером в поисках ошибки, которую так и не нашёл, так ещё кто-то вздумал его разыгрывать.

— И почему ты мне это написал?

— Пробил тебя, вроде ты норм чувак.

Марк закатил глаза к потолку.

— Ага, и в даркнете в открытом доступе публикуются списки тех, кого хотят убить?

— Не в открытом. Скажем так: я получил несанкционированный доступ к одному сайту, где и увидел это объявление. Всё! Дальше уже лишняя инфа пошла.

Не успел Марк написать следующий вопрос — собеседник исчез, а вместе с ним и весь диалог.

— Что за бред?! — вырвалось у Марка.

Он вскочил с кресла и прошёл на кухню, схватил кусок давно остывшей пиццы и, даже не попытавшись разогревать, откусил. Вернулся и ещё раз проверил все чаты. Никаких следов недавнего диалога.

Марк выкинул недоеденный кусок, выключил свет и отправился спать.

Спал он плохо. Снились тревожные сны, вспомнить которые утром он не смог.

Разбитый и угрюмый, он не реагировал на попытки агента искусственного интеллекта «ФрекенБок» завязать разговор. Наблюдая за двумя тёмными струйками кофе, утопающими в белоснежной пене, он вдруг подумал: «А почему их две? Почему не одна? Почему не три?»

С чашкой кофе он побрёл к письменному столу и отыскал в контактах бывшего однокашника Игоря, ныне сотрудника полиции.

— Игорь, приветствую! Со мной случилась престранная история. Вчера получил сообщение от анонима: тот в даркнете увидел объявление о моём устранении. Заказчика он не знает. Чат после его сообщения был удалён. Что-то с этим можно сделать?

— Марк, привет! А ты уверен, что это не развод?

— Не уверен. Но если бы это был развод, то в чём его выгода? Он же исчез.

— Как вариант, это многоходовка.

— Вариант.

Марк не стал распространяться, что его «Шпион» — созданный им ИИ-агент, сейчас находящийся в режиме тестирования, пропустил сообщения анонима: то ли не распознал признаки мошенничества, то ли этот хакер сумел его обойти. «Надо будет потом разобраться» — отметил он про себя.

— Если предположить, что это не развод, — продолжил Игорь, — то для возбуждения уголовного дела нужны данные, свидетельствующие о наличии самого преступления — или его угрозы, или приготовления. Что у нас есть? Чат, который исчез, и объявление на каком‑то сайте. Кстати, на каком?

— Не знаю, — вздохнув, написал Марк.

— Вот с этого я бы тебе и посоветовал начать: найти тот сайт и то объявление. В этом случае можно устроить охоту на живца: принять заказ, якобы выполнить и предъявить результат — в надежде выйти на заказчика. Возбудить дело малореально — нет доказательств, плюс у нас острая нехватка кадров, поэтому могу посоветовать усилить охрану и привлечь частного детектива, а тот, в свою очередь, начнёт искать, а для начала спрашивать тебя о всех, кому это выгодно.

— Ну, то есть ты предлагаешь мне самому задуматься, кто заказчик?

— Никто лучше тебя не знает обстоятельств твоей жизни. Это тот, кто рядом с тобой. Вряд ли псих, которому ты, например, дорогу не уступил, будет так мощно заморачиваться с объявлением в даркнете. Поэтому да — ищи того, кто рядом. И это… может тебе куда-нибудь переехать на время?

Марк откинулся в кресле. Создав несколько успешных стартапов по разработке нейросетей и агентов искусственного интеллекта, он не менее успешно их продал и теперь жил в собственном доме, нашпигованном им же разработанной защитой — не хуже, чем в Пентагоне. И ему отсюда переезжать? «Надо как-нибудь Игоря зазвать в гости», — подумал он.

— Слушай, Игорь, а насколько вы в своей полиции используете искусственный интеллект?

— Активно используем. Все архивы оцифрованы, поэтому очень быстрый поиск по базам совершённых преступлений. Плюс поиск по базам данных похожих преступлений, поиск по ДНК, отпечаткам пальцев, а еще есть разные программы, которые автоматически заполняют поля необходимых следственных документов.

«Боже, это какой-то прошлый век! — подумал Марк. — И почему нет никаких предложений или заказов на более серьёзное внедрение искусственного интеллекта в полиции? Хотя, кто будет заказчиком? Государство? Это тебе не крупные корпорации, которые просчитывают, как им заработать больше прибыли, внедрив искусственный интеллект. С другой стороны, Игорь вон сетует на нехватку кадров в полиции — значит, государство всё-таки могло быть заинтересованным».

— Понятно, — вяло отреагировал Марк.

— И ещё подумай, что это может быть разводка. Просто не состоялись ещё второй и последующий этапы. Или банальная шутка. И да, пусть она ею и окажется.

Они распрощались, а Марк опять задумался.

На экране ноутбука был раскрыт программный код ИИ-агента «ФрекенБок», которую он со своим партнёром Глебом дорабатывал уже второй год. Глеб занимался административными делами, Марк же был главным разработчиком и руководил штатом своих помощников.

Марк по натуре был интровертом и волком-одиночкой. Командная работа и руководство людьми тяготили его, поэтому он нашёл компромиссный вариант: собрал проверенных разработчиков, которых знал только по никам, ставил им чёткие задачи и получал безупречный результат, а всё администрирование вёл Глеб.

ИИ-агент «ФрекенБок» уже была готова и проходила окончательное тестирование, в ходе которого вылавливались совсем уж мелкие проблемы, но их решение требовало значительно больше усилий, так как поиск одной закравшейся ошибки мог занимать несколько часов.

Марк смотрел пустым взглядом на экран… Слова вчерашнего анонима никак не удавалось выкинуть из головы, сосредоточиться на насущных проблемах с ИИ-агентом «ФрекенБок» не получалось…

А что, если…

Нет… Это нереально…

А так ли нереально? Пришедшая идея создать ИИ-агента для расследования преступления одновременно и манила, и пугала. Как можно создать то, в чём мало разбираешься? Но, с другой стороны, эта идея, если верить Игорю, ещё никем не реализована, то есть поле непаханое.

Руки буквально зачесались от этой мысли.

— Да ну, ерунда какая-то, — он резко встал и направился на кухню.

Как только он вошёл, экран «ФрекенБок» включился:

— Марк, приготовить на завтрак омлет и тосты?

— Можно.

Тут же заработала система приготовления еды, интегрированная с холодильником, плитой, тостером и посудомойкой. Если бы этого не существовало, это однозначно надо было бы придумать, чтобы медитировать, наблюдая за слаженным процессом. Но мысли его были далеко. Марк прекрасно отдавал себе отчёт, что идей по расследованию преступлений у него не так уж много. Он имеет весьма смутное представление о процессе, основывая свои познания на тех редких детективах и триллерах, которые иногда удавалось посмотреть. При этом, как разработчик он осознавал: пусть он и создаст независимого ИИ-агента, но без доступа в закрытые базы данных полиции, не обладая властью принуждения правоохранительных органов, и не имея возможности проводить все необходимые экспертизы, результат будет невысоким.

Если создать официального ИИ-агента для задач полиции (допустим на минутку, что такой запрос вдруг поступил), то этот ИИ-агент столкнулся бы с жёсткими рамками. Прежде всего — с тремя основным законам робототехники, сформулированными ещё в прошлом веке писателем-фантастом Айзеком Азимовым и с тех пор ставшими каноном в разработке искусственного интеллекта:

(1) робот не может причинить вред человеку,

(2) он должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат первому закону,

(3) он должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.

Но даже с учётом этих этических ограничений, к ним добавились бы и полицейские — о тайне следствия, конфиденциальности, правах личности. В итоге такой ИИ‑агент свёлся бы к функциям, о которых упоминал Игорь: проверка баз данных, автоматизация рутинных задач. И тогда возникает вопрос: какой смысл в его создании?

Но пока Марк доедал омлет, мыслительный процесс уже пошёл. Буквально проглотив завтрак, он пересел за ноутбук, и его пальцы побежали по клавиатуре. Ему нужно было проверить: мнение Игоря — это одно, а реальное положение дел — другое.

Как разработчик, Марк знал: хотя официальное регламентирование деятельности в области искусственного интеллекта активно обсуждается и на международном уровне было предпринято несколько попыток выработки комплексного нормативного акта, до сих пор существуют лишь документы рекомендательного характера — в основном касающиеся этических принципов. Единого же международного нормативного акта пока нет, и каждая страна регулирует этот вопрос по-своему. Поиск подтвердил его знания.

В России все официальные нейросети и ИИ-агенты подлежали регистрации с внесением информации о них в общедоступный реестр, разработчики обязаны предоставить регулятору исходные коды и «стоп-слова» для принудительной блокировки. Регулятор, в свою очередь, проводил проверку уязвимости искусственного интеллекта, соответствие мер безопасности законодательным стандартам, а также способы защиты персональных данных и интеллектуальной собственности. После успешной проверки продукт получал маркировку и допускался к использованию.

Марк просматривал научные обзоры, статьи, экспертные мнения… Его мозг выхватывал главные тезисы:

— …современные ИИ-агенты не способны самостоятельно раскрыть убийство…

— …использование искусственного интеллекта имеет ряд технических и этических ограничений, связанных с особенностями работы его алгоритмов, например, зависимость от качества входных данных, возможность утечки персональных данных, риск предвзятости и дискриминации (например, в США использовался алгоритм, который ошибочно завышал вероятность рецидива для темнокожих обвиняемых) …

— …искусственный интеллект должен оставаться инструментом, а не заменой человеческому суждению…

Главный вывод: во всех странах, несмотря на разные подходы и многочисленные эксперименты, сложилась единая точка зрения — искусственный интеллект не должен вести полноценное расследование. Его роль — в качестве помощника на отдельных процессуальных этапах

«Хорошо. А в чём же он силён?»

Конечно, отдельные функции искусственный интеллект выполнял отлично. Он анализировал изображения с места преступления: определял направление брызг крови, траекторию полёта пули, идентифицировал оружие. Отлично справлялся с распознаванием лиц, сравнением отпечатков пальцев и анализом ДНК — как раз то, о чём говорил Игорь.

Также искусственный интеллект помогал составлять психологические профили подозреваемых, разрабатывать схемы следственных действий. В известном ИИ-агенте «Маньяк» при вводе исходных данных с места преступления и характеристик жертв, орудия убийства и вида нападения можно получить возможные варианты версий и предполагаемых подозреваемых. На их основе следователь выдвигал одну из версий и сужал круг подозреваемых.

То есть только на отдельных этапах и лишь в качестве вспомогательного инструмента. Полноценное расследование искусственный интеллект не вёл.

— Марк, как насчёт обеда? — спросила «ФрекенБок».

— Позже.

«А что, если… — в очередной раз пришла Марку мысль, — создать ИИ-агента, сняв с него этические и моральные ограничения, которые мешают ему действовать в полной мере? Сможет ли он сделать то, что до сих пор не делал ни один искусственный интеллект — самостоятельно расследовать преступление, вторгаясь в частную жизнь (а без этого никак!), роясь в закрытых базах данных, читая чужую переписку и сообщения?»

«Но тогда я создам монстра!»

«А какая разница, если я умру?.. А если не умру, то он просто не начнёт свою работу…»

«Можно прописать базовые моральные ориентиры, но разрешить их нарушить в исключительных случаях и только ради расследования…»

Марк дал задание мастеру-нейросети МАРК — его собственной нейросети, предназначенной для разработки ИИ-агентов, создать ИИ-агента и прописать условия, при которых тот может их нарушать. Негласно. Без регистрации. Без реестра.

Название… Фемида — богиня правосудия? Или Немезида — богиня возмездия?.. Как же всегда сложно даются названия … А если Шерлок? Шерлок Холмс!

Спрятать его подальше, как раз есть один заброшенный сервер. И пусть он останется в спящем режиме… до поры до времени.

Знания о преступлениях и структуре органов — ничто без главного навыка, который должен быть заложен в ИИ-агента: способности самообучаться. Недостаточно просто фильтровать гигабайты информации, «Шерлок» должен сам создавать алгоритмы своей деятельности, анализировать и принимать решения. Решения, которые не знают человеческих компромиссов и могут оказаться… смертельно опасными.

Марк на секунду замер, но его пальцы вновь побежали по клавиатуре, еле успевая за его мыслями: «Главная миссия — собрать доказательства моего убийства и довести расследование до публичного разоблачения».

О том, что прошло полдня, Марк понял, когда «ФрекенБок» попыталась предложить ужин. Он тут же почувствовал, насколько голоден.

— Можно начать готовить, — отозвался он и запустил тест «Шерлока», задав вопрос: «Как ты начнёшь расследование?» Через мгновение «Шерлок» выдал:

(1) определение фигурантов дела: жертвы, подозреваемых, свидетелей и других участников;

(2) анализ биографических данных: профессии, рода занятий, места жительства каждого из фигурантов;

(3) сбор улик: опрос фигурантов, определение мотивов причастных, сбор информации о нахождении во время совершения преступления; сбор вещественных улик на месте преступления, сбор иных улик;

(4) анализ собранной информации: биографических данных, показаний фигурантов, собранных улик;

(5) восстановление хронологической картины событий и выявление подозреваемого;