Mythos — новая модель искусственного интеллекта от компании Anthropic PBC, которую сочли слишком опасной для публичного доступа. Поначалу казалось, что угроза касается в первую очередь банков, но на самом деле риски затрагивают гораздо более широкий круг организаций.

Внимание со стороны властей

Сразу после анонса Mythos министр финансов США Скотт Бессент созвал руководителей банков с Уолл-стрит, чтобы обсудить меры защиты их систем. Это придало технологии огромную огласку и подняло вопрос: кто получит эксклюзивный доступ к такому мощному инструменту?

Сейчас Казначейство США настаивает на собственном доступе к Mythos. Один из немногих, кто уже имеет к нему доступ, — Британский институт безопасности искусственного интеллекта, признанный мировым нейтральным арбитром в вопросах ИИ-безопасности.

Реальная угроза для уязвимых систем

Исследования подтверждают: шумиха вокруг Mythos не лишена оснований. Модель действительно превосходит такие ИИ, как ChatGPT от OpenAI или Gemini от Google, в способности планировать и проводить сложные кибератаки.

Однако наибольшую опасность она представляет не для крупных банков с высокоразвитыми системами защиты, а для слабо защищённых или упрощённых систем. Наиболее уязвимы — малые и средние предприятия.

Конец эпохи «ответственного раскрытия»?

Технологические компании давно используют практику ответственного раскрытия информации: как только обнаруживается уязвимость, они публикуют её детали и предлагают способ устранения, давая клиентам время на установку патчей.

Например, Microsoft раз в месяц проводит «Вторник патчей», выпуская обновления для Windows, Office 365 и других продуктов.

В банках, таких как Barclays Plc и Wells Fargo & Co., процесс установки патчей занимает недели или месяцы: сначала тестирование, затем согласование с руководством, и только потом внедрение.

ИИ ускорил атаки в разы

Раньше злоумышленникам требовалось много времени, чтобы изучить уязвимость и разработать атаку. Генеративный ИИ изменил правила игры.

Ещё два года назад хакеры могли использовать ChatGPT, чтобы найти в GitHub программы с похожими уязвимостями. Например, узнав о баге в Office 365, бот мог подсказать, как он проявляется в Outlook или Teams.

Сейчас ситуация усугубилась: ИИ-модели получили агентские способности — возможность действовать автономно. Claude Cowork от Anthropic, выпущенный в январе, уже умеет отправлять письма и записываться на встречи.

Для хакеров это означает, что ИИ не просто находит уязвимости, но и автоматически перебирает способы их эксплуатации, пока один из них не сработает.

Mythos как «мастер-взломщик»

Mythos способен превратить отдельный программный баг в многоэтапную атаку — задачу, ранее под силу только высококвалифицированным специалистам.

Это как если бы грабитель сначала нашёл открытое окно, использовал его, чтобы открыть дверь изнутри, а затем отключил сигнализацию. По отдельности действия безвредны, но вместе дают полный доступ.

От фишинга до автономных атак

Раньше ИИ помогал усиливать традиционные атаки: генерировать правдоподобные фишинговые письма или создавать дипфейки для видеозвонков.

Теперь агентный ИИ способен на большее — он может самостоятельно планировать и проводить сложные кибератаки, превращая хакерство в массовую угрозу.

«Чёрные хакеры» редко атакуют банки — там слишком высокая защита. Вместо этого они ищут уязвимые цели: больницы, школы, семейные магазины.

Сжатие временного окна

Сейчас у организаций почти не остаётся времени на реакцию. По данным zerodayclock.com, среднее время между обнаружением уязвимости и появлением рабочей атаки сократилось с 771 дня в 2018 году до менее четырёх часов сегодня.

Пересмотр стратегий безопасности

Анонс Mythos, безусловно, выгоден Anthropic в преддверии IPO — он создаёт интригу вокруг их технологий. Но он также ставит под сомнение саму концепцию «ответственного раскрытия».

Процесс, занимающий недели и месяцы, теперь может быть бесполезен. Даже Уолл-стрит пока не знает, как адаптироваться.

У крупных банков есть ресурсы и персонал для перехода к устранению уязвимостей в режиме реального времени. А вот малым компаниям придётся крайне сложно — им нужна поддержка, которой рынок пока не предлагает.

Mythos, новая модель искусственного интеллекта, которую компания Anthropic PBC представила как слишком опасную для публичного использования, поначалу казалась проблемой для банков.

Через несколько дней после того, как компания анонсировала новую технологию, министр финансов США Скотт Бессинт вызвал руководителей Уолл-стрит, чтобы убедиться, что они принимают меры предосторожности для защиты своих систем, обеспечив тем самым Anthropic бесценную рекламу и подняв вопрос о том, кто получит эксклюзивный доступ к этому опасному детищу.

Казначейство сейчас настаивает на получении доступа к Mythos. Одна из организаций, у которой уже есть доступ, — это Британский институт безопасности искусственного интеллекта, который стал главным в мире нейтральным арбитром в вопросах безопасности ИИ.

Исследование показало, что шумиха вокруг Mythos отчасти оправданна.

Он действительно более приспособлен для проведения сложных кибератак, чем другие инструменты искусственного интеллекта, такие как ChatGPT от OpenAI или Gemini от Google.

Но наибольшую опасность он представляет для «слабо защищенных» или упрощенных систем. Крупные банки располагают одними из самых защищенных ИТ-систем в мире, и хотя Mythos и другие мощные системы искусственного интеллекта представляют угрозу в руках злоумышленников, наиболее уязвимыми для хакеров и недобросовестных пользователей выглядят малые и средние компании.

Киберспециалисты уже давно жалуются на то, что компании уделяют безопасности второстепенное внимание. В результате онлайн-сервисы и программное обеспечение изобилуют ошибками, которые дают хакерам возможность проникнуть в компьютерную систему.

У технологических компаний есть подход к решению этой проблемы, который называется «ответственное раскрытие информации». Как только в их программном обеспечении обнаруживается уязвимость, они сообщают о ней всему миру и предлагают способ ее устранения, давая своим клиентам время на установку патча и возможность вернуться к своим делам. Корпорация Microsoft использует подход под названием «Вторник патчей», который, несмотря на название, подразумевает ежемесячное раскрытие информации об уязвимостях, обнаруженных компанией в Office 365, Windows и других продуктах.

ИТ-специалисты таких банков, как Barclays Plc и Wells Fargo & Co., берут предложенные патчи, тестируют их, чтобы убедиться, что они не нарушат работу существующих систем, получают одобрение руководства и только после этого устанавливают их.

На это уходят недели или месяцы.

До появления генеративного искусственного интеллекта этот процесс работал без сбоев, потому что злоумышленникам обычно требовалось еще больше времени, чтобы найти способ атаковать систему, используя обнаруженный недостаток. Им приходилось изучать уязвимость и экспериментировать с различными способами ее использования.

Все изменилось с появлением инструментов на основе искусственного интеллекта.

Еще два года назад хакеры могли взять информацию о раскрытии данных и вставить ее в ChatGPT, а затем попросить бота просканировать общедоступную базу исходного кода, например GitHub, на предмет других уязвимостей, которые можно было бы использовать.

Допустим, Microsoft объявила, что ее исследователи обнаружили уязвимость в том, как Office 365 обрабатывает файлы. Чат-бот мог не только подсказать, как ее использовать, но и быстро найти другие программы, например Microsoft Outlook или Teams, с аналогичными недостатками.

За последние несколько месяцев хакерам стало еще проще это делать, поскольку компании, занимающиеся разработкой искусственного интеллекта, наделили свои модели «агентскими» возможностями, фактически предоставив им способность действовать независимо.

Модель Claude Cowork от Anthropic, выпущенная в январе, теперь может выполнять такие задачи, как отправка электронных писем и запись на прием в календаре.

Для тех, кто хочет взломать программное обеспечение, такие инструменты не просто ищут уязвимости, но и автоматически пробуют разные способы взлома, пока один из них не сработает.

Mythos может даже «объединить» программный баг в многоэтапную атаку, на что раньше были способны только высококвалифицированные хакеры.

Это похоже на то, как грабитель планирует взлом: сначала находит открытое окно, через которое можно открыть дверь изнутри, а затем отключает сигнализацию. По отдельности эти действия не дают результата, но вместе они позволяют получить полный доступ.

До сих пор влияние генеративного искусственного интеллекта на кибербезопасность было неоднозначным.

Не существовало единого инструмента, с помощью которого можно было бы проводить новые разрушительные атаки, но большие языковые модели все равно использовались для усиления старых методов. Хакеры применяли чат-боты для улучшения качества электронных писем для фишинговых атак, чтобы сделать их более правдоподобными, а также генераторы аватаров в реальном времени для создания дипфейковых видеозвонков, которые заставляют людей поверить, что мужчина в их гостиной на самом деле молодая женщина.

Но агентный ИИ может способствовать развитию хакерства, которое уже давно стало источником наживы для беспринципных людей.

Так называемые «черные хакеры» обычно не взламывают банки, потому что там высокий уровень безопасности.

Вместо этого они сканируют интернет в поисках уязвимостей, будь то больница, в которую они могут проникнуть, чтобы потребовать выкуп, или небольшой семейный магазин.

Последние достижения в области искусственного интеллекта создают проблемы для таких организаций, потому что с момента обнаружения уязвимости поставщиком программного обеспечения у них остается совсем немного времени на обновление и исправление систем.

По данным сайта zerodayclock.com, среднее время между обнаружением уязвимости в программном обеспечении и созданием работающей атаки сократилось с 771 дня в 2018 году до менее чем четырёх часов в наши дни.

Раскрытие информации о Mythos компанией Anthropic, безусловно, способствует ее продвижению на рынке в преддверии первичного публичного размещения акций, усиливая интригу вокруг эффективности ее технологии.

Но это также заставляет задуматься о том, что временной промежуток между обнаружением уязвимостей в информационных технологиях и их использованием фактически исчез.

В связи с этим возникают вопросы о том, насколько разумной идеей в принципе является «ответственное раскрытие информации» и не стал ли процесс устранения уязвимостей, занимающий недели и месяцы, бесполезным.

Даже Уолл-стрит пока не может ответить на эти вопросы, но у банков, по крайней мере, есть персонал и средства, чтобы провести сложные структурные изменения, необходимые для того, чтобы в конечном итоге устранять неполадки практически в режиме реального времени.

Сложнее всего придется небольшим компаниям, которым нужно действовать так же быстро и которые нуждаются в технической и нормативной поддержке, которую рынок пока не может им предоставить.