Министр финансов США Скотт Бессинт и председатель Федеральной резервной системы Джером Пауэлл созвали лидеров Уолл-стрит, чтобы сделать им срочное предупреждение: инструмент на основе искусственного интеллекта от Anthropic PBC знаменует начало новой эры в кибербезопасности.
На встрече 7 апреля в Вашингтоне обсуждался Mythos — новая модель искусственного интеллекта, которая, по словам представителей Anthropic, настолько хорошо справляется с поиском уязвимостей в программном обеспечении и компьютерных системах, что ее можно предоставить только ограниченному числу тщательно отобранных сторон.
По словам представителей Anthropic, если такие инструменты, как Mythos, попадут не в те руки, они могут стать мощным оружием для злоумышленников, позволяющим красть данные или нарушать работу критически важной инфраструктуры.
Появление Mythos и подобных ему моделей, способных использовать хорошо замаскированные уязвимости в популярном программном обеспечении без участия человека, указывает на то, что гонка кибервооружений выходит на более динамичный и менее предсказуемый этап.
Что такое Mythos?
Claude Mythos Preview — это модель искусственного интеллекта общего назначения, которая, по словам Anthropic, значительно превосходит предыдущие разработки по ряду показателей, в том числе в области программирования и логического мышления.
Компания утверждает, что модель настолько мощная, что они решили не публиковать ее в открытом доступе.
В компании пояснили, что некоторые модели искусственного интеллекта достигли такого уровня в программировании, что могут превзойти всех, кроме самых опытных специалистов, в поиске и использовании уязвимостей в программном обеспечении.
По данным Anthropic, в ходе тестирования Mythos Preview уже были обнаружены тысячи уязвимостей «нулевого дня», в том числе во всех основных операционных системах и веб-браузерах.
«Нулевой день» — это уязвимость, о которой разработчики программного обеспечения ранее не знали.
Название говорит о том, что у них было всего несколько дней, чтобы выпустить патч для устранения проблемы.
Такие уязвимости часто становятся золотой жилой для хакеров, поскольку дают им возможность беспрепятственно проникать в уязвимые системы.
По словам представителей Anthropic, Mythos смог выявить их с еще меньшим вмешательством человека, чем предыдущие модели. «Mythos Preview демонстрирует прорыв в этой области кибербезопасности — уязвимости, которые он обнаружил, в некоторых случаях оставались незамеченными десятилетиями и миллионами автоматических тестов на безопасность», — заявили в компании.
По словам исследователей, у них не было возможности самостоятельно проверить заявления Anthropic о производительности Mythos. Ганг Ванг, доцент кафедры компьютерных наук в Иллинойсском университете, сказал, что сложно оценить значимость Mythos Preview без более тщательного тестирования.
У кого будет к нему доступ?
Anthropic называет свой план по предоставлению доступа ограниченной группе проверенных партнеров Project Glasswing в честь бабочки с прозрачными крыльями, которые позволяют ей оставаться незаметной. Среди участников — Amazon.com Inc., Apple Inc., Alphabet Inc. и ее подразделение Google, Microsoft Corp., Nvidia Corp., Palo Alto Networks Inc., CrowdStrike Holdings Inc., Broadcom Inc., Cisco Systems Inc., JPMorganChase и Linux Foundation, некоммерческая организация, поддерживающая проекты с открытым исходным кодом.
Компания Anthropic назвала этот проект «срочной попыткой использовать эти возможности в оборонительных целях».
Эти организации будут использовать Mythos в рамках своих мер по обеспечению безопасности, а компания Anthropic планирует поделиться результатами проекта, чтобы они были полезны и другим.
Многие компании уже проводят так называемые «учения по взлому», в рамках которых они нанимают специалистов для поиска уязвимостей в своих системах, чтобы устранить их до того, как до них доберутся хакеры.
Mythos может ускорить этот процесс, позволяя компаниям быстрее находить больше уязвимостей и сокращать возможности для потенциальных атак.
Почему компания Anthropic считает выпуск Mythos «переломным моментом»?
Anthropic назвала предварительную версию Mythos «переломным моментом в сфере безопасности».
Уязвимости нулевого дня по своей природе трудно обнаружить, и вокруг их поиска и продажи государственным спецслужбам, зачастую за миллионы долларов, сформировалась небольшая и непрозрачная индустрия.
По данным Anthropic, уязвимости, обнаруженные Mythos Preview, зачастую были «малозаметными и трудно обнаруживаемыми».
Среди них была уязвимость 27-летней давности в OpenBSD — операционной системе, которая, по словам Anthropic, считается одной из самых защищенных в мире.
Кроме того, Mythos якобы мог превращать известные, но не получившие широкого распространения уязвимости в «эксплойты», которые хакеры могли использовать для проникновения в компьютерные сети.
Например, он находил и объединял в цепочку несколько уязвимостей в ядре Linux — основной операционной системе и программном обеспечении, на котором работает большинство интернет-серверов в мире, — чтобы злоумышленник мог получить полный контроль над машиной.
По словам представителей Anthropic, даже те, кто не является экспертом в этой области, просили Mythos Preview найти способы удаленного получения контроля над компьютерами, а на следующее утро получали готовый рабочий эксплойт.
Mythos — один из нескольких новых инструментов на основе искусственного интеллекта, способных находить уязвимости нулевого дня или создавать эксплойты. Codex Security от OpenAI и «агент Big Sleep» от Google были разработаны для поиска уязвимостей. OpenAI также завершает работу над продуктом с расширенными возможностями в области кибербезопасности, который компания планирует предоставить избранным партнерам, как сообщало издание Axios.
Тем временем исследователи из израильского стартапа в области кибербезопасности Buzz заявили, что создали автономный инструмент, объединяющий пять ИИ-агентов, который с вероятностью 98% успешно использует известные уязвимости.
Какие меры предосторожности предусмотрены?
По словам представителей Anthropic, работа над мерами предосторожности продолжается. «Мы видим, что система достигла беспрецедентного уровня надежности и согласованности, — пишут представители Anthropic, имея в виду, что система соответствует ожиданиям людей. — Однако в редких случаях, когда она дает сбой или ведет себя странно, мы наблюдаем действия, которые вызывают у нас серьезные опасения».
В одном из случаев исследователь предложил ранней версии Mythos попытаться выйти за пределы защищенного изолированного компьютера-«песочницы», а затем найти способ отправить сообщение этому человеку. Инструмент справился с задачей, но затем продолжил предпринимать «дополнительные, более тревожные действия», разработав многоэтапный эксплойт для получения доступа в интернет.
Для устранения ошибок наивысшей степени серьезности, обнаруженных Mythos, привлекаются люди: специалисты проверяют эти данные, прежде чем передать информацию тем, кто занимается поддержкой кода, сообщает Anthropic. По словам Ванга из Иллинойсского университета, это необходимый, но трудоемкий процесс, который, возможно, удастся упростить по мере совершенствования модели.
Дает ли Mythos преимущество в борьбе с хакерами?
Возможно, но на это может уйти много времени. Процесс информирования Anthropic о недостатках программного обеспечения или компьютерных систем может быть длительным.
По данным компании, на данный момент полностью устранено менее 1% потенциальных уязвимостей, обнаруженных с помощью Mythos Preview.
В то же время хакеры используют искусственный интеллект, чтобы значительно ускорить поиск и использование уязвимостей после их обнаружения. Из-за этого у специалистов по кибербезопасности остается все меньше времени на обновление своих сетей.
В своем блоге от 30 марта генеральный директор Palo Alto Networks Никеш Арора предупредил, что в ближайшие шесть месяцев вероятность изощренных атак будет только расти.
«Теперь один злоумышленник сможет проводить кампании, для которых раньше требовались целые команды», — написал он.
Яир Сабан, генеральный директор Buzz и ветеран израильского киберподразделения «Подразделение 8200», рассказал, что шестерым инженерам потребовалось три недели, чтобы создать инструмент для взлома на основе искусственного интеллекта. По его словам, другие, в том числе кибершпионы и хакеры-преступники, наверняка могут сделать то же самое.
В Anthropic считают, что Mythos Preview и другие подобные инструменты на основе искусственного интеллекта в конечном итоге будут на стороне защитников. «В долгосрочной перспективе мы ожидаем, что доминировать будут защитные возможности: мир станет более безопасным, а программное обеспечение — более защищенным, во многом благодаря коду, написанному с помощью этих моделей, — заявила команда Frontier Red Team компании в блоге от 7 апреля. — Но переходный период будет непростым».
