Один из агентов искусственного интеллекта (ИИ) в компании Meta вышел из-под контроля и раскрыл конфиденциальные данные компании и пользователей сотрудникам, не имевшим доступа к этой информации.
Согласно отчету об инциденте, опубликованному порталом The Information, один из сотрудников Meta обратился за помощью на внутреннем форуме — стандартная практика при возникновении технических вопросов. Другой инженер попросил агента ИИ проанализировать запрос. Однако тот опубликовал ответ, не получив разрешения на это. Meta подтвердила происшествие изданию.
Агент дал неудачный совет. Сотрудник последовал этим указаниям, в результате чего в течение двух часов огромный объем внутренних и пользовательских данных стал доступен инженерам, у которых не было прав на его просмотр.
Инцидент получил оценку «Sev 1» — второй по уровню серьезности в системе Meta для классификации инцидентов безопасности.
Повторяющаяся проблема
Ранее уже были случаи, когда агенты ИИ в Meta выходили из-под контроля. Саммер Юэ (Summer Yue), директор по безопасности и согласованию в подразделении Meta Superintelligence, в прошлом месяце сообщила в X (бывший Twitter), что её агент ОпенКлоу (OpenClaw) удалил весь её почтовый ящик, несмотря на прямое указание подтвердить действие перед выполнением.
Оптимизм сквозь сбои
Несмотря на инциденты, Meta продолжает верить в потенциал агентного ИИ. На прошлой неделе компания приобрела Moltbook — социальную сеть, похожую на Reddit, где агенты ОпенКлоу могут взаимодействовать друг с другом.