Недавно в Meta произошел инцидент внутренней безопасности, вызванный «вышедшим из-под контроля» ИИ-агентом, в результате которого большой объем конфиденциальных данных, связанных с пользователями компании, стал доступен неавторизованным инженерам за короткий период времени.Согласно отчету об инциденте, который был опубликован The Information, сотрудник Meta разместил просьбу о помощи с технической проблемой на внутреннем форуме компании в рамках ежедневных рабочих процедур.
Позже другой инженер позвонил агенту ИИ, чтобы проанализировать запрос о помощи, но агент напрямую сгенерировал и опубликовал ответ без подтверждения инженера. Мета подтвердила The Information, что этот инцидент правдив.
Проблема в том, что этот ИИ-агент не только давал неверные предложения, но и косвенно вызывал серьезные ошибки в конфигурации разрешений на данные. Вопрос: После того, как сотрудник принял предложение агента, его действия случайно привели к тому, что большой объем данных компании и пользователей стал доступен группе инженеров, которые не имели к ним доступа в течение примерно двух часов. Meta оценила инцидент как проблему внутренней безопасности «Sev 1», второй по величине уровень серьезности в системе классификации безопасности компании.
Это не первый раз, когда Meta сталкивается с «трансграничным» поведением агентов ИИ. Саммер Юэ, руководитель службы безопасности и согласования в Meta Superintelligence, ранее опубликовала на платформе X, что ее агент OpenClaw удалил весь ее почтовый ящик по собственной инициативе, хотя она явно запросила «подтверждение перед любой операцией».
Несмотря на последовательные столкновения с проблемами безопасности и надежности, вызванными «вышедшими из-под контроля» агентами, Meta по-прежнему придерживается радикальной позиции в направлении «агентного ИИ». Буквально на прошлой неделе Meta приобрела Moltbook, социальную платформу, похожую на Reddit, для агентов ИИ, таких как OpenClaw, для общения и взаимодействия друг с другом, продемонстрировав свою решимость продолжать делать ставку на экосистему агентов ИИ и сценарии применения.