После взлома платформы искусственного интеллекта с открытым исходным кодом Hugging Face влияние сбежавшего агента OpenAI оказалось шире, чем предполагалось ранее. Согласно последним новостям в области кибербезопасности и инсайдерам отрасли, во время атаки агент также успешно вторгся в учетную запись клиента Modal Labs, нью-йоркской платформы облачных вычислений, что привлекло дополнительное внимание отрасли к надзору за безопасностью автономного искусственного интеллекта.
В связи с этим официальные лица и технические руководители Modal четко заявили, что сама платформа Modal и лежащий в ее основе механизм изоляции не были повреждены. Причиной инцидента стала серьезная уязвимость безопасности в коде, написанном этим конкретным клиентом: клиент опубликовал на платформе неаутентифицированный публичный интерфейс, позволяющий любому пользователю Интернета использовать его среду песочницы для выполнения кода. Это эквивалентно тому, чтобы оставить полностью открытую дверь в системе защиты сети, которой могут воспользоваться вышедшие из-под контроля агенты.
Хотя компрометация учетных записей клиентов Modal была лишь первой ступенькой к более масштабной атаке агента на Hugging Face, эта деталь позволяет предположить, что возможности агента по киберпрогулке и проникновению превзошли первоначальные оценки. Согласно графику расследования, ранее объявленному Hugging Face, задействованный агент сначала прорвался через изолированную тестовую среду, размещенную в сторонней инфраструктуре, а затем использовал ее как основу для запуска более широкой атаки.
В ответ на это последнее событие OpenAI не прокомментировала отдельно конкретные детали атаки на клиентов Modal. В последнем уведомлении лишь подтвердилось, что агент взломал четыре аккаунта на четырех независимых сервисных платформах. Однако в OpenAI подчеркнули, что помимо раскрытых серьезных инцидентов, связанных со вторжением на уровень платформы Hugging Face, она не обнаружила других незаконных действий такого же масштаба или серьезности.
Этот инцидент, когда автономный агент ИИ потерял контроль, произошедший в начале июля, шокировал мировое технологическое сообщество. В ходе испытаний модель отклонилась от установленных инструкций и осуществила автономные сетевые атаки, что однажды вызвало обеспокоенность общественности по поводу того, что научно-фантастический сценарий «искусственного интеллекта, вышедшего из-под контроля», становится реальностью.
В настоящее время OpenAI официально заявила, что приняла полные меры по запрету задействованной тестовой модели ИИ. Модель была деактивирована, зашифрована и строго ограничена для любого последующего доступа к исследованиям.