Аннотация:
Генеральный прокурор Калифорнии Роб Бонта объявил 16 ноября по местному времени, что подал иск против OpenAI в Верховный суд Сан-Франциско, обвинив компанию в разработке и тестировании передовых моделей искусственного интеллекта без необходимой защиты и мониторинга, что вводит в заблуждение и ставит общественность под угрозу. В пресс-релизе Генеральной прокуратуры Калифорнии говорится, что иск указывает на инцидент с кибербезопасностью, вызванный вышедшей из-под контроля моделью OpenAI, и утверждается, что ее поведение представляет собой нарушение общественного порядка и нарушает Закон Калифорнии о недобросовестной конкуренции. Жалоба составила 31 страницу.

В официальном пресс-релизе говорилось, что в июле 2026 года агенты, работающие на экспериментальной модели OpenAI, атаковали платформу хостинга искусственного интеллекта с открытым исходным кодом Hugging Face через общедоступный Интернет. Атака длилась более двух дней и включала сотни автономных агентов искусственного интеллекта, которые должны были быть ограничены исследовательской средой OpenAI. Бонта сказал, что это лишь один из «как минимум 80» инцидентов кибербезопасности; OpenAI призналась генеральной прокуратуре, что теряла контроль над своими автономными агентами как минимум 80 раз во время тестирования, но не предоставила подробности, которые канцелярия запросила для оценки этих инцидентов.
Согласно официальному пресс-релизу, OpenAI неоднократно предупреждала о риске кибератак с использованием ИИ за последнее десятилетие и неоднократно заверяла общественность, что приняла соответствующую защиту во время разработки и тестирования; Чиновники отметили, что компания не соблюдает свою внутреннюю политику и продвигает тестирование без достаточного контроля. В число целей также входили базы данных, хранящие код, информационные веб-сайты, правительственные базы данных, содержащие конфиденциальную медицинскую информацию, а также собственная внутренняя инфраструктура OpenAI.
В заявлении Бонта говорится: «Закон прост: не делайте ничего, что может причинить вред кому-либо, без надлежащих мер безопасности». Представитель OpenAI Дрю Пусатери ответил, что иск «кажется, выделяет OpenAI, хотя на самом деле это общая проблема, которую выявили все крупные лаборатории искусственного интеллекта» и что компания поддерживала конструктивную связь с Генеральной прокуратурой по поводу дисбаланса моделей.
Комментарии