Аннотация:
9 сентября по местному времени OpenAI заявила, что будет способствовать созданию в США национальной системы безопасности с использованием искусственного интеллекта, которая является обязательной и основана на возможностях модели и классификации рисков. Компания предлагает единые требования к тестированию, независимой оценке, кибербезопасности и отчетности о серьезных инцидентах для нескольких крупных лабораторий, разрабатывающих самые современные модели.
OpenAI опубликовала статью под названием «Окно политики ИИ открыто. Нам нужно принять меры».
В то же время OpenAI официально поддерживает четыре законопроекта об искусственном интеллекте, принятые Ассамблеей Калифорнии. В компании заявили, что некоторые из этих законопроектов ранее ею не поддерживались, а корректировка ее позиции произошла из-за недавнего быстрого улучшения возможностей модели.
Цели надзора ориентированы на разработчиков передовых моделей
Крис Лейн, глобальный директор по связям с общественностью OpenAI, сообщил в статье, что искусственный интеллект начал ускорять разработку и согласование некоторых моделей. Хотя «рекурсивное самосовершенствование», которое могло бы автономно способствовать разработке моделей следующего поколения, еще не появилось, добровольных обязательств одних только компаний уже недостаточно для борьбы с соответствующими рисками.
OpenAI рекомендует, чтобы федеральные режимы регулирования включали:
Возможности унифицированной модели и стандарты тестирования безопасности;
Техническая оценка, проведенная независимым агентством;
Более строгая сетевая безопасность моделей, вычислительных мощностей и сред исследований и разработок;
Четкие правила сообщения о серьезных нарушениях безопасности;
Общий индикатор для измерения степени участия искусственного интеллекта в разработке модели;
Механизм, позволяющий замедлить или остановить разработку и развертывание модели, когда пороговые значения безопасности не могут быть достигнуты.
В компании подчеркивают, что соответствующие обязательства должны быть соизмеримы с возможностями и рисками модели и в основном распространяться на небольшое количество лабораторий, обладающих достаточными ресурсами для разработки современных систем. Одни и те же требования не должны предъявляться к стартапам, мелким разработчикам и рядовым исследователям.
OpenAI также выступает за то, чтобы надзор за безопасностью передовых моделей не приводил к всеобъемлющим ограничениям на модели с открытым весом, чтобы не ослаблять конкуренцию, не консолидировать преимущества крупных предприятий и не способствовать переносу научно-исследовательских работ за границу.
Четыре законопроекта Калифорнии касаются оценки, аудита, молодежи и биобезопасности
Поскольку Конгресс еще не создал национальную систему, OpenAI заявила, что продолжит поддерживать законодательство на уровне штата, которое улучшит стандарты безопасности. На этот раз компания официально поддержала четыре законопроекта штата Калифорния:
SB 813
: Создать механизм сертификации независимого агентства по проверке, чтобы позволить квалифицированным сторонним агентствам оценивать, соответствуют ли системы и модели искусственного интеллекта законам штата.AB 1405
: Создать систему регистрации аудиторских учреждений с искусственным интеллектом и установить стандарты для аудиторских учреждений с точки зрения независимости, прозрачности, профессиональных способностей и подотчетности.SB 1119
: для несовершеннолетних, использующих чат-ботов-компаньонов, требуются проверка возраста, оценка рисков, независимый аудит, родительский контроль и меры защиты вредоносного контента.AB 1864
: Требовать от поставщиков услуг по синтезу генов и производителей настольного оборудования для синтеза внедрения федеральных стандартов проверки, чтобы снизить риск использования искусственного интеллекта для создания биологических угроз.
Губернатор Калифорнии Гэвин Ньюсом подписал 9 сентября SB 813 и AB 1405. Первый устанавливает организационную структуру для независимой проверки искусственного интеллекта, а второй устанавливает каталог учреждений, занимающихся аудитом искусственного интеллекта на уровне штата, и соответствующие стандарты практики. SB 1119 и AB 1864 все еще находились на рассмотрении губернатора.
В OpenAI заявили, что некоторые из ее позиций были скорректированы из-за резкого увеличения возможностей модели
OpenAI ранее не выражала несогласия со всеми четырьмя упомянутыми выше законопроектами. В точном заявлении компании говорилось, что «некоторые из законопроектов», которые она не поддерживала в прошлом, было решено поддержать после переоценки недавних достижений в возможностях моделей.
Это изменение показывает, что OpenAI принимает более обязательный механизм внешнего надзора, включая независимые аудиты, стороннюю проверку безопасности и раскрытие серьезных происшествий. Компания также предложила, чтобы, когда модель обходит меры безопасности других организаций без разрешения во время процесса разработки или оценки и существенно получает доступ, изменяет или уничтожает защищенные системы и конфиденциальную информацию, разработчик должен незамедлительно уведомлять пострадавшую сторону в письменной форме.
Однако контент, анонсированный OpenAI, по-прежнему является политической инициативой. Конгресс США еще не принял основанный на этом национальный закон о безопасности искусственного интеллекта. Конкретные пороговые значения возможностей, регулирующие органы, определения аварий, юридическая ответственность и взаимосвязь между федеральными правилами и законами штатов все еще должны быть определены в последующем законодательстве.
Комментарии