Аннотация:
Недавно OpenAI публично призвала британское правительство сформулировать юридически обязывающую нормативную базу в области искусственного интеллекта и потребовать внедрения обязательных правил безопасности для самых передовых моделей искусственного интеллекта. Это заявление знаменует собой новое изменение в отношении ведущих мировых компаний, занимающихся искусственным интеллектом, к надзору, а также еще больше подогрело дискуссию по поводу управления искусственным интеллектом в Великобритании.
Том Дафф Гордон, руководитель отдела политики по Европе, Ближнему Востоку и Африке в OpenAI, заявил в интервью, что британскому правительству следует принять немедленные меры по созданию более сильной системы регулирования безопасности искусственного интеллекта. Он считает, что в настоящее время наступил редкий «период политического окна», и Великобритании следует воспользоваться этой возможностью, чтобы посредством законодательства установить долгосрочные, стабильные и юридически обязательные требования безопасности для самых передовых систем искусственного интеллекта.
Согласно концепции, предложенной OpenAI, новая система регулирования должна основываться на добровольных обязательствах существующих компаний, но она больше не будет полностью полагаться на корпоративную самодисциплину, а перейдет на поддающуюся исполнению правовую базу. Компания выразила готовность принять такие нормативные ограничения и считает, что компании, разрабатывающие наиболее мощные модели искусственного интеллекта, в будущем должны быть включены в более строгие нормативные рамки.
Такая позиция возникла на фоне быстрого роста призывов к ужесточению регулирования искусственного интеллекта в Великобритании. За последние несколько месяцев ряд ведущих компаний, занимающихся искусственным интеллектом, последовательно раскрывали инциденты, связанные с безопасностью моделей, что вызвало социальные и политические опасения. В то же время исследователь, ранее работавший в Anthropic и OpenAI, недавно после ухода с работы публично раскритиковал направление развития отрасли, заявив, что некоторые компании «ставят на жизнь каждого», что еще больше усиливает внимание внешнего мира к рискам, связанным с передовым ИИ.
На самом деле, в своей предвыборной программе 2024 года Британская Лейбористская партия пообещала создать обязательную систему регулирования для небольшого числа компаний, которые разрабатывают самые мощные модели искусственного интеллекта. Однако после прихода к власти правительство постепенно отказалось от линии масштабного унифицированного законодательства и вместо этого приняло модель децентрализованного управления со стороны отраслевых регуляторов и добровольного тестирования безопасности компаниями. В настоящее время Британский научно-исследовательский институт безопасности искусственного интеллекта в основном проводит испытания моделей в сотрудничестве с технологическими компаниями и не имеет официальных правоохранительных полномочий.
OpenAI считает, что полагаться исключительно на существующие модели уже недостаточно для борьбы с будущими рисками. Дафф Гордон заявил, что если Великобритания создаст новую правовую базу, она приведет ее в соответствие с ЕС и некоторыми формирующимися системами регулирования в Соединенных Штатах в области управления искусственным интеллектом. Он отметил, что Соединенные Штаты также продвигают обязательный план надзора за безопасностью искусственного интеллекта, основанный на уровнях возможностей модели, и OpenAI также поддерживает это.
Однако OpenAI также подчеркнула, что новый закон не должен охватывать всю индустрию искусственного интеллекта, а должен быть сосредоточен на небольшом количестве лабораторий и моделей, которые действительно находятся на переднем крае технологий. Компания считает, что регуляторное внимание должно быть сосредоточено на национальной безопасности, кибербезопасности и передовых системах искусственного интеллекта, которые могут нести системные риски, а не на установлении такого же уровня ограничений для стартапов или общих приложений искусственного интеллекта.
Согласно рекомендациям OpenAI, будущая правовая база должна содержать несколько основных элементов. К ним относятся обязательное тестирование безопасности моделей независимыми сторонними агентствами, тщательная проверка возможностей кибербезопасности, а также создание системы мониторинга инцидентов безопасности и отчетности. При возникновении в модели серьезного аномального поведения или рискованного события компания-разработчик должна сообщить об этом регулирующему органу в соответствии с правилами.
OpenAI также рекомендует Британскому институту безопасности искусственного интеллекта играть центральную роль в будущей системе регулирования. Компания считает, что организация накопила богатый технический опыт и профессиональные возможности и способна взять на себя ключевые обязанности, такие как оценка модели, установление стандартов и постоянный контроль.
Кроме того, OpenAI подчеркивает, что будущие правила должны быть гибкими и адаптируемыми. Поскольку технология искусственного интеллекта развивается чрезвычайно быстрыми темпами, нормативная база не должна принимать жесткую модель, а должна иметь возможность своевременно корректироваться на основе технологических достижений. В то же время Великобритания должна стремиться способствовать совместимости международных стандартов и заложить основу для формирования глобального консенсуса по управлению искусственным интеллектом в будущем.
Аналитики отмечают, что это заявление показывает, что индустрия искусственного интеллекта постепенно переходит от «противодействия регулированию» к «участию в формулировании регулирования». Поскольку возможности моделей продолжают улучшаться, а споры по вопросам безопасности продолжают расти, все больше и больше ведущих компаний начинают признавать необходимость юридических ограничений. Однако то, как найти баланс между продвижением инноваций и контролем рисков, останется основной задачей для британских и мировых регуляторов в будущем.
Комментарии