Аннотация:
Представитель. Ро Ханна, демократ из Калифорнии, собирается представить Конгрессу комплексный законопроект о регулировании искусственного интеллекта, надеясь создать самую строгую на сегодняшний день федеральную нормативную базу для передовых технологий искусственного интеллекта. Предложение не только призывает к внедрению системы строгой ответственности, но также планирует запретить использование систем искусственного интеллекта с возможностями «рекурсивного самосовершенствования» до тех пор, пока федеральное правительство не создаст полную систему безопасности.
Этот законопроект называется «Закон о человеческом контроле над ИИ». Предыстория внесения законопроекта возникла в то время, когда в технологических и политических кругах США продолжают расти опасения по поводу потенциальных рисков, связанных с передовым искусственным интеллектом. В последние годы многие руководители компаний, занимающихся искусственным интеллектом, публично предупреждали, что некоторые системы искусственного интеллекта в будущем могут превзойти возможности человеческого контроля, но Конгрессу еще предстоит сформулировать всеобъемлющий план регулирования.
Ро Кана заявил в интервью, что искусственный интеллект не только рискует подвергнуться злоупотреблениям, но также может привести к риску потери контроля. Он считает, что люди должны серьезно относиться к этим двум типам проблем, поскольку развитие связанных технологий затронуло вопросы безопасности на цивилизационном уровне.
Согласно содержанию законопроекта, так называемый «рекурсивный самосовершенствование» искусственного интеллекта будет запрещен. Этот тип системы определяется как модель искусственного интеллекта, которая может автономно улучшать свои возможности или изменять свои основные цели, механизмы контроля и правила отключения.
Как требует предложение, никакая соответствующая деятельность не будет разрешена до тех пор, пока не будут установлены федеральные правила безопасности. Даже если его откроют в будущем, ему потребуется одобрение специализированных контролирующих органов.
Законопроект также планирует создать новое федеральное агентство по регулированию искусственного интеллекта, которое будет курировать компании, разрабатывающие передовые модели, такие как OpenAI, Anthropic, Google DeepMind и xAI.
На агентство будет возложено множество обязанностей, включая разработку правил безопасности ИИ, создание системы лицензирования для обучения и развертывания моделей, проведение передовых проверок моделей, а также разработку стандартов для непрерывного тестирования и эффективного человеческого контроля.
В то же время новое агентство также будет отвечать за формулирование ряда технических требований безопасности, включая изолированные тестовые среды, меры сетевой изоляции, системы аварийного отключения и механизмы контроля, не позволяющие моделям покинуть экспериментальную среду и войти в открытый Интернет.
Согласно плану, все лаборатории, занимающиеся разработкой новейших моделей, должны пройти независимый аудит. Аудиторы будут оставаться в профильных учреждениях в течение длительного времени и отчитываться напрямую перед контролирующими органами, а не передавать информацию через корпоративное управление.
В дополнение к самой модели регулирования, законопроект также планирует ввести в сферу надзора некоторые передовые чипы искусственного интеллекта и вычислительные мощности, чтобы еще больше усилить надзор за деятельностью по разработке искусственного интеллекта с высоким уровнем риска.
Законопроект занимает решительно жесткую позицию в отношении системы ответственности.
Предложение требует, чтобы компании, занимающиеся искусственным интеллектом, приобрели крупномасштабную страховку ответственности перед выпуском продвинутых моделей, чтобы гарантировать возможность компенсировать будущий ущерб.
При этом законопроект также вводит механизм уголовной ответственности. Любой сотрудник, который сознательно отключает средства защиты, отключает аварийные остановки, подделывает записи журналов, нарушает системы изоляции или сознательно развертывает модели без разрешения, может быть подвергнут уголовному наказанию.
Еще большее беспокойство вызывает то, что законопроект также намерен установить положения об уголовной ответственности за «действия, ставящие под угрозу человечество». Если определенные системы искусственного интеллекта наносят крупномасштабный ущерб гражданскому населению, соответствующее поведение при их развертывании может повлечь за собой более серьезные юридические последствия.
Ро Кана сказал, что этот законопроект на данный момент является одним из наиболее полных предложений по регулированию безопасности искусственного интеллекта. Он подчеркнул, что содержание законопроекта в основном исходит из долгосрочных обменов с исследовательскими группами по безопасности искусственного интеллекта, а не формулируется на основе мнений крупных технологических компаний.
В то же время Ханна также призвала правительство США содействовать сотрудничеству в области безопасности искусственного интеллекта на международном уровне, включая заключение действующего соглашения о безопасности с Китаем и создание механизмов проверки, проверки и контроля для снижения риска распространения опасных систем искусственного интеллекта в будущем.
Аналитики полагают, что это предложение отражает растущий голос в Конгрессе США о том, что передовой искусственный интеллект не должен полагаться исключительно на корпоративную самодисциплину, а должен создать механизм государственного надзора, аналогичный системе регулирования лекарств.
Однако по-прежнему существует большая неопределенность относительно того, удастся ли гладко принять законопроект в будущем. Сторонники считают, что регулирование может снизить риск потери контроля, в то время как оппоненты обеспокоены тем, что слишком строгие ограничения могут ослабить способность США внедрять инновации в глобальной конкуренции в области искусственного интеллекта.
Тем не менее, поскольку возможности искусственного интеллекта продолжают улучшаться, дебаты о том, «должны ли люди устанавливать границы, прежде чем технологии выйдут из-под контроля», официально вышли на законодательный уровень США.
Комментарии