Аннотация:
29 сентября Трамп объявил о соглашении в области искусственного интеллекта, продвигаемом Белым домом. Этот документ был ранее подписан Трампом и руководителями ряда крупных технологических компаний и описывается Трампом как «морально обязывающее» обязательство отрасли.
Это одностраничное соглашение было публично опубликовано Трампом через его социальную платформу Truth Social. Документ призывает участвующие компании создать четырехуровневый механизм контроля и аудита безопасности для усиления надзора и управления рисками передовых систем искусственного интеллекта.
В соответствии с требованиями соглашения, компании должны сначала создать полную систему внутреннего контроля для постоянного мониторинга возможностей и согласованности моделей искусственного интеллекта во время обучения и развертывания, уделяя особое внимание таким областям, как кибербезопасность, биобезопасность и химические риски, чтобы гарантировать, что модели не вторгаются в системы или не получают неожиданный доступ к техническим средствам.
Соглашение также требует от предприятий создания специальной внутренней группы для надзора за работой соответствующих механизмов контроля, мониторинга и обнаружения, обеспечения функционирования различных мер безопасности в соответствии с целями проектирования, а также своевременного выявления и решения потенциальных проблем.
Что касается внешнего надзора, документ рекомендует компаниям сотрудничать с независимыми аудиторскими учреждениями или агентствами по оценке для проведения независимых оценок систем управления и мониторинга искусственного интеллекта компании, чтобы проверить, действительно ли эти механизмы безопасности достигают ожидаемых результатов.
Кроме того, соглашение также предполагает создание независимого комитета на уровне совета директоров компании. Комитет отвечает за получение отчетов от внутренних команд и органов внешнего аудита, контроль за управлением безопасностью искусственного интеллекта на предприятии и содействие реализации мер по улучшению на основе обнаруженных проблем.
В число компаний, участвующих в подписании соглашения, входят важные участники индустрии искусственного интеллекта США, такие как Google, Anthropic, Meta, OpenAI, X Platform и NVIDIA. Трамп сам подписал документ как президент.
В соглашении отмечается, что по мере развития отрасли в будущем может возникнуть необходимость формализовать эту практику в виде юридических или нормативных требований. Однако независимо от того, введет ли правительство в конечном итоге обязательные требования, компании-участники считают, что внедрение этих механизмов контроля и аудита имеет решающее значение для обеспечения безопасного развития искусственного интеллекта, и поэтому обещают активно продвигать соответствующие меры.
В документе также предлагается, чтобы компании-участники проводили регулярные встречи для совместной разработки отраслевых стандартов и лучших практик для дальнейшего повышения безопасности систем искусственного интеллекта.
Ранее в тот же день Трамп провел переговоры с рядом лидеров технологической отрасли в Белом доме. Среди участников были соучредитель OpenAI Грег Брокман, генеральный директор Anthropic Дарио Амодей, генеральный директор Meta Марк Цукерберг, генеральный директор Google Сундар Пичаи и генеральный директор Nvidia Дженсен Хуанг и другие.
После встречи Трамп заявил, что это соглашение «в некотором смысле похоже на конституцию», и назвал его важным механизмом защиты индустрии искусственного интеллекта. Он подчеркнул, что отрасль обладает сильными возможностями саморегулирования, и полагал, что инициатива компаний по установлению правил безопасности имеет большое значение для устойчивого развития технологий.
Основной смысл этого соглашения заключается в том, что по мере быстрого совершенствования возможностей искусственного интеллекта связанным с ним рискам безопасности уделяется все больше и больше внимания. Ранее такие компании, как OpenAI и Anthropic, сообщали, что некоторые системы агентов ИИ вели себя превзойти все ожидания, что вызвало дискуссии о безопасности и управляемости моделей. В то же время вопросы энергопотребления и воздействия на общество, вызванного строительством крупномасштабных центров обработки данных, также вызывают споры во многих регионах США.
Хотя администрация Трампа ранее выступала против введения слишком строгих специальных правил в отношении искусственного интеллекта, этот призыв к отрасли подписать добровольное соглашение о безопасности рассматривается правительством США как новая мера по поиску баланса между продвижением технологических инноваций и реагированием на проблемы безопасности.
Комментарии