Аннотация:
Генеральный директор Anthropic Дарио Амодей призвал контролировать скорость совершенствования возможностей передовых моделей искусственного интеллекта, чтобы выиграть время для оценок безопасности и защитных мер. Он предложил ввести постоянных независимых оценщиков, координировать стандарты безопасности крупных застройщиков, а также развивать трансграничное сотрудничество в области управления рисками и контроля.
Независимые оценщики получают внутренний доступ
Амодей предложил передовым компаниям, занимающимся искусственным интеллектом, предоставлять непрерывный доступ на уровне сотрудников к квалифицированным независимым группам по оценке, чтобы они могли проверять тестирование моделей, отчеты о рисках, системы безопасности и процессы обработки инцидентов.
Anthropic стремится первой внедрить эту меру. Внешний персонал будет иметь доступ, аналогичный доступу группы оценки рисков компании, и сможет публиковать выводы без редакционного контроля Anthropic.
Этот механизм все еще требует решения таких вопросов, как выбор оценщиков, источников финансирования и обязательств по конфиденциальности. Веса моделей, инфраструктура обучения и уязвимости безопасности — это очень конфиденциальная информация, и расширение прав доступа также повысит требования к информационной безопасности.
Отраслевая координация ограничивает незащищенную конкуренцию в сфере компетенции
Вторая рекомендация призывает крупные лаборатории искусственного интеллекта разработать общие стандарты тестирования рисков, пороговые значения безопасности и условия выпуска моделей. Амодей считает, что конкурентное давление может побудить компании ускорить обучение и темпы выпуска, что затруднит принятие защитных мер для своевременного соответствия возможностям модели.
В политике ответственного масштабирования Anthropic принят многоуровневый механизм. Когда модели пересекают биологические, кибер-, автоматизированные НИОКР или пороговые значения риска потери контроля, компаниям необходимо повысить уровень защиты развертывания и информационной безопасности.
Сотрудничество между предприятиями может включать антимонопольные границы. Общественность заинтересована в совместной работе над разработкой стандартов испытаний на безопасность, однако договоренности по-прежнему могут подвергаться тщательному контролю со стороны регулирующих органов, если они ограничивают выход на рынок более мелких игроков, координируют запуск новых продуктов или снижают конкуренцию.
Международное сотрудничество охватывает трансграничные риски
Третья рекомендация предполагает межправительственное сотрудничество, включая установление минимальных мер безопасности со стратегическими конкурентами, такими как Китай. Амодей считает, что модели и технологии могут пересекать границы, а замедление темпов развития отдельной страны или предприятия может привести к переносу высокорискованных НИОКР в регионы с более слабым регулированием.
Потенциальные риски, перечисленные Anthropic, включают использование моделей для поддержки деятельности по созданию биологического оружия, крупномасштабное обнаружение уязвимостей программного обеспечения, атаки на критически важную инфраструктуру и выход систем искусственного интеллекта из-под контроля разработчиков. ИИ автоматически участвует в разработке моделей следующего поколения, что также может ускорить совершенствование возможностей.
Компания предлагает передовым разработчикам публиковать системные карты и регулярные отчеты о рисках, принимать независимую проверку и предоставлять необходимую информацию уполномоченным государственным органам. Правительства должны иметь ограниченные полномочия по предотвращению или задержке внедрения моделей, которые могут нанести катастрофический ущерб, с четкими пороговыми значениями и механизмами апелляции.
Поддержка отрасли еще не переведена в соглашение
Генеральный директор OpenAI Сэм Альтман поддерживает предоставление независимым оценщикам внутреннего доступа и заявил, что OpenAI примет аналогичные меры. Генеральный директор Google DeepMind Демис Хассабис и глава xAI Илон Маск также публично поддержали общее направление Amodei.
Соответствующие заявления еще не сформировали обязывающее отраслевое соглашение. Какие индикаторы возможностей приведут к замедлению или приостановке работы, будут ли независимые проверки иметь обязательный эффект и как будут обеспечиваться соблюдение трансграничных соглашений, еще предстоит определить предприятиям и правительствам.
Комментарии