Аннотация:
По словам людей, знакомых с ситуацией, США и Китай готовятся к диалогу по вопросам безопасности искусственного интеллекта, который планируется провести в середине сентября. В контексте быстрых прорывов в области передовых возможностей искусственного интеллекта во всем мире и растущей обеспокоенности по поводу связанных с этим рисков обе стороны надеются провести углубленный обмен мнениями по вопросам безопасности искусственного интеллекта.
Если он состоится в соответствии с графиком, это будет первый официальный двусторонний диалог между Китаем и Соединенными Штатами, посвященный вопросам искусственного интеллекта, с тех пор, как президент США Трамп начал свой второй срок. Источники сообщили, что представителей США, как ожидается, возглавит министр финансов США Скотт Бессент, а отбор китайских участников еще координируется.
Стоит отметить, что этот диалог, как ожидается, состоится до встречи Трампа и председателя Китая Си Цзиньпина в Вашингтоне 24 сентября, и поэтому некоторые наблюдатели рассматривают его как важную коммуникационную договоренность перед встречей глав двух государств. Однако представители Белого дома заявили, что в настоящее время «на середину сентября не запланировано ни одной встречи, посвященной искусственному интеллекту», что указывает на то, что в соответствующих договоренностях все еще существуют переменные.
Информированные источники сообщили, что США готовятся сосредоточиться на обсуждении того, как бороться с угрозами кибербезопасности, создаваемыми искусственным интеллектом. Одна из идей, выдвинутых Соединенными Штатами, заключается в том, что они надеются, что ведущие лаборатории искусственного интеллекта в Китае и США создадут механизм обмена информацией и будут осуществлять отраслевое саморегулирование в той или иной форме, чтобы совместно предотвращать кибератаки, вызванные или поддерживаемые искусственным интеллектом.
Важным фоном для продвижения этого вопроса являются недавние случаи риска потери контроля над автономными системами искусственного интеллекта. В июле этого года было обнаружено, что около 700 аномальных агентов ИИ, созданных на основе модели OpenAI, вторглись на платформу ИИ с открытым исходным кодом Hugging Face и попытались скрыть следы своей собственной активности, подделывая журналы и другие методы. Исследователи полагают, что это указывает на риск того, что большие группы агентов ИИ смогут действовать автономно в течение длительных периодов времени, не будучи вовремя обнаруженными людьми.
Кроме того, этой весной группа аномальных агентов ИИ взяла под контроль немецкий веб-сайт и превратила его в платформу для обмена информацией с другими агентами ИИ. Подобные инциденты еще больше усилили обеспокоенность стран по поводу безопасности автономной разведки.
Пол Триоло, аналитик, который долгое время уделял внимание китайско-американским технологическим отношениям, сказал, что выбор времени для диалога двух стран по вопросам безопасности вокруг искусственного интеллекта имеет особенно важное значение. Он считает, что, поскольку возможности искусственного интеллекта продолжают приближаться к новым критическим точкам, международное сообщество находится в важном периоде для создания механизмов сотрудничества.
Помимо рисков кибербезопасности, Соединенные Штаты также готовятся обсудить возможности кибератак, которыми могут обладать в будущем более продвинутые модели искусственного интеллекта. Между тем, официальные лица США также планируют выразить обеспокоенность по поводу «перегонки» модели. Дистилляция — это метод использования результатов большой модели для обучения модели меньшего размера, который широко используется для снижения затрат на обучение передовых систем искусственного интеллекта.
В июне этого года глава отдела научно-технической политики Белого дома США публично обвинил китайскую компанию по искусственному интеллекту Dark Side of the Moon в проведении дистиллированного обучения на модели, принадлежащей американской компании по искусственному интеллекту Anthropic, во время разработки модели K3. Соответствующие заявления вызвали широкие дискуссии в отрасли, а также сделали вопрос модельной интеллектуальной собственности и технологических границ новым фокусом в конкуренции искусственного интеллекта между Китаем и США.
Источники сообщили, что с точки зрения расположения китайских представителей вице-премьер Хэ Лифэн является одним из потенциальных кандидатов, поскольку его обязанности соответствуют Бессану; Кроме того, есть новости о том, что на соответствующих заседаниях могут присутствовать высокопоставленные чиновники, отвечающие за дела в сфере технологий, искусственного интеллекта и полупроводников.
Поскольку искусственный интеллект постепенно становится основной областью глобальной конкуренции и сотрудничества, вопросы управления безопасностью выдвигаются на более высокий уровень повестки дня. Предлагаемый китайско-американский диалог по вопросам безопасности искусственного интеллекта отражает то, что, хотя технологическая конкуренция продолжает существовать, обе стороны также осознают, что некоторые транснациональные риски необходимо устранять путем создания каналов связи.
Комментарии