Два основных китайских приложения искусственного интеллекта, ориентированных на потребителя — Doubao от ByteDance и Tongyi Qianwen (Qwen) от Alibaba Group — готовятся перевести в автономный режим настраиваемые функции антропоморфных агентов в рамках подготовки к Временным мерам по управлению антропоморфными интерактивными услугами искусственного интеллекта, которые официально вступят в силу 15 июля.
В пятницу вечером Doubao выпустила для пользователей уведомление, в котором говорилось, что функция прокси-сервера будет отключена начиная с 15 июля, сославшись на «корректировки функций продукта». В уведомлении говорилось, что начиная с 15 октября данные, связанные с этой функцией, будут обрабатываться в соответствии с политикой конфиденциальности компании, и пользователи больше не смогут просматривать или восстанавливать соответствующий контент в приложении. Компания Tongyi Qianwen опубликовала аналогичное объявление в субботу утром, заявив, что ее «антропоморфный интерактивный агент и функции агента, созданные пользователем» будут деактивированы 10 июля, а более широкие «функции и услуги агента Tongyi» будут полностью отключены 15 июля. Пользователи не смогут получить доступ к существующим настройкам агента или записям исторических разговоров.
До этой корректировки оба приложения предлагали пулы агентов, созданные совместно платформой и пользователями, что позволяло настраивать их под конкретные задачи, навыки и стили речи. Пользователи могут создавать именных помощников, наставников, ролевых персонажей или эмоциональных компаньонов на основе универсальных чат-ботов, а также устанавливать для них фиксированные личности и тоны, чтобы они могли выражать выражения, близкие к человеческим, в долгосрочном взаимодействии.
Сроки функциональных корректировок во многом совпадают с введением новых нормативных актов. «Временные меры по управлению антропоморфными интерактивными услугами искусственного интеллекта», изданные китайскими регулирующими органами в апреле этого года, явно включают в себя услуги, которые «имитируют человеческие черты личности, модели мышления и методы общения, а также обеспечивают устойчивое эмоциональное взаимодействие» в рамках нормативных актов. Соответствующие положения официально вступят в силу 15 июля. Это положение исключает роботов для обслуживания клиентов, инструменты вопросов и ответов, интеллектуальных помощников на рабочем месте, а также инструменты образования и научных исследований в традиционном смысле. Пока они не предполагают «устойчивого эмоционального взаимодействия», они не подлежат надзору за антропоморфным взаимодействием.
Риски, упомянутые в нормативных документах, включают распространение экстремистских идей, утечку конфиденциальной информации, вред физическому и психическому здоровью пользователей и, как следствие, зависимость или аддиктивное поведение. ByteDance и Alibaba не сразу ответили на запросы о комментариях в воскресенье. До этого, в июне, Tencent Holdings удалила аналогичные агентские функции из своего ориентированного на потребителя приложения-помощника с искусственным интеллектом «Yuanbao», продемонстрировав тенденцию коллективного сокращения ведущих отечественных платформ антропоморфных агентов.
В последние годы регулирующие органы Китая уделяют все больше внимания развитию технологии агентов искусственного интеллекта. Такие системы превратились из простых чат-ботов на заре в сложные агентские системы, которые могут запоминать, планировать, вызывать инструменты и выполнять задачи. Пан Хелин, член Экспертного комитета Министерства промышленности и информационных технологий, сказал, что существует определенный порог понимания использования самих агентов, а текущая техническая форма еще не созрела. При формулировании новых правил особое внимание уделяется трем приоритетным направлениям: безопасность, практическая ценность и стандартизация.
В мае этого года регулирующие органы выпустили руководство по упорядоченной разработке агентов ИИ. С одной стороны, они признали, что агенты являются важной формой продуктов и услуг искусственного интеллекта, а с другой стороны, потребовали создания вспомогательных механизмов для обеспечения безопасности, контроля рисков и внедрения приложений в процессе продвижения. В июне Китай представил серию национальных стандартов для взаимодействия агентов ИИ, охватывающих множество технических аспектов, таких как архитектура, кодирование идентификации, управление идентификацией, описание агентов, обнаружение и взаимодействие, а также вызов инструментов, демонстрируя свое намерение создать единую систему с точки зрения идентификации, авторизации, возможности подключения и отслеживания.
Судя по сигналам регулирующих органов, Китай намерен включить агентов ИИ в будущую инфраструктуру производительности, одновременно ужесточив контроль над антропоморфными агентами-компаньонами, которые могут устанавливать эмоциональные или квазисоциальные отношения. Под прямым воздействием реализации политики централизованная функция автономного эмоционального агента платформы вызвала определенный отскок на стороне пользователя. Пользователь Weibo разместил сообщение под ником «Tuxiaoxiao», а в официальном аккаунте @豆包 написал: «Зачем нам отключать агентов? Они всегда были нашей эмоциональной поддержкой». Пользователь также пожаловался, что долговременно накопленные записи чатов и эмоциональные связи сложно полностью экспортировать или перенести существующими методами, а отсутствие плавного пути передачи данных делает эту настройку более фрагментированной.