Meta подвергается внутреннему тестированию нового механизма Muse: аутсорсинговый персонал заменяет вызовы ИИ вручную

Аннотация:

Согласно внутренним сообщениям Meta, компания тестирует механизм «человека-экономки» для своего нового личного помощника с искусственным интеллектом Muse: Muse может передавать телефонные звонки людям без ведома пользователя, и сотрудники колл-центра будут выполнять вызов вместо искусственного интеллекта.

Muse тестирует функцию «ручной экономки»

За две недели с момента запуска Muse прочно возглавила список загрузок приложений в США и мгновенно стала популярной на рынке США. Этот помощник с искусственным интеллектом может автономно выполнять такие задачи, как отправка электронных писем, совершение покупок и бронирование поездок от имени пользователей.

Недавно Meta только что запустила функцию вызова Muse. С помощью функции вызова пользователи Muse могут поручить ИИ позвонить продавцу в США, и ИИ будет связываться с другой стороной для выполнения поручений, таких как запись на стрижку, проверка запасов в магазине и получение предложений от нескольких поставщиков услуг.

Но на прошлой неделе Meta сообщила сотрудникам о внутреннем тесте «человека-домработницы»:

Когда функция вызова Muse сталкивается со сложными сценариями, вызов может быть передан подрядчику компании без ведома пользователя, и персонал колл-центра завершит вызов.

Вице-президент лаборатории Meta Super Intelligence сообщил, что некоторые тесты показали, что вероятность успеха человеческих звонков может быть увеличена до 95–98 %, что выше, чем вероятность успеха вызовов чистого ИИ.

Однако внутренние сообщения компании также показывают, что некоторые сотрудники высказывали

проблемы конфиденциальности

Один сотрудник написал во внутреннем сообщении: «Мне трудно понять, почему мы считаем, что эта функция стоит риска. Достаточно лишь ошибки, чтобы привести к утечке ненужной информации людям-операторам».

Другой сотрудник также особо упомянул об инциденте с расовой дискриминацией: однажды он попросил Muse позвонить оператору кабельного телевидения, чтобы обсудить счет, и записи звонков показали, что во время разговора привлеченный на аутсорсинг персонал делал замечания расового характера.

В связи с этим вице-президент Meta Super Intelligence Laboratory признал, что привлечение аутсорсингового персонала к совершению телефонных звонков без надлежащего уведомления было «ошибкой», и сообщил, что компания временно отменила эту функцию.

Она также извинилась перед сотрудником, который сообщил о расовых высказываниях во время разговора, и пообещала, что привлеченный аутсорсинговый персонал не будет участвовать в каких-либо мета-проектах в будущем.

Используете «искусственный интеллект», чтобы притвориться «искусственным интеллектом»?

Этот тест, проведенный Muse, дает внешнему миру возможность взглянуть на весьма распространенную операцию в технологической отрасли: технологические компании могут полагаться на человеческую силу за кулисами для выполнения своих рекламных обещаний о так называемом «автономном искусственном интеллекте».

Это напоминает эксперимент, проведенный Метой десять лет назад. Meta, которая в то время еще называлась Facebook, тестировала цифрового помощника под названием M в Messenger. По оценкам последующих СМИ, около 70% задач помощника фактически выполнялись вручную.

Отвечая на вопрос о решении Muse для «искусственного дворецкого», представитель Meta сказал, что отзывы сотрудников были «в целом очень положительными» и что цель этого теста заключалась в «сборе отзывов для реализации механизмов безопасности и защиты конфиденциальности и оптимизации функций перед официальным выпуском».

Представитель Meta Дэниел Робертс заявил: "Мы работаем с продавцами, чтобы продолжить оптимизацию этой потенциальной функции звонков. Она не будет официально запущена, пока не будет готова и условия не будут полностью известны".

Данные агентства рыночной разведки Sensor Tower показывают, что с момента запуска Meta's Muse было загружено более 2,5 миллионов раз.

С момента выпуска продукта цена акций Meta выросла более чем на 20 %, а ее рыночная стоимость выросла более чем на 200 миллиардов долларов США. По состоянию на закрытие торгов в понедельник он достиг нового максимума за более чем семь месяцев. Однако во вторник акции упали на 0,6%.