Согласно новостям от 5 июня, только что был выпущен ИИ-помощник Scout от Microsoft, но он вызвал разногласия из-за внутреннего стратегического документа: в документе в качестве цели первого этапа указано «сделать людей зависимыми» (Make People Added). Позже генеральный директор Microsoft Сатья Наделла внутри компании выразил несогласие с этим маршрутом.
Согласно внутреннему документу, полученному 404 Media, материал называется «ClawPilot: Обзор и планирование «Проекта Лобстера»» и описывает трехэтапный путь продвижения Scout. Согласно документу, Scout — это «всегда активный» персональный ИИ-агент, интегрированный в Microsoft 365, который может управлять календарем, электронной почтой, планированием встреч и другими рабочими задачами.
Споры возникают из-за того, что «люди не могут жить без этого каждый день».
Самое яркое в документе — цель первого этапа: «сделать людей зависимыми». В документе далее поясняется, что на этом этапе мы продолжим предоставлять независимый опыт ClawPilot, совершенствовать пользовательский интерфейс, расширять базу пользователей и создавать экосистему навыков и инструментов, чтобы люди не могли жить без нее каждый день.
«404 СМИ» сообщили, что AI также участвовала в написании самого документа. В документе также говорится, что Scout стал «одним из самых популярных инструментов» в Microsoft, которым пользуются более 1000 сотрудников, включая самого Наделлу.
Анонимный сотрудник Microsoft рассказал 404 Media, что включение слова «зависимость» в стратегию продукта «очень тревожит». Его беспокоит не просто формулировка, а то, что чат-боты и ИИ-агенты все чаще вмешиваются в работу, эмоции и повседневные сценарии принятия решений пользователей. Если продукт активно порождает чувство зависимости, его границы будут более чувствительными, чем у обычного программного обеспечения.
Возражает ли Наделла против направления продукта или внутренней формулировки?
Позже издание The Information сообщило, что Наделла отказался от этой линии, выдвинутой руководителями Microsoft. Публично доступная информация показывает, что оппозиция Наделлы сосредоточена на продуктовых планах, которые «вызывают у пользователей зависимость», но внешний мир в настоящее время не может подтвердить его оригинальные слова внутри компании, масштабы его поставки и назвал ли он конкретного ответственного лица.
В официальном блоге Microsoft, анонсировавшем Scout 2 июня, не было выражения, связанного с «зависимостью». В официальном заявлении подчеркивается, что Scout «понимает, как вы работаете», принимает меры в отношении вещей, которые волнуют пользователей, и находится «под вашим контролем». В блоге также упоминается, что Scout имеет встроенные средства контроля безопасности и соответствия требованиям корпоративного уровня, включая управление идентификацией Microsoft Entra, политики защиты данных Microsoft Purview и необходимость ручного утверждения для конфиденциальных операций.
Однако многие зарубежные СМИ цитируют сообщение 404 Media, в котором говорится, что в просочившемся документе «безопасность и соблюдение требований» перечислены как проблемы, которые необходимо постепенно решать в будущем, а не как необходимое условие перед выпуском. Для офисного помощника по искусственному интеллекту, которому необходим доступ к конфиденциальной информации, такой как электронная почта, календарь и контакты, эта последовательность оказывает более прямое влияние на доверие пользователей, чем сама «вызывающая привыкание» формулировка.
О чем действительно стоит беспокоиться пользователям Office
Причина, по которой споры о Скаутах легко распространяются, заключается в том, что это не развлекательный продукт, а искусственный помощник, встроенный в вход в офис. Короткие видеоролики, мобильные игры и социальные сети используют механизмы для увеличения времени удержания пользователей, и многие люди уже этого ожидали; но если инструмент, который помогает пользователям работать с электронной почтой, календарями и собраниями, ставит в качестве цели первого этапа «не может жить без этого», пользователи столкнутся не только с инструментом повышения эффективности, но и с переориентированным рабочим процессом.
Для пользователей Microsoft 365 риск заключается не в том, что Scout определенно станет «привыкающим», а в том, что отношения зависимости могут быть заранее прописаны в дизайне продукта: он сначала изучает ваши рабочие привычки, затем берет на себя больше повседневных задач, а затем подключается к большему количеству инструментов искусственного интеллекта. Каждый шаг может увеличить стоимость неиспользования.
Опровержение Наделлы, по крайней мере, показывает, что высшее руководство Microsoft осознало, что слово «зависимость» не может быть публичным обозначением офисных продуктов с искусственным интеллектом. Однако этот документ был распространен внутри компании и был получен средствами массовой информации в виде исполнительной записки, которая также показывает, что Microsoft все еще необходимо уточнить цели роста, порядок безопасности и границы пользователей ИИ-агентов внутри компании.