Аннотация:
Недавно выпущенный компанией Meta новый агент искусственного интеллекта «Muse» стал участником серьезного спора о вторжении в частную жизнь. Соответствующие тесты показали, что инструмент ИИ считывает и синхронизирует большое количество записей чата в базе данных «Сообщения» (Messages) системного уровня устройств Apple без явного разрешения пользователя или даже когда соответствующие разрешения были явно отключены.
Muse — это агент искусственного интеллекта, продвигаемый Meta, целью которого является помощь пользователям в поиске данных, создании презентаций и помощи в покупках. Meta официально утверждает, что система работает на выделенном виртуальном компьютере и может подключать различные приложения и источники данных для обеспечения индивидуального взаимодействия. Meta официально обещает, что будет строго соблюдать системные разрешения, установленные пользователями, и никогда не будет иметь доступ к несанкционированным данным. Однако Meta также сохраняет в документации к продукту заявление об отказе от ответственности, в котором говорится, что агент может допускать ошибки или предпринимать «неожиданные действия».
Колумнист технологических СМИ Джейсон Атен обнаружил серьезные нарушения в ходе фактического тестирования. Аттен установил Muse на iPhone и Mac mini, которые он использует для оценки инструментов искусственного интеллекта. Всего через день после установки Muse активно рекомендовала ему темы статей на основе частных разговоров, которые он ранее обсуждал со своим партнером по подкасту посредством текстового сообщения. Отвечая на вопрос, Muse первоначально заявила, что соответствующая информация поступала из всплывающих баннеров с уведомлениями о входящих звонках или текстовых сообщениях. Однако последующее техническое расследование показало, что Muse без авторизации синхронизировала и захватила целых 187 000 строк текстовых записей в локальной информационной базе Apple и загрузила их в облако, когда система не предоставила «Полный доступ к диску» и явно не получила разрешения на чтение текстовых сообщений.
Эта аномалия показывает, что Muse не просто перехватывала разговоры в Messenger, принадлежащие Meta, но также обходила системные ограничения и принудительно извлекала собственные исторические данные SMS и iMessage устройств Apple. Синхронизация сотен тысяч строк данных всего за 24 часа означает, что программа полностью считывает все исторические файлы чата, накопленные устройством в прошлом.
Внешние аналитики отметили, что этот инцидент отражает то, что технологические гиганты провоцируют более глубокий кризис конфиденциальности, продвигая генеративный искусственный интеллект. Ранее Meta широко критиковалась за то, что она требовала от пользователей разрешения на полную загрузку фотографий из альбомов, чтобы «сгенерировать вдохновение для публикации». Ее интеллектуальные очки также часто сталкивались с риском нарушения конфиденциальности. Поведение Muse на этот раз еще раз продемонстрировало, что в отсутствие эффективных технических ограждений и надзора сбор данных о личной конфиденциальности системой ИИ практически выходит из-под контроля. Даже если обычные пользователи решат не активно использовать такие продукты, все равно существует риск пассивной утечки информации об их личных взаимодействиях с контактами, которые устанавливают программное обеспечение. В настоящее время Meta еще не предоставила разумного объяснения того, как Muse обходит базовые разрешения системы для чтения сторонних данных.
Комментарии