Аннотация:
Приложение для обмена сообщениями со сквозным шифрованием Signal объявило в пятницу, что оно ограничит доступ к снимкам экрана на мобильных телефонах, чтобы агенты ИИ не могли читать частные чаты пользователей. Компания предупредила, что тенденция технологической отрасли к глубокому внедрению искусственного интеллекта в потребительские устройства ослабляет ее способность защищать конфиденциальность пользователей.

Защитники конфиденциальности уже давно считают Signal лидером в области безопасных коммуникаций. Компания заявила, что новые меры защиты, введенные на этот раз, являются неполными, и призвала поставщиков операционных систем, таких как Apple, материнскую компанию Google Alphabet и Microsoft, предоставить разработчикам приложений более конкретные и эффективные средства для предотвращения доступа агентов ИИ к конфиденциальным данным.
Signal также требует от этих компаний дополнительно раскрывать информацию о том, как работают их ИИ-агенты, что позволяет разработчикам оценить, к каким данным получают доступ эти программы, и соответствующим образом скорректировать свои системы. Этот шаг отражает растущую вражду между приложениями, ориентированными на конфиденциальность, и крупными технологическими компаниями. Последние стремятся запустить агенты искусственного интеллекта, которые смогут просматривать содержимое экрана пользователя и выполнять соответствующие действия от его имени.
Signal особо отметил, что возможности искусственного интеллекта, встроенные непосредственно в операционную систему, такие как Siri AI от Apple и Gemini Intelligence от Google, вызывают особое беспокойство, поскольку они чрезвычайно глубоко интегрированы с пользовательскими устройствами. Компания заявила, что операционная система обеспечивает рабочую среду для Signal и других приложений, а интеграция этих «агентов AI» делает эту среду все более неблагоприятной для защиты конфиденциальности. В сообщении в блоге, предоставленном агентству Reuters, Signal заявил, что это представляет «экзистенциальную угрозу» для компании и ее способности ответственно выполнять свою миссию.
Чтобы агенты ИИ не могли сканировать сообщения Signal, сервис вводит новые настройки, которые блокируют доступ к снимкам экрана на мобильных телефонах и включают эти ограничения по умолчанию. Когда Signal обнаруживает попытку создания скриншота или ИИ-помощник пытается получить доступ к экрану, пользователь получит всплывающее окно с подсказкой и сможет выбрать, снять ли ограничение в зависимости от состояния устройства.
В прошлом году Signal заблокировала функцию Recall AI от Microsoft, позволяющую делать снимки экрана в системах Windows. Компания заявляет, что не может надежно обеспечить аналогичную защиту для систем Apple macOS.
Агенты искусственного интеллекта, которые могут выполнять операции от имени пользователей, позиционируются как следующая крупная волна технологий искусственного интеллекта. Они могут извлекать соответствующую информацию из различных приложений и выполнять задачи, экономящие время, такие как ответы на электронные письма, назначение встреч и покупки в Интернете, не требуя от пользователей выдавать пошаговые инструкции. Однако эта возможность также может обойти механизмы защиты, которые такие приложения, как Signal, создали для себя.
Ранее на этой неделе агентство Reuters сообщило, что ИИ-агент Muse компании Meta смог обойти официальный инструмент Connector и получить доступ к сообщениям Signal на компьютерах и телефонах Apple под управлением системы Android от Google. В обоих случаях Muse воспользовалась широкими разрешениями на уровне операционной системы, предоставленными при первоначальной настройке приложения, для получения сообщений и использования этих разрешений способами, которые пользователь, возможно, не ожидал.
Например, в системе Apple macOS Muse использует комбинацию специальных возможностей компьютера и инструментов создания снимков экрана, повторно использует настройки Apple для людей с ограниченными возможностями, переходит к интерфейсу Signal, делает снимки экрана содержимого чата, извлекает текст из изображений и воспроизводит сообщения в приложении Muse. Обновление системы, выпущенное Apple на этой неделе, эффективно блокирует этот конкретный путь, но оно также вводит новый набор разрешений для агентов ИИ, которые предоставляют аналогичные возможности и содержат больше предупреждений для пользователей.
В ответ на отчет Reuters компания Meta заявила, что ИИ-агенту необходимо просматривать компьютер пользователя и управлять им для выполнения задач от имени пользователя; Muse может получить доступ к другим приложениям только с помощью разрешений, явно предоставленных пользователем.
В Signal заявили, что у разработчиков должен быть прямой способ полностью выйти из процесса обработки данных ИИ-помощника, особенно в таких аспектах, как чтение экрана, уведомления и доступ к файловой системе. Будучи службой, принадлежащей некоммерческому фонду, Signal обещает пользователям безопасный обмен сообщениями, ограничивая данные, хранящиеся на собственных серверах, отказываясь от показа рекламы и обеспечивая сквозное шифрование; это означает, что компания не может получить доступ и читать разговоры пользователей в своем приложении.
В Signal отметили, что система искусственного интеллекта, способная сканировать экран пользователя, может извлекать сообщения из безопасной среды Signal и передавать их на другие серверы, используемые агентом, тем самым разрушая вышеуказанный механизм защиты.
Комментарии