Meta делает большую ставку на умные очки для развития своего бизнеса в области искусственного интеллекта и дополненной реальности, но недавно раскрытые внутренние процессы снова подняли серьезные вопросы о границах ее конфиденциальности. Несколько аннотаторов данных, нанятых кенийской аутсорсинговой компанией Sama, рассказали, что им приходится каждый день смотреть и комментировать большое количество необработанных видеоклипов, снятых с помощью функции «живого ИИ (ИИ в реальном времени)» умных очков Meta, которая включает не только ежедневные сцены взаимодействия, но также включает в себя чрезвычайно личные и даже шокирующие сцены.
Эти аннотации являются ключевой частью обучения системы компьютерного зрения Meta. Каждый кадр видео, аннотированный вручную, будет отражать работу алгоритма своего помощника дополненной реальности. После включения функции «живого ИИ» умные очки, выпущенные Meta и Ray-Ban, продолжат собирать короткие видео и аудио через камеры и микрофоны, чтобы анализировать увиденные пользователем сцены в реальном времени и отвечать на его вопросы. Соответствующие данные затем будут загружены в мета-систему и интегрированы в огромный набор обучающих данных для оптимизации будущих версий ИИ-помощника.
Однако сотрудники Sama говорят, что загружаемые данные на самом деле гораздо более конфиденциальны, чем думают пользователи. Эти аннотаторы данных заявили, что они неоднократно видели сцены, когда люди в очках двигаются, переодеваются и даже занимаются сексом в ванной, а перспектива съемки - с самих очков. Даже если откровенный контент не задействован, соответствующие ролики часто раскрывают большое количество конфиденциальной информации, например, полностью отображаемые банковские карты, четко идентифицируемую планировку домашнего интерьера и даже очень частные разговоры. Аудиоклипы, документирующие дискуссии о протестах, предполагаемом преступном поведении или конфиденциальности личной жизни, были включены в учебные материалы для алгоритма Меты.
Судя по публичным заявлениям, Мета зарезервировала место для такого подхода на канцелярском уровне. Компания пишет в своих условиях обслуживания и политике конфиденциальности в области искусственного интеллекта, что взаимодействие с «живыми помощниками искусственного интеллекта» может сохраняться и просматриваться с помощью автоматизированных систем или человеческого анализа, и прямо напоминает пользователям не делиться конфиденциальной информацией. Однако, по сообщениям шведских СМИ Svenska Dagbladet и Göteborgs-Posten, пользователи, которые на самом деле носят очки, как правило, похоже, не понимают, что каждое движение перед ними может транслироваться за границу и кадр за кадром просматриваться незнакомыми подрядчиками. Аннотаторы рассказали, что, когда они жаловались руководству на то, что содержание контента слишком личное или что процесс аннотирования неудобен, обратная связь часто сразу же игнорировалась.
Изначально Мета в течение нескольких недель не отвечала на неоднократные запросы шведских журналистов. Когда представитель позже ответил СМИ, он по-прежнему основывался исключительно на условиях обслуживания ИИ и политике конфиденциальности компании, подчеркнув, что медиа-контент, загружаемый пользователями при использовании «живого ИИ», будет обрабатываться в соответствии с этими документами, и отказался предоставить дополнительные комментарии Straight Arrow News.
Социальная обеспокоенность вокруг носимых устройств Meta в последние месяцы продолжает расти. Ранее в этом году The New York Times сообщила, что Meta планирует добавить в свои умные очки возможности распознавания лиц, ссылаясь на внутреннюю памятку. Группы защиты гражданских свобод предупреждают, что сочетание распознавания лиц с непрерывным сбором видео может создать в реальном мире мобильную сеть наблюдения с ограниченным контролем и прозрачностью.
Помимо Meta, сторонние разработчики также начинают пытаться создавать «защитные» инструменты для борьбы с этой возникающей угрозой. Недавно появившееся приложение для Android утверждает, что оно способно определять, носит ли кто-то поблизости умные очки: приложение сканирует определенные характеристики визуального или беспроводного сигнала и предупреждает пользователя, как только определяет, что поблизости находится подозрительное носимое записывающее устройство.
Meta подчеркнула, что ее умные очки во время записи будут загораться небольшим светодиодным индикатором, чтобы информировать окружающих о том, что они снимают. Однако эксперты по конфиденциальности отмечают, что эта конструкция имеет очень ограниченную защиту в реальных сценариях, особенно после того, как исследователи продемонстрировали, что световой индикатор можно легко отключить или обойти.
В глазах регулирующих органов и защитников конфиденциальности возникает ключевой вопрос: можно ли считать напоминание, скрытое в длительных условиях обслуживания, «эффективным уведомлением» о таком масштабном и углубленном сборе и ручной проверке персональных данных? Для тех аннотаторов, которым каждый день приходится «учить» ИИ Меты понимать мир, ответ кажется самоочевидным — они точно знают, какой контент они смотрят, и они также осведомлены о контенте, а человек, вовлеченный в контент, может никогда этого не осознавать.