Meta недавно незаметно прекратила сотрудничество с аутсорсинговой компанией Sama после того, как компании было поручено использовать данные изображений, собранные умными очками Ray-Ban, для предоставления учебных материалов для генеративной системы искусственного интеллекта Meta. Впоследствии Sama объявила об увольнении 1108 сотрудников, некоторые из которых заявили, что были уволены в «возмездие» после того, как сообщили средствам массовой информации, что просмотренные ими видеоролики содержат большое количество конфиденциального контента.
Впервые об инциденте стало известно в феврале этого года. Сотрудники Sama в Найроби, Кения, рассказали двум шведским газетам, что в их работу входит маркировка видео со смарт-очков, причем часто люди на кадрах не знают, что их снимают. Эти умные очки Ray‑Ban имеют встроенный ИИ-помощник и должны непрерывно записывать аудио и видео, часть которых будет использоваться в качестве данных для обучения ИИ, а затем люди-аннотаторы будут дополнять и улучшать контент, который ИИ трудно понять.
Meta заявила, что в ее условиях обслуживания пользователям разъясняется, как будут использоваться соответствующие данные, и что очки должны получить явное разрешение от пользователя перед включением режима AI. Тем не менее, несколько сотрудников Sama заявили, что отснятый материал, с которым они столкнулись, включал не только финансовую информацию, такую как банковские счета и частные разговоры, но также включал кадры обнаженной натуры в ванной и сцены интимного поведения, которые явно превышали когнитивные границы общественности для обычного сбора данных.
После того как СМИ опубликовали результаты расследования, Meta объявила о расторжении контракта с Sama, заявив, что компания «не соответствует стандартам Meta». Sama тут же ответила, что никогда не получала никаких официальных отзывов о том, что качество ее работы является «некачественным». В то же время некоторые сотрудники рассказали, что компания в рамках усиленных мер безопасности организовала для них «работу», практически ничего не делая, и подозревается в использовании внутренних расследований для преследования «информаторов», которые сообщают новости СМИ.
Это не первый раз, когда Сама участвует в трудовых и этических спорах, связанных с искусственным интеллектом. Эта калифорнийская аутсорсинговая компания получила заказ от OpenAI на предоставление услуг по обучению ChatGPT, который будет официально запущен в 2022 году. Чтобы уменьшить количество вредного контента, создаваемого чат-ботами, Sama организовала для кенийских сотрудников возможность просматривать и фильтровать чрезвычайно эффективный текстовый и графический контент в течение длительного времени менее чем за 2 доллара в день. Соответствующая работа оказалась причиняющей очевидный вред психическому здоровью сотрудников. В том же году Мете и Сама также предъявили обвинения в вербовке сотрудников посредством вводящих в заблуждение объявлений о вакансиях, представляющих собой замаскированную торговлю людьми и увольнение работников, пытавшихся создать профсоюз.
Помимо проблем с трудовыми правами, этот инцидент еще раз выдвинул на передний план риски конфиденциальности, связанные с умными очками. Еще в эпоху Google Glass его возможности записи вызывали резкое сопротивление общественного мнения из-за возможности «невидимого наблюдения» в общественных местах. Теперь, после того, как Meta «перезапустила» категорию с продуктами, более сдержанными и близкими по внешнему виду к повседневным очкам, некоторых пользователей фотографировали в них во время судебных заседаний, некоторые включили запись во время полицейских операций, а студенты использовали умные очки для списывания на экзаменах.
Поскольку носимые устройства продолжают нагреваться, другие технологические гиганты также ускоряют их внедрение. По имеющимся данным, Apple в настоящее время тестирует четыре дизайна умных очков, стремясь в будущем конкурировать с продуктами Meta Ray-Ban. С тенденцией глубокой интеграции искусственного интеллекта и сенсорных устройств поиск баланса между инновационным опытом, личной конфиденциальностью и трудовыми правами становится основной проблемой, которую технологическая отрасль не может избежать.