Согласно новостям от 23 июня, Meta приостановила внутренний проект обучения искусственному интеллекту на неопределенный срок. Проект записывает ввод с клавиатуры, операции с мышью и содержимое экрана на рабочих компьютерах сотрудников, чтобы обучить ИИ работе с программным обеспечением; Причиной приостановки было то, что права доступа к данным проекта были неправильно настроены, и около 45 000 таблиц данных когда-то были открыты для внутреннего персонала Meta.

WIRED и Business Insider по отдельности сообщили об инциденте с внутренними разрешениями. Согласно уведомлению внутренней безопасности Meta, рассматриваемые данные принадлежат Model Capability Initiative (MCI), которая содержит следы операций на рабочих компьютерах сотрудников, а также конфиденциальный контент, такой как «полные подсказки и расшифровки ИИ, частные разговоры, данные о персонале и производительности». Данные, упомянутые в отчете WIRED, в основном касаются оборудования компании, принадлежащего сотрудникам Meta в США.

Представитель Meta Трейси Клейтон подтвердила, что компания расследует инцидент, связанный с безопасностью, и сообщила, что деятельность MCI приостановлена ​​на неопределенный срок, пока расследование продолжается. Она также подчеркнула, что Meta «в настоящее время не имеет никаких признаков того, что сотрудники получили неправомерный доступ к данным». Однако это лишь заявление на нынешнем этапе расследования и не равносильно окончательному выводу.

Риски, которые беспокоили 1600 сотрудников, оказались правдой.

MCI был запущен в апреле этого года с целью сбора данных о рабочем поведении сотрудников на компьютерах для обучения систем искусственного интеллекта. Генеральный директор Meta Марк Цукерберг ранее объяснял эту идею на внутренних встречах: модели искусственного интеллекта могут учиться, наблюдая за тем, как работают хорошие сотрудники, а сотрудники Meta лучше подходят для предоставления высококачественных образцов, чем аутсорсинговый персонал, нанятый специально для производства такого рода данных.

Это объяснение не убедило большинство сотрудников. В мае более 1600 сотрудников Meta подписали внутреннюю петицию, призывающую прекратить отслеживание компьютерного поведения. В петиции говорится, что сбор таких данных создает риски для безопасности и регулирования, включая утечку данных и несанкционированное раскрытие.

Технический директор Meta Эндрю Босворт ранее сообщил сотрудникам, что управление данными MCI «строго контролируется» с использованием тех же стандартов защиты, систем хранения и контроля доступа, что и для других наборов конфиденциальных данных компании. Но после этого инцидента Босворт признал, что фактическая реализация проекта не соответствовала стандартам, перечисленным в документе проверки конфиденциальности. Во внутреннем сообщении он сообщил, что проблема заключается в неправильно настроенном списке контроля доступа и что компании необходимо выяснить причину и отследить путь доступа к данным.

Это не внешняя атака, но внутренние разрешения не заблокированы должным образом.

Этот инцидент был классифицирован компанией Meta как SEV2. Согласно пояснению в отчете, внутренний уровень серьезности Meta варьируется от 0 до 5, где 0 — самый серьезный, а SEV 2 — более высокий уровень. Внутренние сообщения, просмотренные WIRED, показывают, что инцидент был помечен как «закрытый», что означает, что проблема с разрешениями, возможно, была устранена, но Meta еще публично не сообщила о конкретных исправлениях и полных сроках.

Для сотрудников предметом спора является не только то, просматривал ли кто-либо данные других людей, но и то, что компания ранее обещала «строго контролировать» наборы конфиденциальных данных, и действительно были проблемы со слишком широкими разрешениями доступа. Один сотрудник написал на внутреннем форуме, что не видит никаких доказательств злонамеренного доступа, но был «возмущён», что данные не были заблокированы, как было обещано. BusinessInsider также сообщил, что внутренние сотрудники резко отреагировали на проект и этот инцидент.

Инцидент также затрагивает долгосрочные нормативные ограничения, с которыми сталкивается Meta. На Meta по-прежнему распространяется действие постановления Федеральной торговой комиссии США (FTC), которое требует от компании поддерживать процессы предотвращения утечки данных до 2040 года. WIRED также упомянул, что Meta начала привлекать ИИ к некоторым работам по проверке конфиденциальности и безопасности; однако в настоящее время нет доказательств того, что ИИ был причастен к этой ошибке конфигурации разрешений MCI.

Спринты ИИ наносят ущерб доверию внутри компаний

MCI не является изолированным проектом. В марте этого года Meta создала новую команду «Прикладной ИИ» (Applied AI), назначив на соответствующие должности около 6500 сотрудников с целью улучшения моделей ИИ. Business Insider сообщил, что некоторые сотрудники считали порученные им проекты тривиальными и подрывали их моральный дух; На прошлой неделе Босворт извинился перед сотрудниками за проблемы со связью во время реорганизации AI и пообещал улучшить общение и восстановить некоторые офисные льготы.

На этот раз MCI приостанавливается, и более конкретно раскрываются внутренние затраты Меты на переход к ИИ. Компания может заявить, что пока не обнаружила никаких признаков неправомерного доступа, но до тех пор, пока такого рода данные были открыты по ошибке, доверие сотрудников к «обучению ИИ собственным рабочим поведением» будет трудно восстановить одними внутренними обещаниями. Сотрудники являются не только поставщиками данных для обучения ИИ, но и непосредственными носителями рисков конфиденциальности и безопасности. Эта двойная идентичность — вот что действительно раздражает в этом инциденте.