Аннотация:
За несколько недель до того, как в августе отдел искусственного интеллекта SpaceX запустил Grok Bot, продукт для личного ИИ-агента, инженеры Cursor обнаружили потенциальную уязвимость. В то время SpaceX приобретала Cursor, стартап по разработке кода искусственного интеллекта, а Grok Bot был разработан Cursor. В процессе разработки все сотрудники Cursor широко использовали этот инструмент для тестирования и повседневной работы.
В конце июля инженеры выразили обеспокоенность тем, что Cursor мог отправить данные, полученные в результате внутреннего тестирования и которые могут содержать конфиденциальную информацию о клиентах, поставщиках и деловых партнерах, в отдел искусственного интеллекта SpaceX. Согласно внутренним сообщениям, рассмотренным СМИ, юрист Cursor предупредил, что как только посторонние узнают, что компания использует данные для обучения моделей, это может спровоцировать «серьезный кризис доверия».
Cursor немедленно начал внутреннее расследование, чтобы выяснить, какие конфиденциальные данные, если таковые имеются, были отправлены в подразделение искусственного интеллекта SpaceX, теперь известное как SpaceX SI, согласно внутренним документам, проверенным СМИ и двумя людьми, знакомыми с проектом. Итоги этого внутреннего расследования неясны, но компания предприняла шаги, чтобы гарантировать, что последующее обучение модели больше не будет включать данные, полученные в результате использования сотрудниками.
Этот инцидент подчеркивает проблему, с которой сталкиваются компании, занимающиеся исследованиями и разработками в области искусственного интеллекта, которая становится все более заметной по мере того, как такие агентские инструменты, как Grok Bot, становятся все более популярными. Агенты этого типа предназначены для предоставления более высоких разрешений и могут просматривать различные файлы и приложения на компьютере пользователя для автономного выполнения задач.
Но такая высокая степень свободы несет в себе новые риски безопасности, в том числе непреднамеренное предоставление конфиденциальной информации модели для обучения. В целом крупные компании, занимающиеся искусственным интеллектом, заявили, что они не будут использовать данные, полученные с помощью интернет-инструментов, таких как Gmail и Google Cloud Disk, для проведения обучения моделей. Например, в условиях обслуживания Grok Bot SpaceX SI заявляет, что компания не будет использовать данные Google Cloud Disk для обучения моделей, и пользователи могут отказаться предоставлять для этой цели свои собственные данные.
Расследование данных, связанных с ботом Grok, — не единственный инцидент безопасности данных, с которым столкнулся Cursor. Внутренние коммуникации, проанализированные СМИ, показали, что этим летом сотрудники компании случайно слили некоторую информацию о клиентах через общедоступный веб-сайт, созданный для внутреннего использования.
SpaceX SI не ответила на запрос о комментариях.
Даже до того, как SpaceX завершила сделку по приобретению Cursor за 60 миллиардов долларов в середине августа, Cursor расширяла свой бизнес и больше не ограничивалась инструментами кодирования. После завершения приобретения Grok Bot, всепогодный помощник по совместной работе с искусственным интеллектом, который может решать различные задачи, стал основным продуктом SpaceX SI в борьбе за прибыльный рынок инструментов искусственного интеллекта корпоративного уровня.
Два человека, знакомых с этим вопросом, рассказали, что для оптимизации ранней версии Grok Bot компания Cursor организовала для компании, сотрудников SpaceX SI, а также внешних частных лиц и компаний тестирование продукта, одновременно собирая записи о поведении пользователей при использовании агента. Курсор может использовать эти данные для обучения модели ИИ, позволяя модели узнать, как агент выполняет задачи, включая выполняемые операции и информацию, полученную во время выполнения задачи.
Ромен Угарте, бывший руководитель отдела развития Cursor, упомянул в интервью подкасту, что примерно в июне внутренние сотрудники Cursor первыми начали использовать Grok Bot под кодовым названием Sand. Продукт быстро стал популярным внутри компании: сотрудники использовали его для решения задач продаж, подбора персонала, исследований и других задач. Они часто разрешали программному обеспечению доступ к системам компании, что позволяло им работать независимо. Люди, знакомые с этим вопросом, говорят, что это означает, что сотрудники будут использовать агента в сценариях, где они взаимодействуют с внешними клиентами и проводят собеседования с потенциальными кандидатами, потенциально подвергая его конфиденциальной информации в переговорах о продажах, файлах клиентов и сообщениях о приеме на работу.
Но в июле, незадолго до того, как Cursor выпустил Grok Bot, некоторые инженеры предупредили в канале сообщений об инцидентах Slack: данные обучения, собранные компанией из сценариев внутреннего использования Sand, могут содержать конфиденциальную информацию, и этот пакет данных мог быть передан в SpaceX SI.
В рамках расследования компания Cursor проверила круг пользователей, включенных в набор обучающих данных, на основе внутренних коммуникаций и людей, знакомых с этим вопросом. Источник, знакомый с ситуацией, рассказал, что некоторые сотрудники Cursor использовали личные электронные письма для входа в Sand, из-за чего компании было сложно идентифицировать таких пользователей и исключать их данные из последующего обучения.
С этой целью компания Cursor ввела ограничения: сотрудники должны использовать электронную почту компании для входа в Sand, а также решила не включать никакие данные, созданные сотрудниками Cursor, в будущее обучение.
Юрист Cursor написал на канале Slack компании: «С юридической точки зрения Sand — это универсальный инструмент, и его набор данных содержит конфиденциальную информацию о клиентах, партнерах, поставщиках и т. д. Строго говоря, мы не имеем юридических полномочий использовать эти данные для обучения моделей».
Это не первый раз, когда компании Cursor приходится наводить порядок из-за неправильного обращения с пользовательскими данными.
Внутренние сообщения, проверенные средствами массовой информации, показали, что ранее в этом году произошел инцидент, о котором ранее не сообщалось: сотрудники отдела продаж и маркетинга Cursor случайно раскрыли информацию о клиентах в Интернете. Проблема заключалась в веб-сайтах, которые команда создала на основе платформы разработки веб-сайтов Vercel, которые использовались отделами продаж и маркетинга для поддержания отношений с существующими и потенциальными клиентами.
Документы показывают, что один из веб-сайтов используется для управления стыковкой клиентов с Verizon. Веб-сайт содержит организационную схему части технического управления Verizon, в которой перечислены несколько основных пользователей внутреннего инструмента Verizon Cursor, объемы потребления продуктов и адреса электронной почты каждого пользователя.
Записи внутренней переписки Cursor показывают, что, хотя веб-сайт, связанный с Verizon, имеет пароль, он вместе со всей информацией о клиентах был записан непосредственно в базовый код. Любой пользователь Интернета, просмотревший код, может получить пароль и информацию о клиенте.
Внутренние сообщения также показывают, что компания сталкивалась с аналогичными проблемами с данными других компаний, таких как Bosch и Coupa. Обнаружив уязвимость, инженеры Cursor срочно отключили соответствующий сайт. Они даже дали каналу Slack, посвященному обсуждению этой бесконечной проблемы, длинное название: «Большое количество веб-сайтов GTM привело к утечке клиентских/внутренних данных» (GTM расшифровывается как Go to Market).
Bosch направил запросы в Cursor, Coupa отказалась от комментариев, Verizon не ответила на запросы об интервью, а Vercel отказалась от комментариев.
Задолго до слияния Cursor с SpaceX SI отдел искусственного интеллекта аэрокосмической компании столкнулся с аналогичными инцидентами, связанными с безопасностью данных. В марте 2025 года сотрудник SpaceX SI по ошибке загрузил тестовый сценарий в общедоступный репозиторий кода GitHub, в результате чего произошла утечка ключа интерфейса прикладной программы Grok. Посторонние могут использовать ключ для доступа к модели xAI, которая не была обнародована.
Этим летом исследователь обнаружил, что инструмент разработчика Grok Build от SpaceX загружает полный репозиторий кода Git в облачное хранилище Google Cloud Storage, что может привести к утечке проприетарного исходного кода или идентификационных данных, которые разработчики не собирались публиковать. В ответ xAI закрыла функцию загрузки хранилища и сделала инструмент открытым исходным кодом. Илон Маск написал на платформе X: «Все пользовательские данные, ранее загруженные в SpaceX AI, будут целиком и полностью удалены».
Комментарии