16 декабря по пекинскому времени зарубежные СМИ сообщили, что ByteDance, отстающая в соревнованиях по генеративному ИИ, хочет «срезать углы». Компания тайно использовала технологию OpenAI для разработки собственной большой языковой модели, что нарушает условия обслуживания OpenAI. В настоящее время аккаунт ByteDance заблокирован OpenAI.
Зарубежные СМИ заявили, что в сфере искусственного интеллекта поведение ByteDance обычно расценивается как «невежливое» поведение и прямое нарушение условий обслуживания OpenAI.В условиях обслуживания OpenAI указано, что модели, экспортируемые компанией, не могут использоваться «для разработки любых моделей ИИ, конкурирующих с нашими продуктами и услугами». ByteDance приобрела доступ к OpenAI через Microsoft, но Microsoft также сформулировала ту же политику, что и OpenAI.
Внутренние документы ByteDance, полученные зарубежными СМИ, подтверждают, что ByteDance использует интерфейс прикладного программирования (API) OpenAI практически на каждом этапе разработки для разработки своей базовой модели большого языка под кодовым названием «Project Seed», включая модели обучения и оценки. Сотрудники, участвующие в Project Seed, прекрасно осознают негативные последствия такой практики. Согласно записям чата сотрудников ByteDance на Lark, зарубежной версии Feishu, внутренней коммуникационной платформы, они обсуждали, как обелить доказательства посредством «снижения чувствительности данных».Зарубежные СМИ сообщили, что сотрудники ByteDance настолько широко использовали технологию OpenAI, что сотрудники «Seed Project» часто достигали максимального лимита доступа OpenAI API.
Внутренние документы показывают, что ByteDance больше использует технологию OpenAI на ранних стадиях «начального плана». Несколько месяцев назад компания приказала команде прекратить использование текста, сгенерированного GPT, «на любом этапе разработки модели». Примерно в это же время компания получила разрешение на выпуск собственной большой модели искусственного интеллекта «Beanbao», тем самым выведя «Seed Project» в онлайн. Однако ByteDance продолжает использовать API способами, нарушающими условия обслуживания OpenAI и Microsoft, включая оценку производительности моделей, лежащих в основе Doubao. Один человек, не понаслышке знакомый с внутренними делами ByteDance, отметил:«Они говорят, что хотят убедиться, что все законно, но на самом деле они просто не хотят, чтобы их поймали».
Представитель ByteDance Джоди Сет ответила, что данные, сгенерированные GPT, использовались для аннотирования модели на ранней стадии разработки «Seed Project» и были удалены из обучающих данных ByteDance примерно в середине этого года. «ByteDance получила разрешение от Microsoft на использование GPT API. Мы используем GPT для продвижения продуктов и функций на некитайских рынках, но используем нашу собственную разработанную модель для продвижения Doubao. Doubao доступен только в Китае», — говорится в заявлении Сета.
Представитель OpenAI Нико Феликс выступил с заявлением, подтверждающим, что учетная запись ByteDance была заблокирована.«Все клиенты API должны соблюдать нашу политику использования, чтобы гарантировать, что наша технология используется во благо. Хотя ByteDance редко использует наши API, мы приостановили их учетные записи на время дальнейшего расследования. Если мы обнаружим, что их использование не соответствует политике компании, мы потребуем от них внесения необходимых изменений или закрытия их учетных записей». - сказал Феликс.
«Решения Microsoft AI, такие как служба Azure Open AI, являются частью нашей структуры ограниченного доступа, а это означает, что все клиенты должны подать заявку и получить одобрение Microsoft на доступ», — заявил в своем заявлении представитель Microsoft Фрэнк Шоу. «Мы также устанавливаем стандарты и предоставляем ресурсы, чтобы помочь нашим клиентам использовать эти технологии ответственно и соблюдать наши условия обслуживания. У нас также есть процессы для обнаружения злоупотреблений и прекращения доступа, когда компании нарушают наш Кодекс поведения».