Microsoft недавно запретила сотрудникам использовать недавно выпущенную большую модель Claude Fable 5 от Anthropic на уровне Mythos из-за опасений по поводу рисков соблюдения требований и конфиденциальности, которые может принести ее политика хранения данных. По словам людей, знакомых с этим вопросом, после того, как Anthropic обновила свои требования к хранению данных для Claude Fable 5, команда юристов Microsoft вмешалась, чтобы оценить и временно удалить модель из списка выбора модели GitHub Copilot, используемого сотрудниками компании.
Вчера Anthropic официально представила свою первую модель уровня Mythos, Claude Fable. Fable 5 является базовой версией этого выпуска и была быстро интегрирована в продукты и сервисы для клиентов, такие как GitHub Copilot и Foundry от Microsoft. Однако, в отличие от быстрого запуска для внешних клиентов, внутренние сотрудники Microsoft временно не могут выбрать Claude Fable 5 в своей собственной среде GitHub Copilot и по-прежнему могут получить доступ только к другим моделям серии Claude, которые продолжают реализовывать стратегию «нулевого сохранения данных» (ZDR).
Сообщается, что внутреннее объяснение Microsoft сотрудникам заключается в том, что команда юристов оценивает последние требования Anthropic к хранению данных для моделей серии Mythos. Основные проблемы сосредоточены на том, как данные клиентов и конфиденциальная информация хранятся и обрабатываются. Пока неясно, какой будет юридическая проверка и будет ли Claude Fable 5 вновь открыта для использования сотрудниками Microsoft в будущем.
Согласно политике, объявленной Anthropic, работа Claude Fable 5 основана на новом классификаторе безопасности, который требует, чтобы сервер сохранял пользовательские запросы и выводил контент для анализа безопасности и обнаружения нарушений. Согласно действующим правилам, эти данные по умолчанию будут храниться в течение 30 дней и удаляться по истечении срока действия; Если соответствующий контент помечен как нарушающий политику использования Anthropic, он может храниться на срок до двух лет в целях обеспечения безопасности и соответствия требованиям. Именно этот механизм «обязательного хранения» вызвал ряд опасений по поводу юридической ответственности, конфиденциальности клиентов и защиты корпоративной конфиденциальности со стороны Microsoft.
Claude Fable 5 — это первый крупномасштабный публичный релиз семейства моделей Anthropic Mythos, которые, как ранее заявляла компания, «слишком опасны для полноценного публичного выпуска», когда речь идет о таких деликатных задачах, как кибербезопасность. Чтобы снизить риск злоупотреблений, Anthropic ввела более строгую защиту слов и механизмы проверки контента для Fable 5, что также технически способствовало нынешнему дизайну хранения данных, создавая новое противоречие между безопасностью продукта и соответствием требованиям данных.
СМИ запросили у Microsoft комментарий относительно текущего использования Claude Fable 5 внутри Microsoft и ее последующих планов, но Microsoft не ответила до установленного срока.
Похожие статьи:
Anthropic выпускает Claude Fable 5, общедоступную версию Mythos без функций кибербезопасности