Anthropic заявляет, что новые средства защиты значительно сокращают кражу данных в результате «атак дистилляции»

Резюме:

Anthropic заявила в понедельник, что новые меры, направленные на предотвращение копирования конкурентами возможностей ее модели искусственного интеллекта Claude, позволили сократить объем данных, украденных в результате так называемых «атак дистилляции», примерно на 90–99%.

Дистилляция моделей стала в центре внимания ведущих компаний, занимающихся искусственным интеллектом; такие компании, как Anthropic, OpenAI и Google, считают, что такая практика позволяет конкурентам копировать их передовые возможности с меньшими затратами и быстрее.

Anthropic заявила, что меры безопасности, направленные на ограничение доступа к возможностям вывода Клода, значительно сократили попытки извлечения модели, и что «количество токенов вывода, извлеченных посредством дистилляции», теперь упало до «от 1/100 до 1/10 от предыдущего уровня».

Калифорнийская компания заявила, что усложнила использование сети агентов для неоднократного исследования защищенного процесса вывода Клода, блокируя попытки извлечения данных и препятствуя крупномасштабным кампаниям по уточнению моделей.

Anthropic заявляет, что ее система безопасности «примерно эквивалентна системе, которая не позволяла бы Клоду участвовать в создании биологического оружия», и имеет «коэффициент ложных срабатываний менее 0,1 процента».