По данным журнала Time, американский стартап в области искусственного интеллекта Anthropic добился больших успехов и позиционирует себя как компания, наиболее ориентированная на безопасность среди ведущих исследовательских лабораторий в области искусственного интеллекта. Однако руководители Anthropic рассказали Times:Компания отказывается от основного обещания своей флагманской политики безопасности.
В 2023 году Anthropic пообещала, что никогда не будет обучать систему искусственного интеллекта, если заранее не обеспечит адекватные меры безопасности. Это обязательство становится основой Политики ответственного масштабирования Anthropic (RSP). В течение многих лет руководители Anthropic рекламировали это обязательство как доказательство того, что они являются ответственной компанией, способной противостоять искушению рынка и не торопящейся с разработкой потенциально опасных технологий.
Но в последние месяцы компания решила провести капитальный ремонт RSP.Решение включает в себя отказ от первоначального обязательства не выпускать модели ИИ без предварительного принятия соответствующих мер по снижению рисков.
«Мы считаем, что прекращение обучения моделей ИИ на самом деле никому не поможет», — сказал в эксклюзивном интервью TIME Джаред Каплан, главный научный сотрудник Anthropic. «Поскольку ИИ быстро развивается,Мы не считаем разумным брать на себя односторонние обязательства, когда наши конкуренты быстро продвигаются вперед."
Новая политика Anthropic, рассмотренная The Times, включает в себя: обязательство быть более прозрачным в отношении рисков безопасности ИИ, включая дополнительное раскрытие производительности собственных моделей Anthropic в тестах безопасности; стремление инвестировать и превосходить уровень конкурентов в области безопасности; и обязательство «отложить» процесс разработки ИИ Anthropic, если руководство считает, что Anthropic является лидером в гонке ИИ, и считает, что вероятность катастрофических рисков высока.
Но в целом эта корректировка RSP значительно снизила ограничения на политику безопасности Anthropic. Ранее политика прямо запрещала компаниям обучать модели выше определенного уровня без соответствующих мер безопасности.
В настоящее время Anthropic сталкивается с жесткой конкуренцией со стороны таких конкурентов, как OpenAI, xAI Илона Маска и Google, которые регулярно выпускают передовые инструменты. Компания также вовлечена в спор с Министерством обороны США по поводу использования ее инструмента Claude. Anthropic ранее сообщал Пентагону, что эти инструменты не могут использоваться для внутреннего наблюдения или автономных операций с летальным исходом. Однако Министерство обороны США также предъявило Anthropic ультиматум, пригрозив расторгнуть контракт с Anthropic, если его использование будет ограничено.
Anthropic заявила, что эта корректировка политики безопасности была обновлением, основанным на скорости развития ИИ и отсутствии соответствующих правил на федеральном уровне.
Представитель Anthropic заявил, что эта корректировкаРазработан, чтобы помочь компаниям конкурировать с многочисленными конкурентами в условиях неравномерной политики.В этой среде компании должны сами судить, адекватны ли меры безопасности. Она также сказала, что обязательства по обеспечению безопасности не имеют ничего общего с переговорами Пентагона.
«Политическая среда сместилась в сторону приоритета конкурентоспособности ИИ и экономического роста, в то время как дискуссии, ориентированные на безопасность, еще не получили существенной поддержки на федеральном уровне», — заявил Anthropic в своем блоге, объявляя об этом изменении. Компания заявила, что по-прежнему привержена соблюдению ведущих в отрасли стандартов безопасности.