Аннотация:
По данным Business Insider, бывший исследователь Anthropic Джейкоб Коксон подробно рассказал о своих разногласиях с ИИ-гигантом во время мероприятия вопросов и ответов на платформе X во вторник. Ранее Коксон стал популярным благодаря своему предупреждению об отставке, поскольку он считал, что ИИ может уничтожить человечество в будущем.
Коксен
Коксон заявил, что антропное руководство ошибается, используя «консеквенциалистскую философию» для объяснения того, почему оно должно участвовать в расширении границ исследований ИИ.
«Если этот конкурс неизбежен, вам не следует в нем участвовать», — написал Коксон.
Коксон особо выделил Anthropic за стремление к рекурсивному самосовершенствованию (RSI) — процессу, с помощью которого модели ИИ могут совершенствовать себя и создавать свои собственные модели-преемники.
«Они спровоцировали недавнюю гонку вокруг RSI во многом потому, что считали, что эта гонка неизбежна. Следует отметить, что OpenAI пришлось отказаться от большого количества багажа, такого как Sora, потому что Anthropic в то время работал в полную силу». - сказал Коксон.
Коксон подробно рассказывает о своих разногласиях с Anthropic
Коксон также заявил, что руководство Anthropic слишком настороженно относится к правительствам Китая и США. «Они не верят, что переговоры возможны».
Генеральный директор Anthropic Дарио Амодей неоднократно выражал беспокойство: если Anthropic окажется единственной передовой лабораторией, замедляющей разработку, другие компании, занимающиеся искусственным интеллектом, могут принять другие меры безопасности.
«Если мы будем развиваться слишком медленно, я все равно думаю, что не те люди в конечном итоге будут контролировать эту технологию», — сказал недавно Амодей CNN. «Это также значительно увеличит вероятность того, что что-то пойдет не так».
Комментарии