Аннотация:
20 ноября, по сообщению американского СМИ The San Francisco Standard (Сан-Франциско Стандарт), бывший исследователь антропологии Джейкоб Коксон появился возле штаб-квартиры компании в Сан-Франциско в день IPO компании и публично обратился к протестующим на месте с просьбой запретить рекурсивное самосовершенствование (RSI) в системах искусственного интеллекта.

Коксон сказал на месте происшествия: "Они должны запретить RSI и отключить его".
Он также сказал протестующим: "Для каждого человека, который сюда приходит, есть сотни тысяч людей, которые придут сюда, если будут знать, что происходит. И таких людей миллионы».
RSI означает рекурсивное самосовершенствование, что означает, что система искусственного интеллекта еще больше улучшает свои собственные возможности, совершенствуя собственные алгоритмы, модели или процессы исследований и разработок, и использует улучшенные возможности для продолжения следующего раунда оптимизации. Считается, что этот механизм может ускорить развитие возможностей ИИ, а также вызывает опасения по поводу риска выхода систем ИИ из-под контроля.
Коксон ранее ушел из Anthropic. На этот раз он публично призвал к запрету RSI, отражая разногласия вокруг возможностей независимого улучшения и границ безопасности передовых систем искусственного интеллекта.
Комментарии