Аннотация:
По данным Bloomberg, генеральный директор Meta Марк Цукерберг заявил во вторник, что лабораториям искусственного интеллекта следует полагаться на независимых оценщиков и консультантов для обеспечения безопасности моделей. Цукерберг во вторник присоединился к растущему числу руководителей технологических компаний, которые принимают участие в глобальной дискуссии о том, как лучше всего предотвратить причинение вреда человечеству системами искусственного интеллекта.
Цукерберг
"Привлечение независимых оценщиков и консультантов — лучшая практика в отрасли". Цукерберг написал в своем посте на платформе X. Он отметил, что в целом помогает наличие более крупной и разнообразной экосистемы оценщиков.
Цукерберг сказал, что в настоящее время ведется много споров о том, следует ли замедлить развитие возможностей искусственного интеллекта и ждать, пока технологии выравнивания догонят его. Его точка зрения заключается в том, что доверие и согласованность быстро становятся наиболее важными качествами, которые отличают агентов и модели. Любая лаборатория, которая не относится к согласованию серьезно, отстанет. Согласование означает согласование действий ИИ с интересами человека.
Публикация Цукерберга
В настоящее время некоторые руководители компаний выражают поддержку замедлению развития искусственного интеллекта и выступают за сотрудничество для достижения консенсуса. Цукерберг написал, что Meta решила самостоятельно замедлить разработку инструмента Muse AI, не попросив предварительно коллег оценить их прогресс.
"Meta отложила выпуск Muse на несколько месяцев, чтобы сосредоточиться на безопасности", - написал он. «Мы не просили всех остальных сначала сделать это, а потом делать это самим. Мы просто делали это как часть нашей повседневной жизни, потому что очевидно, что это было правильно и для наших пользователей, и для нас».
Цукерберг считает, что направить большую часть вычислительной мощности на служение людям, а не гоняться за продвижением рекурсивного самосовершенствования ИИ — это один из лучших способов обеспечить безопасное развитие этой технологии. Мета взяла на себя это обязательство, и другие лаборатории могут сделать то же самое.
На прошлых выходных статья генерального директора Anthropic Дарио Амодеи объемом 3800 слов еще больше подогрела жаркие дебаты вокруг экономических рисков и рисков безопасности, связанных с ИИ. В нем он призвал замедлить развитие современных систем, чтобы исследователи могли лучше понять потенциальные угрозы. Призыв Амодеи получил редкую поддержку со стороны генерального директора OpenAI Сэма Альтмана и генерального директора SpaceX Илона Маска.
Комментарии