Аннотация:
OpenAI призывает США взять на себя инициативу в разработке стандартов передового искусственного интеллекта (ИИ) вместе с другими странами в ответ на растущую обеспокоенность по поводу потенциального вреда ИИ. OpenAI заявила в своем блоге в понедельник, что для безопасной разработки искусственного интеллекта необходимо разработать международные технические стандарты, особенно для того, чтобы помочь определить, о каких типах инцидентов, связанных с моделями ИИ, следует уведомлять, уточнить, как страны могут сотрудничать в разработке ИИ, и улучшить доступ к вычислительным мощностям, необходимым для разработки таких технологий.
«Чтобы сделать дальнейший прогресс в области ИИ безопасным и полезным, необходимо продвигать согласованные исследования и разрабатывать общие стандарты, которые будут служить руководством для разработки ИИ в лабораториях и странах», — заявили в OpenAI.
OpenAI сообщила, что ее генеральный директор Сэм Альтман планирует в среду выступить в Совете Безопасности ООН по вопросам искусственного интеллекта и международной безопасности.
США Министр финансов Бессент заявил в минувшие выходные, что Соединенные Штаты предложили создать механизм отчетности для освещения инцидентов с искусственным интеллектом, имеющих последствия для национальной безопасности.
В своем блоге OpenAI подчеркнула, что странам следует работать вместе над разработкой взаимодополняющих национальных и международных стандартов для разработки наиболее эффективных моделей ИИ. OpenAI предполагает, что эту работу можно продвигать через существующие агентства по безопасности ИИ во многих странах, включая Центр стандартов и инноваций ИИ (CAISI) при Министерстве торговли США, который помогает в тестировании моделей ИИ и разработке соответствующих руководств.
OpenAI также призвала к разработке стандартов для решения проблемы растущей способности ИИ работать автономно, отметив, что «полностью автономное» рекурсивное самосовершенствование — когда ИИ в конечном итоге способен изменять свой собственный код или улучшать свои возможности без какого-либо вмешательства человека — не должно осуществляться «до тех пор, пока не будет обеспечена безопасность».
Комментарии