Аннотация:
По данным Reuters, в четверг OpenAI обновила свою модельную спецификацию. Это публичная дорожная карта, в которой указано, как компания хочет, чтобы ее модели ИИ работали. Поскольку возможности систем искусственного интеллекта продолжают расти, OpenAI перестроил этот набор спецификаций вокруг пяти основных ценностей. Пять ценностей — это верность человеческим намерениям, минимизация вреда, честность и прозрачность, уважение к человеческой автономии и забота.
OpenAI
В OpenAI заявили, что в основе этой структуры лежит лояльность к человеческим намерениям, требующая от модели понимания намерений и ценностных ориентаций пользователей, разработчиков и OpenAI, а не простого буквального выполнения инструкций.
В OpenAI заявили, что это обновление является частью усилий по выравниванию ИИ, призванных помочь моделям применять человеческие ценности в незнакомых ситуациях, всегда допуская при этом контроль человека. В пересмотренной структуре говорится, что модели должны минимизировать вред, быть прозрачными в отношении того, что они знают и чего не знают, и помогать пользователям принимать собственные решения и достигать своих собственных целей.
Компания заявила, что текущая модель еще не полностью отражает требования обновленной «Спецификации модели» и изучает новые методы обучения, которые помогут модели внедрить эти принципы в свое собственное поведение.
Этот шаг перекликается с подходом конкурента Anthropic к «конституционному искусственному интеллекту». Этот подход направляет поведение модели посредством письменной «конституции» принципов и делает ценности, формирующие системы ИИ, более прозрачными.
Комментарии