Главный научный сотрудник OpenAI призывает отрасль ограничить разработку моделей, соглашается Альтман

📅 2026-11-23

Аннотация:

Главный научный сотрудник OpenAI Якуб Пахоцкий предлагает компаниям, занимающимся искусственным интеллектом, согласиться установить ограничения на разработку все более мощных моделей до тех пор, пока у исследователей не появятся лучшие способы понимать и контролировать поведение этих моделей. Пачоцки призвал к созданию общеотраслевых стандартов, которые установили бы границы для разработки ИИ, и компании должны согласиться не расширять эти границы до тех пор, пока не будут выполнены конкретные требования безопасности.

"Я также предлагаю установить общие ограничения на основе недоумения и других мер, при этом разработчики обязуются не нарушать эти ограничения до тех пор, пока наша способность понимать и отслеживать поведение ИИ не достигнет определенного рубежа", - написал Пачоцки. Предложенные Пачоцки ограничения могут быть частично основаны на технической метрике, называемой недоумением, которая измеряет способность модели ИИ предсказывать следующий фрагмент текста. Пачоцкий не уточнил, на каком уровне должны быть установлены первоначальные ограничения и когда они будут реализованы.

Пачоцки предупредил, что уже в 2027 году ИИ может ускорить собственную эволюцию быстрее, чем исследователи смогут улучшить свои способности отслеживать и понимать технологию.

Генеральный директор OpenAI Альтман выразил поддержку этому предложению, назвав статью Пачоцкого «самым важным контентом, выпущенным OpenAI за последнее время». В сообщении на X он сказал, что соглашение об общих ограничениях поможет обеспечить «безопасность и контроль».

Связанные теги

Похожие статьи

Google Gemini запускает функцию GIF, созданную искусственным интеллектом, которая также доступна бесплатным пользователям в некоторых странах 2026-11-22 Трамп угрожает обложить «огромными налогами» американские компании, строящие центры обработки данных искусственного интеллекта за границей, и требует, чтобы вычислительная инфраструктура оставалась в Соединенных Штатах. 2026-11-21 Антропные исследователи предупреждают: СуперИИ может появиться к концу 2027 года, и в будущем люди могут навсегда потерять конкурентоспособность в сфере занятости 2026-11-21 OpenAI запускает масштабную модернизацию мобильного приложения ChatGPT. Функциональность Dots расширяет возможности тестирования. 2026-11-20 Миф о создании богатства Anthropic после выхода на биржу: около 600 сотрудников владеют акциями на сумму более 100 миллионов долларов США, а 2800 человек стали мультимиллионерами 2026-11-20 Google запускает функцию «компьютерных операций» для Mac-версии Gemini AI может выполнять многоэтапные задачи от имени пользователей 2026-11-20

Комментарии

0/500
Captcha (click to refresh)
Нет комментариев