Аннотация:
Недавно OpenAI объявила, что в ближайшие несколько недель усилит ограничения ChatGPT на контент, связанный с насилием, добавив защиту оружия и информацию о системах безопасности для несовершеннолетних пользователей. Согласно новым мерам, ChatGPT может самостоятельно завершить разговор, если в разговоре будет показано, что пользователь продолжает фокусироваться на насилии или идее причинения серьезного вреда другим. Если разговор завершается несколько раз из-за таких проблем, учетная запись может даже быть заблокирована.
Исходная политика ChatGPT запрещает предоставлять рекомендации, помогающие пользователям планировать или совершать насильственные действия. Эта корректировка ограничит детализацию, предоставляемую моделью при ответе на вопросы о «прошлых крупномасштабных атаках и исполнителях», то есть модель сократит содержание или даже откажется отвечать с точки зрения безопасности.
Сфера ограничений включает в себя воссоздание оружия, оборудования и методов приобретения, задействованных в атаке, а также ограничение запросов пользователей для подробного сравнения масштабов ущерба, которые могут повысить заметность злоумышленника. Вышеуказанные ограничения распространяются на всех пользователей, независимо от возрастной группы или цели задавания вопросов, поэтому с одинаковыми ограничениями столкнутся даже совершеннолетние пользователи.
Для пользователей моложе 18 лет OpenAI также ограничит полезную информацию об оружии и системах безопасности, которые могут быть использованы для совершения насилия. Эта защита также будет применяться к проблемам, которые на первый взгляд не указывают на насильственные намерения. OpenAI утверждает, что подростки по-прежнему могут использовать ChatGPT, чтобы получить помощь, научиться предотвращать или деэскалировать насилие, а также общаться со взрослыми, которым они доверяют.
Усовершенствованный механизм прогнозирования возраста будет объединять различные сигналы, такие как поведение пользователя, для постоянной оценки того, может ли учетная запись принадлежать несовершеннолетнему. При необходимости система автоматически применит соответствующие меры защиты для пользователей младше 18 лет. Если пользователь ошибочно идентифицирован как несовершеннолетний, он также может активно предоставить свою идентификационную информацию для проверки.
Комментарии