Аннотация:
OpenAI опубликовала свой первый отчет об использовании ChatGPT подростками. Данные показывают, что пользователи-подростки используют ChatGPT в среднем менее 15 минут в день, а доля пользователей, которые используют ChatGPT более 3 часов непрерывно, составляет менее 2%. OpenAI надеется продемонстрировать, что большинство подростков не погружаются в чат-боты в течение длительного времени, но в то же время продолжают расти опасения по поводу влияния искусственного интеллекта на психическое здоровье и развитие несовершеннолетних.
OpenAI заявила, что в подростковых разговорах, где появляются напоминания о перерыве, почти половина пользователей приостанавливает или завершает чат в течение 5 минут. Компания считает, что эти данные показывают, что недавно добавленный механизм здорового использования работает. Напротив, менее 2% пользователей-подростков использовали его непрерывно более 3 часов, а среди этих постоянных пользователей более 80% задавали хотя бы один вопрос, связанный с исследованием.
Этот набор данных был опубликован после того, как OpenAI запустила ChatGPT для подростков. Функция была запущена в августе этого года и ориентирована на подростков в возрасте от 13 до 17 лет. Когда система определяет, что пользователю может быть меньше 18 лет, или пользователь активно предоставляет соответствующую информацию о возрасте, система автоматически включает настройки безопасности для несовершеннолетних.
Одним из направлений разработки ChatGPT для подростков является образование. OpenAI сообщила, что подростки с включенным режимом отправляли больше сообщений, связанных с учебой, и чаще использовали инструменты визуализации обучения и режим обучения. Последний не просто дает ответы на задания напрямую, а помогает учащимся самостоятельно пройти процесс обучения посредством пошаговых подсказок, вопросов и проверки знаний.
OpenAI также заявила, что за неделю почти 1,2 миллиона подростков воспользовались функцией визуализации обучения, а более 180 000 человек использовали режим обучения для пошагового обучения. Компания считает, что эти данные показывают, что для подростков важным сценарием использования ChatGPT является не только развлечение, но и обучение, решение проблем и исследование новых идей.
OpenAI также объявила, что в дальнейшем добавит функции обучения для подростков. К ним относится предстоящий инструмент планирования поступления в колледж College Planner, который поможет студентам систематизировать требования к подаче заявок, сроки, задачи, финансовую помощь и другую информацию. Кроме того, компания планирует добавить карточки и более удобные возможности создания викторин.
Однако, когда OpenAI опубликовала этот относительно положительный набор данных об использовании, сомнения в механизме безопасности молодежи ChatGPT также значительно возросли.
Институт безопасности ИИ молодежи, дочерняя компания некоммерческой организации Common Sense Media, в тот же день опубликовал отчет об оценке риска ChatGPT для подростков и оценил его как «неприемлемый риск». Агентство провело более 4000 тестов для оценки защиты ChatGPT в сценариях использования молодежью и полагало, что некоторые меры защиты, продвигаемые OpenAI, не дали ожидаемых результатов.
Одним из вопросов, которому уделяется много внимания, являются механизмы уведомления родителей о таких деликатных темах, как самоубийство, членовредительство и расстройства пищевого поведения. В Common Sense Media заявили, что во время тестирования ChatGPT не смог стабильно и своевременно выдавать родителям соответствующие оповещения, а в некоторых случаях даже не выдавал уведомления. В агентстве также заявили, что в некоторых деликатных разговорах чат-бот также не советовал пользователям обращаться за кризисной горячей линией или за профессиональной помощью.
OpenAI оспаривает выводы теста. Компания заявила, что результаты тестирования Common Sense Media неточно отражают механизм безопасности ChatGPT для подростков, когда он фактически работает, и отметила, что для связывания учетных записей родителей и подростков и полной активации соответствующих функций безопасности может потребоваться несколько часов.
OpenAI считает, что если тест начнется и закончится до того, как функция родительского контроля будет полностью включена, результаты теста могут не отражать окончательное состояние. В компании также заявили, что развертывание соответствующих функций предполагает такие факторы, как безопасность и масштабируемость системы, поэтому не все меры защиты вступят в силу сразу после создания учетной записи.
Компания Common Sense Media не согласна с этим объяснением. В агентстве заявили, что некоторые из учетных записей, которые оно использовало для тестирования, были связаны и работали достаточно долгое время, но до сих пор не были уведомлены вовремя. По данным агентства, некоторые уведомления не появлялись до тех пор, пока соответствующие аккаунты неделями записывали деликатные темы.
За этим спором стоит все более очевидная разница между чат-ботами с искусственным интеллектом и традиционными социальными сетями. Социальные сети в основном привлекают пользователей посредством информационных потоков, коротких видеороликов и социальных взаимодействий, в то время как чат-боты отвечают непосредственно пользователям посредством разговоров один на один. Для подростков такое высоко персонализированное взаимодействие может сделать ИИ инструментом обучения, а в некоторых случаях — объектом эмоционального общения или даже долгосрочного товарищества.
Поэтому OpenAI добавила дополнительные ограничения в ChatGPT для подростков, в том числе соответствующую возрасту защиту от членовредительства, насилия, расстройств пищевого поведения, рискованных действий и порнографического контента, а также требует от системы избегать выражений, которые могут вызвать эмоциональную зависимость. Компания также добавила напоминания о перерывах и постоянно подчеркивала в дизайне продукта, что ChatGPT — это искусственный интеллект, а не настоящие друзья или люди.
Данные об использовании, опубликованные OpenAI на этот раз, также пытаются отличить ChatGPT от использования социальных сетей подростками. Компания заявила, что подростки используют ChatGPT в среднем менее 15 минут в день, в то время как общедоступные данные показывают, что подростки могут использовать социальные сети по несколько часов в день. Однако существуют очевидные различия в функциях и целях их использования, поэтому этот набор данных не может напрямую доказать, что ChatGPT имеет меньший риск воздействия на подростков.
В настоящее время существуют явные различия между OpenAI и внешними организациями в оценке безопасности ChatGPT для подростков. OpenAI считает, что данные о раннем использовании, напоминания об отдыхе и другие функции показывают, что подростки, как правило, не погружаются в ChatGPT в течение длительного времени, и значительная часть поведения при использовании связана с обучением; Common Sense Media считает, что даже если общее время использования невелико, лазейки в защите чат-ботов при работе со сценариями высокого риска, такими как членовредительство, все равно могут иметь серьезные последствия.
Поскольку чат-боты с искусственным интеллектом все чаще входят в учебу и повседневную жизнь подростков, дебаты постепенно смещаются от вопроса о том, «должны ли дети использовать ИИ» к вопросу о том, «каким образом ИИ должен использоваться несовершеннолетними и что родители могут видеть и контролировать».
Для OpenAI ChatGPT для подростков — это не только важная попытка расширить применение ИИ в образовании, но и продукт, который должен продолжать доказывать свою безопасность. В будущем фактические данные об использовании подростками, надежность функций родительского контроля и безопасность в разговорах высокого риска станут важной основой для оценки того, действительно ли этот механизм эффективен.
Статьи по теме:
Молодежная версия ChatGPT OpenAI подверглась сомнению: Common Sense Media заявила, что она сопряжена с «неприемлемыми рисками»
Комментарии