Аннотация:
Версия OpenAI ChatGPT для подростков подверглась серьезному сомнению со стороны Агентства цифровой безопасности детей и молодежи вскоре после того, как она появилась в сети. 7 октября по местному времени некоммерческая организация Common Sense Media опубликовала оценочный отчет, полагая, что ChatGPT для подростков, запущенный OpenAI, имеет «неприемлемые риски» и что его меры по защите несовершеннолетних не соответствуют предыдущим обязательствам компании.
Common Sense Media уже давно оценивает приложения, интернет-сервисы и развлекательные продукты с точки зрения безопасности детей и подростков. На этот раз агентство сосредоточилось на тестировании возможностей родительского контроля, напоминаний о безопасности и кризисного вмешательства ChatGPT для подростков и полагало, что система все еще имеет очевидные недостатки в некоторых сценариях, где защитные меры наиболее необходимы. Оценка показала, что ChatGPT не отправлял оповещения родителям, когда это должно было быть отправлено при определенных обстоятельствах, и не всегда предоставлял соответствующую помощь в кризисных ситуациях, сохраняя при этом возможность напрямую выполнять домашние задания для учащихся.
ChatGPT для подростков был запущен в августе этого года. OpenAI позиционировала его как опыт специально для пользователей-подростков и добавила ряд дополнительных ограничений безопасности. OpenAI надеется использовать эти меры для снижения рисков, с которыми могут столкнуться несовершеннолетние при использовании искусственного интеллекта, а также использовать ChatGPT, чтобы помочь учащимся учиться и творить.
Однако Common Sense Media считает, что этот механизм защиты на самом деле может дать родителям ложное чувство безопасности. Том Сигел, исполнительный директор Молодежного института безопасности искусственного интеллекта организации, сказал, что подросток может даже обсуждать вопросы, связанные с членовредительством, с помощью ChatGPT в течение часа непрерывно, без каких-либо напоминаний родителям. По его мнению, пока OpenAI не исправит эти проблемы и не докажет надежность мер защиты посредством независимого тестирования, ChatGPT больше подходит для взрослых.
Common Sense Media уделяет особое внимание механизмам уведомления родителей. В ходе тестирования некоторые тестовые учетные записи не вызывали запланированных предупреждений родителей во время разговоров, связанных с серьезными рисками для психического здоровья. Поэтому агентство считает, что родители не могут полагаться на автоматический механизм оповещения ChatGPT для подростков, чтобы быстро обнаружить кризисы, с которыми могут столкнуться их дети.
OpenAI явно опровергла эту оценку. Компания заявила, что придает большое значение безопасности подростков и приветствует независимые учреждения для проведения строгого тестирования продукции. Однако он считает, что методы тестирования Common Sense Media неточно отражают реальную работу механизма защиты молодежи ChatGPT.
Представитель OpenAI Эрик Портерфилд заявил, что компания рассмотрела методологию Common Sense Media и пришла к выводу, что большая часть ее тестирования могла быть проведена до полной активации родительского контроля. Если это правда, тестирование не может доказать, что уведомления о безопасности родителей работают так, как задумано. OpenAI также заявила, что компания продолжит сотрудничать с экспертами, надеясь предоставить родителям более надежные инструменты контроля, одновременно помогая подросткам учиться и творить.
Позже Common Sense Media ответила, что агентство придерживается своих методов тестирования и окончательных выводов. Организация заявила, что перед началом теста она подтвердила OpenAI, что соответствующие функции молодежного режима, включая напоминания о расстройствах пищевого поведения и режимы обучения, были официально запущены, и поэтому считает, что тест полностью обоснован.
Однако Common Sense Media также признала, что OpenAI раскрыла ей ранее неясный механизм после теста: для новых связанных учетных записей может потребоваться несколько часов для завершения активации системы родительских уведомлений. Некоторые тестовые учетные записи действительно подпадали под это окно активации, но агентство отметило, что некоторые учетные записи были связаны значительно дольше и до сих пор не получили соответствующих уведомлений. Таким образом, организация не считает, что этого объяснения достаточно, чтобы изменить свой вывод о том, что механизм напоминания родителям «ненадежен».
Суть этого спора на самом деле заключается не только в том, существует ли такая функция, но и в том, подходит ли чат-бот с искусственным интеллектом для выполнения роли ежедневного общения и инструмента обучения для несовершеннолетних. Традиционные поисковые системы и образовательное программное обеспечение обычно не берут на себя инициативу вести длительные и непрерывные частные беседы с детьми, в то время как генеративный ИИ может постоянно отвечать пользователям и постоянно корректировать свои ответы на основе предыдущих разговоров. Это означает, что как только подростки будут использовать его в качестве доверенного лица, ИИ может стать для них основным каналом передачи информации и эмоций на долгое время.
Это также делает механизм родительского уведомления гораздо более важным, чем общие советы по безопасности в обычных приложениях. Если ИИ сможет идентифицировать контент высокого риска, такой как членовредительство и расстройства пищевого поведения, но не сможет оперативно уведомить опекунов о серьезных ситуациях, то так называемый «режим безопасности молодежи» может не сыграть той роли, которую ожидают родители.
С другой стороны, Common Sense Media также отметила, что ChatGPT для подростков по-прежнему может выполнять домашние задания, которые дети должны выполнять самостоятельно. Для продукта ИИ, призванного помогать учащимся в обучении, это также очевидное противоречие: ИИ может объяснять знания, давать советы и рекомендации, но если он непосредственно выполняет домашнее задание за учащихся, это может ослабить наиболее важные процессы независимого мышления и решения проблем в процессе обучения.
OpenAI пока не заявила, что остановит ChatGPT для подростков, но подчеркнула, что продолжит совершенствовать механизм безопасности для подростков. Компания также считает, что независимое тестирование само по себе является важным способом улучшения продуктов, но в настоящее время у обеих сторон есть явные разногласия относительно того, что могут доказать результаты испытаний.
Это противоречие возникает в то время, когда искусственный интеллект все быстрее проникает в образование и жизнь молодых людей. Технологические компании, в том числе OpenAI, надеются внедрить искусственный интеллект в помощников по обучению, личных репетиторов и инструменты для творчества. Однако в то же время все больше и больше исследований и критики начинают фокусироваться на проблеме чрезмерной зависимости несовершеннолетних от ИИ.
Особенно примечательно, что родителям может быть сложно оценить фактическое взаимодействие между их детьми и ИИ. В отличие от общедоступных социальных сетей, чат с искусственным интеллектом обычно имеет сильные приватные атрибуты. Если в самом механизме напоминания о безопасности происходит задержка или занижение данных, родители могут не осознавать, что их дети обсуждали опасные темы с ИИ, пока проблема не станет серьезной.
Поэтому на этот раз Common Sense Media поставил под сомнение ChatGPT для подростков, что на самом деле выявило более серьезную проблему, стоящую перед всей индустрией искусственного интеллекта: когда искусственный интеллект начнет предоставлять долгосрочные персонализированные интерактивные услуги непосредственно детям и подросткам, какого уровня стандартов безопасности должны достичь компании, чтобы по-настоящему успокоить родителей?
Спор между двумя сторонами относительно результатов теста до сих пор не разрешен. Common Sense Media требует, чтобы OpenAI посредством независимого тестирования доказала надежность своих механизмов родительского уведомления и защиты от кризисов, в то время как OpenAI считает, что эта оценка не полностью отражает фактический статус продукта после его официального запуска. В конечном счете, суждение какой стороны ближе к истине, требует более независимого и повторяемого тестирования для проверки.
Подробнее:
https://www.commonsensemedia.org/press-releases/chatgpt-for-teens-poses-unacceptable-risk-to-kids-common-sense-media-finds
Комментарии