Игровая онлайн-платформа Roblox недавно объявила о запуске функции переписывания чата в реальном времени на основе искусственного интеллекта. Когда игроки отправляют сообщения, содержащие незаконный контент, система больше не просто блокирует их знаком «#», а автоматически переписывает соответствующие выражения на более вежливый и совместимый с платформой язык, стараясь при этом быть как можно ближе к исходному замыслу пользователя. Roblox заявил, что в прошлом большие абзацы «####» не только нарушали ритм разговора, но и затрудняли понимание контекста игроками. Поэтому Roblox надеется использовать этот метод, чтобы уменьшить трения в процессе чата, сохраняя при этом стандарты вежливости сообщества.
В соответствии с новым механизмом, когда пользователь вводит контент, содержащий деликатные слова, в окне чата будет напрямую отображаться переписанный текст и сообщаться всем пользователям, участвующим в разговоре, о том, что сообщение было переписано, чтобы помочь поддерживать дружественную и понятную атмосферу общения. Например, в отчете говорится, что предложение «Поторопитесь, TF!» которое было бы полностью заблокировано, поскольку «####» теперь будет заменено на более нейтральные выражения, такие как «Торопитесь!» Раджив Бхатия, вице-президент по пользовательским и исследовательским продуктам в Roblox, заявил в пресс-релизе, что чат лежит в основе социального опыта игроков, совместной работы и игр на платформе, а переписывание в реальном времени помогает пользователям использовать более подходящие термины, не нарушая ритм игры.
Бхатия подчеркнул, что, с одной стороны, эта функция уменьшает препятствия в чате, «полируя, а не замалчивая», с другой стороны, она по-прежнему сохраняет первоначальные стандарты безопасности платформы, и для борьбы с более серьезными нарушениями по-прежнему будут использоваться строгие системы безопасности. Roblox отметил, что недавно запущенная функция переписывания в реальном времени применима ко всем языкам, поддерживаемым инструментами автоматического перевода текущей платформы, чтобы охватить многоязычную базу пользователей.
В дополнение к новой функции переписывания Roblox также обновил свою систему фильтрации текста, чтобы выявлять больше вариантов нелегальной лексики. Компания заявила, что после улучшений производительность системы в выявлении «слитной речи» и более сложных методов письма во избежание цензуры была улучшена, тем самым значительно сократившись «промахи» в сценариях обмена или запроса личной информации, а связанный с этим коэффициент ошибочных суждений сократился примерно в 20 раз.
Обновление появилось на фоне ужесточения мер безопасности Roblox на платформе. Roblox только что ввел обязательную проверку лица для чата на платформе в феврале этого года после того, как компания столкнулась с многочисленными исками, поданными генеральными прокурорами штатов Техас, Кентукки и Луизиана, утверждая, что платформа таит в себе серьезные скрытые опасности для безопасности детей. Иски основаны на многочисленных отчетах о расследованиях и обвинениях исследовательских организаций в том, что Roblox подвергает несовершеннолетних пользователей среде высокого риска, включая обман и откровенный контент, что вызывает постоянные проверки со стороны регулирующих органов и давление на механизмы безопасности.
Под давлением регулирующих органов и требованиями безопасности сообщества, Roblox на этот раз использует комбинацию переписывания ИИ в реальном времени и более сильной фильтрации текста, чтобы попытаться максимально сохранить согласованность и читабельность внутриигровых чатов, обеспечивая при этом безопасность детей и подростков.