Однажды майским утром 11-летний мальчик с искусственной бородой попытался обмануть систему оценки возраста Roblox, заставив ее думать, что он старше. Однако в течение нескольких секунд система определила, что его возрастной диапазон составляет от 9 до 12 лет, доказав, что новые меры проверки возраста, продвигаемые игровой платформой, нелегко обойти.
Демонстрация, организованная Roblox в ее штаб-квартире, была частью усилий компании по демонстрации средств массовой информации своего новейшего биометрического инструмента определения возраста. Этот инструмент доступен во всем мире с этого года и начиная с этого месяца используется для классификации несовершеннолетних пользователей по учетным записям с возрастным рейтингом. Компания надеется ответить на давние сомнения относительно безопасности детей на платформе и доказать пользователям, родителям и инвесторам, что она принимает более решительные меры для обеспечения того, чтобы несовершеннолетние пользователи могли действовать в относительно «соответствующей возрасту» виртуальной среде.
С момента запуска Roblox в 2006 году он превратился в крупнейшую в мире социальную игровую платформу, ориентированную на детей. Виртуальные миры на платформе создаются самими пользователями и официально называются «опытами». В последние годы Roblox ужесточила правила общения пользователей друг с другом на платформе, поскольку многочисленные дела и судебные иски штата обвиняют платформу в том, что она является «охотничьим угодьем для детей-хищников».
В ходе последних изменений компания официально запустила иерархическую систему учетных записей для несовершеннолетних. Пользователи в возрасте от 5 до 8 лет будут классифицироваться как учетные записи «Roblox Kids», у которых по умолчанию отключены все функции обмена сообщениями, и они могут играть только в игры, помеченные как «минимальный» или «умеренный» контент для зрелости. Пользователи в возрасте от 9 до 15 лет войдут в учетную запись Roblox Select. Платформа постепенно откроет больше функций чата и позволит им получать доступ к играм с самой высокой зрелостью контента до «средней». Пользователи в возрасте 16 лет и старше могут получить доступ ко всей библиотеке игр и функциям чата платформы при обычных обстоятельствах.
Эта система оценок основана на ранее запущенных правилах Roblox — платформа уже требует, чтобы все пользователи либо предоставили выданное правительством удостоверение личности для подтверждения своего возраста, либо прошли биометрический тест на возраст, прежде чем они смогут использовать функцию чата. Система автоматически оценивает возраст пользователей и позволяет им общаться только с пользователями того же возраста. Чиновники говорят, что это решающий шаг для безопасности несовершеннолетних после старых времен, когда «дни рождения сообщались самими собой».
Однако усиление мер безопасности оказало прямое влияние на коммерческие показатели платформы. Число ежедневных активных пользователей Roblox сократилось примерно со 152 миллионов в третьем квартале прошлого года до 132 миллионов в первом квартале этого года. Рынок отреагировал соответствующим образом, и цена акций компании упала на 18% за один торговый день. Многие игроки жаловались в Интернете, что их опыт сильно ухудшился из-за таких факторов, как «заблокированный чат», «сводка чата, созданная ИИ» и «новый возрастной порог игры».
Элиза Джейкобс, вице-президент Roblox по политике в отношении продуктов безопасности, заявила в интервью в штаб-квартире компании в Сан-Матео, что компания рассматривает изменения как «инвестицию в долгосрочное видение Roblox». Она признала, что новые правила вызовут недовольство и шок в обществе в краткосрочной перспективе, но считала, что настойчивость в переходный период необходима. «Не все будут всегда счастливы», — сказала она. «Сообщество глубоко относится к Roblox и считает платформу своим пространством, поэтому я полностью понимаю их чувства, когда мы вносим изменения, которые на них влияют».
Roblox в настоящее время сталкивается с растущим юридическим давлением. По меньшей мере девять штатов США подали в суд на компанию из-за проблем с безопасностью детей, а три других штата решили заключить соглашение с Roblox в качестве альтернативы судебному разбирательству. Более 150 семей также подали в суд на Roblox в отдельных случаях, обвиняя платформу в неспособности предотвратить уход за детьми или сексуальное насилие на платформе. Эти иски были объединены в совместный иск нескольких округов в Федеральном окружном суде Северного округа Калифорнии.
В ответ на критику Roblox в письменном заявлении подчеркнул, что компания «глубоко привержена созданию безопасной, здоровой и соответствующей возрасту среды для сообщества». В заявлении говорится, что обвинения в адрес платформы «в корне неверно понимают, как работает Roblox, и игнорируют многочисленные меры, которые мы активно приняли и реализуем для установления новых стандартов онлайн-безопасности».
Однако схема проверки возраста Roblox также вызывает проблемы конфиденциальности и точности. Компания заявила, что ее сторонний поставщик услуг Persona удаляет биометрические данные пользователей сразу после завершения оценки возраста, чтобы устранить опасения пользователей по поводу нарушения конфиденциальности. В то же время некоторые пользователи все еще обсуждают проблему неточного решения системы или игроков, находящих способы ее обойти.
Инструменты оценки возраста все чаще применяются в Интернете. Всевозможные меры проверки возраста появляются, поскольку социальные платформы подвергаются критике за неспособность защитить детей. Но защитники цифровых прав и свободы слова предупреждают, что такая технология, в свою очередь, может создать новые риски для безопасности и конфиденциальности, особенно в том, как данные хранятся и используются.
Джейкобс сказал, что технология искусственного интеллекта, используемая Roblox, оценивает возраст пользователя на основе структуры лица пользователя, которая обычно может колебаться в пределах 1,4 года от истинного возраста ребенка. По ее мнению, этот метод гораздо точнее, чем выбор дня рождения из выпадающего списка. «Установить флажок, чтобы сообщить системе, что вам 13 лет или больше, уже недостаточно», — сказала она, добавив, что компания считает, что «эра самооценки возраста закончилась».
Roblox настроил несколько каналов апелляции для пользователей, чей возраст был неправильно оценен системой. Джейкобс сказал, что пользователи, которых система считает моложе, чем они есть на самом деле, могут предоставить государственные документы, удостоверяющие личность, чтобы исправить информацию о возрасте в своих учетных записях; родители также могут вручную изменить возраст привязанных дочерних учетных записей. В то же время компания запускает в фоновом режиме систему «непрерывной оценки возраста», чтобы проверить, есть ли какие-либо отклонения в возрасте регистрации учетной записи из-за «поведенческого возраста» пользователя.
Система учитывает такие сигналы, как период времени, в который играет пользователь, тип игры, которую он выбирает, и стиль языка, используемого в чатах (например, «дети в период полового созревания используют совсем другой язык, чем старшие поколения»), чтобы определить, следует ли предлагать пользователю повторно подтвердить свой возраст. «Ни одна система не идеальна, и мы знаем, что иногда допускаем ошибки», — признал Джейкобс. Компания надеется найти баланс между исправлением ошибок и предотвращением злоупотреблений со стороны пользователей.
Криста Кэрролл, мать, участвовавшая в демонстрации в штаб-квартире Roblox, сказала, что воспитание детей в эпоху цифровых технологий и мониторинг их поведения в Интернете могут вызывать стресс. Она считает, что меры корпоративной безопасности могут в определенной степени облегчить нагрузку на родителей. «Я рада видеть, что Roblox серьезно относится к этой проблеме и устанавливает больше ограждений для конфиденциальности», — сказала она. «Я надеюсь, что больше компаний будут использовать это как пример, чтобы подумать о том, как защитить наших детей».
В то же время Roblox также столкнулся с разногласиями со своим большим сообществом разработчиков в процессе борьбы с вредоносным контентом. На платформе работают более 24 500 разработчиков игр, многие из которых являются просто независимыми энтузиастами. Вместе они создали десятки миллионов пользовательских игр. Раньше почти каждый мог публиковать эти работы по своему желанию, что чрезвычайно затрудняло регулирование контента на платформе.
В мае этого года Roblox представила новые требования к релизу для разработчиков: для любой игры, открытой для игроков младше 16 лет, разработчики должны пройти проверку личности, включить двухфакторную аутентификацию и внести «финансовый депозит». В частности, разработчики либо приобретают платную подписку, либо платят единовременный сбор за публикацию в размере 1000 Robux (внутриплатформенная виртуальная валюта) за игру. Компания рассматривает это как добавление уровня механизма фильтрации, который не позволит злоумышленникам загружать игры с незаконным контентом в больших количествах. В прошлом на платформе часто появлялись пользовательские игры, содержащие порнографический, жестокий или другой запрещенный контент, и рецензентам было трудно их вовремя обнаружить.
Но это новое правило сразу же вызвало резкую реакцию в сообществе: многие создатели обвинили платформу в повышении входного барьера для мелких разработчиков, что затрудняет им оплату каждой работы. Джейкобс ответил, что такого рода финансовые обязательства имеют решающее значение для того, чтобы разработчики действительно заботились о платформе и сообществе и были готовы «творить ответственно». «Мы хотим обеспечить с помощью соответствующих механизмов «трения» приверженность и ответственность разработчиков, публикующих контент для миллионов пользователей», — сказала она.
По заявлению компании, любая игра, открытая для учетных записей «Дети» и «Избранный», перед выходом в сеть должна пройти дополнительную проверку. Процесс проверки включает в себя пробную игру в режиме реального времени с участием игроков в возрасте от 16 лет и старше, а наблюдатели платформы наблюдают за игровым процессом на месте, чтобы выявить потенциальные угрозы безопасности или нарушения политики. Джейкобс сказал, что компания собирает отзывы через глобальный «Совет по безопасности сообщества», группу создателей Roblox, которые ежемесячно предоставляют компании рекомендации по мерам безопасности. Но она признала, что независимо от того, как компания коммуницирует, некоторые изменения обязательно вызовут споры.
«Мы строим концепцию безопасного и цивилизованного будущего, в которое мы искренне верим», — сказал Джейкобс. «Если некоторые люди время от времени расстраиваются из-за этого, нас это устраивает».