В начале этого года социальная платформа Discord в ответ на глобальное давление со стороны регулирующих органов внедрила функцию «подростка по умолчанию», рассматривая всех как несовершеннолетних по умолчанию и напрямую блокируя некоторые функции. Чтобы разблокировать взрослый режим, вам необходимо пройти проверку возраста.Существует два основных метода проверки.: либо сделайте короткое селфи-видео на камеру, и позвольте искусственному интеллекту оценить возраст локально на нашем мобильном телефоне; или честно загрузите удостоверение личности.
В результате интернет-приятели затеяли различные экстремальные тесты. Некоторые люди, чтобы обмануть себя, использовали скриншоты из игр, некоторые использовали 3D-модели, а самым возмутительным было использование фигурок из палочек.
Кто-то нарисовал на большом пальце два глаза и рот, поднял его перед камерой, последовал подсказкам системы отцентрировать, выровнять, повернуть налево, повернуть направо... После завершения ИИ-анализа был сделан вывод:Возраст 13-15, проверено!
Интернету никогда не хватало воображения, когда дело доходит до «использования лазеек». Был также 12-летний мальчик, который нарисовал бороду карандашом для бровей; система оценила его как 15-летнего и успешно прошел проверку.
Почему это происходит?
Чтобы справиться с надзором и свести к минимуму споры о конфиденциальности, эти платформы выбрали решение для оценки возраста лица на стороне устройства, при котором пользователь записывает видео перед камерой. Модель искусственного интеллекта полностью запускается на локальном мобильном телефоне или компьютере, и обратно на сервер отправляются только окончательные результаты оценки возрастного диапазона. Полные данные видео или лица не будут загружены.
Это звучит как низкий риск конфиденциальности, и процесс проверки относительно прост, но компромисс заключается в том, что доступные вычислительные ресурсы ограничены, модель не может быть слишком сложной и не может полагаться на тщательный анализ на стороне сервера.
Эти модели в основном полагаются на визуальные особенности, такие как глаза, рот, контуры лица и текстура кожи, чтобы определить возраст. Простой большой палец, нарисованный двумя точками и линией, неожиданно соответствует абстрактному рисунку «молодого и гладкого лица» при определенном освещении, угле и низком разрешении.
Когда система требует, чтобы «лицо» было центрировано и повернуто влево и вправо, естественное легкое встряхивание и последующие движения пальцев обеспечивают базовый сигнал движения, которого достаточно для относительно легкого детектора активности, чтобы рассмотреть его как «живой» объект и сразу отпустить его.
Модели оценки возраста ИИ в основном обучаются с использованием огромных объемов реальных данных о лицах и по своей сути не обладают достаточной устойчивостью к столь нестандартным и абстрактным входным данным.
В первые дни внедрения, чтобы предотвратить частые сбои обычных пользователей из-за плохого освещения, неправильных ракурсов или особого внешнего вида, платформе приходилось устанавливать порог относительно свободно, что давало возможность воспользоваться этим низкотехнологичным злым методом.
Подобные ситуации происходили на таких платформах, как Roblox. Можно видеть, что нынешняя технология определения возраста лица далека от того, чтобы быть надежной, когда она сталкивается с тщательно разработанными методами обмана.
Платформы не сидят на месте.
Некоторое время назад Meta объявила, что будет использовать ИИ для активного сканирования фотографий и видео, загружаемых пользователями.Используйте общие визуальные подсказки, такие как рост и строение костей, чтобы определить, младше ли владелец учетной записи 13 лет, а затем удалите его напрямую..
Мета особо подчеркивает: «Это не распознавание лиц». Он делает только приблизительные суждения о возрастном диапазоне. "
Более того, Meta не только просматривает изображения, но и объединяет текстовое содержимое всей учетной записи с подробными портретами интерактивного поведения, такими как праздничные торты, упоминание школьных оценок и т. д., которые будут включены в решение.
Как только ИИ почувствует, что он несовершеннолетний, он первым делом убьет аккаунт. Если вы хотите вернуть его, вам необходимо пройти официальную процедуру проверки. В настоящее время эта система доступна онлайн в некоторых странах, а в будущем она будет постепенно распространяться на большее количество регионов. Также планируется расширить возможности Instagram Live, групп Facebook и других сценариев.
Платформа использует искусственный интеллект для устранения лазеек, а пользователи находят способы использовать лазейки.
Эта игра в кошки-мышки, скорее всего, продолжится.