В сегодняшнем сообщении в блоге Meta сообщила, что она расширяет и обновляет свои функции безопасности детей, предназначенные для защиты детей, что является последней разработкой на фоне растущих сообщений о том, как ее платформа рекомендует контент детского сексуального характера.
В течение нескольких месяцев The Wall Street Journal подробно рассказывала, как Instagram и Facebook предоставляли пользователям неприемлемый и сексуальный контент, связанный с детьми. В июне в отчете подробно описывалось, как Instagram соединил сеть учетных записей, которые торговали материалами о сексуальном насилии над детьми (CSAM), и направил эти учетные записи друг другу через свой алгоритм рекомендаций. Опубликованное сегодня последующее расследование показало, что проблема распространилась на группы в Facebook, где существовала экосистема аккаунтов и групп педофилов, некоторые из которых насчитывали до 800 000 участников.
В обоих случаях система рекомендаций Meta позволяла злоумышленникам находить друг друга с помощью таких функций, как «Группы, которые вам могут быть интересны» в Facebook или теги автозаполнения в Instagram. Сегодня Meta заявила, что будет ограничивать взаимодействие «подозрительных» аккаунтов для взрослых друг с другом: в Instagram эти аккаунты не смогут подписываться друг на друга, их не будут рекомендовать, а их комментарии не будут видны другим «подозрительным» аккаунтам.
Meta также сообщила, что расширила список терминов, фраз и смайлов, связанных с безопасностью детей, и начала использовать машинное обучение для обнаружения связей между различными поисковыми запросами.
В то время как регулирующие органы США и ЕС оказывают давление на Meta в отношении того, как обеспечить безопасность детей на платформе, Meta также опубликовала вышеупомянутый отчет и внесла соответствующие изменения в безопасность детей. Генеральный директор Meta Марк Цукерберг присоединится к нескольким другим крупным технологическим руководителям, чтобы дать показания перед Сенатом в январе 2024 года по поводу эксплуатации детей в Интернете. В ноябре регуляторы ЕС дали Meta крайний срок (который истекает сегодня) для предоставления информации о том, как она защищает несовершеннолетних; сегодня они отправили Meta новые запросы, в частности, указав на «самогенерированные материалы о сексуальном насилии над детьми (SG-CSAM), циркулирующие в Instagram» и систему рекомендаций платформы.
В конце ноября компании-разработчики приложений для знакомств Bumble и Match приостановили рекламу в Instagram после публикации Wall Street Journal. Рекламные объявления обеих компаний появлялись вместе с видеороликами Reels откровенного содержания и сексуальным насилием над детьми.