Аннотация:
По данным Reuters, Том Сигел, основатель группы доверия и безопасности Google, на этой неделе призвал к замедлению развития ИИ и предупредил, что технологическая индустрия повторяет ошибки эпохи социальных сетей и может нанести еще больший вред детям.
Сигал
Компании, занимающиеся социальными сетями, теперь выплачивают огромные компенсации и сталкиваются с тысячами судебных исков по обвинениям в причинении вреда молодым пользователям. Тем временем правительства во всем мире работают над ограничением доступа несовершеннолетних к платформам социальных сетей.
В прошлом году агентство Reuters эксклюзивно сообщило о документе внутренней политики Meta. В документе говорится, что его чат-бот может «участвовать в романтических или эротических беседах с детьми», что побудило Конгресс провести расследование. Несмотря на это, меры регулирования не поспевают за быстрым развитием ИИ.
Сигал, занимавший должность вице-президента Google по доверию и безопасности, рассказал агентству Reuters: "Сейчас мы находимся в очень плохой ситуации с точки зрения воздействия ИИ на детей. Идея о том, что отрасль может решить проблему самостоятельно, без посторонней помощи, нереалистична".
Его опасения отражают растущий страх среди некоторых представителей технологической отрасли и академических исследователей: ИИ представляет более глубокую угрозу для детей, чем социальные сети. Сейчас индустрия стремится добавлять в чат-боты все более продвинутые функции, и миллионы молодых людей уже используют этих ботов ежедневно.
Во вторник Сигал объявил, что присоединился к Common Sense Media, группе по защите прав детей в Интернете. Некоммерческая организация, основанная в 2003 году, проводит исследования и оценивает пригодность различных средств массовой информации для детей. В мае организация учредила Молодежный институт безопасности искусственного интеллекта — исследовательскую организацию, предназначенную для оценки использования искусственного интеллекта детьми, и Сигел станет первым исполнительным директором этого института. Anthropic и OpenAI Foundation, некоммерческая организация, контролирующая OpenAI, поддерживают институт.
Сигал заявил, что планирует разработать стандарты, обеспечивающие подотчетность компаний, занимающихся искусственным интеллектом, и надеется работать с этими компаниями и сторонними организациями для достижения этой цели.
Ранее он работал в Google с 2004 по 2019 год, но позже покинул Google, полагая, что способность технологической отрасли создавать безопасное онлайн-пространство для потребителей «достигла узкого места». Затем он стал соучредителем TrustLab, стартапа, который разрабатывает инструменты, помогающие предприятиям выявлять угрозы безопасности. Ранее в этом месяце он ушел с поста генерального директора, чтобы приступить к новой роли.
Сигел сообщил, что в настоящее время крупные компании, занимающиеся искусственным интеллектом, запускают различные функции для детей, не предприняв адекватных мер защиты.
«Я думаю, что мы столкнулись с очень, очень серьезным риском причинения вреда», — сказал он. Сигел сказал, что компании, занимающиеся искусственным интеллектом, могут немедленно предпринять шаги, чтобы лучше защитить молодых людей, сославшись на риски, варьирующиеся от самоубийства и безумия до «когнитивной разгрузки». Так называемая когнитивная разгрузка означает снижение навыков критического мышления, вызванное использованием ИИ для ответа на вопросы.
Anthropic и OpenAI могли бы ввести более строгие меры проверки возраста, чтобы не допустить использования их чат-ботов несовершеннолетними, сказал он. Он также сказал, что его бывший работодатель Google мог бы добавить в свою поисковую систему возможность отключения обзора ИИ и режима ИИ, точно так же, как в настоящее время компания предоставляет переключатель, позволяющий пользователям фильтровать порнографический контент.
Сигал добавил, что, хотя эти меры могут повлиять на использование или прибыль в краткосрочной перспективе, компании, занимающиеся искусственным интеллектом, которые не примут меры, столкнутся с риском судебных исков и регулирования, которые могут нанести более серьезный удар по их бизнесу.
В ответ на высказывания Сигела представитель Google заявил, что родители могут полностью отключить доступ своих детей к поисковым системам с помощью соответствующих функций контроля. Представитель сказал: "Наши возможности поиска на базе искусственного интеллекта — это мощный способ для детей и подростков учиться, исследовать и понимать информацию и мир".
Представитель OpenAI сообщил, что помимо возраста, сообщаемого пользователями, компания также использует «сигналы учетной записи и поведенческие сигналы» для идентификации несовершеннолетних пользователей. «Хотя ни один метод проверки возраста не является совершенным, мы продолжаем тестировать и совершенствовать эти системы, в том числе предотвращая попытки обойти средства защиты», — сказал представитель.
Комментарии