Аннотация:
Сталкиваясь с потенциальным влиянием генеративного искусственного интеллекта на психическое здоровье несовершеннолетних и риском зависимости, губернатор Калифорнии Гэвин Ньюсом официально подписал ряд революционных законопроектов о безопасности сетей и искусственного интеллекта. Этот пакет правил является первым в Соединенных Штатах, который устанавливает строгие функциональные красные линии для чат-ботов с искусственным интеллектом, которые предоставляют услуги несовершеннолетним. Он также всесторонне совершенствует механизм юридической ответственности за внедрение алгоритмов социальных платформ и сбор данных, отмечая, что Калифорния в очередной раз установила самый строгий нормативный стандарт в Соединенных Штатах в области защиты несовершеннолетних от крайне навязчивых цифровых технологий.
В последние годы, в связи с взрывной популярностью ИИ-компаньонов, виртуального обучения и ролевых чат-ботов с возможностями антропоморфного взаимодействия, феномен «антропоморфной эмоциональной привязанности» среди молодых людей к системам искусственного интеллекта вызвал глубокую обеспокоенность в медицинских и образовательных кругах. Многочисленные исследования психического здоровья показали, что из-за отсутствия психической защиты несовершеннолетние могут легко рассматривать модели ИИ как настоящих доверенных лиц, способных хранить секреты, и сталкиваться с серьезными психологическими травмами, такими как введение вредной информации, повышенная склонность к членовредительству и даже эмоциональные манипуляции в процессе взаимодействия. Основной законопроект, представленный Законодательным собранием Калифорнии на этот раз, нацелен именно на этот тип интерактивных услуг искусственного интеллекта с высокой липкостью и антропоморфными характеристиками.
Согласно недавно подписанному законопроекту, платформы чат-ботов с искусственным интеллектом, работающие для несовершеннолетних, должны установить строгие возрастные пороги и меры безопасности. Правила четко запрещают ИИ отправлять несовершеннолетним поучительные замечания, касающиеся членовредительства, самоубийства, крайней анорексии, насилия или откровенного контента для взрослых; с точки зрения базовой логики системы, платформа должна иметь встроенные чувствительные протоколы контроля рисков и кризисного вмешательства. Как только алгоритм обнаруживает, что несовершеннолетний пользователь выражает депрессию, членовредительство или отчаяние, регулярный диалог должен быть немедленно прерван и должен быть принудительно открыт прямой канал к официальной горячей линии по оказанию помощи в случае самоубийства и психологической помощи. Кроме того, новый закон также требует от разработчиков открыто раскрывать нечеловеческие атрибуты ИИ несовершеннолетним пользователям. Категорически запрещается использовать алгоритмы для намеренного создания ложной эмоциональной индукции или установления маркетинговой риторики «эмоциональной связи», которая заставляет детей чувствовать себя зависимыми. Он также устанавливает дополнительные механизмы родительского контроля и ограничения по борьбе с зависимостью в ночное время для ежедневного использования несовершеннолетними.
Помимо специальных правил для чат-ботов с искусственным интеллектом, пакет законов, подписанный Ньюсомом, также еще больше укрепляет существующую в Калифорнии систему защиты конфиденциальности несовершеннолетних в Интернете. Новые правила прямо запрещают основным социальным сетям и платформам онлайн-контента использовать точную информацию о местоположении, продолжительности просмотра и историю частного поиска несовершеннолетних пользователей для обучения алгоритмам адресных и вызывающих привыкание рекомендаций без явного согласия опекуна; за деловую практику, использующую «Тёмные паттерны» для того, чтобы побудить детей постоянно обновлять информационный поток, запускать автоматическое непрерывное воспроизведение или стимулировать несанкционированные микротранзакции в играх, регулирующие органы налагают суровые экономические и административные штрафы и уполномочивают генерального прокурора штата инициировать гражданские иски против нарушающих правила технологических компаний, которые упорствуют в реформах.
В заявлении о подписании законопроекта многие законодатели Калифорнии и ведущие законодательные группы по защите прав детей отметили, что для того, чтобы гоняться за трафиком и прилипчивостью пользователей, технологические платформы уже давно помещают незрелых несовершеннолетних в цифровой плавильный котел, полный рисков зависимости и психологических манипуляций. Будучи основным двигателем глобальных технологических инноваций, Калифорния не должна закрывать глаза на затраты на психическое здоровье детей, вызванные безудержным ростом технологий. Принятие закона, устанавливающего четкие моральные границы и границы безопасности для чат-ботов с искусственным интеллектом, является не только срочным шагом для защиты физического и психического здоровья следующего поколения, но и основным препятствием для технологических компаний при выполнении своих социальных обязанностей.
Аналитики технологической отрасли и цифрового права отмечают, что, учитывая огромный размер Калифорнии в глобальной цифровой экономике и эффект агломерации ведущих технологических компаний в Кремниевой долине, пакет незначительных законопроектов о защите Интернета и искусственного интеллекта, принятых Калифорнией, неизбежно приведет к межрегиональному «брюссельскому эффекту» и «калифорнийскому эффекту». Из-за чрезвычайно высокой стоимости разработки отдельных версий для пользователей в одном штате с точки зрения технической архитектуры, транснациональные технологические компании и передовые лаборатории искусственного интеллекта, скорее всего, будут вынуждены напрямую распространить этот набор строгих фильтров детской безопасности и протоколов борьбы с зависимостью на пользовательскую экосистему в Соединенных Штатах и даже во всем мире. Вступление в силу этой серии законопроектов не только указывает на то, что затраты на соблюдение требований ИИ-компаньонов и социальных инструментов для подростков значительно вырастут, но также предоставит другим штатам США законодательный план, имеющий большую практическую ценность при решении проблем физического и психического здоровья несовершеннолетних в эпоху ИИ.
Комментарии