Первая независимая группа научных экспертов по искусственному интеллекту, созданная Организацией Объединенных Наций, опубликовала предварительный отчет об оценке, в котором говорится, что быстрое развитие искусственного интеллекта (ИИ) принесло огромные потенциальные выгоды странам и людям во всем мире, но оно также сопряжено с серьезными рисками. Этот отчет будет представлен правительствам на первом Глобальном диалоге Организации Объединенных Наций по управлению искусственным интеллектом, который пройдет в Женеве с 6 по 7 июля. Это первая независимая научная оценка искусственного интеллекта в глобальном масштабе. Ожидается, что полная и всеобъемлющая версия будет выпущена в следующем году.
Отчет был написан в соавторстве с 40 ведущими учеными и экспертами из всех регионов мира, которые участвовали в индивидуальном качестве на трехлетний срок и не были напрямую связаны каким-либо правительством, агентством или компанией, и были направлены на предоставление независимых научных данных лицам, принимающим решения. В докладе отмечается, что в контексте быстрого развития возможностей искусственного интеллекта политикам срочно необходима надежная научная база для разработки нормативной базы. Однако нынешнее понимание некоторыми высокоавтономными системами научным сообществом все еще отстает, а адаптивность общества и правительства явно недостаточна. Эффективные инструменты для сдерживания этого типа высокоавтономного искусственного интеллекта по-прежнему ограничены.
Сопредседатель экспертной группы Йошуа Бенджио подчеркнул в докладе, что научные доказательства «обманчивого поведения» искусственного интеллекта растут. Он отметил, что по мере дальнейшего совершенствования возможностей системы научные исследования не могут гарантировать, что искусственный интеллект не принесет катастрофического вреда — такой вред может исходить от поведения самой системы или от пользователей со злыми мотивами. В докладе делается вывод, что «потенциальные преимущества искусственного интеллекта огромны», но предупреждается, что негативные последствия этой технологии нельзя игнорировать, если во время крупномасштабного быстрого развертывания отсутствуют адекватные ограничения и тщательное планирование.
В докладе отмечается, что быстрое продвижение искусственного интеллекта глубоко меняет социальные, экономические и экологические системы, а также создает проблемы для психического здоровья пользователей. Положительным моментом является то, что приложения искусственного интеллекта продемонстрировали способность повышать эффективность и создавать новые ценности во многих областях, таких как образование, здравоохранение, научные исследования и промышленное производство. Но с другой стороны, в докладе предупреждается, что ИИ может быть использован в качестве деструктивного инструмента или для подрыва общественного доверия, социальной сплоченности и демократического обсуждения (совещательного обсуждения) путем манипулирования информацией и эмоциями.
Согласно этой предварительной оценке, более одного миллиарда человек во всем мире используют диалоговый ИИ каждую неделю, но уровень применения крайне неравномерен в разных странах и отраслях, при этом развивающиеся страны обычно отстают с точки зрения доступа и использования. Что касается концентрации вычислительной мощности, данные, приведенные в отчете, показывают, что среди 500 крупнейших суперкомпьютеров искусственного интеллекта в мире на долю США приходится около 75% вычислительной мощности, а на Китай — около 15%, подчеркивая, что нынешняя инфраструктура искусственного интеллекта сильно сконцентрирована в нескольких экономиках.
В докладе также обращено внимание на серьезный дисбаланс на языковом уровне. В мире существует более 7000 языков, но нынешние основные модели искусственного интеллекта охватывают при обучении лишь очень небольшое их количество. Для многих языков проблемы с качеством машинного перевода являются заметными, и ошибки не только влияют на повседневное общение, но также могут привести к серьезным последствиям в сценариях, которые очень чувствительны к личной безопасности, таких как медицинская диагностика и принятие решений о лечении.
Экспертная группа отметила, что риски, связанные с распространением искусственного интеллекта, начали проявляться во многих областях. К ним относятся потенциальные негативные последствия для прав человека, социальных систем и окружающей среды, такие как увеличение частоты материалов о сексуальном насилии над детьми, созданных с помощью искусственного интеллекта, и контента о сексуальном насилии, реализованного с использованием технологии deepfake в Интернете. В докладе утверждается, что связанные с этим явления выявили очевидные недостатки в надзоре за контентом, уголовном правосудии и транснациональном сотрудничестве, и существует острая необходимость одновременно усилить меры реагирования на техническом и институциональном уровнях.
Что касается информационной среды, в докладе предупреждается, что искусственный интеллект значительно снизил порог крупномасштабного производства и точного целевого распространения «убедительного контента». Эта тенденция может привести к прогрессирующей эрозии целостности информации, тем самым подрывая общественное доверие к средствам массовой информации и институтам, подрывая социальную сплоченность и мешая совещательным механизмам демократических процессов, которые опираются на факты и аргументированные дебаты. Эксперты полагают, что в условиях таких изменений традиционная система регулирования информационной безопасности и СМИ стала недостаточной, и необходимо обновить идеи управления и усилить международную координацию.
В докладе также отмечается, что большинство стран, в том числе некоторые страны с развитой экономикой, не имеют возможности проводить техническую оценку новейших и наиболее мощных моделей искусственного интеллекта, и трудно иметь существенное техническое участие, чтобы влиять на глобальное управление этими системами. Этот разрыв в технических возможностях и ресурсах еще больше усугубил международное неравенство в разработке стандартов безопасности искусственного интеллекта, а также предотвращения и контроля рисков. Экспертная группа призвала помочь более широкому кругу стран улучшить свои возможности в области оценки и регулирования посредством механизмов многостороннего сотрудничества и проектов по наращиванию потенциала, тем самым формируя более представительный голос в глобальном управлении.
Этот предварительный отчет послужит основным справочным документом в рамках Глобального диалога Организации Объединенных Наций по управлению искусственным интеллектом, в котором правительства и соответствующие международные организации смогут обсудить будущую нормативную базу и пути сотрудничества. Экспертная группа заявила, что планирует продолжить сбор и оценку последних результатов научных исследований и случаев практического применения в следующем году, чтобы обеспечить более подробную и систематическую доказательную базу для предлагаемого всеобъемлющего отчета, чтобы поддержать все стороны в поисках более стабильного баланса между предотвращением и контролем рисков и технологическими инновациями.