Аннотация:
23 сентября, по сообщению Bloomberg, пионер искусственного интеллекта Ли Фейфэй призвал к усилению контроля над искусственным интеллектом со стороны независимых агентств и государственного сектора. Она считает, что оценку безопасности все более мощных систем искусственного интеллекта не следует полностью оставлять на усмотрение компаний, разрабатывающих эти системы.
Ли Фейфей
Как профессор Стэнфордского университета и соучредитель World Labs, Ли Фейфей заявил во вторник, что, хотя внутренние исследователи в компаниях, занимающихся искусственным интеллектом, могут оценить возможности и безопасность отдельных моделей, это не может заменить более широкие стандарты, совместно разработанные правительством, промышленностью и академическими учреждениями.
"Я по-прежнему считаю, что очень важно, чтобы ориентиры устанавливались независимыми институтами, а также государственным сектором, например научными кругами. В то же время промышленность и правительство также должны разделить ответственность". Об этом Ли Фейфэй заявил в интервью Bloomberg TV.
По мере того, как возможности систем искусственного интеллекта продолжают расти, растет и обеспокоенность по поводу их потенциальных рисков. Некоторые лидеры Кремниевой долины предупреждают, что технологии развиваются слишком быстро и в конечном итоге могут выйти за рамки человеческого контроля. В последние недели генеральный директор Anthropic Дарио Амодей и генеральный директор OpenAI Сэм Альтман призвали замедлить разработку передовых моделей. В среду они обсудят безопасность ИИ в Совете Безопасности ООН.
Ли Фейфэй заявил, что экзистенциальные риски, которые может принести ИИ, в конечном итоге зависят от того, как люди решат развивать, управлять и использовать эту технологию. Она сказала, что этот принцип также применим и к технологиям, отличным от искусственного интеллекта, от электричества и паровых двигателей до современного транспорта. Человеческому обществу также необходимо найти баланс между преимуществами, которые могут принести технологии, и личной безопасностью.
Человечество, отметила она, «имеет в своем распоряжении мощь технологий». «Мы должны взять под контроль. Речь идет не об ИИ, а о людях. Речь идет о нашем общем и индивидуальном достоинстве и автономии, а также о наших обязанностях». Сказал Ли Фейфэй.
Комментарии Ли Фейфэя добавляют новый голос к все более ожесточенным дебатам среди политиков и лидеров отрасли искусственного интеллекта. Дебаты сосредоточены на том, насколько серьезно следует относиться к предупреждениям о наиболее экстремальных рисках, связанных с технологиями. Ранее во вторник президент США Дональд Трамп отверг опасения по поводу экзистенциальной угрозы ИИ, назвав это «мистификацией» и подчеркнув необходимость продолжать разработку технологии полным ходом во время выступления на Генеральной Ассамблее Организации Объединенных Наций в Нью-Йорке.
Ли Фейфэй заявил, что дискуссия о поведении систем искусственного интеллекта вышла за рамки так называемых передовых моделей, вызывающих нынешнее увлечение искусственным интеллектом. Основанная ею компания World Labs разрабатывает так называемые «модели мира», которые могут генерировать и реконструировать трехмерную среду. Она сказала, что эту технологию можно использовать для обучения и оценки роботов, а также для применения в дизайне, медицине и других отраслях.
По мере того, как эти системы приближаются к реальным приложениям, говорит она, перед отраслью стоит один и тот же фундаментальный вопрос: как оценить все более мощный ИИ и определить, работает ли он так, как ожидалось.
Комментарии