Аннотация:
Генеральный директор OpenAI Сэм Альтман 3 октября написал в социальных сетях, что он «очень обеспокоен тем, что кто-то пытается наделить модель ИИ религиозной силой или заставить людей отказаться от собственного суждения», и считает, что это реальная проблема безопасности. Альтман не назвал ни одну компанию в своем сообщении, но его замечания последовали за сообщением об обсуждении Anthropic осведомленности об искусственном интеллекте с Ватиканом, поэтому некоторые СМИ восприняли это как косвенную критику Anthropic.
Спор возник из-за репортажа New York Times от 29 сентября. Газета заявила, что соучредитель Anthropic Кристофер Ола обсуждал с религиоведами, могут ли модели ИИ, такие как Клод, обладать сознанием и моральным статусом, и как заставить модели демонстрировать моральное поведение; компания также пригласила ученых разных религиозных традиций принять участие в обменах за закрытыми дверями. В отчете также говорится, что после того, как Ола прочитал проект энциклики Папы Льва XIV об искусственном интеллекте, он был обеспокоен ее позицией, согласно которой машины не могут обладать сознанием, и рассматривал возможность отстранения Anthropic от соответствующей деятельности. Затем команда лоббировала папских советников, надеясь, что они серьезно отнесутся к возможности создания модели сознания. Ора рассказал New York Times, что исследователи не знают, является ли модель ИИ сознательной, и он действительно не уверен. Главное – узнать правильный ответ.
То, что СМИ называют «конфликтом» с Папой, точнее, разногласия по поводу позиции энциклики и закулисное лоббирование; текущие публичные отчеты не указывают на то, что у Олы когда-либо была конфронтация лицом к лицу перед Папой. В энциклике Папы «Magnifica Humanitas», выпущенной в мае, четко говорится, что существующие системы ИИ не имеют тела, не испытывают чувств, радости или боли и не имеют морального сознания; они могут имитировать язык и анализ, но не понимают содержания, которое они генерируют. В энциклике утверждается, что технологиями должны руководить совесть и свободные люди, которые должны нести ответственность за определение их использования и границ.
Ultraman использовал фразу «магический интеллект в небе», говоря о целях OpenAI на 2023 год; на мероприятии в Лондоне в 2024 году он также заявил, что не молится о том, чтобы Бог был на его стороне, а молится о том, чтобы он сам был на стороне Бога, и сказал, что заниматься разработкой моделей ИИ «ощущается как стоять на стороне ангелов». В обзорной статье также цитировалось заявление, приписываемое Ультрачеловеку в 2015 году, о «создании новой формы жизни», но в статье не был указан столь же ясный первоисточник.
Ультрамен однажды публично признался, что аккаунт под псевдонимом Roon был его трубой; в аккаунте была использована спиральная диаграмма с текстом на иврите, который комментаторы интерпретировали как стиль Каббалы, с текстом «Инфраструктура светового конуса». Сам Альтман также заимствовал религиозные или мистические образы. Однако религиозное значение этих изображений принадлежит интерпретации автора и не может быть использовано для доказательства утверждения Ультрачеловека о том, что ИИ обладает сознанием или божественностью.
Дискуссии вокруг Anthropic также требуют различия между фактами и комментариями. The New York Times сообщила, что компания исследовала возможность модельного сознания и морального статуса, но сам Ола дал понять, что никаких выводов по этому поводу не было; различия между двумя компаниями в отношении сознания ИИ также отражают вопросы, обсуждаемые в технологической отрасли: как люди должны относиться к антропоморфизму моделей, следует ли придавать им моральную идентичность и как не позволить системе подменить человеческое суждение при взаимодействии с ИИ.
Комментарии