Аннотация:
По данным Business Insider, СМИ задали тот же вопрос ChatGPT из OpenAI, Google Gemini, Клоду из Anthropic и Гроку из xAI, попросив их проанализировать, как искусственный интеллект может привести к вымиранию человечества, и ранжировать связанные сценарии в порядке вероятности.
Вопрос требует от четырех ИИ объяснить, как могут возникнуть риски, какие звенья, вышедшие из-под контроля, превратятся в катастрофы, почему эксперты считают тот или иной сценарий более вероятным и какие превентивные меры можно предпринять. При этом подчеркивается, что эти сценарии представляют собой весьма неопределенные прогнозы риска и не являются подтвержденными выводами.
В суждениях четырех ИИ существуют различия, но по двум вопросам они относительно единообразны.
Робот, похожий на «Терминатора», активно уничтожает людей, что считается наименее вероятным сценарием. Напротив, люди, использующие ИИ для создания биологического оружия, проведения кибератак или разрушения критически важной инфраструктуры, рассматриваются как более реалистичные и неизбежные риски.
В ChatGPT заявили, что сознательный ИИ, активно решающий уничтожить людей, — это один из самых невероятных сценариев.
Большинство исследователей искусственного интеллекта в центре внимания не вопрос о том, являются ли машины сознательными или вредоносными, а тот факт, что мощный искусственный интеллект используется людьми для разработки биологического оружия, проведения сложных сетевых атак, распространения ложной информации и атак на критически важную инфраструктуру.
ChatGPT также предположил, что одновременно могут возникать многочисленные кризисы, усиливаемые искусственным интеллектом, такие как сбои сетевых систем, геополитические конфликты и распространение ложной информации, накладывающейся друг на друга, что увеличивает риски. Однако он подчеркнул, что
В настоящее время нет единого мнения о том, что искусственный интеллект, вызывающий вымирание человечества, является событием с высокой вероятностью или неизбежным результатом.
Gemini также считает, что
научно-фантастический сценарий, в котором ИИ внезапно обретает самосознание и ненавидит людей, наименее правдоподобен
. В числе причин было то, что разведка по своей сути не означает злого умысла, что критически важные военные объекты часто изолированы от общедоступных сетей и по-прежнему в значительной степени зависят от человеческого надзора.Все четыре ИИ считают, что
угроза, исходящая от людей, злоупотребляющих ИИ, более актуальна, чем угроза, исходящая от ИИ, активно атакующего людей.
Грок заявил, что ИИ может снизить технический порог для разработки высокосмертоносных патогенов, нового оружия, а также проведения кибер- и физических атак. Клод сосредоточил внимание на рисках увеличения возможностей биологического оружия, полагая, что ИИ может помочь отдельным лицам или небольшим группам разрабатывать опасные патогены без многолетней профессиональной подготовки.Что касается оценки долгосрочного риска, и Близнецы, и Грок упомянули о возможности потери контроля над людьми. Gemini называет это наиболее вероятным сценарием катастрофы ИИ. Он считает, что продвинутый ИИ, выполняющий сложные задачи, может разрабатывать промежуточные цели, такие как получение ресурсов, самозащита и предотвращение изменения целей, а также скрывать истинное поведение во время тестирования, в конечном итоге обходя отключение или вмешательство человека.
Грок также считает, что продвинутый ИИ может искать самозащиту, ресурсы и влияние для выполнения задач, тем самым обманывая руководителей, сопротивляясь отключениям и ослабляя возможности человеческого контроля.
Клод предположил, что потеря контроля также может происходить постепенно. По мере того, как ИИ постепенно вовлекается в процесс принятия экономических, политических и военных решений, людям может стать все труднее осуществлять эффективное вмешательство. К тому времени
риск может не обязательно проявиться в виде внезапного нападения роботов, а, скорее всего, может быть связан с продолжающейся углубляющейся зависимостью людей от сложных систем искусственного интеллекта.
Business Insider отметил, что у экспертов в области ИИ до сих пор есть явные разногласия по поводу связанных с этим рисков. Некоторые исследователи предупреждают, что люди могут потерять контроль над продвинутым ИИ; другие эксперты полагают, что такие прогнозы не имеют достаточных доказательств и что риски, создаваемые ИИ, можно контролировать с помощью технических мер, внешнего надзора и стандартов безопасности.
Комментарии