Аннотация:
Джейкоб Коксон, бывший исследователь искусственного интеллекта, работавший в OpenAI и Anthropic, недавно выступил с резким предупреждением против глобальной конкуренции в области искусственного интеллекта. В своем последнем интервью он заявил, что «на 90% уверен» в том, что Китай разместил сотрудников разведки в OpenAI и Anthropic, и считает, что, поскольку конкуренция в области исследований и разработок в сфере сверхинтеллекта продолжает обостряться, спецслужбам разных стран практически невозможно игнорировать эти компании, владеющие самыми передовыми технологиями.
Коксон заявил, что, по его мнению, ведущие мировые лаборатории искусственного интеллекта стали важной мишенью геополитической конкуренции. Поскольку передовые технологии искусственного интеллекта могут оказать огромное влияние на экономику, военную сферу, сферу кибербезопасности и научных исследований в будущем, у правительств во всем мире есть сильные стимулы для получения соответствующей информации. Он считает нереалистичным предполагать, что эти институты вообще не проникнуты.
Помимо выражения обеспокоенности по поводу проблем безопасности, Коксон также раскрыл некоторые детали культуры внутри Anthropic. Он рассказал, что многие сотрудники Anthropic называют себя «муравьями». Это название происходит от аббревиатуры и производного от названия компании Anthropic, а также рассматривается некоторыми сотрудниками как внутренняя идентичность, позволяющая совместно преследовать цель сверхинтеллекта.
Ранее Коксон привлекал всеобщее внимание за публичную критику направления развития индустрии искусственного интеллекта. Как исследователь, много лет проработавший в OpenAI и Anthropic, он уже давно занимается исследованиями, связанными с передовыми системами искусственного интеллекта. Покинув Anthropic, он опубликовал серию публичных статей, обвинив индустрию в том, что она продвигает сверхразумные исследования и разработки с чрезмерной скоростью, в то время как вопросам безопасности не уделяется внимания, соизмеримого с технологическим прогрессом.
Он считает, что в настоящее время ведущие компании, занимающиеся искусственным интеллектом, ведут жесткую конкуренцию, надеясь первыми создать сверхинтеллектуальные системы с возможностями самосовершенствования. Чтобы конкурировать за технологическое лидерство, компании продолжают увеличивать скорость исследований и разработок, но отрасли еще предстоит найти зрелое решение, позволяющее гарантировать, что будущие системы всегда будут под контролем человека.
Коксон отметил, что некоторые исследователи в ядре отрасли искренне верят, что появление сверхчеловеческих интеллектуальных систем в ближайшие несколько лет — это не далекая фантазия, а реальный путь развития. Он предупредил, что люди обычно недооценивают скорость развития и потенциальное влияние сопутствующих технологий. Как только системы с высокой степенью автономии приобретут большие возможности, они смогут вторгаться в компьютерные системы, контролировать критическую инфраструктуру и получать доступ к реальным ресурсам и влиянию.
Дискуссии вокруг рисков сверхразума в последнее время продолжают накаляться. Многие исследователи и менеджеры из OpenAI, Anthropic и других ведущих исследовательских институтов публично обсуждали экзистенциальные риски, которые может принести искусственный интеллект. Некоторые инсайдеры отрасли выступают за установление более строгой нормативной базы безопасности и замедление разработки передовых моделей для решения проблем управляемости в первую очередь.
Однако некоторые представители отрасли считают, что чрезмерный акцент на экстремальных рисках может игнорировать огромный потенциал, который несет искусственный интеллект в таких областях, как научные исследования, медицинское обслуживание, образование и повышение производительности. Они считают, что усиление мер безопасности и продолжение продвижения технологических инноваций не являются непоследовательными.
Поскольку такие компании, как OpenAI, Anthropic, Google DeepMind и xAI, продолжают вкладывать огромные суммы денег в создание моделей следующего поколения, дебаты о безопасности искусственного интеллекта, национальной конкуренции и будущем направлении сверхинтеллекта продолжают обостряться. Замечания Коксона о проникновении разведки и конкуренции сверхинтеллектов в очередной раз привлекли внимание мировой индустрии искусственного интеллекта к фокусу общественного мнения.
Комментарии