Аннотация:
Anthropic предупредила инвесторов, что откровенная пропаганда безопасности искусственного интеллекта (ИИ) со стороны компании может сделать ее объектом ответных мер со стороны правительства. Комментарии подчеркивают потенциально непропорциональное влияние рисков, связанных с правительством, на будущий бизнес Anthropic после неоднократных трений с администрацией Трампа в течение прошлого года.
В своей документации по IPO компания Anthropic заявила, что ее позиция в отношении регулирования ИИ и взгляды, публично выражаемые руководителями компании, могут подвергнуть ее значительному давлению со стороны правительства.
В своем проспекте компания Anthropic упомянула: «Мы получали и, возможно, будем продолжать получать больше внимания и, возможно, будем продолжать сталкиваться с более строгим контролем. Мы можем стать объектом преследования со стороны конкретных правительственных учреждений, даже если к другим компаниям, оказавшимся в аналогичной ситуации, не относились таким же образом».
В сентябре генеральный директор Anthropic Дарио Амодей прибыл в Белый дом на встречу.
Ссора Anthropic с администрацией Трампа возникла в начале этого года из-за спора о том, какие меры безопасности следует устанавливать, когда Пентагон использует технологии компании. Недавно у Anthropic возникли разногласия с правительственными чиновниками по поводу того, достаточно ли безопасна ее передовая модель Mythos. Генеральный директор Дарио Амодей поддержал скоординированное замедление развития искусственного интеллекта, чтобы дать командам безопасности время догнать технологические достижения, и эта позиция разозлила Трампа.
Теперь инвесторам необходимо взвесить регуляторные риски, с которыми сталкивается Anthropic. Технология компании проста в использовании и может продаваться как повседневный потребительский продукт, но при этом достаточно мощная, чтобы считаться кибероружием и, возможно, даже катализатором биологической войны, и, следовательно, подлежит более тщательному изучению. По мнению Anthropic, повторяющиеся конфликты с администрацией Трампа добавляют еще один уровень риска к неопределенности, с которой сталкивается вся индустрия искусственного интеллекта.
Сара Крепс, директор Института технической политики Корнеллского университета, сказала: «Для ИИ границы государственной власти все еще постепенно проясняются, иногда посредством прямой конфронтации с отдельными компаниями. Инвесторам сложно оценить эту неопределенность».
Anthropic раскрыла в своем проспекте различные негативные последствия, которые может оказать правительство, и упомянула ряд предлагаемых федеральных законов, включая принудительное закрытие моделей и даже национализацию компаний, занимающихся искусственным интеллектом. Ранее в этом году некоторые чиновники, в том числе вице-президент Вэнс, выдвинули идею использования Закона об оборонном производстве времен холодной войны, чтобы заставить компании раскрывать информацию и сотрудничать с органами национальной безопасности. Об этом сообщило агентство Bloomberg.
Anthropic также перечислила риски, которые государственное вмешательство может создать для усилий по разработке ИИ, в том числе возможность того, что торговый контроль может привести к потере компаниями зарубежных клиентов, а также возможные юридические последствия неправомерного поведения модели. Anthropic заявила, что компания, возможно, не сможет «полностью понять или объяснить» действия, предпринимаемые системами, которые она разрабатывает, и будет продолжать настаивать на принятии мер регулирования, которые, в свою очередь, могут помешать ее собственному бизнесу.
Anthropic заявила: "Если нормативные или другие аналогичные меры, за которые мы выступаем, будут приняты, мы также будем подвергнуты этим мерам, и новые правила могут увеличить нашу нагрузку по соблюдению требований, ограничить нашу гибкость в разработке или внедрении продуктов, повлиять на то, как и когда мы разрабатываем или выпускаем новые модели, или иным образом замедлить наш рост".
Anthropic также предупредила, что разрабатываемая ею технология в конечном итоге может представлять угрозу для людей. Это перекликается с опасениями многих исследователей искусственного интеллекта в Кремниевой долине по поводу катастрофических последствий, опасениями, которые Трамп и его союзники отвергли как «мистификацию».
В сентябре в Чапел-Хилл, Северная Каролина, прошла встреча G20. Демонстрант держит знак против ИИ возле Министерской конференции по инновациям.
Компания заявила: «Если передовые системы искусственного интеллекта не будут разрабатываться, внедряться и эксплуатироваться с соблюдением соответствующих мер безопасности, надзора и мер безопасности, они могут представлять катастрофические или даже экзистенциальные риски для человечества».
Anthropic заявила, что ее недавние усилия по объединению моделей ИИ с научными исследованиями могут привести к ограничениям, направленным на предотвращение создания смертоносного биологического оружия. Если модель будет использована не по назначению для кибератак, Anthropic может быть привлечена к юридической ответственности и понести репутационный ущерб.
Администрация Трампа является не только регулятором Anthropic, но и важным заказчиком продукции компании, что еще больше увеличивает подверженность компании влиянию решений правительства. Anthropic сообщила, что доходы непосредственно от контрактов с государственными учреждениями составляли около 1% от общего дохода за все периоды, охватываемые подачей заявок на IPO, причем данные относятся к 2023 году.
Уильям Рейнш, бывший заместитель министра промышленности и безопасности Министерства торговли США, сказал: «Ситуация Anthropic несколько особенная, поскольку при администрации Трампа многие действия были очень произвольными, и к Anthropic относились иначе, чем к другим компаниям».
Мэтт Перл, бывший директор Совета национальной безопасности Белого дома, а ныне директор программы стратегических технологий в Центре стратегических и международных исследований, сказал: "Мы не знаем, каким агентством в конечном итоге станут Anthropic и другие ведущие компании в области искусственного интеллекта. Я никогда не видел подобной ситуации. Окончательная форма крупной компании и ее наиболее фундаментальные отношения с правительством находятся в таком нерешенном состоянии".
Комментарии