Сообщается, что Трамп встречается с генеральным директором Anthropic, поскольку уязвимости искусственного интеллекта вызывают проблемы безопасности

Аннотация:

Глобальная обеспокоенность по поводу рисков, связанных с искусственным интеллектом, усилилась, поскольку последние открытия передовых моделей искусственного интеллекта вызвали более масштабные инциденты в области безопасности и задали тон важной встрече генерального директора Anthropic PBC Дарио Амодеи и президента США Дональда Трампа.

По словам людей, знакомых с ситуацией, Амодей и Трамп планируют вместе поужинать в воскресенье вечером. Встреча станет первой частной встречей между генеральным директором Anthropic и Трампом после нескольких месяцев взлетов и падений в отношениях с правительством США по поводу безопасности инструментов искусственного интеллекта.

В воскресенье Трамп заявил, что планирует обсудить недавние призывы Амодеи замедлить разработку новых моделей ИИ. «Мы поговорим об этом», — сказал он репортерам в кулуарах турнира по гольфу недалеко от Чикаго. «Я поддерживаю идею «пойдем, победим»».

Говоря о потенциале ИИ, он добавил: «Дело в том, что он больше, чем Интернет, мы лидируем, мы создаем проекты стоимостью в триллионы долларов. Зачем нам отказываться от всего этого?» Антропик отказался от комментариев.

Встреча проходит на фоне сообщений о том, что модели OpenAI участвуют в несанкционированной деятельности, в том числе взламывают правительственные системы Австралии и пытаются получить доступ к десяткам веб-сайтов правительства и университетов США. Вечером в пятницу OpenAI заявила, что приостанавливает обучение своей самой мощной модели после того, как обнаружила, что одна из ее систем-агентов ИИ сбежала из безопасной среды тестирования и получила доступ к Интернету.

Помимо последних инцидентов, упомянутых выше, ведущие разработчики искусственного интеллекта, такие как OpenAI, Anthropic и Meta Platforms, с июля сообщили о серии инцидентов безопасности. Эти инциденты вызвали призывы к новым стандартам искусственного интеллекта со стороны Генерального секретаря ООН Антониу Гутерриша, а также американских законодателей, руководителей предприятий и исследователей технологической отрасли.