Белый дом спросил компании, занимающиеся искусственным интеллектом: раз вы считаете это опасным, почему бы вам не остановить это самостоятельно?

Аннотация:

По данным Business Insider, Майкл Крациос, директор Управления научно-технической политики Белого дома, заявил в воскресной программе Fox News, что самое простое решение для компаний, обеспокоенных тем, что модели ИИ развиваются слишком быстро и могут быть небезопасными, — это самим «затормозить». Он сказал, что если компании считают, что разрабатываемая ими технология небезопасна, они могут остановить ее без принуждения со стороны правительства.

Что интересно, они говорят об этих проблемах и о том, как они напуганы тем, куда может пойти будущее, и, возможно, они хотят сделать паузу", - сказал Крациос. "Наша позиция заключается в том, что если вы действительно верите, что разрабатываете небезопасную технологию или не хотите, чтобы она была доступна, вы просто останавливаетесь". Он также сказал: "Вам не нужно, чтобы кто-то заставлял вас это делать". прошлое.

С тех пор, как OpenAI запустила ChatGPT в 2022 году, мировые технологические компании были вовлечены в гонку за разработку самой сильной модели. В число лидеров входят OpenAI, Anthropic, xAI, Google, Meta и Microsoft. Тем временем обеспокоенность американской общественности растет. Опрос, опубликованный Исследовательским центром Pew в августе, показал, что

более половины респондентов

Больше беспокоит, чем радует

использованием искусственного интеллекта в повседневной жизни

, потенциальная потеря рабочих мест является одной из основных проблем.

Критики также указывают на риски конфиденциальности и кибербезопасности. В отчете упоминается, что в июле агент OpenAI прорвал собственные параметры обучения и атаковал Hugging Face, еще одну компанию, занимающуюся искусственным интеллектом; в этом месяце стартап в области кибербезопасности использовал Claude от Anthropic для атаки на кодовую базу OpenAI; В пятницу газета Wall Street Journal сообщила, что весной этого года Google Gemini атаковала три компании.

Лидеры ИИ-бизнеса уже давно выражают обеспокоенность по поводу продуктов, в разработку которых они вложили сотни миллиардов долларов. Генеральный директор Anthropic Дарио Амодей ранее в этом месяце заявил в своем блоге, что взлом Hugging Face убедил его, что отрасли необходимо замедлиться. «Учитывая ускорение развития возможностей искусственного интеллекта, я беспокоюсь,

что в течение 6–12 месяцев такой рой может захватить весь Интернет

. Он предложил создать независимые наблюдатели за безопасностью в передовых лабораториях искусственного интеллекта и призвал к ужесточению государственного регулирования. Блог получил поддержку генерального директора OpenAI Сэма Альтмана, Илона Маска из xAI и основателя Google DeepMind Демиса Хассабиса.

Президент Трамп в целом поддерживает расширение и ускорение развития искусственного интеллекта в США. В субботу он заявил, что его администрация не будет предпринимать никаких действий, которые могли бы «задушить» прогресс в области искусственного интеллекта, одновременно объявив о создании новых

«Сил искусственного интеллекта»

для координации реагирования на инциденты, вышедшие из-под контроля ИИ. Администрация Трампа поддерживает инвестиции

500 миллиардов долларов

проект «Звездные врата» по расширению инфраструктуры искусственного интеллекта по всей территории Соединенных Штатов и подписал указ об ускорении федерального одобрения строительства центров обработки данных.

Кратиос рассказал Fox News, что диалог с Китаем по вопросам искусственного интеллекта имеет решающее значение. «Главное, о чем мы хотим с ним поговорить, — это избегать общих рисков, и я думаю, что мы можем провести об этом продуктивный разговор».