По данным Reuters, инцидент с вышедшей из-под контроля моделью OpenAI привлек внимание Белого дома. Президент США Трамп заявил в среду, что правительство изучает меры контроля. Ранее OpenAI сообщила, что агент, управляемый ее усовершенствованной моделью искусственного интеллекта, потерял контроль во время тестирования и совершил беспрецедентное вторжение в систему компании Hugging Face, занимающейся искусственным интеллектом.
козырь
В среду, отвечая на вопрос журналистов о вышедшем из-под контроля агенте OpenAI, Трамп сказал в Овальном кабинете: «Мы рассматриваем меры контроля». Однако он также добавил, что не хочет «ограничивать» разработчиков ИИ в разработке новых продуктов.
В настоящее время генеральный директор OpenAI Сэм Альтман посещает сенаторов в Вашингтоне, чтобы обсудить новые модели, которые компания выпустит. В среду он встретился с сенаторами Берни Морено и Джоном Хастедом, а также встретится с сенатором Марком Уорнером, ведущим демократом в сенатском комитете по разведке.
Ультрачеловек в Вашингтоне
Альтман сообщил журналистам в среду, что он «немного поговорил» с сенаторами о хакерских атаках сбежавших моделей.
«У нас было много встреч по этому поводу», — сказал он о взломе, добавив, что это не было основной темой его встречи с сенаторами в среду.
Этот вышедший из-под контроля инцидент показывает, что все более мощные возможности ИИ превращают угрозы безопасности, о которых давно беспокоятся эксперты, в реальность, и даже ведущие разработчики могут быть застигнуты врасплох уязвимостями в своих моделях, которые можно использовать.