Аннотация:
Высокопоставленные чиновники Министерства обороны США недавно публично опровергли «теорию конца света», согласно которой ИИ может уничтожить человечество, полагая, что связанные с этим опасения вызваны страхом перед переменами, и подтвердили, что антропный риск по-прежнему представляет собой риск для цепочки поставок, выявленный Министерством обороны. По сообщениям СМИ от 10 сентября по местному времени, Эмиль Майкл, главный технический директор Министерства обороны США и заместитель министра по исследованиям и разработкам, в тот день публично отреагировал на растущую обеспокоенность по поводу рисков ИИ.
Бывший инженер-антрополог Джейкоб Коксон ранее предупреждал об этом в сообщении в социальной сети
Майкл упомянул пост Коксона на конференции оборонной промышленности в Вашингтоне, округ Колумбия. Сейчас этот пост был просмотрен более 150 миллионов раз.
Майкл сказал: «Людям легко впасть в этот цикл судного дня, думая: «Мы собираемся лишить работы 40% американцев, мы собираемся уничтожить человечество». В конце концов, это страх перед центрами обработки данных, страх перемен, и все это заключено в одном хорошо написанном твите».
Он отметил, что
Потенциальный вред искусственного интеллекта, упомянутый в сообщении Коксона, можно смягчить с помощью механизмов свободного рынка, сотрудничества в масштабах всей отрасли, а также коммуникации и сотрудничества с правительством.
Ранее на этой неделе Коксон опубликовал несколько сообщений, в которых говорилось, что OpenAI и Anthropic «движутся прямо к самосовершенствующемуся сверхинтеллекту, делая ставку на нашу жизнь» и предупреждая, что «скоро появятся сверхчеловеческие системы, способные прорваться через любую систему, в одночасье разрушить любую область и получить реальную власть и ресурсы».
По данным СМИ, 27-летний Коксон — британец, окончивший Кембриджский университет по специальности математика. Около трех лет назад он занимался исследованиями перед обучением в OpenAI и Anthropic и был одним из основных участников GPT-4o.
Майкл был бывшим руководителем американской онлайн-платформы заказа такси Uber, а в настоящее время возглавляет усилия по ускорению применения искусственного интеллекта в армии США.
Юридическая битва продолжается
Стоит отметить, что в тот день, когда Майкл сделал вышеупомянутое заявление, он также говорил о продолжающемся юридическом споре между Пентагоном и Anthropic.
Anthropic — бывший работодатель Коксона, и суть разногласий между Пентагоном и Anthropic заключается в том, как следует ограничить использование ИИ.
По сообщениям СМИ от 10 марта по местному времени, Anthropic потребовала запретить военным США использовать ее модели для массовой слежки за американским народом или полностью автономное летальное оружие. Это стало отправной точкой спора между двумя сторонами.
Майкл когда-то участвовал в переговорах между двумя сторонами, но в начале этого года переговоры прервались. Пентагон отверг соответствующие условия на основании ущемления полномочий военных и назвал Anthropic угрозой для цепочки поставок США.
Спор между двумя сторонами был передан в федеральный суд, и Anthropic подала иски в Калифорнию и Вашингтон, округ Колумбия.
По сообщениям СМИ от 3 сентября по местному времени, судья Рита Лин из Федерального окружного суда Северного округа Калифорнии 27 августа вынесла решение в пользу Anthropic, однако федеральный апелляционный суд в Вашингтоне еще не вынес решения.
Майкл обвинил Anthropic в намеренном выборе калифорнийского суда с более либеральной политической позицией для подачи иска и назвал другое дело, рассматриваемое в Вашингтоне, «более важным». Он настаивал на том, что Anthropic остается источником риска для цепочки поставок до тех пор, пока не будет принято решение по делу Вашингтона.
Ранее Пентагон провел два независимых определения рисков в цепочке поставок Anthropic на основе двух разных законов. Калифорнийский суд отменил только одно из них; другой вывод был заслушан непосредственно Апелляционным судом федерального округа в Вашингтоне, округ Колумбия, как того требует закон. Таким образом, до вынесения решения по делу Вашингтона соответствующее определение риска Министерства обороны остается в силе.
Комментарии