Генеральный директор OpenAI Сэм Альтман заявил, что OpenAI работает с Институтом безопасности искусственного интеллекта США (U.S. AI Safety Institute), федеральным правительственным учреждением, призванным оценивать и устранять риски для платформ искусственного интеллекта.
Альтман сделал это заявление в сообщении на X в четверг вечером, но подробностей было мало. Но оно, наряду с аналогичным соглашением с британским агентством по безопасности ИИ, заключенным в июне, похоже, направлено на то, чтобы опровергнуть утверждения о том, что OpenAI отодвигает усилия по обеспечению безопасности ИИ на второй план в поисках более эффективных и мощных технологий генеративного ИИ.
В мае OpenAI фактически распустила группу, работавшую над разработкой средств управления, чтобы не допустить выхода «сверхразумных» систем искусственного интеллекта из-под контроля. В некоторых отчетах, в том числе и в нашем, предполагалось, что OpenAI отложила исследования в области безопасности в пользу запуска новых продуктов, что в конечном итоге привело к расколу между двумя соруководителями команды, Яном Лейке (ныне руководителем исследований в области безопасности в стартапе ИИ Anthropic) и соучредителем OpenAI Ильей Суцкевером (который основал свою собственную компанию по обеспечению безопасности ИИ Safe Superintelligence Inc.).
В ответ на растущее число критиков OpenAI заявила, что отменит ограничительные положения о неунижении, которые неявно запрещают отчетность, создаст комитет по безопасности и направит 20% своих вычислительных мощностей на исследования в области безопасности. (Несуществующей команде безопасности было обещано использовать для своей работы 20% вычислительной мощности OpenAI, но этого так и не произошло). Альтман подтвердил свое обязательство посвятить 20% вычислительной мощности исследованиям в области безопасности и подтвердил, что OpenAI в мае отменила свое положение о неунижении достоинства новых и существующих сотрудников.
Однако эти шаги не успокоили некоторых наблюдателей — особенно после того, как OpenAI укомплектовала свой комитет по безопасности всеми сотрудниками компании, включая Альтмана, и недавно перевела старшего директора по безопасности ИИ в другую организацию.
Пять сенаторов, в том числе демократ от Гавайев Брайан Шац, подняли вопросы о политике OpenAI в недавнем письме Альтману. Директор по стратегии OpenAI Джейсон Квон ответил сегодня на письмо, написав, что OpenAI «привержена обеспечению строгих протоколов безопасности на каждом этапе процесса».
Сроки заключения соглашения OpenAI с Национальным институтом безопасности ИИ кажутся немного подозрительными, поскольку ранее на этой неделе компания поддержала Закон о будущем инноваций, законопроект, внесенный в Сенат, который наделяет Институт безопасности полномочиями исполнительного агентства, ответственного за разработку стандартов и руководящих принципов для моделей искусственного интеллекта. В совокупности эти шаги можно рассматривать как попытку захвата регулирующих органов — или, по крайней мере, влияния OpenAI на разработку политики в области искусственного интеллекта на федеральном уровне.
Альтман является членом Совета по безопасности искусственного интеллекта Министерства внутренней безопасности, который консультирует по вопросам «безопасной и надежной разработки и внедрения искусственного интеллекта» в критической инфраструктуре США. В этом году расходы OpenAI на федеральное лоббирование значительно увеличились: расходы составили 800 000 долларов за первые шесть месяцев 2024 года и 260 000 долларов за весь 2023 год.
Национальный институт безопасности искусственного интеллекта, входящий в состав Национального института стандартов и технологий Министерства торговли, консультируется с консорциумом компаний, включая Anthropic, и крупными технологическими компаниями, такими как Google, Microsoft, Meta, Apple, Amazon и NVIDIA. Этой отраслевой группе поручено работать в соответствии с указом президента Джо Байдена об искусственном интеллекте, изданным в октябре, включая разработку руководства по красным командам ИИ, оценке возможностей, управлению рисками, гарантиям безопасности и искусственным водяным знакам контента.