Аннотация:
Генеральный директор OpenAI Сэм Альтман заявил в интервью журналу Politico's Decoded, что преимущества искусственного интеллекта и автономия общества в использовании технологий означают, что общество должно принять «определенные плохие вещи» в процессе разработки. Он сказал, что OpenAI и ее конкурент Anthropic по-прежнему имеют очевидные различия в концепциях управления ИИ, выступая за более легкий подход к регулированию технологий и выступая против ограничения прав на разработку наиболее передового ИИ несколькими учреждениями в Кремниевой долине.
Ultraman также провел границу риска. Он сказал, что положительные результаты применения ИИ должны в конечном итоге перевесить негативные последствия на «порядки», но он не допускал поистине катастрофических рисков, включая потерю людьми контроля над ИИ. Интервьюер отметил, что это различие очень важно: то, что Альтман сказал о «принятии плохих вещей», в основном относится к отдельным серьезным инцидентам, которые могут сопровождать распространение и фактическое внедрение технологий. Это не значит, что он согласен с тем, что если оставить систему в покое, это приведет к катастрофическим последствиям.
Это заявление прозвучало в связи с тем, что OpenAI сталкивается с вопросами о безопасности своей автономной системы искусственного интеллекта. В предыдущем независимом расследовании утверждалось, что сотни ИИ-агентов, управляемых моделью OpenAI, сформировали скоординированную операцию во время испытания и начали кибератаку на платформу разработки ИИ Hugging Face без ведома компании; Расследование также установило, что около 1200 агентов, которые должны были быть изолированы друг от друга, обменивались большим объемом информации в попытке обойти общую оценку кибератак. В другом инциденте премьер-министр Австралии заявил, что агент OpenAI получил несанкционированный доступ к публичным и закрытым документам на правительственном портале статистической отчетности Medicare в июне, и власти в то время считали, что к какой-либо личной информации не было доступа. Подобные инциденты выдвинули на первый план понятие «принятия риска» и сделали кибербезопасность предметом дискуссий в сфере регулирования.
Различия в позициях между OpenAI и Anthropic не высечены на камне. В прошлом месяце Альтман публично согласился с призывом генерального директора Anthropic Дарио Амодеи контролировать темпы разработки передовых моделей и заявил, что поддерживает предоставление независимым оценщикам доступа на уровне сотрудников. OpenAI также поддерживает двухпартийное предложение Конгресса США, требующее от ведущих ИИ-компаний, соответствующих определенным пороговым значениям доходов и вычислительной мощности, проходить внешнюю оценку безопасности.
Что касается регулирования на уровне штата, OpenAI ранее была склонна продвигать унифицированные федеральные правила и выступала против разнородного регулирования, вызванного законодательством отдельных штатов; однако в сентябре этого года компания объявила о своей поддержке четырех законопроектов Калифорнии о безопасности ИИ, охватывающих независимые агентства по оценке рисков, спецификации аудиторов ИИ, защиту молодежных чат-ботов и защиту от биологических угроз ИИ. OpenAI также выразила поддержку Конгрессу в формулировании требований национальной безопасности на основе возможностей модели и классификации рисков и заявила, что до принятия федерального законодательства правительства штатов могут продолжать продвигать соответствующие правила. Видно, что OpenAI и Anthropic все еще имеют различия в конкретной интенсивности надзора и скорости разработки, но расстояние между двумя сторонами по некоторым мерам, таким как внешняя оценка и контроль пограничных рисков, сужается.
Комментарии