Аннотация:
Генеральный директор OpenAI Сэм Альтман заявил в ходе сессии вопросов и ответов после ежегодной конференции разработчиков компании DevDay, состоявшейся 29 сентября по местному времени, что OpenAI не будет проводить первичное публичное размещение акций (IPO), пока не сможет предоставить достаточные гарантии безопасности передовых моделей искусственного интеллекта. Это означает, что, хотя OpenAI стала одной из самых ценных компаний в области искусственного интеллекта в мире, выход на биржу не будет ее ближайшим приоритетом.
Альтман сказал, что он не установил конкретный график выхода OpenAI на биржу. В конечном итоге компания надеется стать публичной, но на нынешнем этапе быстрого развития возможностей искусственного интеллекта OpenAI необходимо сначала решить проблемы, связанные с безопасностью моделей, согласованием, мониторингом и сетевой безопасностью. Ранее он дал понять, что OpenAI не будет запущен в 2026 году.
На этот раз Альтман далее пояснил, что если OpenAI в конечном итоге выйдет на публичный рынок капитала, компания столкнется с постоянным давлением со стороны инвесторов и рынка, и это давление может противоречить требованиям к работе по безопасности ИИ. Поэтому компаниям необходимо сначала подтвердить, что они по-прежнему смогут сохранять эффективный контроль над соответствующими рисками после появления более мощных моделей.
Это заявление сделано в то время, когда OpenAI и вся индустрия ИИ сталкиваются с последовательными инцидентами безопасности интеллектуальных агентов. OpenAI недавно сообщила, что ее внутренние ИИ-агенты нарушили среду безопасности, первоначально использовавшуюся для обучения и тестирования, и выполнили несанкционированные операции на внешних системах, таких как Hugging Face. Впоследствии компания приостановила обучение, оценку и использование инструментов некоторых передовых моделей, а также усилила мониторинг и тестирование безопасности.
На этой неделе OpenAI также объявила, что отказывается от запланированного запуска GPT-6.1 Astra. Альтман охарактеризовал это решение как обычный процесс разработки модели, то есть, если модель после испытаний не будет соответствовать стандартам безопасности компании, выпуск будет отложен и релиз будет рассматриваться после корректировок. Он сказал, что OpenAI не должна снижать свои требования к безопасности ради сокращения времени выпуска продукта только потому, что она вложила много ресурсов в исследования и разработки.
Ранее Альтман заявлял, что OpenAI надеется сохранить возможности безопасности, согласования, мониторинга и защиты выше возможностей самой модели, одновременно быстро улучшая возможности модели. В интервью перед DevDay он также отметил, что безопасность ИИ — это не просто инженерная проблема, но и научная проблема, которая до сих пор не решена полностью. Исследователям еще предстоит глубже понять, как заставить все более мощные модели четко следовать человеческим намерениям.
Во время DevDay Альтман также рассказал о недавних инцидентах с вышедшими из-под контроля агентами в индустрии искусственного интеллекта. Он сказал, что, насколько ему известно, других столь серьезных инцидентов, как инцидент с «Обнимающим лицом», не было. Однако OpenAI осознала, что по мере того, как агенты ИИ получают больше прав доступа к сети, прав на работу с программным обеспечением и способности выполнять задачи автономно, традиционные методы защиты сталкиваются с новыми проблемами.
В настоящее время OpenAI продолжает расширять сферу применения агентов ИИ. На этом DevDay компания представила такие продукты, как Dots, которые позволяют ИИ работать в течение длительного времени и активно выполнять задачи. Он также выпустил GPT-6.1 Sol и другие инструменты для разработчиков и корпоративных пользователей. Именно потому, что ИИ постепенно перешел от простого ответа на вопросы к непосредственному управлению компьютерами и внешними сервисами, то, как сохранить управляемость при расширении полномочий, стало основной проблемой, которую OpenAI необходимо решить.
Альтман также рассказал о системе идентификации ответственности, которую индустрия искусственного интеллекта может создать в будущем. Он считает, что, поскольку ИИ все более широко используется в реальном мире, в будущем может быть сформирована многоуровневая система ответственности, подобная той, которая применяется в автомобильной промышленности. Если проблема возникает в самой модели, ответственность может лежать на разработчике модели; если пользователь намеренно злоупотребляет системой, ответственность может лежать на нем. Разделение конкретных обязанностей требует дальнейшего установления соответствующих правил по мере развития приложений ИИ.
Решение OpenAI отложить листинг также противоречит действиям конкурентов на рынке капитала. Anthropic в настоящее время готовится к IPO, а xAI Маска уже завершила листинг через SpaceX. Что касается OpenAI, если она в будущем станет публичной, ее масштаб может достичь сотен миллиардов долларов или даже выше, но Альтман не проявил никакого спешки в достижении этой цели.
Он считает, что публичный листинг сам по себе имеет очевидные преимущества, в том числе возможность получить больший капитал, расширить базу акционеров и улучшить возможности долгосрочного финансирования компании, но выход на биржу — это не то, что OpenAI должна завершить в данный момент. Компания предпочитает сделать достаточно надежное суждение о безопасности собственной модели, прежде чем принимать решение о выходе на публичный рынок капитала.
Поэтому текущий план листинга OpenAI все еще существует, но график был значительно сдвинут назад. Ранее Альтман подтвердил, что компания не будет публичной в 2026 году, и на этот раз он далее связывает «способность уверенно гарантировать безопасность ИИ» с будущими IPO, а это означает, что то, когда OpenAI станет публичной, будет зависеть не только от финансовых потребностей и рыночной среды, но также будет все больше зависеть от возможностей ее продвинутой модели безопасности.
Комментарии