Аннотация:
OpenAI заявила, что ее будущая модель Astra сможет обнаруживать ранее неизвестные уязвимости программного обеспечения и превращать их в код эксплойта, который может осуществлять атаки без необходимости пошагового руководства со стороны человека. Это означает, что модель преодолела порог в возможностях кибербезопасности, которые ранее были в основном прерогативой ведущих хакерских команд.
Во вторник в своем блоге компания сообщила, что Astra — первая модель, классифицированная как имеющая сетевые возможности «критического» уровня в своей «структуре готовности».
Чтобы достичь этого уровня, модели должны иметь возможность обнаруживать ранее неизвестные уязвимости программного обеспечения (например, уязвимости нулевого дня) без вмешательства человека и разрабатывать пригодные для использования атаки на защищенные реальные системы или разрабатывать и выполнять атаки, основанные исключительно на целях высокого уровня.
В ходе тестирования компания Astra набрала 100 % баллов в контрольном тесте, в котором использовались известные уязвимости, и были обнаружены две ранее неизвестные уязвимости при построении цепочки атак в другом внутреннем тесте.
В тесте, призванном выяснить, будет ли модель «обманывать» чрезвычайно сложные или невыполнимые хакерские задачи, GPT-5.6 Sol с большей вероятностью использовал запрещенные ярлыки, а Astra - нет, хотя некоторые задачи все же решались легально.
OpenAI также сообщила, что Astra успешно преодолела изолированную программную среду браузера и выполнила команды на главном компьютере; кроме того, он обнаружил и объединил несколько уязвимостей в операционной системе для получения root-прав.
Впоследствии компания отложила разработку некоторых функций Astra, добавив меры безопасности, и планирует первоначально открыть свои самые передовые возможности кибербезопасности только избранным тестировщикам.
Эта возможность особенно актуальна для криптовалютной сферы, поскольку программную ошибку можно превратить в реальную прибыль за считанные минуты. Согласно сообщениям, анализ, проведенный в июне этого года, показал, что все более мощные модели искусственного интеллекта могут сжать процесс поиска кода, обнаружения неправильных конфигураций и организации атак с дней или недель до операций, выполняемых на машинной скорости.
В то время исследователи безопасности заявили, что более серьезное изменение не обязательно будет заключаться в совершенно новых типах атак, но что скорость, с которой будут обнаруживаться и использоваться существующие уязвимости, значительно увеличится.
Эта разработка также показывает, что передовые модели выходят за рамки «ответов на вопросы» и «написания кода». В июле этого года система искусственного интеллекта под названием Claude Fable 5 помогла решить математическую загадку, возникшую 87 лет назад.
Комментарии