Исследователи безопасности недавно сообщили, что они использовали модель искусственного интеллекта Mythos нового поколения от Anthropic, чтобы обнаружить новый метод обхода безопасности в системе Apple macOS, успешно взломав технологию защиты памяти, над созданием которой Apple сосредоточилась в последние годы. Это открытие рассматривается в отрасли как серьезный вызов имиджу Apple как «самой сложной для взлома настольной системы в мире».
Calif, охранная компания из Пало-Альто, штат Калифорния, заявила, что, когда ее команда тестировала раннюю версию Mythos в апреле этого года, на основе подсказок, выдаваемых моделью, она обнаружила и объединила две независимые уязвимости, дополненные серией методов атаки, чтобы в конечном итоге уничтожить память устройства Mac и получить доступ к системным областям, к которым не следует обращаться. Этот тип атаки классифицируется как «эксплойт повышения привилегий» и в сочетании с другими цепочками атак может дать хакерам полный контроль над целевым компьютером.
Многие эксперты по безопасности отметили, что эта технология имеет большое значение, поскольку Apple вложила значительные средства в защиту поверхности macOS от атак и уже давно известна своей надежной безопасностью. Изучив исследование Калифа, Михал Залевски, исследователь безопасности, который когда-то работал в Google, сказал, что в контексте постоянного усиления защиты платформы Apple такая цепочка уязвимостей особенно привлекательна, демонстрируя двойную эволюцию методов и инструментов злоумышленников.
Apple заявила, что изучает технический отчет, представленный Калифом, для проверки выводов, и подчеркнула, что «безопасность является нашим главным приоритетом, и мы очень серьезно относимся к любым сообщениям о потенциальных уязвимостях». В последние годы Apple также развернула и протестировала передовые крупномасштабные модели для автоматического обнаружения и исправления уязвимостей системы, пытаясь оставаться активными в этом новом раунде наступательной и оборонительной конкуренции, движимой искусственным интеллектом.
За последние несколько месяцев способность крупных моделей обнаруживать дефекты программного обеспечения резко возросла, что вызвало в сообществе кибербезопасности опасения по поводу «Bugmageddon»: уязвимости безопасности беспрецедентного масштаба будут обнаруживаться концентрированным образом, что не только окажет огромное давление на технические команды, ответственные за исправления, но и усилит риски кибербезопасности в краткосрочной перспективе. Ранее в этом году другая модель Anthropic обнаружила более 100 серьезных уязвимостей в браузере Firefox за две недели, что примерно соответствует общему количеству результатов глобальных исследователей за два месяца.
Apple анонсировала технологию под названием «Memory Integrity Enforcement (MIE)» в сентябре прошлого года, заявив, что она стала результатом пяти лет совместной разработки аппаратного обеспечения и операционных систем с целью значительно улучшить возможности защиты от атак на память снизу вверх. Однако, по словам Калифа, с помощью модели Клода код эксплойта для двух уязвимостей macOS был разработан всего за пять дней, что подчеркивает повышение эффективности ИИ в наступательных исследованиях безопасности.
Дуонг Тай, генеральный директор Calif и старший эксперт по безопасности, подчеркнул, что эта атака была «автоматизирована» не только Mythos, но и сочеталась с опытом и суждениями исследователей безопасности человека. По его мнению, в настоящее время Mythos лучше всего умеет реконструировать и расширять идеи атак в существующих публичных документах. Ранее не было случаев самостоятельного создания новых технологий атак, поэтому это открытие команда расценивает как «новый прорыв в определенном смысле».
Залевски считает, что хотя некоторая реклама Mythos во внешнем мире «чрезмерна», новейшее поколение инструментов уже можно использовать для «значимых исследований уязвимостей и аудита кода», что не только повышает эффективность обнаружения ошибок, но и в определенной степени меняет рабочую парадигму традиционных исследований безопасности. В этом инциденте возможные пути, предложенные инструментом, и анализ экспертов-людей дополняли друг друга, позволяя первоначально чрезвычайно труднодоступной цепочке уязвимостей наконец обрести форму.
Согласно сообщениям, исследовательская группа из Калифорнии была настолько воодушевлена этим открытием, что во вторник они поехали из Пало-Альто в штаб-квартиру Apple в Купертино, чтобы лично сообщить команде безопасности Apple 55-страничный технический отчет, подробно описывающий детали использованной уязвимости и процесс атаки. Сцена, где соучредители компании Брюс Данг и Дуонг Тай фотографируются в парке, также стала символической сценой «сотрудничества человека и машины для прорыва линии обороны Apple».
В соответствии с отраслевой практикой, Калифорния планирует опубликовать технические подробности после того, как Apple завершит работу над исправлением, чтобы избежать злонамеренного использования уязвимости до ее исправления. Дуонг прогнозирует, что, поскольку Apple придает большое значение безопасности, эти недостатки должны быть исправлены в относительно короткий период времени.
Инцидент также имел последствия на политическом уровне. У Белого дома были сомнения или даже противодействие плану Anthropic по постепенному расширению внешнего доступа к Mythos, опасаясь двустороннего эффекта усиления моделей с высокими возможностями в области сетевой безопасности. Споры вокруг безопасности моделей искусственного интеллекта нового поколения подталкивают администрацию Трампа к переоценке своего предыдущего относительно «невмешательства» подхода к разработке искусственного интеллекта.
Федеральные чиновники в настоящее время рассматривают указ, который обеспечит более четкий государственный надзор за передовыми моделями искусственного интеллекта, включая оценку, проверку и необходимые ограничения доступа для моделей, способных оказать существенное влияние на безопасность. После инцидента с уязвимостью macOS вопрос о том, как использовать ИИ для улучшения обороноспособности, не допуская при этом его использования для усиления поверхности атаки, становится основной проблемой, с которой правительству США, технологическим гигантам и индустрии безопасности приходится сталкиваться вместе.