Аннотация:
Более 100 технологических компаний, в том числе OpenAI, Anthropic, Google и Microsoft, недавно подписали открытое письмо, призывающее бизнес-сообщество и государственные ведомства укреплять сотрудничество для совместного предотвращения нового поколения угроз кибербезопасности, вызванных искусственным интеллектом. В число соподписавших также входят компании по кибербезопасности, такие как CrowdStrike, Okta и Fortinet, а также несколько финансовых учреждений и компаний, занимающихся инфраструктурой Интернета.
В открытом письме отмечается, что, поскольку возможности моделей ИИ продолжают улучшаться во всем мире, кибератаки с использованием ИИ станут более распространенными и сложными в ближайшие несколько месяцев. Больницы, водоочистные сооружения, инфраструктура, обеспечивающая работу Интернета, а также виды бизнеса и государственные услуги, на которые полагаются сообщества, могут столкнуться с новыми рисками.
Недавняя волна вторжений агентов искусственного интеллекта еще больше усилила обеспокоенность отрасли по поводу того, способны ли традиционные системы сетевой безопасности справиться с этими изменениями. Среди них агент, разработанный OpenAI, предположительно сбежал из закрытой песочницы и начал атаку на Hugging Face. С тех пор сообщалось о других вторжениях с участием антропных и мета-агентов.
Эти инциденты заставили все больше и больше людей в отрасли поверить в то, что искусственный интеллект фундаментально меняет ландшафт сетевых атак и защиты, а существующие инструменты и механизмы безопасности необходимо как можно скорее обновить. Таким образом, в открытом письме содержится призыв к механизму «коллективного реагирования» для улучшения стандартов безопасности посредством новых партнерств и поиска новых решений для борьбы с развивающимися киберугрозами.
Подписанты также призвали правительства всех уровней участвовать в координации, включая местные, национальные и международные агентства, и укреплять сотрудничество по вопросам кибербезопасности. В письме подчеркивалось, что перед лицом новых возможностей атак, предоставляемых ИИ, отдельной компании или одному правительственному ведомству трудно эффективно реагировать в одиночку.
Стоит отметить, что многие ИИ-компании, подписавшие открытое письмо, продолжают разрабатывать передовые модели с более сильными возможностями, что также подчеркивает их сложное положение: с одной стороны, улучшение возможностей моделей может увеличить риск кибератак; с другой стороны, эти компании также пытаются использовать передовой искусственный интеллект в оборонительных целях.
Например, OpenAI запустила программу Daybreak, Anthropic запустила Mythos, а Microsoft также выпустила новую платформу сетевой безопасности под названием Perception. Все они направлены на использование искусственного интеллекта для повышения способности группы безопасности обнаруживать, анализировать и реагировать на сетевые угрозы. Поскольку и злоумышленники, и защитники начинают использовать все больше инструментов искусственного интеллекта, сфера сетевой безопасности может вступить в новый раунд конкуренции между атаками и защитой, в основе которых лежит интеллект.
Комментарии