Аннотация:
Незаконный доступ к моделям искусственного интеллекта и вычислительным мощностям быстро становится самым ходовым товаром в преступном мире киберпреступников. Хакеры пытаются использовать дорогостоящие модели большого языка для шантажа, ведения войны и шпионажа. Джон Халтквист, главный аналитик Google Threat Intelligence Group, заявил, что в этом году группа кибербезопасности наблюдала значительный рост так называемых атак «LLM-jacking», которые включают в себя продажу украденных учетных данных для входа в общедоступные инструменты искусственного интеллекта и группы, которые крадут вычислительные ресурсы для бесплатного запуска своих собственных моделей.
"На подпольном рынке мы наблюдаем растущую экономику, связанную с доступом к искусственному интеллекту", – говорит Халтквист, ветеран кибербезопасности с 20-летним стажем.
Хультквист предупредил, что получение дорогих ресурсов ИИ по низкой цене даст киберзлоумышленникам финансовое преимущество перед своими целями, которым также необходимо использовать эти инструменты ИИ для защиты.
Он сказал: «В конце концов, все эти действия дают им какое-то экономическое или эффективное преимущество перед нами, потому что они действительно могут получить эти токены по гораздо более низкой цене».
Исследователи из отдела анализа угроз Google обнаружили, что некоторые торговые площадки в темной сети продают доступ к моделям искусственного интеллекта от таких компаний, как Anthropic, Google и OpenAI, со скидками до 97%. Самые продвинутые версии служб подписки ChatGPT и Claude’s AI стоят до 200 долларов США на пользователя в месяц.
Учитывая, что AI Labs отслеживает признаки такого злоупотребления, некоторые продавцы даже предлагают «гарантированный доступ», обещая бесплатно ввести новые учетные данные, если исходная учетная запись будет заблокирована, сказал Хультквист.
В других случаях преступные группировки и организации, поддерживаемые государством, взламывают серверы, размещенные компаниями в облаке, и развертывают свои собственные модели искусственного интеллекта для работы на целевых системах. Этот подход аналогичен предыдущим попыткам злоумышленников скомпрометировать сторонние компьютеры для майнинга криптовалюты.
ИИ уже используется «всеми субъектами угроз», — сказал Хультквист, добавив, что в будущем инструменты ИИ должны стать неотъемлемой частью систем кибербезопасности. В последнем ежеквартальном отчете Anthropic о злоупотреблениях в области искусственного интеллекта компания обнаружила, что злоумышленники из более чем 20 стран, включая США, Великобританию и Йемен, пытались использовать ее инструмент Claude для вредоносной деятельности.
Он сказал: «Любой, кто думает, что ИИ — это просто причуда, и хочет, чтобы он исчез, однажды проснется и обнаружит, что он перегружен. Они столкнутся с большим количеством инцидентов безопасности, большим количеством предупреждений и большим количеством атак, чем когда-либо прежде. Мы должны позаботиться о своих собственных делах сейчас».
Хультквист предупредил, что, поскольку все больше и больше крупных предприятий стремятся развернуть индивидуальные модели искусственного интеллекта на своих собственных серверах, а не арендовать вычислительные мощности у поставщиков облачных услуг, сами эти системы также станут объектами атак и должны быть тщательно защищены. «Если вы платите за вычислительную мощность, а вычислительная мощность может быть очень дорогой... тогда она становится очень привлекательным потенциальным ресурсом в глазах злоумышленников».
Хультквист также сказал, что сейчас лучшее время для хакеров «внедриться» в целевые учетные записи и компьютерные серверы, поскольку компании все еще выясняют, сколько ресурсов ИИ они будут использовать.
Он сказал: «Вы можете подумать, что внезапное и значительное увеличение использования вычислительной мощности совершенно нормально, потому что вы только что развернули так много инфраструктуры искусственного интеллекта. Это действительно дает некоторым людям возможность спрятаться в шуме».
Комментарии