После того, как президент США Байден подписал в октябре этого года первый указ о регулировании искусственного интеллекта, администрация Байдена заявила во вторник по восточному времени, что делает первый шаг по написанию ключевых стандартов и руководств по безопасному развертыванию генеративного искусственного интеллекта, а также по тестированию и защите систем.
В конце октября этого года президент США Байден подписал «знаковый» указ, введя в действие первые нормативные акты Белого дома по генеративному искусственному интеллекту. Согласно указу, несколько правительственных агентств США обязаны разработать стандарты для предотвращения химических, биологических, радиологических, ядерных рисков и рисков кибербезопасности, вызванных искусственным интеллектом.
Во вторник по восточному времени Национальный институт стандартов и технологий (NIST) Министерства торговли США заявил, что до 2 февраля запросит мнения компаний, занимающихся искусственным интеллектом, и общественности, чтобы провести критическое тестирование ИИ, которое имеет решающее значение для обеспечения безопасности систем искусственного интеллекта.
NIST утверждает, что они разрабатывают рекомендации по оценке и тестированию искусственного интеллекта, способствуют разработке отраслевых стандартов искусственного интеллекта и предоставляют среду тестирования для оценки систем искусственного интеллекта.
Министр торговли США Джина Раймондо заявила, что последняя инициатива NIST была вызвана октябрьским указом Байдена о разработке «отраслевых стандартов безопасности, защищенности и доверия к искусственному интеллекту, чтобы Соединенные Штаты могли продолжать лидировать в мире в ответственном развитии и использовании этой быстро развивающейся технологии».
Руководство по тестированию, которое разрабатывает NIST, включает в себя так называемое тестирование «красной команды» — NIST рассмотрит, где тестирование «красной команды» наиболее полезно для оценки и управления рисками искусственного интеллекта, и разработает передовой опыт для этой цели.
Тестирование «красной командой» — важный этап тестирования сетевой безопасности. Это относится к моделированию реальных противников группой экспертов для тестирования и повышения безопасности системы.
В августе этого года Соединенные Штаты впервые публично провели тестирование «красной команды» искусственного интеллекта во время крупной конференции по кибербезопасности. В мероприятии в основном принимают участие отраслевые организации искусственного интеллекта AIVillage, SeedAI, Humane Intelligence и др.
Белый дом заявил, что на августовском мероприятии тысячи участников проверяли, «могут ли они заставить эти системы выдавать нежелательные результаты или иным образом выходить из строя, с целью лучшего понимания рисков, связанных с этими системами». Мероприятие «продемонстрировало, как внешние красные команды могут быть эффективным инструментом для выявления новых рисков ИИ».