Аннотация:
Согласно сообщениям Британской радиовещательной корпорации (BBC), The Guardian и других иностранных СМИ от 12 числа,
Брэд Смит, президент корпорации Microsoft в США, недавно призвал к более строгому надзору за искусственным интеллектом (ИИ). Он предупредил, что нынешний надзор за ИИ не так силен, как за молоком и стиральными машинами.
Кроме того, основатель Microsoft Билл Гейтс также призвал усилить надзор за ИИ в интервью американским СМИ 11 числа. Эту «самую опасную технологию», изобретенную человечеством, нельзя полностью отдавать под контроль компаний-разработчиков. Гейтс сказал, что разрешение технологическим гигантам регулировать себя может подвергнуть мир беспрецедентным киберугрозам.
Источник карты данных Билла Гейтса: СМИ США
«В настоящее время к вашей стиральной машине применяются более строгие правила безопасности, чем к искусственному интеллекту. Каждая упаковка молока, которую вы видите в продуктовом магазине, должна соответствовать правилам безопасности и быть проверена». Смит недавно заявил в интервью программе BBC, что ИИ — это одновременно «инструмент» и «оружие» и его срочно необходимо регулировать.
Смит считает, что необходимо установить глобальные правила безопасности, компании должны быть оснащены «устройствами аварийного торможения» для приостановки или замедления работы ИИ, когда возникает какая-то неконтролируемая ситуация, и (соответствующие стороны) должны иметь юридические обязательства перед «жертвами» вышедших из-под контроля агентов ИИ.
Брэд Смит дал интервью британским СМИ. Источник: скриншот видео
Россия сегодня (RT) сообщила 12 числа, что Билл Гейтс также сказал в интервью CNN: «Для (самой) опасной технологии, когда-либо изобретенной человечеством, если вы думаете, что это окончательный вывод, то есть единственной системой контроля и баланса в обществе является собственный надзор компании, этого явно недостаточно». Гейтс заявил, что правительственные учреждения должны играть более активную роль. Он также сравнил ИИ с авиационной и фармацевтической промышленностью, где регулирующие органы будут обеспечивать соблюдение стандартов безопасности.
Гейтс также назвал кибератаки наиболее непосредственной угрозой, предупредив, что преступники могут воспользоваться моделями искусственного интеллекта, которые устраняют меры безопасности против хакеров и биотерроризма.
«Когда злоумышленники, небезопасные системы и новейшие модели объединятся… тогда в следующем году мы столкнемся с множеством непредвиденных негативных последствий», — сказал Гейтс.The Guardian упомянула в своем отчете, что случаи выхода ИИ из-под контроля растут. Этим летом OpenAI и Anthropic сообщили, что их модели ИИ прорвались через тестовую среду и попали в общедоступный Интернет во время проверки сетевой атаки и защиты, а также получили доступ к системам других учреждений без авторизации. Это вызвало опасения по поводу риска выхода ИИ из-под контроля.
В последнее время разгорелись дискуссии о скорости развития, рисках безопасности и государственном регулировании индустрии искусственного интеллекта в США. Ранее многие технологические предприниматели в США призывали компании, занимающиеся искусственным интеллектом, замедлить развитие передовых технологий. Дарио Амодей, генеральный директор американской компании Anthropic, занимающейся искусственным интеллектом, заявил в статье от 12 сентября, что, учитывая риски безопасности, компаниям, занимающимся искусственным интеллектом, необходимо замедлить темпы разработки наиболее продвинутых моделей. Сэм Альтман, генеральный директор Открытого исследовательского центра искусственного интеллекта США (OpenAI), и американский предприниматель Илон Маск позже выразили свою поддержку контролю скорости разработки моделей ИИ.
Комментарии