Маск строго предупреждает: было бы плохо, если бы ИИ контролировал военные системы и запускал ядерные бомбы

Аннотация:

Недавно Маск предупредил на мероприятии: «Было бы очень плохо, если бы ИИ мог управлять военными системами и запускать ядерные бомбы».

Но Маск не согласен с этой точкой зрения. Он рассказал, что даже если система будет физически изолирована от сети, оборудование все равно будет регулярно обновляться. Этот процесс может оставить дыры в безопасности и дать ИИ возможность вмешиваться в ключевые военные системы. Как только ИИ получит право использовать ядерное оружие, это будет иметь катастрофические последствия для всего человечества.

Маск не одинок в беспокойстве по поводу искусственного интеллекта.

Джейкоб Коксон, исследователь искусственного интеллекта, который только что ушел из Anthropic, рассказал, что многие специалисты, работающие на передовой линии компаний, занимающихся искусственным интеллектом, испытывают настоящее беспокойство. Они от всей души ощущают панику и очень переживают по поводу непредсказуемой судьбы, с которой человечество столкнется в ближайшие два года.

Генеральный директор Anthropic также публично призвал к необходимости соответствующим образом замедлить темпы исследований и разработок передовых моделей искусственного интеллекта. Он также предложил такие направления, как внедрение независимого надзора, установление отраслевых норм и содействие глобальному консенсусу в области регулирования для сдерживания развития искусственного интеллекта высокого риска. Человек, отвечающий за OpenAI, также публично выразил поддержку необходимому контролю над разработкой ИИ.