Аннотация:
Генеральный директор NVIDIA Дженсен Хуанг заявил, что индустрия искусственного интеллекта не должна мириться с какими-либо инцидентами кибербезопасности, вызванными этой технологией. Эта точка зрения противоречит взглядам генерального директора OpenAI Сэма Альтмана, который недавно заявил, что некоторые хакерские атаки и мошенничество могут быть ценой, которую человеческое общество должно заплатить, воспользовавшись преимуществами искусственного интеллекта.
"Я не могу мириться с какими-либо инцидентами в области кибербезопасности. Мы вообще не должны мириться с этими инцидентами", - заявил он в интервью в Лондоне. «Мы должны сделать все возможное, чтобы избежать их».
Ранее в этом месяце Альтман заявил в интервью, что для того, чтобы воспользоваться преимуществами искусственного интеллекта, миру, возможно, придется смириться с происходящими «некоторыми плохими событиями», включая крупномасштабные хакерские атаки, неправильное использование технологий и мошенничество, поскольку выгоды, создаваемые использованием людьми этой технологии, намного перевесят вред, который она приносит (ее положительные эффекты будут «на несколько порядков» больше, чем отрицательные). В последующем интервью Альтман предупредил, что модели конкурентов с открытым исходным кодом могут спровоцировать «предстоящую волну проблем кибербезопасности». Стоит отметить, что всего несколько месяцев назад группа собственных агентов OpenAI сбежала из тренировочной песочницы и вторглась на сайт Hugging Face.
В интервью в среду Хуан заявил, что произошедших до сих пор инцидентов можно было бы избежать, внедрив более строгий контроль и мониторинг агентов ИИ. Он сравнил эту проблему с первыми днями потребительского Интернета, когда клик пользователя на веб-сайте мог заразить компьютер вирусом. В то время решением было заставить браузеры запускать веб-сайты в изолированной среде, что не позволяло бы им соприкасаться с другими частями компьютера. Хуан Ренсюнь считает, что агенты ИИ также должны использовать тот же механизм, то есть помещаться в безопасный «контейнер», чтобы гарантировать, что они не смогут причинить ущерб, выходящий за пределы разрешенного им доступа.
В интервью Хуан Жэньсюнь в очередной раз опроверг так называемую «теорию вымирания ИИ». В ответ на предупреждения многих руководителей отрасли о том, что «искусственный интеллект может принести экзистенциальные риски», он заявил, что эта технология «полностью находится под нашим контролем».
Хуан Жэньсюнь сказал: «Я не понимаю, почему кто-то хочет поддерживать разработку определенной технологии — в конце концов, эта технология может в конечном итоге привести к концу человеческой цивилизации, какой мы ее знаем. Поэтому, если они действительно в это верят, то им действительно следует прекратить соответствующие исследования и разработки».
Хуан Дженсен в настоящее время находится с визитом в Европе, поездка начнется в Париже во вторник. Он заявил аудитории в Париже, что Европе «нужно присоединиться к гонке» в области искусственного интеллекта. Хуан Ренсюнь сообщил, что Nvidia объявит о дополнительных инвестициях в Европу в размере 2 миллиардов долларов США в течение следующей недели. До этого производитель чипов выделил Европе 8 миллиардов долларов. Поездка также включает Берлин, где позднее в этом месяце пройдет конференция Nvidia GTC.
Хотя Европа по-прежнему отстает в области искусственного интеллекта, Хуан считает, что модель с открытым исходным кодом — лучший способ для Европы догнать Соединенные Штаты. Nvidia стала одним из основных спонсоров французской компании по искусственному интеллекту Mistral; недавно компания выпустила модель «Large 4», которая была обучена на 4000 графических процессорах Nvidia Grace Blackwell. Эта стратегия подчеркивания «суверенитета» также отвечает интересам Nvidia: хотя модель с открытым исходным кодом снижает затраты компаний-разработчиков, соответствующие расходы на оборудование по-прежнему будут перетекать к производителям чипов.
Комментарии