Аннотация:
В интервью во вторник вечером по местному времени генеральный директор Nvidia Дженсен Хуанг раскритиковал предложение Anthropic об освобождении от антимонопольного законодательства в сфере безопасности ИИ, которое призвано совместно замедлить разработку передовых моделей ИИ, и опроверг аргументы о том, что искусственный интеллект может истребить человечество в течение десятилетия.
Хуан Жэньсюнь сделал вышеупомянутые замечания в интервью Джиму Крамеру, известному американскому финансовому ведущему. Ранее генеральный директор Anthropic Дарио Амодей в прошлую субботу опубликовал статью, вызвавшую бурную дискуссию о безопасности искусственного интеллекта. Амодей предложил ведущим лабораториям искусственного интеллекта работать вместе, чтобы «контролировать темпы развития передовых технологий», что означает намеренное замедление разработки передовых моделей, чтобы дать компаниям больше времени для тестирования и обеспечения безопасности. Амодей сказал, что эта работа может потребовать координации со стороны правительства или освобождения от соответствующих антимонопольных правил.
Хуан Ренсюнь согласен с тем, что компании, занимающиеся искусственным интеллектом, должны уделять внимание вопросам безопасности, но считает, что компании должны решать эти проблемы самостоятельно.
Хуан Жэньсюнь сказал: "Некоторые люди думают, что нам необходимо ввести новые законы, новые антимонопольные правила или новые нормативные положения, чтобы позволить этим компаниям заниматься базовым проектированием и стандартизировать исследования и разработки перед выпуском продуктов. В этом нет никакой необходимости. У нас уже есть достаточные законодательные и нормативные положения для обеспечения надежности и функциональности продуктов".
В статье Амодей предложил трехэтапный план, позволяющий замедлить темпы разработки модели: первый шаг — направить сторонних экспертов по оценке безопасности в каждую лабораторию искусственного интеллекта. Второй и третий шаги — это соответственно демократическое глобальное сотрудничество вокруг стандартов безопасности и «установление ограничений на скорость беспрепятственного развития ИИ». «Некоторые методы сотрудничества, которые могут эффективно регулировать темпы технологического развития, имеют юридические препятствия и требуют государственной поддержки».
Юридические проблемы возникают потому, что ведущие лаборатории искусственного интеллекта являются конкурентами, а модели, которые они выпускают, являются конкурирующими продуктами. Антимонопольный закон США Шермана в принципе запрещает конкурентам заключать соглашения, которые необоснованно ограничивают конкуренцию, а некоторые виды сотрудничества (включая соглашения об ограничении выпуска продукции) могут быть незаконными. Если конкурирующие компании-разработчики ИИ совместно договорятся о скорости разработки или выпуска новых моделей, возникнут потенциальные юридические риски.
Хуан Жэньсюнь заявил, что разработчики моделей имеют возможность обеспечить безопасность продуктов до их выпуска.
«Безопасность — это инженерная проблема, и тестирование также является инженерной проблемой». Хуан Жэньсюнь сказал: «Мы должны создавать продукты и полностью тестировать их. Если продукт еще не достиг стандартов выпуска, отложите запуск и продолжайте тестирование и оптимизацию до тех пор, пока продукт не станет зрелым». NVIDIA является важным поставщиком Anthropic и OpenAI, а сама NVIDIA также разработала серию весовых моделей Nemotron с открытым исходным кодом.
Увлечение искусственным интеллектом сделало Nvidia крупнейшим в мире производителем чипов и компанией с самой высокой рыночной стоимостью. Соответствующие предложения по замедлению разработки высокопроизводительных моделей могут создать риски для будущего роста Nvidia.
Хуан Ренсюнь сказал Крамеру: «Безопасность искусственного интеллекта — это настоящая проблема. Нельзя недооценивать создание продуктов, которые можно безопасно использовать по всему миру. Компании должны внедрять инновации как можно быстрее, но они не должны выпускать продукты с риском безопасности только ради инноваций».
Хуан также выступил против предупреждений о том, что все более мощные модели искусственного интеллекта будут представлять реальную угрозу человечеству.
Он сказал: «Человечество не вымрет в 2030 году. В мире так много людей, которые будут правильно развивать искусственный интеллект. Мы установим различные меры защиты и изобретем различные технологии для обеспечения безопасности».
Статьи по теме:
Хуан Жэньсюнь призвал ослабить внешний надзор за ИИ, заявив, что отрасль имеет возможность самостоятельно обеспечивать безопасность
Комментарии