Аннотация:
По данным Bloomberg, Эндрю Нг, пионер в области искусственного интеллекта, заявил, что предупреждения ведущих разработчиков моделей и исследователей о экзистенциальных рисках искусственного интеллекта являются «научной фантастикой» и могут не способствовать тому, чтобы эта технология приносила максимальную пользу обществу.
Эндрю Нг
Энда Нг стала соучредителем Google Brain и образовательной платформы Coursera. Он сказал, что в первые дни увлечения ИИ технологическая индустрия разжигала опасения по поводу потенциально катастрофического вреда ИИ, по-видимому, для повышения гласности и влияния на тенденции регулирования.
«За последние две недели я был очень расстроен», — сказал он в интервью Bloomberg Television в четверг. «Эта PR-кампания возобновляется, вероятно, с той же целью».
В этом месяце громкая отставка бывшего исследователя Anthropic и OpenAI Джейкоба Коксона вывела в мейнстрим давнюю дискуссию о безопасности ИИ. Коксон обвинил обоих своих бывших работодателей в том, что они «ставят на кон свою жизнь», поскольку они «гонятся за разработку супер-ИИ-интеллекта». Он также сказал, что разработчики ИИ считают, что эта технология может «убить нас всех до конца этого десятилетия».
В этом контексте лидеры в области ИИ, в том числе генеральный директор Anthropic Дарио Амодей и Сэм Альтман из OpenAI, призывают отрасль замедлить разработку передовых моделей и принять больше мер для защиты будущего развития.
Нг Энда в ранние годы работал с Амодаем и Ультраменом. По его словам, у искусственного интеллекта есть риски, в том числе в области кибербезопасности. Но он считает, что опасения по поводу того, что ИИ станет причиной вымирания человечества, «больше похожи на научную фантастику, чем на науку».
Он также сказал, что отрасль могла бы сосредоточиться на решении некоторых «реальных инженерных проблем», чтобы продолжать совершенствовать и защищать технологию, одновременно работая над тем, чтобы искусственный интеллект можно было использовать для «множества замечательных вещей, на которые он способен».
Комментарии