Аннотация:
Обладатель медали Филдса и известный математик Теренс Тао недавно выступил с предупреждением о растущей зависимости человечества от искусственного интеллекта. Он обеспокоен тем, что по мере того, как люди постепенно передают процессы своего мышления и решения проблем ИИ, люди теряют понимание самих проблем и их решений, и эта тенденция вскоре может иметь серьезные последствия в реальном мире.
Эти замечания взяты из речи Теренса Тао на саммите Science x AI, состоявшемся 16 октября в Калифорнийском университете в Лос-Анджелесе. Фонд исследований науки и искусственного интеллекта (SAIR) недавно опубликовал на YouTube полный видеоролик с речью под названием «Математика 2.0», а соответствующие клипы впоследствии привлекли внимание на зарубежной социальной платформе X.
«Мы доверяем наше мышление ИИ и позволяем ему решать проблемы за нас. Но в то же время мы теряем и гарантию — мы не можем быть уверены, что решение, данное ИИ, действительно то, что мы хотим». Тао Чжэсюань сказал: «Я очень обеспокоен тем, что мы скоро увидим последствия этого в реальном мире. На самом деле это беспокойство, которое меня беспокоит за пределами области математики».
Тао Чжэсюань отметил, что прогресс искусственного интеллекта в области математики меняет традиционные способы решения задач. В прошлом, чтобы решить сложные проблемы, математикам необходимо было долгое время изучать и понимать соответствующие теории и в процессе накапливать новые знания. Но в наши дни ИИ может давать ответы быстро, но люди могут быть не в состоянии понять процесс рассуждения, лежащий в основе ответов.
Он считает, что риск таких изменений относительно контролируем в области чистой математики, поскольку математические доказательства обычно можно проверить с помощью формальных инструментов. Но когда тот же подход используется в реальном мире, ситуация значительно усложняется.
Тао Чжэсюань особо упомянул области электросетей, управления воздушным движением, исследований и разработок лекарств, а также проектирования чипов. Он обеспокоен тем, что в будущем люди могут напрямую передавать сложные проблемы ИИ для обработки, но не имеют полного понимания базовой модели и ограничений реального мира.
В этом случае решение, данное ИИ, может быть полностью закреплено в математической модели, но оно не отвечает реальным потребностям реального мира. ИИ может даже найти лазейки или граничные условия в модели, удовлетворяя поверхностным показателям, но отклоняясь от целей, которых люди изначально надеялись достичь.
Тао Чжэсюань подчеркнул, что проблема заключается не в самой технологии ИИ, а в том, как люди используют ИИ. Он выступает за продвижение математических исследований в так называемую эпоху «Математики 2.0», чтобы ИИ мог не только помогать людям решать проблемы, но также улучшать человеческое понимание проблем и помогать исследователям определять ограничения и потенциальные риски моделей.
22 октября Теренс Тао также опубликовал в журнале Nature статью, в которой призвал математическое сообщество пересмотреть цели исследований в эпоху искусственного интеллекта. Он отметил, что математические исследования сталкиваются с новыми проблемами, поскольку ИИ генерирует математические доказательства быстрее, чем люди могут понять и усвоить эти результаты.
Тао Чжэсюань считает, что инструменты искусственного интеллекта могут улучшить человеческое понимание, но это требует изменений в методах исследования и механизмах стимулирования. Что действительно необходимо сохранить в эпоху ИИ, так это не только способность получать правильные ответы, но и способность человека понимать, проверять и оценивать ответы.
Комментарии