Аннотация:
Напряженность между OpenAI и математическим сообществом снова обострилась. Обладатель медали Филдса Теренс Тао недавно опубликовал в своем личном блоге заявление Ассоциации человеческой математики (AHM), критикующее OpenAI за игнорирование исследовательских норм в математическом сообществе и призывающее математиков прекратить с ним сотрудничество. Споры возникли из-за серии рукописей математических исследований, опубликованных OpenAI. Его внутренняя модель попыталась решить около 4000 математических задач и, наконец, собрала исследовательские материалы, включающие 372 набора результатов, и раскрыла некоторые формальные коды доказательства бережливого производства.
Однако масштаб результатов не получил единодушного признания академического сообщества. Математиков волнует не только то, правильно ли доказательство, но и то, можно ли понять вывод, полностью ли цитируются предыдущие работы и можно ли интегрировать новые методы в существующую систему знаний посредством коллегиального обсуждения.
Формальная проверка может проверить логический вывод, но она не может автоматически заменить ручную проверку значения предложения, исследовательского вклада и академического образования. «Обнародование более 700 документов одновременно демонстрирует не академические исследования, а силу», — говорится в заявлении.
Дана Мошковитц, учёный-теоретик в области информатики, долгое время глубоко вовлеченный в гипотезу об уникальной игре, немедленно изучила соответствующие статьи, выпущенные OpenAI, и сказала, что эти статьи полны непонятных структур, неясных рассуждений и запутанных ссылок на литературу. Скотт Ааронсон, ученый-теоретик в области информатики из Техасского университета в Остине, назвал день запуска OpenAI «математическим апокалипсисом».
Некоторые пользователи сети считают, что взгляды Теренса Тао слишком радикальны и не должны блокировать развитие технологий, которые могут принести пользу всем. Брина Кра, математик из Северо-Западного университета, считает, что ИИ, как ожидается, поможет исследователям исследовать проблемы, которые было трудно решить в прошлом, но компании должны публиковать свои результаты таким образом, чтобы они больше соответствовали академическим стандартам, чтобы коллеги могли проверять, понимать и продолжать исследования.
Суть конфликта между двумя сторонами — это разрыв между скоростью ИИ, генерирующей результаты, и человеческим пониманием. Традиционные математические исследования требуют постепенного объяснения доказательств и совершенствования методов посредством статей, семинаров и обмена мнениями; когда коммерческие лаборатории публикуют сотни сложных рукописей одновременно, затраты на последующую проверку, редактирование и интеграцию знаний могут быть переложены на академическое сообщество. Таким образом, программы исследований, частота публикаций и модельные ресурсы все больше зависят от горстки технологических компаний.
Этот спор возник не внезапно. Теренс Тао ранее подписал заявление с 24 другими лауреатами медали Филдса, предупреждая компании, занимающиеся искусственным интеллектом, что использование математических задач в качестве эталона возможностей моделей может отклонить технологическую конкуренцию от первоначального намерения добиться понимания и понимания математических исследований.
29 сентября Консультативная группа по математике и искусственному интеллекту (AGMAI) выпустила рекомендации, в которых четко запрещается использовать передовые лаборатории искусственного интеллекта, использующие внутренние модели, недоступные внешнему миру, для проверки сложных математических задач.
OpenAI заявила, что этот выпуск основан на рекомендациях AGMAI; В AHM считали, что компания проигнорировала основную идею рекомендаций, и поэтому призвали математиков прекратить сотрудничество с OpenAI. Кроме того, AGMAI также требует от лабораторий не использовать публикацию математических результатов в качестве маркетингового инструмента для продвижения моделей. Сопутствующие выпуски должны раскрывать такую информацию, как названия моделей, слова подсказок, затраты вычислительной мощности и записи об отказах.
Поскольку ИИ продолжает совершенствовать свои возможности в области научных исследований, математическое сообщество больше не сталкивается с вопросом о том, могут ли машины доказывать теоремы, но также и о том, кто решает направление исследований, кто несет расходы на проверку и как гарантировать, что технологический прогресс по-прежнему служит накоплению знаний.
Комментарии