Аннотация:
После того, как почти 800 математиков в академическом сообществе столкнулись с резкими протестами, подписавшими открытое письмо, гигант искусственного интеллекта OpenAI объявил, что официально прекратил спонсорство и вычислительную поддержку хакатона по математике искусственного интеллекта (Mathathon) Калифорнийского технологического института (Калтех). Этот университетский конкурс, первоначально запланированный на 30 октября, был обвинен в том, что он превратил строгие исследования в области чистой математики в рекламное шоу для коммерческих компаний, занимающихся искусственным интеллектом, и породил много непроверенного академического шума. Это вызвало редкую бурю негативной реакции в высших академических кругах, а также вызвало горячие дебаты со спонсором Anthropic о том, оставаться или оставаться.
Хакатон под названием «Caltech Mathathon» изначально планировался при поддержке двух передовых лабораторий искусственного интеллекта, OpenAI и Anthropic, с общей стоимостью вычислительных мощностей примерно 2 миллиона долларов США. Организатор стремится организовать участвующих студентов и молодых исследователей, чтобы они попытались решить нерешенные математические проблемы открытого фронтира, вводя подсказки в самые передовые модели больших языков двух компаний. Однако после оглашения плана деятельности он сразу же был осужден академическим сообществом. Действующие и бывшие ученые-математики Калифорнийского технологического института выступили инициаторами публичного письма протеста, которое быстро собрало подписи 771 математика со всего мира.
В открытом письме резко критикуется то, что коммерческие компании, занимающиеся искусственным интеллектом, используют чрезвычайно серьезные исследования в области чистой математики в качестве дешевых «рекламных и маркетинговых возможностей», и предупреждается, что подобные хакатонские мероприятия, характеризующиеся насильственным накоплением вычислительных мощностей, «весьма вероятно, нанесут разрушительный ущерб математическому сообществу». В письме ученые отметили, что так называемые длинные доказательства, генерируемые большими моделями, часто полны «математического мусора ИИ (отбросы ИИ)», который кажется совместимым, но на самом деле его трудно проверить. Это не только вынуждает академическое сообщество тратить много ценной энергии рецензирования на ручную проверку ложных результатов, но также создает моральный риск для спонсоров использовать вычислительные мощности для кражи настоящей мудрости выдающихся студентов.
Столкнувшись с ожесточенным сопротивлением академического сообщества, Дэн Робертс, руководитель исследований OpenAI, публично подтвердил отказ от спонсорства и заявил в социальных сетях, что компания глубоко осознала, что быстрый прогресс ИИ в области математики оказал серьезное влияние. В будущем он надеется на более глубокий диалог и общение с традиционным математическим сообществом с точки зрения интеграции этой технологии и передачи ее социального воздействия. Будучи соавтором, Anthropic еще не отреагировала положительно на вопрос о том, будет ли она принимать меры по поводу своего отзыва. Его молчание спровоцировало дальнейшее сравнение и наблюдение за позициями академического расширения двух лабораторий.
Следует отметить, что отказ от спонсорства приходится на деликатный период, когда доверие к коммерческим гигантам искусственного интеллекта в математическом сообществе подвергается серьезному испытанию. До этого OpenAI была вовлечена в широкомасштабную полемику, заявляя, что ей удалось решить проблемы существования и гладкости уравнения Навье-Стокса с помощью десятков тысяч агентов ИИ, работающих вместе в течение 88 часов. В то же время выяснилось, что агентство подозревается в оказании давления на математика из Нью-Йоркского университета с целью отстранить соавторов с антропным прошлым из другой важной математической статьи, что спровоцировало ожесточенную битву между академической этикой и приписыванием хищнических результатов.
Академические обозреватели отмечают, что математика всегда была основным критерием для измерения логических рассуждений и формальной строгости, а также основным полем битвы для лабораторий искусственного интеллекта, конкурирующих за право говорить о возможностях моделей следующего поколения. Однако групповое сопротивление, с которым столкнулся хакатон Калифорнийского технологического института, ясно показывает, что результаты моделей, основанные на чистой инженерной вычислительной мощности и связях с общественностью, если их отделить от строгих норм проверки и взаимного доверия со стороны коллег из традиционного академического сообщества, в конечном итоге будет трудно преодолеть глубокую пропасть академической легитимности. Принудительный выход OpenAI — это не только репутационный удар в обществе, но и тревожный сигнал о правилах сотрудничества между всей индустрией искусственного интеллекта и серьезными научными исследованиями.
Комментарии