Аннотация:
OpenAI недавно объявила о создании независимой консультативной группы, состоящей из ведущих математиков, которая будет предоставлять консультации OpenAI и другим компаниям, занимающимся искусственным интеллектом, по вопросам взаимосвязи между искусственным интеллектом и математическими исследованиями. Новая организация, названная Консультативной группой по математике и искусственному интеллекту (AGMAI), сосредоточится на том, как математические результаты, полученные с помощью ИИ, следует рассматривать, публиковать и распространять, а также как компании, занимающиеся ИИ, должны следовать давним академическим и профессиональным нормам в области математических исследований.
Этот шаг произошел после того, как OpenAI недавно объявила о ряде важных математических результатов. За последние несколько месяцев модели искусственного интеллекта OpenAI сделали ряд привлекательных разработок в области математики. Однако способ публикации соответствующих результатов, а также вопросы цитирования и атрибуции существующих математических исследований также вызвали широкие споры в математическом сообществе. Некоторые математики задаются вопросом, полностью ли OpenAI понимает, как работают математические исследования, и соблюдают ли компании, занимающиеся искусственным интеллектом, давно устоявшиеся нормы атрибуции, приоритета и академического общения в математическом сообществе.
В состав AGMAI входят девять членов из Стэнфордского университета, Гарвардского университета, Оксфордского университета, Кембриджского университета и других учреждений, в том числе многие ведущие ученые в области математики и обладатели медали Филдса и «гранта гения» Макартура. Организатором мероприятия будет Институт перспективных исследований в Принстоне, штат Нью-Джерси, США. Когда-то это было место исследований известных ученых, таких как Альберт Эйнштейн, Джон фон Нейман и Дж. Роберт Оппенгеймер. Это также одно из самых влиятельных академических учреждений в области современных математических исследований.
OpenAI заявила, что эта организация останется независимой и будет иметь право активно предоставлять предложения OpenAI, даже если соответствующие предложения не будут предложены OpenAI заранее. Консультативная группа также может открыто обсуждать влияние ИИ на область математики и по своему усмотрению решать, публиковать ли свои рекомендации. OpenAI заявила, что члены консультативной группы не будут получать вознаграждение от OpenAI и смогут сами корректировать состав членов.
По данным OpenAI, консультативная группа поможет компании определить, насколько значимы новые математические результаты, полученные с помощью ИИ, и предоставит мнения о том, как координировать выпуск этих результатов и как соблюдать академические и профессиональные нормы математических исследований. Кроме того, группа обсудит, как инструменты искусственного интеллекта OpenAI могут лучше поддерживать математические исследования и математическое образование.
OpenAI подчеркивает, что реальная ценность этой организации зависит от того, смогут ли ее члены выносить независимые суждения и задавать вопросы компании. Другими словами, консультативная группа не просто одобряет результаты исследований OpenAI, но надеется получить независимое мнение математического сообщества до того, как результаты будут опубликованы.
Однако после объявления об этом соглашении в математическом сообществе все еще остается много вопросов. Во-первых, как именно были выбраны эти девять членов. Саймон Мачадо, исследователь из Швейцарского федерального технологического института в Цюрихе, считает, что во всем этом процессе все еще есть много непрозрачных аспектов. Согласно сообщению на официальном сайте AGMAI, OpenAI первоначально связалась с некоторыми математиками в надежде создать внешний консультативный комитет; после обсуждений с OpenAI эти математики наконец решили создать независимую организацию и пригласили других членов присоединиться. Но с кем изначально связался OpenAI и как были идентифицированы остальные участники, до конца не раскрыто.
Мартин Хайрер, член консультативной группы, позже опубликовал статью, в которой объяснил большое количество сомнений, связанных с процессом формирования этой организации. Он сказал, что искусственный интеллект оказал глубокое влияние на математические исследования и вызвал ряд проблем, таких как атрибуция результатов, приоритеты исследований и то, действительно ли люди понимают математические идеи, генерируемые ИИ. Поэтому для математического сообщества было бы нереально полностью бесконтактно подойти к лабораториям искусственного интеллекта и просто игнорировать эти компании.
Хайрер особо подчеркнул, что, хотя создание консультативной группы действительно было результатом контактов с OpenAI, не со всеми девятью членами напрямую связалась OpenAI, и в конечном итоге созданная организация была независимой от OpenAI и других передовых компаний в области искусственного интеллекта. Помимо обычных требований конфиденциальности, участники не подписывают соглашений, ограничивающих их публичное выражение своего мнения, и не получают никакой финансовой компенсации от OpenAI. Организация полагается в первую очередь на Институт перспективных исследований в Принстоне в плане технической и организационной поддержки.
Хайрер сказал, что самая важная цель консультативной группы — максимально полно представлять интересы всего математического сообщества. Он также признал, что девять математиков явно не могут быть полноправными представителями всего математического сообщества, но считал, что все члены очень серьезно относятся к этой ответственности и будут участвовать добросовестно и независимо.
Небольшой размер консультативной группы также вызывает беспокойство. Современная математика стала узкоспециализированной, и между различными областями часто существуют очевидные барьеры в знаниях. Даже ведущие математики мира, возможно, не смогут оценить результаты ИИ в другой узкоспециализированной области. Поэтому некоторые математики обеспокоены тем, смогут ли всего девять ведущих ученых охватить всю область математических исследований, в которых может участвовать ИИ.
Франческо Фурнье-Фасио, новый профессор математики в Университете Хериот-Ватт в Шотландии, сказал, что у него неоднозначное отношение к консультативной группе. С одной стороны, он считает, что разрешение компаниям, занимающимся искусственным интеллектом, больше общаться с математиками, очевидно, поможет улучшить статус-кво; с другой стороны, он также задается вопросом, может ли эта организация, состоящая из небольшого числа ведущих ученых, действительно представлять огромное количество исследователей-математиков, на которых влияет быстрое развитие искусственного интеллекта. Он считает, что в настоящее время организация больше похожа на «башню из слоновой кости», состоящую из ведущих академических деятелей.
Сможет ли консультативная группа завоевать доверие математического сообщества в будущем, во многом зависит от того, какое реальное влияние она сможет оказать на OpenAI. Особо стоит отметить, что когда OpenAI объявила о создании консультативной группы, она также сообщила ошеломляющую новость: новая модель, которую разрабатывает компания и еще не была официально выпущена, которая ранее утверждала, что решила проблему Премии тысячелетия Навье-Стокса, теперь решила более 100 долгосрочных нерешенных математических задач, и эти проблемы распространены в большом количестве различных областей математики.
Ранее OpenAI объявила, что эта модель решает еще одну проблему Премии тысячелетия. Поскольку модели ИИ продолжают давать новые математические результаты, то, как просматривать, проверять, организовывать и публиковать большое количество результатов исследований за короткий период времени, стало настоящей проблемой. AGMAI заявила на своем официальном сайте, что одна из первых задач, стоящих перед ней в настоящее время, — помочь OpenAI координировать выпуск большого количества крупных математических результатов, генерируемых внутренними моделями ИИ.
Это также объясняет, почему эта консультативная группа была создана именно в это время. В последние несколько месяцев непрерывные прорывы OpenAI в области математики должны были стать важной демонстрацией улучшения возможностей искусственного интеллекта, но связанные с этим события сопровождались рядом противоречий. Некоторые математики полагают, что когда OpenAI объявила о своих результатах, она не полностью объяснила вклад предыдущих человеческих исследований в результаты ИИ и не всегда решала вопросы цитирования и приоритета так, как это известно математическому сообществу. Некоторые исследователи даже обвинили OpenAI в том, что они используют результаты своих исследований, не уделяя им должного внимания.
Эти противоречия в конечном итоге заставили некоторых математиков усомниться в том, действительно ли OpenAI понимает, как работает сообщество математических исследований.
Кевин Баззард, профессор математики Имперского колледжа Лондона, задал вопрос: Поскольку в последние несколько месяцев в математическом сообществе было много публичных дискуссий, требования математиков к участию ИИ в математических исследованиях были четко выражены, так почему же OpenAI нужен комитет, состоящий из ведущих математиков мира, чтобы разобраться в этих проблемах? По его мнению, проблема не в том, что в математическом сообществе не хватает людей, способных решать сложные теоремы, а в том, что компаниям, занимающимся искусственным интеллектом, необходимо лучше понимать математическую дисциплину и правила самого сообщества математических исследователей.
AGMAI в настоящее время собирает информацию от математического сообщества, в том числе посредством обмена мнениями с другими математиками, общедоступных форм обратной связи и на дискуссионных платформах, таких как Proofs and Prompts. Эти платформы в последнее время стали важными площадками для обсуждения влияния искусственного интеллекта на математическое сообщество.
В то же время проблемы, с которыми сталкивается OpenAI, выходят далеко за рамки публикации нескольких статей. Поскольку ИИ начинает самостоятельно выдавать математические результаты, которые долгое время не были решены, самые основные вопросы математических исследований, такие как «кто что открыл первым», «кто должен получить подпись» и «какие человеческие исследования послужили основой для окончательных результатов», все должны быть переопределены.
Это также основное изменение, вызванное нынешним появлением ИИ в области математических исследований. Традиционные математические исследования обычно опираются на то, что исследователи публично публикуют статьи, цитируют предыдущие работы, рецензируют и постоянно опираются на существующие результаты. ИИ может читать и обрабатывать огромные объемы существующих знаний за очень короткое время и генерировать новые математические выводы. Когда люди не могут полностью проследить пути, по которым ИИ получает результат, традиционные методы атрибуции результатов и определения приоритета становятся более сложными.
Недавний спор вокруг решения OpenAI проблемы Навье-Стокса особенно подчеркнул эту проблему. OpenAI расследовала соответствующее противоречие и заявила, что слово-подсказка, отправленное математиком, использующим Кодекс, вряд ли повлияет на окончательное решение проблемы системой. Однако подобные инциденты до сих пор беспокоят некоторых математиков. В будущем может стать все труднее точно определить, на каком человеческом исследовании основан математический результат, полученный ИИ.
Член AGMAI Хайрер также признал, что консультативной группе следует опасаться того, что компании, занимающиеся искусственным интеллектом, могут интерпретировать или использовать мнения консультативной группы в соответствии со своими потребностями в связях с общественностью. Однако он считает, что после того, как ИИ неизбежно войдет в математические исследования, полный отказ от общения с ИИ-компаниями не решит проблему. Вместо того, чтобы изолировать математическое сообщество от индустрии искусственного интеллекта, нам следует попытаться установить набор основных правил, которые смогут принять обе стороны.
Для OpenAI создание этой консультативной группы также означает, что компания столкнулась с реальностью, с которой она раньше не была знакома: искусственный интеллект постепенно превратился из вспомогательного инструмента математических исследований в участника исследования, способного напрямую выдавать новые математические результаты, а традиционное математическое сообщество не установило готовых правил для этого изменения.
В будущем AGMAI, возможно, придется решать не только то, когда и как должна быть выпущена следующая партия математических результатов OpenAI, но и то, как следует подписывать математические результаты, сгенерированные ИИ, как цитировать человеческие исследования, как подтверждать независимость результатов и какие отношения сотрудничества следует установить между математиками и системами ИИ. Поскольку OpenAI утверждает, что ее новая модель решила более 100 давних нерешенных математических проблем, эти проблемы быстро переходят от теоретических дискуссий к реальным проблемам, с которыми приходится сталкиваться.
Комментарии