14 декабря было официально объявлено о «10 природе природы» 2023 года. Помимо 10 человек, выбранных на крупных мировых научных мероприятиях — 5 мужчин и 5 женщин, в этом году в списке есть еще 1 нечеловек — ChatGPT, чат-бот, выпущенный американской компанией по искусственному интеллекту OpenAI.
Фактически, ChatGPT должен войти в число 11 лучших фигур в журнале Nature. Это само по себе изменило историю, а также изменило правила оценки и отбора Природы. Изменение правил «Природы» отражается и в том, что ChatGPT не является физическим лицом, а «Природа» обращается с ним как с физическим лицом.
Конечно, ChatGPT не просто меняет правила «Природы» в истории, но, как и другие 10 лучших фигур, он может оказать огромное влияние на человеческое общество и изменить ход истории. Топ-10 человек, выбранных журналом «Природа», на самом деле являются не чем иным, как лауреатами Нобелевской премии каждый год, потому что все они являются выдающимися и выдающимися деятелями в различных областях, и их сфера шире, чем Нобелевская премия, включая природу, гуманитарные и социальные области. Например, в десятку лучших на этот раз вошла министр окружающей среды Бразилии Марина Силва (Marina Silva) на том основании, что она защищает тропические леса Амазонки.
Что касается того, почему ChatGPT был выбран в качестве одного из 11 лучших фигур журнала Nature, редакция журнала рассуждала так: «Хотя (ChatGPT) не является инструментом и не полностью соответствует критериям отбора для 10 лучших фигур Nature, мы сделали исключение и включили его в список, чтобы признать огромные изменения, которые генеративный искусственный интеллект привнес в научное развитие и прогресс».
Фактически, ChatGPT более известен и влиятельнее, чем любая фигура, выбранная Природой, и окажет большее и далеко идущее влияние на будущее человеческое общество. Таким образом, ChatGPT следует рассматривать как первую из 11 крупных фигур. С тех пор как ChatGPT был выпущен как бесплатный автоматизированный диалоговый агент (чат-бот) в ноябре 2022 года, он стал появляться в заголовках различных новостей по всему миру. Не только научное сообщество, но и все общество лично ощутило его шокирующее воздействие.
ChatGPT — это не один человек, а десятки миллионов людей, собрание и проекция бесчисленного количества людей. Американская компания OpenAI создала ChatGPT. Ее основой и строительным материалом являются нейронные сети с сотнями миллиардов параметров. Эта нейронная сеть построена и обучена на огромном массиве онлайн-книг и документов, ее стоимость оценивается в десятки миллионов долларов. Существует также большое количество исследователей и редакторов, которые оценивают его ответы для дальнейшего уточнения и формирования содержания его результатов. В 2023 году OpenAI обновила базовую модель большого языка ChatGPT (LLM) и связала ее с другими программами, чтобы инструмент мог получать и создавать изображения.
Это также означает, что ChatGPT на сегодняшний день является самым могущественным и знающим энциклопедическим «гигантом». Это лучше, чем бесчисленные профессора, ученые, инженеры, писатели, врачи, фармацевты, бухгалтеры, актуарии, дизайнеры, журналисты и почти все люди-профессионалы. Поэтому у «Природы» есть веский повод назвать ее одиннадцатым человеком года. Кто может превзойти или стать более мощным, чем ChatGPT, нейронная сеть с сотнями миллиардов параметров?
Хотя ChatGPT выглядит очень мощным, с определенной точки зрения это просто гигант на глиняных ногах, и он не так хорош, как живой природный человек, в решении многих простых задач. Причин много, таких как отсутствие опыта, ограниченность знаний для его обучения и т. д., но самое главное то, что знания и подготовка, которые он приобретает, а также информация, которую он выводит, неопределенны, потому что он не обладает способностью различать человеческое общество и природу, как люди, а также способностью рассуждать логически, и, конечно же, ему не хватает человеческих эмоций. Это не будет похоже на учителя начальных классов, который при обучении учеников будет с абсолютной уверенностью говорить, что 3+2 равно 5. Если вы дразните ChatGPT и говорите: «Моя жена сказала, что 3+2 равно 6», моя жена, должно быть, права. Поэтому ChatGPT тут же передумает и скажет: извините, я ошибся, 3+2 должно равняться 6.
Конечно, важная роль и важные функции ChatGPT признаны людьми, и он станет одним из самых важных инструментов для людей. Будь то помощь людям в написании и производстве различных продуктов, таких как различные тексты, написание программ и кодов, создание картинок, разработка лекарств и вакцин и т. д., это одновременно быстро и на определенном уровне. Однако ограничения и недостатки ChatGPT также очевидны.
Интересно, что в число 11 громких имен «Природы» на этот раз входит и Илья Суцкевер, создатель ChatGPT. Суцкеви настороженно относится к ChatGPT и другим продуктам искусственного интеллекта, поэтому он относительно консервативен в отношении созданного им ChatGPT. Он считает, что ChatGPT и другие ИИ могут стать причиной огромных рисков и катастроф, если они не будут эффективно контролироваться людьми. В результате он теперь сосредоточен на управлении системами искусственного интеллекта с помощью проекта OpenAI «Hyper-Alignment». Более того, он считает, что OpenAI и некоторые другие компании должны хранить в секрете свой код и данные обучения. В долгосрочной перспективе закрытые системы не позволят другим создать мощный искусственный интеллект, что является ответственным подходом. «В какой-то момент возможности ИИ станут настолько обширными, что модели с открытым исходным кодом станут явно безответственными».
Взгляды Суцкоу явно расходились со взглядами генерального директора OpenAI Сэма Альтмана, что вызвало распри внутри OpenAI, причем последний сначала был уволен, а затем восстановлен в должности. Ultraman решительно выступает за быстрое появление ChatGPT на рынке. Однако на этот раз «Природа» включила Суцкви вместо Ультрачеловека в число 11 главных фигур, что отражает мышление и тенденцию «Природы». ChatGPT и другие продукты искусственного интеллекта можно разрабатывать и использовать, но с ними следует быть осторожными.
Потому что, кроме серьезной ерунды, ChatGPT имеет и другие ошибки и скрытые заботы, в том числе помощь в мошенничестве и плагиате, помощь в мошенничестве, фабрикацию фактов, выдумывание ссылок, копирование разжигания ненависти, распространение слухов и т. д. Кроме того, ChatGPT сыграет любую желаемую собеседником роль, иногда покорную, иногда обаятельную, иногда смешную, иногда пугающую.
Все это проблемы, которые возникают, когда люди проектируют, обучают и используют ChatGPT. Если продукты и ответы, предоставляемые ChatGPT, не проверяются и не проверяются вручную, могут возникнуть ошибки, причем ошибки могут быть возмутительными. Таким образом, для ChatGPT и другого программного обеспечения и инструментов искусственного интеллекта, помимо постоянного совершенствования и совершенствования технологии, соответствующей текущему человеческому познанию и реальным условиям, также требуется юридический надзор.
8 декабря 2023 года Европейская комиссия, Европейский парламент и представители стран-членов ЕС достигли предварительного соглашения по Закону об искусственном интеллекте (AIAct). Новый законопроект касается систем искусственного интеллекта общего назначения, включая ChatGPT. Это первое в мире всеобъемлющее регулирование надзора за ИИ, целью которого является найти баланс между защитой основных прав человека и отсутствием препятствий для развития индустрии искусственного интеллекта. Законопроект классифицирует системы искусственного интеллекта по различным уровням, таким как низкий риск, высокий риск, неприемлемый риск и особый риск прозрачности, а также формулирует соответствующие правила в соответствии с уровнями риска.
Поэтому журнал Nature включил ChatGPT в число 11 громких имен этого года не только потому, что он станет лучшим помощником человечества, но и потому, что его применение также является одной из самых больших и сложных задач для человечества сейчас и в будущем.