Аннотация:
Генеральный директор OpenAI Сэм Альтман заявил, что между мировоззрениями OpenAI и конкурирующей Anthropic по вопросу регулирования искусственного интеллекта все еще существуют фундаментальные различия. В интервью он предположил, что огромная ценность, которую приносит эта технология, оправдывает часть риска общества; Технологии искусственного интеллекта должны оставаться широко открытыми для общественности.
Генеральный директор OpenAI Сэм Альтман заявил в интервью, что приносимые ИИ преимущества достаточны для общества, чтобы принять некоторые риски
«В философии существует огромный пробел», — сказал Альтман. Отвечая на вопрос о его основных разногласиях с Anthropic и ее генеральным директором Дарио Амодаи, Альтман сказал: "Мы считаем, что для того, чтобы воспользоваться преимуществами этой технологии и гарантировать, что люди имеют право использовать ее автономно, мир должен признать, что происходят некоторые плохие вещи".
Anthropic уже давно является самым решительным сторонником регулирования ИИ. Не так давно такая позиция противоречила бы стремлению OpenAI к легкому регулированию. Однако в последние месяцы различия в политике между двумя ведущими компаниями в области ИИ сузились. После серии громких взломов и нестабильного поведения модели OpenAI перешла на поддержку более строгих нормативных правил.
Ultraman согласился с точкой зрения Amodai в прошлом месяце о замедлении темпов разработки передовых крупных моделей. OpenAI также последовала примеру Anthropic и поддержала принятие в некоторых штатах США новых законопроектов, устанавливающих более строгие требования безопасности, чем стандарты, ранее поддерживаемые разработчиками ChatGPT. Это представляет собой тонкий сдвиг в стратегии регулирования на уровне штата. Политические лоббисты OpenAI также недавно поддержали двухпартийный законопроект Палаты представителей, требующий от ведущих компаний, занимающихся искусственным интеллектом, привлекать сторонних экспертов по безопасности.
Хотя позиции обеих сторон, как правило, близки, Альтман все же попытался провести четкую грань между нормативным мышлением двух компаний. Он отметил, что советники по технологиям, близкие к президенту Трампу, раскритиковали Anthropic за захват нормативных требований.
«Я не согласен с этой точкой зрения, но понимаю точку зрения некоторых людей: эта технология станет чрезвычайно мощной и рискованной, поэтому ее должна освоить лаборатория в Сан-Франциско, чтобы гарантировать, что ничего плохого не произойдет, а затем лаборатория решит, как распределить технологические дивиденды». Альтман сказал, что этот компромисс совершенно неприемлем и противоречит легкому подходу регулирования, поддерживаемому OpenAI.
"Я не приму сделку, в которой мы гарантируем, что не будет крупных хакерских атак, злоупотреблений технологиями, мошенничества и всевозможных плохих вещей, которые могут случиться, - сказал Альтман, - потому что я верю, что добрые дела, которые люди могут совершать с помощью ИИ, на порядки перевесят вред, который он приносит".
Позже генеральный директор OpenAI добавил, что он не принимает по-настоящему катастрофических рисков, включая возможность того, что ИИ может вызвать серьезные неконтролируемые ситуации.
Отвечая на просьбу прокомментировать ситуацию, представитель Anthropic заявил, что нормативные предложения компании будут применяться только к передовым моделям. Компания также процитировала разговор Amodai с инвестиционным менеджером в социальных сетях в августе в ответ на критику регулирования и влияние регуляторной политики на малый бизнес.
Амодай тогда сказал: «Anthropic всегда была очень осторожна при формулировании политических предложений. Мы приложили огромные усилия, чтобы разработать решения, которые создают благоприятные условия для более мелких конкурентов, одновременно сдерживая передовых гигантов искусственного интеллекта».
Интервью Альтмана также затронуло ряд тем: новое соглашение Трампа об искусственном интеллекте с ведущими технологическими компаниями, его план ребрендинга по созданию «суперинтеллекта»; многочисленные инциденты автономного взлома, вызванные моделями OpenAI, и должна ли компания нести юридическую ответственность; влияние огромного притока средств в индустрии искусственного интеллекта на политику США; влияние так называемых эффективных альтруистов внутри OpenAI; и его взгляды на ключевых политических фигур, таких как президент Франции Эммануэль Макрон и губернатор Калифорнии Гэвин Ньюсом.
Комментарии