13 мая Business Insider сообщил, что Дэниел Кокотайло, бывший исследователь OpenAI и нынешний руководитель проекта AI Futures Project, заявил, что индустрия искусственного интеллекта стремится создавать системы, которые каждая компания еще не полностью понимает или контролирует.

Надпись: Кокотайло

В интервью репортеру Business Insider в мае прошлого года Кокотайло объяснил, что основной проблемой, с которой сталкиваются компании, занимающиеся ИИ, является проблема «согласования», то есть усилия по обеспечению того, чтобы будущие системы ИИ могли надежно следовать человеческим инструкциям и ценностям, даже если их возможности во многих областях превзошли человеческие.

Он сказал, что исследователи в настоящее время не до конца понимают, как продвинутые модели ИИ принимают внутренние решения, и эта неопределенность затрудняет обеспечение того, чтобы будущие системы были действительно «согласованы» и стабильно выполняли цели, которых люди хотят от них достичь.

«Это своего рода секрет для полишинеля, но у нас пока нет реального жизнеспособного решения», — сказал он о реализации согласования ИИ.

Кокотайло покинул компанию после работы в OpenAI с 2022 по 2024 год, где он занимался прогнозными исследованиями, изучая, как быстро могут развиваться системы искусственного интеллекта и какие экономические, политические риски и риски безопасности могут возникнуть, когда компании создают более мощные модели.

Сегодня в своей некоммерческой исследовательской организации «Проект будущего искусственного интеллекта» он занимается аналогичными темами, уделяя особое внимание анализу того, как быстро могут развиваться системы искусственного интеллекта и какие риски возникнут, если компании продолжат отдавать приоритет скорости и конкуренции.

«Как только будет создан сверхразум, люди больше не будут лидерами этой планеты, по крайней мере, лидерами по умолчанию», — сказал Кокотайло.

Кокотайло сказал, что многие люди до сих пор недооценивают скорость развития ИИ, поскольку дискуссии часто звучат как научная фантастика. Его предупреждение прозвучало на фоне того, что компании, занимающиеся искусственным интеллектом, продолжают инвестировать миллиарды долларов в более мощные модели и более крупные центры обработки данных.