Генеральный директор Microsoft Сатья Наделла недавно выступил с предупреждением о рисках компаний, использующих искусственный интеллект (ИИ), что привлекло большое внимание в отрасли. Предупреждение затрагивает одну из проблем, лежащих в основе нынешнего увлечения искусственным интеллектом в Кремниевой долине: крупные лаборатории искусственного интеллекта могут фактически действовать как троянские кони, предоставляя компаниям частные модели.
Наделла отметил, что компании сталкиваются с ловушкой «двойной оплаты» при внедрении моделей с закрытым исходным кодом от таких лабораторий, как OpenAI или Anthropic. Компаниям не только приходится платить реальные деньги за использование токенов ИИ, но они также непреднамеренно передают свои самые ценные активы — свои собственные конфиденциальные бизнес-данные и собственные знания. Поскольку предприятия продолжают «снабжать» эти модели бизнес-деталями, операционными процессами и отзывами об исправлении ошибок модели, чтобы улучшить производительность модели, эти данные будут интернализированы как часть модели. Наделла подчеркнул, что компании на самом деле учат моделей понимать их конкретный бизнес. Эта ключевая отраслевая информация, полученная посредством взаимодействия с пользователями и обратной связи, является стратегическим резервом, который конкуренты не могут купить за деньги, но компании передают его поставщикам моделей.
Наделла выразил сомнение по поводу практики поставщиков моделей, свободно сканирующих общедоступные данные Интернета для обучения, но ограничивающих пользователей в «очистке» модели (то есть использовании результатов модели для изучения ее рабочей логики и обучения меньших и более экономичных новых моделей). Он считает, что крайне несправедливо, если компаниям запрещено исследовать и повторно использовать эту информацию при предоставлении интеллектуальной продукции.
В ответ на эту дилемму Наделла сделал предложения компаниям, утверждая, что компании должны вернуть себе право собственности на свои собственные данные. Он предложил предприятиям создать собственную «собственную среду обучения» и хранить данные в облаке, используя при этом технические средства, такие как «уровень оркестрации», чтобы предприятия могли гибко переключаться на модели ИИ от разных поставщиков, а не быть привязанными к одной платформе.
В настоящее время в отрасли наблюдается тенденция возвращения к открытой среде. Многие крупные предприятия начинают пытаться развернуть модели с открытым исходным кодом в своих собственных центрах обработки данных, чтобы добиться полного контроля над данными и архитектурой искусственного интеллекта. Эксперты отрасли полагают, что эта модель «локального развертывания» с открытым исходным кодом может обеспечить более 90% функций модели с закрытым исходным кодом при меньших затратах, с более высокой безопасностью и управляемостью. Поскольку генеральный директор Microsoft публично предупреждает о рисках, связанных с запатентованной моделью, компании должны быть более осмотрительными при выборе стратегий искусственного интеллекта в будущем. Ожидается, что переход от использования одного поставщика к самостоятельным и управляемым системам искусственного интеллекта станет основной тенденцией в приложениях искусственного интеллекта корпоративного уровня.