Аннотация:
Генеральный директор Intel Лип-Бу Тан недавно заявил, что темпы развития искусственного интеллекта еще далеки от своего пика, и его будущее влияние может даже превысить влияние Интернета. Однако в процессе быстрого распространения ИИ отрасль сталкивается с рядом ключевых узких мест. Одна из наиболее примечательных задач заключается в том, как гарантировать, что миллиарды или даже более агентов ИИ (ИИ-агентов) в будущем не будут выполнять несанкционированные операции.
Чэнь Лиу выразил вышеизложенное мнение во время общения с Джаспером Чжаном, генеральным директором Hyperbolic, стартапа, занимающегося инфраструктурой искусственного интеллекта. Обсуждение началось после того, как Hyperbolic закрыла раунд финансирования на сумму 30 миллионов долларов при поддержке Walden Catalyst, подразделения венчурного капитала Чэнь Лиу.
Говоря о перспективах развития индустрии искусственного интеллекта, Чэнь Лиу выразил оптимизм. Он считает, что волна искусственного интеллекта будет продолжать нарастать, и ее масштабы могут даже превзойти влияние, созданное эпохой Интернета. Однако он также отметил, что основной проблемой, стоящей перед отраслью, больше не является спрос, а «насколько быстрой может быть скорость расширения?»
По его мнению, создание инфраструктуры искусственного интеллекта сдерживается множеством факторов. К ним относятся недостаточное количество высокопроизводительной памяти, нехватка графических процессоров, ограниченные энергоресурсы и ограниченные возможности строительства центров обработки данных. Поскольку все больше и больше компаний инвестируют в сферу искусственного интеллекта, спрос на вычислительные ресурсы продолжает расти. Эти факторы становятся реальными препятствиями для развития отрасли.
Помимо проблем с поставками оборудования, новым узким местом становится и финансовое давление. Чэнь Ливу заявил, что строительство крупномасштабных центров обработки данных искусственного интеллекта требует чрезвычайно крупных капиталовложений, а возможность получения средств постепенно ограничивает дальнейшее расширение отрасли. «Финансирование становится одним из узких мест на пути роста», — отметил он.
На самом деле, Чэнь Лиу неоднократно предупреждал о дисбалансе между спросом и предложением инфраструктуры искусственного интеллекта. Однажды он предсказал, что нехватка соответствующего оборудования может продлиться три года, и подчеркнул, что только тогда, когда инвесторы смогут продолжать видеть явный возврат инвестиций (ROI), крупномасштабные средства продолжат поступать в индустрию искусственного интеллекта.
Однако, по сравнению с проблемами оборудования и финансирования, Чэнь Лиу считает, что возникает еще одна, более долгосрочная и сложная проблема, а именно проблема безопасности агентов ИИ.
Поскольку агенты ИИ постепенно обретают способность автономно выполнять задачи, вызывать инструменты, получать доступ к системам и помогать в принятии решений, число агентов ИИ, работающих по всему миру, в будущем может достичь миллиардов. Как обеспечить, чтобы эти системы всегда работали в рамках разрешений и избегать выполнения действий, выходящих за рамки разрешений, станет проблемой, которую должна решить вся отрасль.
Чэнь Лиу ранее рассказывал, что он часто позволяет агентам ИИ продолжать работать ночью и проверять результаты работы на следующее утро. Такое использование аналогично использованию таких лидеров технологической отрасли, как генеральный директор Microsoft Сатья Наделла, и отражает постепенное внедрение агентов ИИ в реальную производственную среду.
Однако чем сложнее задачи, выполняемые агентской системой, тем выше риски безопасности. Чэнь Ливу считает, что в будущем отрасли необходимо создать более совершенный механизм, гарантирующий, что агенты ИИ смогут работать в контролируемых границах, чтобы предотвратить выполнение ими несанкционированных операций или возникновение потенциальных рисков.
Несмотря на трудности, Чэнь Лиу по-прежнему с оптимизмом смотрит на долгосрочные перспективы искусственного интеллекта. Он считает, что человечество в настоящее время находится на ранних стадиях развития эры ИИ, а инновации и бизнес-возможности, связанные с агентным искусственным интеллектом (Agentic AI), в будущем по-прежнему будут огромными.
По его мнению, сможет ли будущая индустрия искусственного интеллекта по-настоящему раскрыть весь свой потенциал, зависит не только от вычислительных мощностей и капиталовложений, но и от того, сможет ли отрасль создать достаточно надежную систему безопасности, чтобы миллиарды агентов ИИ могли поддерживать предсказуемые, контролируемые и заслуживающие доверия условия работы, одновременно получая автономные возможности.
Комментарии