Аннотация:
По мере того, как агенты искусственного интеллекта постепенно начинают выполнять операции покупок, платежей и заказов от имени пользователей, мировая финансовая индустрия демонстрирует все более сложное отношение к этой новой модели. Шесть крупных международных финансовых институтов, в том числе Bank of America и Capital One Bank, недавно опубликовали совместный отчет, в котором говорится, что, хотя «покупка агентов», управляемая искусственным интеллектом, имеет большой потенциал, она также порождает ряд новых проблем, таких как прозрачность, безопасность, защита конфиденциальности и риски мошенничества.
Так называемая агентская покупка — это агент искусственного интеллекта, который самостоятельно просматривает Интернет, сравнивает товары, выбирает способы оплаты и непосредственно завершает процесс покупки на основе авторизации пользователя. В прошлом году многие разработчики ИИ, розничные компании и платежные учреждения продвигали внедрение связанных технологий, надеясь сделать ИИ «помощником в цифровых покупках» для потребителей.
Однако в банковской сфере считают, что по мере того, как агенты ИИ получают все большую и большую автономию в принятии решений, их потенциальные риски также возрастают.
Согласно отчету «Построение доверия к агентскому бизнесу», риски сосредоточены на прозрачности, безопасности, конфиденциальности и защите данных, выборе пользователя и совместимости между различными платформами. В отчете отмечается, что многие потребители не уверены, действительно ли агенты ИИ будут принимать решения в своих собственных интересах, и поэтому до сих пор имеют очевидные сомнения относительно этого типа технологий.
В отчете показано, что многие пользователи обеспокоены тем, что агенты ИИ могут покупать неправильные продукты, тратить сверх своего бюджета или даже сталкиваться с такими проблемами, как мошенничество, взлом учетных записей или потеря средств. Хотя потребители готовы использовать ИИ для получения информации о продуктах и рекомендаций по покупкам, большинство из них по-прежнему осторожно относятся к тому, чтобы позволить ИИ полностью контролировать процесс покупки.
Индустрия высоких технологий не совсем оптимистично оценивает перспективы развития агентского шопинга.
Рон Джонсон, один из основателей розничной системы Apple и бывший руководитель Apple, заявил в недавнем интервью, что искусственный интеллект действительно может улучшить качество онлайн-покупок, но он не верит, что ИИ коренным образом изменит то, как люди совершают покупки.
По его мнению, потребители в конечном итоге по-прежнему хотят лично знакомиться с продуктами, и искусственный интеллект не может заменить это. Искусственный интеллект может помочь пользователям заранее провести исследование и сделать их потребителями, которые лучше понимают продукт, но он не устранит ценность физических покупок как таковых.
В отчете банковской отрасли также отмечается, что на агентов искусственного интеллекта также могут влиять механизмы стимулирования бизнеса. Например, некоторые системы могут предпочтительно рекомендовать продукты с более высокими комиссиями, каналы оплаты с более низкими транзакционными издержками или даже выбирать неоптимальные решения, чтобы снизить затраты на вычисления. Такое поведение может не соответствовать интересам потребителей, но оно может стать выбором агентов ИИ по умолчанию.
В то же время широкомасштабное внедрение агентских покупок также может привести к увеличению количества мошенничеств, мошенничества и потребительских споров. В случае атаки на систему искусственного интеллекта или утечки данных под угрозой окажется не только личная информация пользователей, но и предприятия, которые полагаются на эти системы в своей деятельности, также могут понести серьезные потери.
Ряд недавних событий еще больше усилил эти опасения.
Не так давно компания Meta объявила, что исправила уязвимость нулевого дня в своем ИИ-помощнике Muse. Одной из важных на данный момент функций Muse является покупка агентов, и эта уязвимость теоретически может позволить злоумышленнику захватить контроль над ИИ-помощником и выполнять различные операции, используя разрешения, предоставленные пользователем.
В то же время у Amazon были публичные разногласия с Muse. Amazon обвинила ИИ-агентов Meta в том, что они не смогли четко идентифицировать себя при доступе к своей платформе электронной коммерции, вызвав обеспокоенность по поводу учетных данных и того, как обрабатываются пользовательские данные, и потребовав прекратить такое поведение.
Тем не менее, эти шесть банков не полностью исключают будущее агентского шоппинга.
В отчете отмечается, что агентская коммерция, скорее всего, в будущем станет одним из основных способов проведения транзакций между потребителями и продавцами. Финансовые учреждения также с оптимизмом смотрят на потенциал долгосрочного развития и выразили готовность сотрудничать с клиентами, отраслевыми партнерами и регулирующими органами для содействия здоровому росту этой модели.
Однако, по их мнению, для того, чтобы агентский шоппинг действительно завоевал широкую популярность, он должен сначала завоевать достаточное социальное доверие. Текущая скорость технологического развития значительно превышает скорость создания отраслевых правил, политических систем и механизмов защиты потребителей, и это самая насущная проблема, которую необходимо решить отрасли.
С этой целью банковский альянс, участвовавший в написании отчета, начал подготовку к следующему этапу исследовательской работы, надеясь уточнить, как реализовать пять основных принципов прозрачности, безопасности, конфиденциальности и защиты данных, выбора пользователей и совместимости платформ, а также установить соответствующие отраслевые стандарты.
В новую эпоху, когда искусственный интеллект постепенно переходит от «предложения предложений» к «действию от его имени», сигнал, посылаемый банковской отраслью, совершенно ясен: у покупок с помощью ИИ-агентов может быть блестящее будущее, но прежде чем они действительно станут массовым методом потребления, существует еще много ключевых проблем в механизмах безопасности, доверия и ответственности, которые необходимо решить.
Комментарии