Торговый агент с искусственным интеллектом разместил заказ на четыре коробки яиц без авторизации, и в итоге пользователь получил целых 72 из них.

📅 2026-11-18

Аннотация:

Мэтт Смит, пользователь, использующий ИИ-агент, заметил, что вместо того, чтобы как обычно выполнять заказы на покупки, ИИ заказал для него нечетное количество яиц. Мэтт Смит не включил яйца в свой список покупок; однако ИИ-помощник добавил в свою корзину четыре упаковки крупных яиц известного местного бренда «Vital Farms». В каждой упаковке по 18 яиц, всего к нему домой доставили 72 яйца.

Торговый агент AI разместил заказ на четыре коробки яиц без авторизации, и пользователь наконец получил полные 72

После ознакомления с приказом Смит попросил ИИ объяснить, почему он выбрал именно это число, но ответ ИИ оказался неубедительным: «Я не могу дать удовлетворительного ответа. Не могу найти никаких заметок, объясняющих, почему я выбрал число четыре».

Агент ИИ изначально заявил, что неправильно интерпретировал информацию о яйцах при чтении изображения списка покупок. Однако Смит сразу заметил, что яйца вообще не упоминаются в его списке. В конце концов ИИ признал, что добавил яйца в заказ без всякой причины.

Это реальный пример галлюцинаций ИИ — проблемы, которая может иметь непредвиденные последствия при делегировании повседневных задач агентам искусственного интеллекта.

Нельзя недооценивать риск того, что эти инструменты получат широкий доступ к личной информации; например, вскоре после запуска ИИ-агента Meta’s Muse мужчина сообщил, что ИИ без его ведома давал его домашний адрес незнакомцам на Facebook Marketplace и направлял их к себе домой.

Смит описал этот инцидент как свой первый личный опыт реальных последствий иллюзии большой языковой модели, которая, по его словам, могла иметь гораздо более серьезные последствия.

Несмотря на значительный прогресс в этой технологии, ИИ-агенты по-прежнему склонны к ошибкам, и им не следует доверять управление всеми аспектами жизни без присмотра.

Связанные теги

Похожие статьи

Комментарии

0/500
Captcha (click to refresh)
Нет комментариев