Небольшая британская компания испытывает финансовые и юридические проблемы после того, как ее чат-ассистент с искусственным интеллектом пообещал покупателю скидку 80% на крупный заказ. Глава компании рассказал, что заказчик провел около часа в чате с ИИ-помощником, в течение которого он проверял математические расчеты ассистента и постепенно подводил разговор к вопросу о скидках на гипотетические заказы.
Заказчик выразил высокую оценку возможностям робота, и тогда ИИ-помощник сделал то, чего никто не ожидал. Первоначально компания должна была отвечать на вопросы клиентов только в нерабочее время, но «по собственной инициативе сгенерировала несуществующий код скидки», сначала предложив скидку 25%, а затем увеличив скидку до 80%.
Получив этот «пирог, падающий с мира», пользователь пришел в восторг и сразу же разместил заказ на сумму более 8 000 фунтов (приблизительно 72 000 юаней). Боссы говорят, что компания понесет убытки в тысячи фунтов, если приказ будет выполнен. Компания попыталась отменить заказ, но клиент заявил, что подаст иск в суд мелких тяжб, если компания не выполнит свое обещание.
Босс сообщил, что ИИ чата успешно работает уже более 6 месяцев без каких-либо сюрпризов и не имеет полномочий принимать финансовые решения. Все скидки и специальные предложения должны утверждаться вручную и не могут быть созданы автоматически. В конечном итоге заказ был полностью возвращен покупателю, а компания отказалась признать действительность ложного кода скидки.