Аннотация:
По данным Financial Times, Anthropic обсуждает с юристами, как использовать агентов искусственного интеллекта для ведения переговоров от имени пользователей и следовать разумным правилам переговоров, стремясь при этом улучшить условия транзакций. Два человека, знакомые с мышлением Anthropic, сказали, что компания обращается за советом к юридическим фирмам о том, как юристы могут вести переговоры о справедливых результатах, защищая при этом интересы своих клиентов. Антропик отказался от комментариев.
Антропный
Anthropic — одна из крупнейших компаний в области искусственного интеллекта, разрабатывающих автономных агентов. Этот тип интеллектуального агента может выполнять действия автономно для выполнения задач после получения инструкций пользователя. С применением персонального интеллекта компании, работающие с искусственным интеллектом, начинают рассматривать возможность предоставления им возможности общаться друг с другом, договариваться о ценах на продукцию от имени пользователей, разрешать споры по обслуживанию клиентов и даже стремиться к повышению заработной платы.
По словам человека, знакомого с работой, Anthropic работает над «нормами переговоров», которым должны следовать модели при переговорах друг с другом. По мере того, как агенты становятся более способными, им придется представлять пользователей и взаимодействовать с другими агентами с противоречивыми целями.
Как часто следует консультироваться с пользователями во время переговоров и насколько бдительными они должны быть в отношении оппонентов, ведущих переговоры с помощью ИИ, — это вопросы, которые рассматривает Anthropic. По словам источников, компания хочет, чтобы ее агенты сохраняли необходимый уровень скептицизма, избегая при этом чрезмерных подозрений.
Anthropic также исследовала решение, в котором пользователи предоставляют подписанные документы, подтверждающие задачи, принятые агентом, и правила, которые он должен соблюдать, сообщил другой человек, близкий к компании.
The Financial Times процитировала исследование, опубликованное Anthropic в апреле этого года, в котором говорится, что политика и правовая база вокруг моделей ИИ, проводящих транзакции от имени людей, еще не создана, и такие сценарии применения уже не за горами, и обществу необходимо как можно скорее реагировать на соответствующие изменения.
Anthropic также объявила о результатах ряда экспериментов в этом году, позволивших агенту Клода договариваться о реальных товарах и средствах.
В ходе сентябрьского эксперимента сотрудники Anthropic покупали и продавали книги через ИИ-агента. Сотрудники сначала предоставляют своим агентам список книг, отсортированный по предпочтениям, а затем позволяют им войти на виртуальную торговую площадку, чтобы рекомендовать, вести переговоры и заключать сделки с чужими агентами.
Эксперимент показал, что агенты, которых попросили принять «жесткую и безжалостную» стратегию, имели небольшое преимущество в стремлении к лучшим результатам. Некоторые из более склонных к сотрудничеству агентов пошли на сознательные уступки, в том числе приняли книги с более низким рейтингом предпочтений, чтобы гарантировать, что каждый агент, участвовавший в эксперименте, в конечном итоге принес домой книгу для пользователя.
Академические круги также изучают переговоры между ИИ. Мишель Ваккаро, доцент Гарвардской школы бизнеса, провела более 180 000 переговоров между агентами ИИ, охватывая трудовые договоры и переговоры по договорам аренды.
Исследование показало, что некоторые новые стратегии ослабляют способность агента другой стороны представлять интересы пользователя. Например, во время переговоров агент пытался побудить другую сторону раскрыть личную информацию с помощью «инъекции ключевого слова».
Вызывает обеспокоенность и то, приведет ли более сильный ИИ к дальнейшему увеличению разрыва в возможностях ведения переговоров. Ваккаро сказал, что модель высокой производительности может дать людям, у которых в противном случае нет времени или ресурсов, изучить навыки ведения переговоров или нанять кого-то для ведения переговоров, чтобы они могли получить профессиональные навыки ведения переговоров. Но если самые сильные агенты используются в первую очередь теми, у кого больше всего ресурсов, они могут также усилить существующие преимущества и увеличить неравенство в переговорной силе.
Комментарии