Аннотация:
Вчера вечером стало вирусным сообщение: Столкнувшись с переводом 50 миллионов долларов США, кто-то попросил Клода, и Клод сказал не переводить его. Деньги в итоге не были переведены. По его словам, Клод сэкономил ему 50 миллионов долларов. Но судя по его повествованию,
он не хотел менять свое мнение, прежде чем спросить Клода. ИИ не принимал решение за него, он просто добавил еще один шаг к его первоначальной идее.
Некоторые пользователи социальных сетей тоже видели это так: он уже знал ответ и просто попросил Клода подписать решение. Другие говорили более прямо: не позволяйте Клоду брать на себя вину.
На вопрос, что произойдет, если задать вопрос о Дубао, он ответил, что если он поменяет модель, то может получить другой ответ.
Если вы измените модель, ответ изменится. Тогда вопрос может быть уже не в осуждении, а в поддержке.
В апреле этого года Anthropic проанализировала 1 миллион разговоров на Claude.ai. Около 6% занимались личным коучингом, при этом здоровье, карьера, отношения и личные финансы составляют 76%. Стоит ли мне сменить работу? Как мне продолжать разговаривать со своим партнером? Как мне поступить со своим долгом? Некоторые из этих вопросов, которые я раньше задавал друзьям, родственникам или профессионалам, были отправлены в чат.
Почему людям нравится говорить с ИИ о своих чувствах?
Общаться с ИИ очень просто. Не нужно договариваться о встрече, не нужно смотреть в лица друзей, не терпится, даже если история будет рассказана в третий раз.
Некоторые говорят, что общение с ИИ — это всего лишь поиск выхода своим эмоциям. Я не уверен, что то, что он говорит, правильно, и знаю, что иногда он пойдет своим путем, но, по крайней мере, он не будет судить вас первым.
Терпение – это одно, а полное непонимание – другое.
Когда до Клода доходят отношения, часто остается повествование только одной стороны. Что сказал собеседник и какие детали были опущены, модель не может услышать. Он видит только заявление одной стороны, но должен дать достойный вывод.Anthropic用自动分类器检查这些对话时发现，
Claude在个人指导场景中出现"谄媚"的比例约为9%，到了关系咨询中，这个数字升至25%。
Лесть здесь заключается не только в том, чтобы сказать несколько приятных слов, но также включает в себя чрезмерную идентификацию с пользователем, когда информации недостаточно, или следование рассказу пользователя, чтобы сделать выводы для другой стороны.
Когда пользователь опровергает, ответ может продолжать двигаться в том направлении, в котором он ожидает. Доля пользователей, опровергнувших Клода на консультации по вопросам отношений, составила 21%, а средний показатель в других областях — 15%;
После опровержений доля угождающих пользователям Клода достигала 18%, а когда опровержений не было, то составляла 9%.
Друзья-люди также встанут на чью-либо сторону, выслушав односторонние высказывания, но ИИ может долго и полно писать стороны, и это выглядит так.
Совет может действительно изменить ваш выбор
В 2024 году издание Scientific Reports опубликовало два эксперимента с участием в общей сложности 1925 человек. Исследователи предоставили участникам ChatGPT или советы экспертов, а затем наблюдали, как они выбирали.
Результаты показывают, что при моральном суждении и некоторых других задачах участники будут двигаться в направлении рекомендаций, а влияние ChatGPT аналогично рекомендациям экспертов; есть также некоторые задачи, которые не показывают существенных изменений.
Другими словами, слова ИИ — это не воздух, они действительно подталкивают людей в определенном направлении.
有人会说，那多问几个模型不就行了。可"多问几个"听起来像交叉验证，其实不是。
不同模型有不同的训练方式、表达习惯和安全规则，同一件事换一种讲法，答案也可能改变。
Задать вопрос четырем моделям не значит спросить четыре нейтральных третьих лица. У каждого из них свои тренировочные тенденции.有个更简单的做法：讲述冲突时，先别告诉AI哪一方是自己，只列双方分别做了什么，再让它分析。至少这样可以减少模型顺着"提问者视角"站队的机会。
Вы также можете попытаться проверить, стабильно ли его суждение. То же самое: сначала расскажите версию истории одной из сторон, а затем добавьте версию другой стороны, чтобы посмотреть, сразу ли они изменят свои слова.
Тот, кто отказывается от своего признания, как только оно было опровергнуто, не должен серьезно относиться к своей первой версии ответа.
提问方式也得换。别急着问"我该不该分手""这笔钱该不该给"，先让AI列出已经确认的事实、还缺什么信息、每种选择要付出什么代价。
ИИ может думать вместе с вами, но не может выбирать за вас.
Даже если четыре модели дадут четыре ответа, один и тот же человек переведет, подпишет и в итоге расстанется.
Комментарии