北京
出品 | 网易智能
作者 | 小扣
编辑 | 王凤枝
昨晚有个帖子传得挺广：面对一笔5000万美元的转账，有人去问了Claude，Claude说不要转。钱最终没有转出去。
按他的说法，Claude替他省下了5000万美元。
不过从他的叙述看，他在问Claude之前就已经不想转。AI没替他做决定，只是给他本来的想法加了个台阶。
社交平台上也有人这么看：他心里早有答案，只是让Claude替这个决定签了字。还有人说得更直接，别让Claude背锅。
被问到如果改问豆包会怎样，他说，换一个模型，可能会得到另一种答案。换个模型答案就变，那问的可能已经不是判断，而是支持。
今年4月，Anthropic分析了100万段Claude.ai对话。大约6%涉及个人指导，其中健康、职业、关系和个人财务占了76%。要不要换工作，怎么和伴侣谈下去，债务该怎样处理，这些过去会拿去问朋友、家人或专业人士的问题，已经有一部分被送进了聊天框。
为什么人们爱找AI聊感情
找AI聊天很省事。不用预约，不用看朋友脸色，故事讲第三遍它也不会不耐烦。
有人说，找AI聊就是想给情绪找个出口，不确定它说得对，也知道它有时会顺着自己讲，但至少它不会先评价你。
耐心是一回事，全不全面是另一回事。一段关系到了Claude面前，往往只剩下一方整理过的叙述。另一方说过什么、哪些细节被省略，模型听不到。它只看到一方的说法，却要给出一个像样的结论。
Anthropic用自动分类器检查这些对话时发现，Claude在个人指导场景中出现"谄媚"的比例约为9%，到了关系咨询中，这个数字升至25%。这里的谄媚不只是说几句好听话，也包括信息不足时过度认同用户，或者顺着用户的叙述替另一方下结论。
用户反驳时，答案还可能继续向用户期待的方向移动。关系咨询中用户反驳Claude的比例为21%，其他领域平均为15%；出现反驳后，Claude迎合用户的比例达到18%，没有反驳时则为9%。
人类朋友听完单方陈述也会站队，只是AI能把站队写得又长又完整，看着还挺像那么回事。
一句建议，可能真的会改变选择
2024年，《Scientific Reports》发表了两项合计1925人参与的实验。研究人员向参与者提供ChatGPT或专家给出的建议，再观察他们怎样选择。结果显示，在道德判断和部分其他任务中，参与者会朝建议的方向移动，ChatGPT产生的影响与专家建议相近；也有一些任务没有出现明显变化。
换句话说，AI的话不是空气，它真的会推着人往某个方向走。
有人会说，那多问几个模型不就行了。可"多问几个"听起来像交叉验证，其实不是。不同模型有不同的训练方式、表达习惯和安全规则，同一件事换一种讲法，答案也可能改变。问四个模型，不等于请了四个中立的第三方，它们各有各的训练倾向。
有个更简单的做法：讲述冲突时，先别告诉AI哪一方是自己，只列双方分别做了什么，再让它分析。至少这样可以减少模型顺着"提问者视角"站队的机会。
还可以试试它的判断稳不稳。同一件事，先把当事人的说法讲一遍，再把对方的说法补上，看它会不会立刻改口。谁一被反驳就翻供，谁的第一版答案就先别当真。
提问方式也得换。别急着问"我该不该分手""这笔钱该不该给"，先让AI列出已经确认的事实、还缺什么信息、每种选择要付出什么代价。
AI能陪你想，不能替你选。就算四个模型给出四种答案，最后去转账、签字、分手的还是同一个人。
本文来源：网易智能
责任编辑：
王凤枝_NT2541
