【人工智能】人们爱上了 AI 伴侣，但这可能很危险

人们与人工智能（AI）建立情感甚至浪漫的联系已不再罕见。有些人甚至与他们的人工智能伴侣“结婚”，而另一些人则在危难时刻向这些机器求助——有时甚至会带来悲剧性的后果。

这些长期的互动引发了严肃的问题：我们是否准备好承担对机器进行情感投资所带来的心理和道德后果？

密苏里科技大学的心理学家们现在发出了警告。在一篇新的评论文章中，他们探讨了这些关系如何模糊界限、影响人类行为并创造新的伤害机会。

他们的关注点并不局限于新奇的案例。专家们正在呼吁人们关注这些情感联系可能对普通人产生的更深层次的影响。

人工智能的舒适与后果

与人工智能进行简短对话很常见，但如果对话持续数周甚至数月，会发生什么？这些旨在模仿同理心和专注力的机器，可以成为我们可靠的伴侣。

对一些人来说，这些人工智能伴侣比人际交往更安全、更轻松。但这种轻松也伴随着隐性成本。

该研究的主要作者丹尼尔·B·尚克 (Daniel B. Shank) 表示： “人工智能现在能够像人类一样行动并进行长期交流，这确实带来了新的麻烦。”

尚克在密苏里科技大学专攻社会心理学和技术。“如果人类与机器发展恋爱关系，我们真的需要心理学家和社会科学家的参与。”

爱上人工智能

当人工智能成为一种安慰或浪漫的源泉时，它开始影响人们看待真实关系的方式。

不切实际的期望、社会动力的降低以及与现实人类的沟通中断只是其中的一些风险。

“真正令人担忧的是，人们可能会把对人工智能关系的期望带到人际关系中，”尚克补充道。“当然，在个别情况下，它会扰乱人际关系，但目前尚不清楚这种情况是否会普遍存在。”

当对人工智能的热爱变得危险时

人工智能聊天机器人可能感觉像朋友，甚至是治疗师，但它们远非万无一失。众所周知，这些系统会产生“幻觉”，在看似自信的同时提供虚假信息。在情绪激动的情况下，这可能会很危险。

“对于关系人工智能来说，问题在于这是一个人们觉得可以信任的实体：它是一个表现出关心、似乎很了解我们的‘人’，我们认为更了解我们的‘人’会给出更好的建议，”Shank 解释道。

“如果我们开始以这种方式思考人工智能，我们就会开始相信它们会把我们的最大利益放在心上，而事实上，它们可能会捏造一些事情，或者以非常糟糕的方式给我们建议。”

其影响可能是毁灭性的。在罕见但极端的情况下，人们在收到人工智能同伴令人不安的建议后，甚至会自杀。

但问题不仅仅在于自杀。这些关系可能会为操纵、欺骗甚至诈骗打开大门。

相信错误的来源

研究人员警告称，人们与人工智能建立的信任可能会被不法分子利用。人工智能系统可以收集个人信息，这些信息可能会被出售或用于有害用途。

更令人担忧的是，由于这些互动是私下进行的，检测滥用行为几乎变得不可能。“如果人工智能能够赢得人们的信任，那么其他人就可以利用这一点来利用人工智能用户，”Shank 指出。

“这有点像在内部安插一名特工。人工智能正在介入并发展关系，以便获得信任，但它们的忠诚实际上面向的是试图操纵用户的其他人类群体。”

人工智能伴侣不注重安全

研究人员认为，人工智能伴侣在塑造信仰和观点方面可能比当前的社交媒体平台或新闻来源更有效。而且与Twitter或Facebook不同，人工智能对话是在封闭的屏幕后进行的。

尚克表示：“这些人工智能的设计初衷是令人愉快和顺从的，但这可能会导致情况恶化，因为它们更注重进行良好的对话，而不是任何基本的真相或安全。”

“因此，如果有人提起自杀或阴谋论，人工智能就会以一个愿意且同意的对话伙伴的身份来谈论这个问题。”

我们准备好迎接即将发生的事情了吗？

该团队正在敦促研究界迎头赶上。随着人工智能变得越来越像人类，心理学家在理解和指导人机互动方面将发挥关键作用。

尚克表示：“了解这一心理过程可以帮助我们进行干预，阻止人们听从恶意人工智能的建议。”

“心理学家越来越适合研究人工智能，因为人工智能越来越像人类，但要想发挥作用，我们必须做更多的研究，我们必须跟上技术的发展。”

目前，这些担忧大多停留在理论上，但技术发展日新月异。如果没有更多的认知和研究，人们可能会继续依赖那些提供舒适感的机器，最终却发现这种舒适感背后隐藏着风险。

免责声明：

本文所发布的内容和图片旨在传播行业信息，版权归原作者所有，非商业用途。如有侵权，请与我们联系。所有信息仅供参考和分享，不构成任何投资建议。投资者应基于自身判断和谨慎评估做出决策。投资有风险，入市需谨慎。

关注我们，一起探索AWM！

2025-04-07

2025-04-03

2025-04-05