美国学者开发人工智能工具引导用户在社交媒体上避免煽动性语言

为了帮助缓解社交网络上的攻击性言语对抗升级，康奈尔大学的研究人员开发了一种人工智能工具，可以实时跟踪这些对话，检测紧张局势何时升级，并促使用户避免使用煽动性语言。

这项研究显示，有希望的迹象表明，自然语言处理领域内的会话预测方法可以证明有助于主持人和用户主动减少恶意中伤，并保持健康、高效的辩论氛围。

计算机科学领域的博士生乔纳森·张（Jonathan Chang）表示：“好心的辩论者只是普通人。在激烈的辩论中，对于一个你非常关心的话题，很容易产生情绪反应，只有在事实发生后才能意识到这一点。”Chang说，这个想法不是告诉用户该说什么，而是鼓励用户像面对面交流一样交流。

该工具名为ConvoWizard，是一个由深度神经网络支持的浏览器扩展。该网络是根据从reddit Change My View（改变我的观点）子论坛中提取的大量基于语言的数据进行训练的，该论坛优先考虑与政治、经济和文化相关的潜在热门话题的善意辩论。

当参与“reddit Change My View”的用户启用ConvoWizard时，该工具可以在他们的对话开始紧张时通知他们。它还可以在用户写回复时实时通知用户，他们的评论是否可能加剧紧张局势。研究人员表示，这项研究表明，人工智能驱动的反馈可以有效地引导用户使用能够提升建设性辩论的语言。

“ConvoWizard基本上是在问，‘如果发布了这条评论，这会增加或减少对话中的紧张气氛吗？’如果这条评论增加了紧张气氛，ConvoWizard会发出警告。”Chang说。例如，文本框将变为红色。该工具在提供反馈的同时，不会转向告诉他们这样做或那样做的危险领域。

为了测试ConvoWizard，康奈尔大学的研究人员与“reddit Change My View”子版块合作，大约有50名论坛主持人和成员使用了该工具。调查结果是积极的：68%的人认为该工具对风险的估计与他们自己的直觉一样好或更好，超过一半的参与者报告说ConvoWizard的警告阻止了他们发表他们后来会后悔的评论。

Chang还注意到，在使用ConvoWizard之前，参与者被问及是否曾发布过自己后悔的内容。超过一半的人表示同意。

他说：“这些发现证实了，是的，即使是善意的用户也可能会陷入这种行为，并为此感到难过。”

信息科学副教授克里斯蒂安·丹内斯库·尼库莱斯库·米齐尔（Cristian Danescu Niculescu Mizil）表示：“想到像ConvoWizard这样的人工智能驱动工具，如何通过直接授权参与讨论的人使用自己的直觉，而不是审查或约束他们，从而为鼓励高质量的在线讨论创造一种全新的范式，真是令人兴奋。”