为了防止AI胡说，Kimi和财新达成合作

来源 | 易简财经

作者 | 陈璐瑶

4月28日，Kimi和财新传媒达成合作的消息，引发关注。

01

Kimi牵手财新

据kimi官方公告，即日起，在Kimi提问财经相关内容时，Kimi将结合财新传媒旗下报道内容，通过模型生成答案。

不过，两者达成合作，并不意味着以后可以免费看财新的付费内容。

相关人士表示，当Kimi用户提出与财经相关的问题时，Kimi在生成答案的过程中，会参考财新的高质量报道内容，以提升回答的准确性和专业性，方便Kimi用户快速获取可证、可信的信息。Kimi用户如需阅读报道全文，可以点击溯源引用链接，前往财新网并成为财新订阅用户，即可阅读全文。

目前，小编实测问kimi“关税政策变化对全球汽车市场的影响分析”，回答引用了财新网4月26日的报道。除此之外，还出现了雪球、搜狐等信源。

在回答结果中，点击“财新网”后，右侧会立即出现原文链接。同时，“财新网”名称旁会显示醒目的蓝V徽章。根据Kimi的说法，这个蓝V徽章专门用于标识专业、权威的信源。

据报道，除财新网被认证为“官方合作权威信源”外，《中国政府网》认证标识为“政府机构站点”，《央视新闻》《人民日报》《中国日报》认证标识为“新闻领域优质站点”，联合国新闻（UN News）认证为“国际组织站点”。

有网友评价道，kimi和财新合作后，付费会员数肯定会有所上升，进一步解决信息幻觉问题，不然AI抓到假数据，误导用户可就麻烦大了。

02

AI工具幻觉太严重，令人防不胜防

所谓“幻觉”，指AI生成看似合理却与事实不符的内容，如同海妖塞壬的歌声般迷惑用户。

当AI在生成幻觉时，说出大量的专业词汇、超出你的学科认知的时候，其信息量之大，你几乎无从下手，无可辨别。

曾有互联网pr对易简财经吐槽，有自媒体用某AI工具写了一篇文章，那个文章直接给他们虚构了一个业务板块——业务、负责人名字，全是假的，辟谣搞了很久。

一位资深媒体人对易简财经表示，有时候用AI工具，核实一篇文章，比写一篇文章的时间还要长。

“上次用一款AI工具写一篇文章，它坚持认为今年是2023年10月......不断叫它别虚构，不断虚构。”上述媒体人士无奈道。

“而且，它还会删除掉你敲打它的内容，比如我说它瞎掰虚构，这不严谨不道德，它回答那是遵循财新和华尔街日报的非虚构标准写作。然后，现在回去看，没了。这部分就这么悄然地消失了，手机和电脑端记录，再也找不到。”

据RUC新闻坊统计，目前常见的AI幻觉主要有4种：

第一，无中生有。“规划旅游路线，准备按照车次订票，一查发现没这趟车。”

第二，事实错误。“跟虚拟苏轼对话，非说‘毕竟西湖六月中”是他写的。”

第三，语境误解。“求推荐舒缓安眠的助眠曲，给我推荐了爆炸诡异的重金属器乐。”

第四，逻辑谬误。“拍了张数学题，让ai帮我做，结果推导过程根本不对。”

其中，“无中生有”类幻觉是最常见的，占据了所有幻觉案例的一半以上。

来源：RUC新闻坊

03

怎样消除幻觉？

“想要改善AI工具‘一本正经胡说八道’的情况，优质、可靠的数据及信源非常重要，有助于提升AI搜索信息品质。”一位专业人士表示。

易简财经了解到，Kimi之所以选择财新作为首个深度合作的媒体机构，就是因为财新以优质、深度的新闻报道享誉海内外，是了解政经大事、市场动向的可靠信源，Kimi也一直在搜索领域致力于加强与专业信源的结合。Kimi与财新的合作，财新优质的新闻内容触达至更广泛用户，提升了人工智能搜索的新闻及资讯标准。

这个问题，易简财经也问了问kimi，其给出的回答是：AI幻觉的降低是一个逐步发展的过程，目前虽然无法完全根除，但已有多种技术和策略，可以显著缓解这一问题。

比如，用户可以使用更明确、精确的指令，避免模糊词汇，减少模型的理解偏差，或是要求AI明确标注其输出内容的来源和可信度。

那么问题来了，kimi和财新达成了合作，其它AI什么时候能跟上？