DeepSeek又惹祸了？画面不敢想

1245个字 阅读时长：3分钟

中产先生 | 洞见时代发现价值讲述生活

防不胜防。

最近，都在传DeepSeek给王一博道歉，因为它错误的把王一博联系到不久之前的李爱庆事件。

媒体大肆报道之后，发现这个道歉也是假的。

在AI造假和算法推荐的效率之下，媒体信息不断被污染，没有真实可言了。

我们都知道AI造假的原因有两个：

1、AI幻觉问题

它经常会主动编造一些事实来迎合提问者的偏好。

这一点，会被有心者故意利用，来编造各种情节离奇的谣言。

这些人胆子大到什么地步呢？

编造明星的离奇情节还不够，甚至编造涉政涉军的谣言。

今年以来流传比较广的AI谣言就有：

涉及腐败的：某官员把黄金浇铸成飞机螺旋桨叶片。

涉及芯片的：深圳华强北地下仓库直接以或换货。

涉及关税的：墨西哥边境无数架无人机低空走私。

总结起来就一句话：

要多离奇多离奇，要多狗血多狗血，现在大家不关心真假，只在乎情绪和流量。

营销号正是抓住了这个趋势。

2、给AI喂假料

这次王一博的事件，就是不怀好意者给AI喂假聊的结果。

现在给AI喂假料太容易，AI基本没有辨别的能力，只有梳理罗列的功能，到时候再因为幻觉问题严重，就可能直接误导用户，甚至成为黑公关的手段。

而且，以饭圈的疯狂程度：

如果这种操作一旦被普通人知晓，后果不堪设想。

明星们是不是要瑟瑟发抖了。

3、社交媒体加持

这还不是最吓人的：

AI固有的幻觉问题，别有用心的喂假料，再加上社交媒体极致的传播效率。

以后我们将生活在一个什么信息环境中，画面有点不敢想。

这不仅是下沉的问题了，简直就是粪坑了。

不能在这么下去了。

必须想一些办法：

1、AI公司完善技术

DeepSeek的幻觉尤其严重，但是国外三家主流的大模型，幻觉问题就没那么严重，我不想说这是蒸馏的原因，但是需要在逻辑和工程设计上做一些改进了。

2、相关监管要跟上

最近有关部门也在打击AI传播虚假信息，但是整治行动的效率，跟几乎零成本的造假信息相比，还是有差距的。

当然，对于一个新兴行业，我们一贯的政策是放水养鱼，不能监管过严，所以只能个人层面加强辨别了。

3、个人层面要注意

现在各种AI功能泛滥，几乎已经无孔不入，最终会改变所有人的信息获取方式和信息本身。

我的建议是：

对于一些成熟知识性的信息可以参考，对于即时性的信息要谨慎对待。

AI真是一把双刃剑，用不好也很吓人。

就这样。

下半年有大动作？

这两天，大家都在讨论这个事，甚至今天连相关板块都涨了，小作文满天飞：

要有大动作？

可以继续阅读：

10个朋友读过 趋势

500个点赞 局势

阅读10万+ 深度