用虚假信息误导AI大模型 “黑嘴”操纵市场玩出新套路

财联社2月20日讯（记者 罗祎辰）AI大模型正赋能千行百业，也为股民获取上市公司信息提供了一条快捷、方便的路径。但是，在阳光照不到的阴暗角落，股市“黑嘴”们及幕后的不法之徒，却在利用AI作恶，用虚假语料误导大模型作出错误回答，再将这些“AI答案”传播扩散坑骗散户，以干扰甚至操纵个股的市场交易。

财联社记者注意到，本月以来，有大量虚假的“利好信息”以AI问答截图形式在各主要股民交流平台大肆传播。一批账号“马甲”通过疯狂散布诸如“某公司入股DeepSeek”“某公司为DeepSeek提供技术服务”等谣言，“调教”误导AI大模型给出错误答案，将AI 作为其构建“信息陷阱”的嘴替。

更令人忧虑的是，这类虚假内容从刚开始的较易分辨已逐步“升级”到了真假难辨，特别是当谣言所涉及上市公司未主动澄清时，普通投资者几乎难以甄别信息的真伪。而AI大模型被黑嘴“带坏”后，如无新的真实语料覆盖虚假语料，则当投资者提出相同问题时，所得到的AI答案指向的可能正是黑嘴们此前炮制的内容。

具体案例方面，据财联社记者大范围检索统计，近期已有慈星股份（300307.SZ）、华胜天成（600410.SH）、并行科技（839493.BJ）、诚迈科技（300598.SZ）以及三六零（601360.SH）在内的5家上市公司被“黑嘴”盯上，成为AI问答截图中的主角。

其中，慈星股份、华胜天成和三六零均被造谣“投资了DeepSeek”，相关内容套路也高度相似。在相关的AI问答截图中，这三家公司被描述为“早在2023年就投资了DeepSeek”，参与了后者的早期融资。而通过天眼查比对工商信息，这些所谓的“DeepSeek股东”纯属子虚乌有！

上图：网传三家上市公司投资DeepSeek谣言的AI问答截图

当谣言被大肆传播时，多数上市公司及时进行了辟谣澄清。一周多前，华胜天成董秘多次回复投资者提问强调：截至目前，公司未通过直接或间接方式持有DeepSeek所属公司的股份。三六零在本月初的交易异常波动公告中亦明确表示：“在DeepSeek基于MIT开源协议的生态环境下，公司旗下的部分产品进行了DeepSeek的接入与本地化部署；公司暂未向 DeepSeek提供任何服务。”

这三家公司中，目前仅慈星股份对涉及DeepSeek的谣言缄默不语，未在公开渠道正式澄清，详见财联社近日报道：《谁炮制了“入股DeepSeek”谣言？慈星股份假消息漫天飞 董秘为何不澄清》。且更让人疑惑的是，就在昨日，慈星股份在深交所互动易平台新回答了投资者的几条提问，但对十多天以来投资者围绕公司与DeepSeek关系的十余条提问，该公司副总经理、非独立董事、董事会秘书杨雪兰，以及公司证券事务代表戴斌琴选择视而不见，未予答复。如此反常行为背后，究竟是何动机考量，值得市场各方详查原委。

另一方面，或许是感觉到“某公司投资DeepSeek”的谣言比较容易被识破，“黑嘴”还炮制了一些更具迷惑性的假消息，典型案例如“并行科技为DeepSeek提供技术支持”“诚迈科技的关联公司与DeepSeek有合作”等。

在相关AI问答截图中，作为IT服务商，并行科技被贴上“为DeepSeek的大模型研发提供了底层算力支持”“被DeepSeek明确列为技术合作潜力股”的标签。而诚迈科技的关联公司统信软件则被宣称“与DeepSeek有合作”，合作体现为“在诚迈信创电脑等设备的预装系统上，DeepSeek的AI平台实现了本地化部署”……上述措辞存在有意的概念混淆。

上图：混淆上市公司与DeepSeek合作概念的AI问答截图

从“投资DeepSeek”到所谓“与DeepSeek合作”，谣言套路明显升级。而上述两家公司是否与DeepSeek有实质合作，除了其主动说明，局外人几乎难以分辨真伪。

所幸，两公司都作了辟谣澄清，诚迈科技2月13日通过投资者互动平台表示：公司目前未与DeepSeek公司合作，公司的信创电脑和望龙电脑已实现本地部署DeepSeek平台。股价暴涨的并行科技则通过风险提示公告回应称：截至公告披露日（2月10日），公司尚未就算力服务与深度求索（DeepSeek）建立业务合作关系，目前公司智算云平台已部署智谱大模型、DeepSeek-R1等主流模型，相关业务情况及对未来经营业绩的影响存在不确定性。

在收集整理大量AI谣言案例后，财联社记者初步梳理还原了此类虚假信息的炮制过程：“黑嘴”通过多个账号有组织地在股吧、雪球等平台大量散布不实文字内容，通过高频率、大规模地传播，使这些不实内容被当作信源由AI大模型纳入语料，而后误导大模型给出虚假内容，“黑嘴”再将AI回复截图作二次传播。经过这一系列操作，AI大模型被误导后沦为黑嘴的“嘴替”，大幅提升了普通投资者对假消息、小作文的辨别难度。

上图：黑嘴灌水各大平台，提高虚假语料的曝光度

且令人忧虑的是，AI大模型一旦被错误语料误导，其后续面对同样问题时，所给出的回答往往会沿用错误答案。昨日，财联社记者尝试将前述5家公司涉及DeepSeek的问题输入豆包、Kimi、通义等主流AI大模型中，除关于慈星股份的谣言因记者本周报道，被部分大模型修正澄清外，大部分AI大模型对其余公司的相关问题仍然给出了错误的回复。

魔高一尺，道高一丈，如何破解这类黑嘴“新套路”，维护风清气正的市场环境，还需多管齐下：首先，主流AI大模型不妨细化功能，将语料来源范围进行分层，方便使用者灵活选择，特别是对未证实、低可信的论坛、贴吧类信息，要更明确地提示使用者尚有存疑之处。其二，上市公司应加强舆情监控，对涉及本公司的虚假消息，特别是以AI问答截图作为“依据”的，要及早公开澄清、广泛发布准确无误、措辞严谨的信息，覆盖虚假信息，履行正本清源之责。其三，投资者应对AI问答信息仔细甄别，特别审视其中的原始信息来源。最后，也是最重要的，市场监管者对此类以虚假信息操纵市场的新模式，可运用AI等技术手段严查严管，令其无法遁形，也让不法者付出应有代价。