AI造谣太吓人了！差点把千亿大白马搞跌停

来源：财通社

作者：吴瑞馨

先进技术，似乎总是最先被应用在违法犯罪上。

前段时间，AI诈骗在全国爆发引起全网热议。今天，AI板块千亿市值的龙头公司科大讯飞也中了招，险些跌停！

1

千亿AI大白马

被生成式AI造谣

今天午间开盘后，千亿AI大白马科大讯飞突然股价跳水，盘中一度暴跌9.46%，逼近跌停，直接干懵了不少股民。

究竟咋回事？科大讯飞怎么了？？

财通社小编挨个翻遍微博、雪球、股吧等平台后，终于找到了原因：科大讯飞这波确实有点惨，锅从天上来，都是小作文惹的祸。

在股价闪崩前，网上流传着两篇“科大讯飞出现重大风险”的小作文。

一篇小作文说：

5月23日，有外媒援引知情人士的话称，美国正在考虑是否将科大讯飞、美亚柏科等加入“实体名单”，禁止它们使用美国的组件或软件。

但之后就被证实是由2019年的一篇报道改编而来。

这一篇其实还算无关紧要，真正影响最大的是另一篇：“科大讯飞被曝涉嫌大量采集用户隐私数据，并将其用于人工智能研究。”这篇内容在社交媒体上流传甚广，甚至还被大V发在社交媒体上。

不过，通过传播内容认知全国重点实验室推出的“AICG-X”验证，这篇小作文内容为机器生成。

科大讯飞股价闪崩后，券商也在第一时间辟谣。

国联海外表示，科大讯飞今日流传的两篇小作文，均系谣言；兴业计算机也对此辟谣称，科大讯飞今日调整与基本面无关，由恶意舆情所致，纯属造谣，公司正积极处理。政策及产业地位双受益AI龙头，坚定看好！

此外，科大讯飞回应，“股价下跌系某生成式AI写作虚假小作文导致，谣传风险为不实消息。”

并在互动平台上表示，使用大模型编造虚假信息属于违法行为，将受到法律制裁。对于恶意抹黑、捏造虚假信息，损害我司名誉权的机构或个人，公司会借助法律武器保护公司和投资者利益。

辟谣后，科大讯飞股价直线拉升，但相较上午，还是跌了不少。截止收盘，科大讯飞收跌4.26%。不仅如此，同花顺、三六零、财富趋势、宝兰德、高伟达等AI概念股也受到影响跟跌。

2

AI技术被非法滥用

有人被骗430万，有人被偷脸

这一事件发生后，有网友在网上感叹：原来AI还可以造谣；还有网友调侃，没想到AI的第一战，来的如此轰轰烈烈。

AI技术被利用在造谣上，其实并非首例。小作文还算少见，更常见的是AI绘画和合成照片。比如前不久，一张“五角大楼附近爆炸”的照片在国外社交媒体上疯狂流传，多家美国媒体信以为真，对此事进行了报道。但最终这张照片被确认是假的，为AI合成。

不法分子们也早就盯上AI技术了。

前不久，媒体集中报道了AI诈骗的现象。其中，内蒙古包头市警方官方微信公众号前不久披露的一起典型案例被广泛引用。

警情通报称，郭先生是一家科技公司的法人代表，在今年4月，他的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。

在对朋友的信任，以及视频聊天“核实”身份的情况下，郭先生在10分钟内，先后分两笔把430万元转到了对方的银行账户上。直到之后郭先生打电话给好友，才得知，刚刚和他视频聊天的，其实是通过AI换脸和拟声技术，伪装成好友的骗子。

耳听、眼见都不一定为实了。警方甚至表示，这种骗局的成功率，接近100%。

还有一位百万粉丝的女网红，被不法分子“偷脸”，利用AI换脸技术把她的脸换在“小视频”上，并用她的名义贩卖假视频牟利。

中国互联网协会官微也在今天发文称，今年以来，ChatGPT和GPT-4等技术的应用，成为了信息科技领域的热点，引起公众对AI技术的广泛关注和热情。但伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜。中国互联网协会表示，面对利用AI技术的新型骗局，广大公众需提高警惕，加强防范。

国家网信办起草的《生成式人工智能服务管理办法（征求意见稿）》也在4月11日公开征求意见。征求意见稿提出，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，禁止非法获取、披露、利用个人信息和隐私、商业秘密。

其第五条明确规定了提供者应当承担生成式人工智能产品生成内容生产者的责任，如果涉及个人信息的，还要承担个人信息处理者的法定责任。