网易首页 > 网易号 > 正文 申请入驻

一次AI幻觉错误地将这家美国初创公司与中国黑客关联,随后其流量便消失了

0
分享至

MeetingTV表示,Koi Security的一份报告错误地把它跟一个中国黑客行动扯上了关系,这让人们对AI在威胁情报中到底起什么作用产生了新的疑问。

随着人工智能在网络安全领域发挥重要影响,出错是迟早的事。现在有一起新官司,要弄清楚出了问题到底该谁来背锅。

MeetingTV是一家做网络研讨会的初创公司,已经把AI辅助威胁情报公司Koi Security和它的新东家Palo Alto Networks告上了法庭。该公司声称,Koi的一份12月研究报告错误地指控MeetingTV在为一个中国黑客行动运营核心基础设施。

“Koi明明知道,或者说肆无忌惮地无视了一个事实:这类AI辅助系统在网络安全行业里被普遍认为容易产生‘幻觉’、误报和虚假关联,除非经过严格的人工取证验证、人工归因审查和独立佐证,”MeetingTV在5月13日提交的修订诉状中这样写道。

一场虚假的恶意软件活动

2025年12月30日,Koi Security发布了一份题为“DarkSpectre:揭开880万感染浏览器背后的威胁行为体”的报告。该报告将DarkSpectre描述为一个来自中国的威胁行为体,其恶意软件活动感染了数百万用户。

其中一项名为“The Zoom Stealer”的活动据称涉及DarkSpectre从视频会议平台窃取参与者名单、演讲嘉宾信息和登录凭证。Koi将MeetingTV识别为与该活动相关的域名。

2月12日,Koi在报告末尾添加了一条更新,称虽然MeetingTV的域名出现在其调查期间分析的代码中,但已确定“没有任何证据表明该域名与本报告中描述的恶意基础设施或威胁行为体组织存在任何关联”。然而,报告标题并没有改,文章开头也没有任何更正说明。

MeetingTV方面表示,这一更正来得太晚了。在诉讼中,该公司声称原始报告已被广泛传播,并被数百款网络安全产品和服务引用。

MeetingTV创始人Michael Robertson告诉Inc.,全球用户都无法访问该公司的网站,包括用Verizon和Spectrum网络的用户。

“其中一些封锁至今仍然存在,”罗伯逊说。“他们从来没联系过我们。我们完全不知道怎么回事,我们的网站突然之间全世界都访问不了了。”

将软件归类为威胁

圣克拉拉大学法学院教授埃里克·戈德曼的研究方向为互联网与知识产权法,他向Inc.表示,关于软件威胁分类的争议并不新鲜——但这事儿“很棘手”。

“如果分类器出现假阴性(也就是漏掉了威胁),就会伤害到客户。如果分类器出现假阳性(错误地把某个东西标记为威胁),就可能被告,”戈德曼说。“当威胁分类器用严谨彻底的方法去调查并核实自己的结论时,我们是受益的;但同样,对于那些不可避免会犯的错误,我们不去惩罚威胁分类器,这也是对我们有利的。”

戈德曼认为,Koi被指控使用AI这件事本身并不是核心问题。

戈德曼表示,AI可以帮助识别那些故意想躲过检测的高级威胁行为者,但没有任何AI系统能做到百分之百准确。网络安全研究人员在发布AI生成的结论之前,应该先核实一下。

AI辅助威胁情报软件依然争议很大

这起诉讼出现的背景是,AI辅助威胁情报依然争议很大。根据Cobalt 2026年渗透测试状况报告对450名网络安全专业人士的调查,完全靠AI做自动化漏洞测试的比例从去年的29%降至今年的9%。

布鲁斯·施奈尔是哈佛肯尼迪学院的研究员兼讲师,研究安全和人工智能。他接受《Inc.》采访时说,他希望这起诉讼能赢。

“AI胡编乱造是会害人的,”施奈尔说。“我希望公司要为自己AI说的话负责。”

罗伯逊表示,网络安全行业需要改革。

罗伯逊说,领导者指控别人有犯罪行为时,得走正当程序,尤其是在涉及人工智能的时候。这包括提前联系他们要指控的公司,拿出证据,也得让被指控的一方有机会拿出自己的证据。

“他们声称一款软件把我们公司和中国网络犯罪分子扯上了关系。我们根本找不到那款软件。我们请他们提供更多数据来帮我们找到它,但他们一直没回,”罗伯逊说。“一家网络安全公司在没有核实其作为证据引用的软件是否存在、是否真像他们对外宣称的那样运作的情况下,就提出刑事指控,这简直不可理喻。”

Koi Security 没有马上回应《Inc.》的置评请求。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
巴菲特财富铁律:经济寒冬少碰股票和黄金,看准这3类永动资产

巴菲特财富铁律:经济寒冬少碰股票和黄金,看准这3类永动资产

卡西莫多的故事
2026-06-11 10:08:23
与恩师反目成仇,为什么刘国梁要重点培养王楚钦?

与恩师反目成仇,为什么刘国梁要重点培养王楚钦?

小禾的体育
2026-08-23 19:25:14
“皮衣+裙子”才是初秋的王炸组合,这样穿时髦又高级,太美了吧

“皮衣+裙子”才是初秋的王炸组合,这样穿时髦又高级,太美了吧

时尚穿搭生活馆
2026-09-30 17:55:28
比芯片更可怕的危机来了?人类挖了几千年的铜,竟成未来命门!

比芯片更可怕的危机来了?人类挖了几千年的铜,竟成未来命门!

福建睿平
2026-09-30 07:28:24
20名“双一流”大学生、研究生"翻墙"被处分 ,网传被举报:“一个姐们差一名保研,拿翻墙这事把前面所有人全举报了”

20名“双一流”大学生、研究生"翻墙"被处分 ,网传被举报:“一个姐们差一名保研,拿翻墙这事把前面所有人全举报了”

双一流高校
2026-09-28 00:09:38
红利曼战场信息屏蔽解除,西部集群激战城郊,乌军整体未靠近小河

红利曼战场信息屏蔽解除,西部集群激战城郊,乌军整体未靠近小河

坚果甜瓜
2026-09-26 13:20:59
我57岁老女人,早没生理需要想法了,今年跟68岁的老头搭伙过日子

我57岁老女人,早没生理需要想法了,今年跟68岁的老头搭伙过日子

荷兰豆爱健康
2026-08-02 01:40:48
全程无尿点的10部限制级神作,部部大尺度,看完直接刷新认知

全程无尿点的10部限制级神作,部部大尺度,看完直接刷新认知

小微看电影
2026-08-19 19:05:23
1981年,卡米拉亮相戴安娜婚礼,眼神嚣张,毫不避讳和查尔斯对视

1981年,卡米拉亮相戴安娜婚礼,眼神嚣张,毫不避讳和查尔斯对视

照见古今
2026-09-30 18:44:06
卖淫新套路曝光!5种隐蔽模式,第3种让人防不胜防

卖淫新套路曝光!5种隐蔽模式,第3种让人防不胜防

小鹿姐姐情感说
2026-09-29 06:23:52
1-2!U23国足输球不可怕,可怕的是韩国主帅赛后这番话:很有打算

1-2!U23国足输球不可怕,可怕的是韩国主帅赛后这番话:很有打算

未来展望
2026-09-30 20:20:49
穿衣自由还是博眼球?孙千活动造型引发网友两极讨论

穿衣自由还是博眼球?孙千活动造型引发网友两极讨论

星Xin辰大海
2026-09-28 15:54:20
是谁下令轰炸中国大使馆?克林顿自传承认错误,幕后“元凶”遭暗杀!

是谁下令轰炸中国大使馆?克林顿自传承认错误,幕后“元凶”遭暗杀!

历史龙元阁
2026-09-30 13:00:30
苹果官网又上新东西了,售价离谱!

苹果官网又上新东西了,售价离谱!

花果科技
2026-09-30 12:31:50
建议大家:这5样东西,别在网上买!内行人:水太深,全是坑

建议大家:这5样东西,别在网上买!内行人:水太深,全是坑

家居设计师苏哥
2026-09-26 10:42:20
都在呼唤自由,为什么走向了相反的路?

都在呼唤自由,为什么走向了相反的路?

生命可以承受之轻
2026-08-30 07:24:37
葡媒:经过沟通后,C罗和若热-热苏斯之间的分歧已解决

葡媒:经过沟通后,C罗和若热-热苏斯之间的分歧已解决

懂球帝
2026-09-30 06:54:08
潮水退去,所有资产都会露出真实价值。上海杨浦老破小如今挂牌价跌仅3万/㎡,其他区二手房同比持续下跌,曾经暴涨神话难以重现

潮水退去,所有资产都会露出真实价值。上海杨浦老破小如今挂牌价跌仅3万/㎡,其他区二手房同比持续下跌,曾经暴涨神话难以重现

捣蛋窝
2026-09-30 06:05:08
美国犯的最大错误,不是打了伊朗,而是以为中国会替自己"劝架"

美国犯的最大错误,不是打了伊朗,而是以为中国会替自己"劝架"

慕名而来只为你
2026-06-21 18:45:38
葡萄牙足协:菲利克斯已恢复合练;C罗没有参加训练

葡萄牙足协:菲利克斯已恢复合练;C罗没有参加训练

懂球帝
2026-10-01 02:22:27
2026-10-01 02:40:49
智慧生活笔记
智慧生活笔记
分享生活小妙招、实用技巧和所见所得,让生活更简单更有趣。
1273文章数 4442关注度
往期回顾 全部

科技要闻

OpenAI凌晨大上新!新助手dots迎战Muse

头条要闻

中方不再称高市早苗为“首相” 这个表述值得关注

头条要闻

中方不再称高市早苗为“首相” 这个表述值得关注

体育要闻

30天30队·火箭:乌度卡的控制欲

娱乐要闻

胡歌现身游本昌遗体告别仪式

财经要闻

“杭州六小龙”迎来价值重估

汽车要闻

燃油车的最佳平替 长城大狗HEV简单好开更经济

态度原创

健康
教育
家居
手机
数码

刷酸祛痘,为什么有人翻车?

教育要闻

二三等奖名单公示!祝贺南京这些学生!

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

部分用户反馈iPhone 18 Pro扬声器爆音异响,苹果或通过iOS 27系统更新修复

数码要闻

阶跃终端STEPX Neo智能体手机已获工信部入网许可

无障碍浏览 进入关怀版