网易首页 > 网易号 > 正文 申请入驻

AI坐上文本裁判席,真的靠谱吗

0
分享至


图片由AI生成

生成式AI普及之后,写作这件事变得有些微妙。过去人们问“写得好不好”,现在多了一个问题“这到底是不是人写的”?AI检测器正是在这样的需求下,进入了人们的视野。它们分析文字中的语言特征,试图判断文本更像是人写的,还是机器生成的。

美国《连线》杂志近日报道,作家米娅·巴拉德的小说《Shy Girl》曾被AI检测公司Pangram判定为78%由AI生成。但巴拉德否认使用AI写作。随后,出版商Hachette取消了这本书在美国的出版计划。

如今,Pangram、GPTZero等AI检测产品已经进入出版社、学校和科研机构。一个原本用于辅助判断的技术,正在越来越多地参与实际决策。

AI检测器正变得更准确

早期AI检测主要依赖困惑度和突发性。困惑度衡量一段文字对语言模型来说有多“意外”,如果下一个词很容易预测,困惑度通常较低。突发性则关注句子长短、结构等变化。人类写作往往长短错落、起伏转折,AI则偏爱整齐划一、千篇一律。

但这种方法漏洞很明显。一个文风严谨的学者,或者一个英语不够流利的非母语者,写出来的东西很容易被误判成AI。因此,一些高校一度停止或限制使用AI检测工具。

随着大模型的发展,以Pangram为例,它用海量人类文本和AI文本训练模型,还让AI自己生成与真实文本相似的“镜像文本”,专门挑那些容易被误判的样本反复训练。Pangram 4的技术报告显示,在它们的测试数据里,英文文本的误判率降到了0.0041%。《自然》杂志也提到,今年7月Epoch AI测试了495篇纯人类写的文章,没有发现Pangram出现误判。

不过,这些数据主要来自企业自己的测试,第三方独立评估还不够。同时,检测模型和生成模型都在快速迭代,今天表现良好的模型,明天可能就会面临新的挑战。检测器给出的数字,不能直接当作事实。

“96% AI”不等于96%由AI写成

《自然》杂志曾拿Frontiers出版社科研诚信总监埃琳娜·维卡里奥的一篇文章去作检测。维卡里奥表示,文章初稿和想法完全由自己完成,只在修改过程中让AI润色了一下,之后又经过了人工编辑。然而,Pangram旧版本将这篇文章判定为100% AI生成,升级后的Pangram 4仍给出了96% AI的比例。

但这里的“96% AI”,并不是说文章中96%的内容都是AI完成的。检测器给出的“AI比例”,与作者实际使用AI的程度,并不是一回事。

Pangram解释称,“100% AI”并不是说文章中的每一个词都是AI写的。系统会把文章切分成不同片段,分别判断这些片段更接近AI、人类还是两者混合,再根据这些判断计算整体比例。因此,“96% AI”更准确的含义是,检测器认为这篇文本具有很强的AI生成特征,而不是认定作者有96%的内容由AI完成。

今天的写作早已不是“人写”与“AI写”的二元对立。一位作者可能独立完成初稿,仅用AI修改措辞;也可能让AI生成框架,再逐段重写;还可能经过翻译、润色、人工修订等多道工序。然而,从检测器的视角看,这些参与程度完全不同的写作方式,最终产出的文本却可能呈现相似的AI特征。

检测结果本身也并非完全稳定。《自然》的测试发现,同一段文字,单独检测和放在完整文章中检测时,分数可能不一样。《连线》的测试也发现,对文本进行一些修改后,检测分数可能随之改变。

一场没有终点的“猫鼠游戏”

检测器在升级,规避检测的方法也在更新。市面上已经出现了专门的人性化改写工具,能把AI写的句子重新组织一遍,换上更自然的词,调整表达节奏,目的就是让检测器认不出来。研究显示,经过这种处理的AI文本,漏检率会明显上升。

让AI模仿某个具体作者的风格,也是一条路径。非营利研究机构Epoch AI的一项独立评估发现,当AI被要求模仿特定作者的写作风格时,部分生成文本能够绕过检测。

语言差异也增加了这种不确定性。一些非英语母语者使用AI翻译或润色后,文章反而更容易被判成AI生成。Pangram新版模型对此有所改善,但检测结果仍可能受到语言背景和文本类型影响。

生成模型和检测模型,就这么你追我赶,谁也停不下来。生成模型想方设法学着“说人话”,检测模型就拼命寻找哪里还露出马脚。检测器更新之后,新的改写工具或许又会出现。

检测器应是指南针而非判决书

对于学校、出版社和科研机构来说,检测器更适合承担“筛查”的角色。对于学校、出版社和科研机构而言,判断一篇文章是否违规使用AI,还需要结合具体的使用情况。

据《自然》杂志报道,美国癌症研究协会已经使用Pangram检查同行评议。一名审稿人因检测结果异常受到询问后,承认自己在评审意见中使用了AI。这样的案例说明,检测器确实可以帮助机构发现异常,但从“发现异常”到“确认违规”,中间仍然需要人的判断。

Pangram也建议,在处理AI学术诚信问题时,应结合草稿、笔记、修改记录和写作过程等信息,而不能只看检测分数。

检测器可以告诉人们一段文字像不像AI生成,却无法仅凭一个数字还原真实的写作过程。随着AI和检测技术继续发展,这个边界可能还会不断变化。(记者 张佳欣)

(科技日报)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美媒发现:英伟达失去中国市场之后,最危险的对手正在中国长出来

美媒发现:英伟达失去中国市场之后,最危险的对手正在中国长出来

麓谷隐士
2026-11-21 07:19:12
现在好了,全崩了

现在好了,全崩了

飞跑的鹿
2026-11-21 11:23:56
男子忍不住约女子发生关系,俩人都很满意并痴迷缠绵,结果怀孕事情搞大了

男子忍不住约女子发生关系,俩人都很满意并痴迷缠绵,结果怀孕事情搞大了

江山挥笔
2026-11-20 17:37:26
感谢中国女保镖,墨西哥首位女总统的人生同样彪悍:硬核能源学家,业余八段锦高手,在“史上最血腥选举”杀出重围,从未向特朗普低头

感谢中国女保镖,墨西哥首位女总统的人生同样彪悍:硬核能源学家,业余八段锦高手,在“史上最血腥选举”杀出重围,从未向特朗普低头

极目新闻
2026-11-21 20:11:56
美悬赏1000万美元搜集缅甸电诈园区线索,知情人:园区以“欧美盘”为主,已基本搬空

美悬赏1000万美元搜集缅甸电诈园区线索,知情人:园区以“欧美盘”为主,已基本搬空

红星新闻
2026-11-20 15:33:23
油价方向基本定了:下个月开始,燃油车主都得慢慢接受这3个事实

油价方向基本定了:下个月开始,燃油车主都得慢慢接受这3个事实

沙雕小琳琳
2026-11-22 02:35:58
DeepSeek限额,Kimi也崩了!15天内出现17条异常

DeepSeek限额,Kimi也崩了!15天内出现17条异常

智猩猩
2026-11-20 16:32:46
A股:紧急提醒2.5亿股民!从后天11月23日起,A股可能再次历史重演?

A股:紧急提醒2.5亿股民!从后天11月23日起,A股可能再次历史重演?

趋势清风侠
2026-11-21 08:44:23
特朗普称不支持“台独”引发岛内震动,台湾网民:“早点统一吧!”

特朗普称不支持“台独”引发岛内震动,台湾网民:“早点统一吧!”

环球网资讯
2026-11-21 07:06:39
油价方向基本定了:下个月开始,燃油车主都得慢慢接受这3个事实

油价方向基本定了:下个月开始,燃油车主都得慢慢接受这3个事实

三农老历
2026-11-21 01:50:03
希拉里发文炮轰特朗普:指责美总统“助纣为虐”,呼吁国会调查

希拉里发文炮轰特朗普:指责美总统“助纣为虐”,呼吁国会调查

麓谷隐士
2026-11-21 07:11:45
尴尬!葡萄牙媒体:C罗主动想给球迷签名,但没人要!

尴尬!葡萄牙媒体:C罗主动想给球迷签名,但没人要!

罗吹终结者
2026-11-21 15:21:57
网红“东北雨姐”仍潇洒! 参加山东饭局,喝300多一瓶的汾酒,席间倒酒喝酒动作太豪横,一口闷

网红“东北雨姐”仍潇洒! 参加山东饭局,喝300多一瓶的汾酒,席间倒酒喝酒动作太豪横,一口闷

裕丰娱间说
2026-11-21 14:26:14
韩路回应被Tim超越:承认差距,但不存在无力感

韩路回应被Tim超越:承认差距,但不存在无力感

阿废冷眼观察所
2026-11-21 11:56:53
万万没想到!加拿大总理说了句震惊世界的话,参加深圳APEC后说:以深圳为师,引发舆论热议!

万万没想到!加拿大总理说了句震惊世界的话,参加深圳APEC后说:以深圳为师,引发舆论热议!

林杰论事
2026-11-22 03:12:35
黄金连跌十日,创下近14个月新低,何时能反弹?专家给出判断

黄金连跌十日,创下近14个月新低,何时能反弹?专家给出判断

极目新闻
2026-11-21 21:46:47
露头就打!985高校沈丁立原形毕露!内鬼终于自己蹦出来了

露头就打!985高校沈丁立原形毕露!内鬼终于自己蹦出来了

平老师666
2026-11-21 08:49:53
深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

江山挥笔
2026-11-19 14:15:33
曼城1-1富勒姆4轮不胜!哈兰德进球被吹 1.35亿标王世界波

曼城1-1富勒姆4轮不胜!哈兰德进球被吹 1.35亿标王世界波

念洲
2026-11-21 22:23:58
确定了,是亲姐妹!女生刷视频刷到“另一个自己”,竟是失散20年的双胞胎姐妹,DNA鉴定显示二人确有血缘关系

确定了,是亲姐妹!女生刷视频刷到“另一个自己”,竟是失散20年的双胞胎姐妹,DNA鉴定显示二人确有血缘关系

极目新闻
2026-11-21 19:38:23
2026-11-22 04:11:00
北青网-北京青年报 incentive-icons
北青网-北京青年报
北青网官方网易号
1225233文章数 856665关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

健康
旅游
房产
家居
数码

医生眼里"很伤腰"的椅子,很多人天天坐

旅游要闻

广西南宁:冬日繁花似锦

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

无障碍浏览 进入关怀版