网易首页 > 网易号 > 正文 申请入驻

AI坐上文本裁判席,真的靠谱吗

0
分享至


图片由AI生成

生成式AI普及之后,写作这件事变得有些微妙。过去人们问“写得好不好”,现在多了一个问题“这到底是不是人写的”?AI检测器正是在这样的需求下,进入了人们的视野。它们分析文字中的语言特征,试图判断文本更像是人写的,还是机器生成的。

美国《连线》杂志近日报道,作家米娅·巴拉德的小说《Shy Girl》曾被AI检测公司Pangram判定为78%由AI生成。但巴拉德否认使用AI写作。随后,出版商Hachette取消了这本书在美国的出版计划。

如今,Pangram、GPTZero等AI检测产品已经进入出版社、学校和科研机构。一个原本用于辅助判断的技术,正在越来越多地参与实际决策。

AI检测器正变得更准确

早期AI检测主要依赖困惑度和突发性。困惑度衡量一段文字对语言模型来说有多“意外”,如果下一个词很容易预测,困惑度通常较低。突发性则关注句子长短、结构等变化。人类写作往往长短错落、起伏转折,AI则偏爱整齐划一、千篇一律。

但这种方法漏洞很明显。一个文风严谨的学者,或者一个英语不够流利的非母语者,写出来的东西很容易被误判成AI。因此,一些高校一度停止或限制使用AI检测工具。

随着大模型的发展,以Pangram为例,它用海量人类文本和AI文本训练模型,还让AI自己生成与真实文本相似的“镜像文本”,专门挑那些容易被误判的样本反复训练。Pangram 4的技术报告显示,在它们的测试数据里,英文文本的误判率降到了0.0041%。《自然》杂志也提到,今年7月Epoch AI测试了495篇纯人类写的文章,没有发现Pangram出现误判。

不过,这些数据主要来自企业自己的测试,第三方独立评估还不够。同时,检测模型和生成模型都在快速迭代,今天表现良好的模型,明天可能就会面临新的挑战。检测器给出的数字,不能直接当作事实。

“96% AI”不等于96%由AI写成

《自然》杂志曾拿Frontiers出版社科研诚信总监埃琳娜·维卡里奥的一篇文章去作检测。维卡里奥表示,文章初稿和想法完全由自己完成,只在修改过程中让AI润色了一下,之后又经过了人工编辑。然而,Pangram旧版本将这篇文章判定为100% AI生成,升级后的Pangram 4仍给出了96% AI的比例。

但这里的“96% AI”,并不是说文章中96%的内容都是AI完成的。检测器给出的“AI比例”,与作者实际使用AI的程度,并不是一回事。

Pangram解释称,“100% AI”并不是说文章中的每一个词都是AI写的。系统会把文章切分成不同片段,分别判断这些片段更接近AI、人类还是两者混合,再根据这些判断计算整体比例。因此,“96% AI”更准确的含义是,检测器认为这篇文本具有很强的AI生成特征,而不是认定作者有96%的内容由AI完成。

今天的写作早已不是“人写”与“AI写”的二元对立。一位作者可能独立完成初稿,仅用AI修改措辞;也可能让AI生成框架,再逐段重写;还可能经过翻译、润色、人工修订等多道工序。然而,从检测器的视角看,这些参与程度完全不同的写作方式,最终产出的文本却可能呈现相似的AI特征。

检测结果本身也并非完全稳定。《自然》的测试发现,同一段文字,单独检测和放在完整文章中检测时,分数可能不一样。《连线》的测试也发现,对文本进行一些修改后,检测分数可能随之改变。

一场没有终点的“猫鼠游戏”

检测器在升级,规避检测的方法也在更新。市面上已经出现了专门的人性化改写工具,能把AI写的句子重新组织一遍,换上更自然的词,调整表达节奏,目的就是让检测器认不出来。研究显示,经过这种处理的AI文本,漏检率会明显上升。

让AI模仿某个具体作者的风格,也是一条路径。非营利研究机构Epoch AI的一项独立评估发现,当AI被要求模仿特定作者的写作风格时,部分生成文本能够绕过检测。

语言差异也增加了这种不确定性。一些非英语母语者使用AI翻译或润色后,文章反而更容易被判成AI生成。Pangram新版模型对此有所改善,但检测结果仍可能受到语言背景和文本类型影响。

生成模型和检测模型,就这么你追我赶,谁也停不下来。生成模型想方设法学着“说人话”,检测模型就拼命寻找哪里还露出马脚。检测器更新之后,新的改写工具或许又会出现。

检测器应是指南针而非判决书

对于学校、出版社和科研机构来说,检测器更适合承担“筛查”的角色。对于学校、出版社和科研机构而言,判断一篇文章是否违规使用AI,还需要结合具体的使用情况。

据《自然》杂志报道,美国癌症研究协会已经使用Pangram检查同行评议。一名审稿人因检测结果异常受到询问后,承认自己在评审意见中使用了AI。这样的案例说明,检测器确实可以帮助机构发现异常,但从“发现异常”到“确认违规”,中间仍然需要人的判断。

Pangram也建议,在处理AI学术诚信问题时,应结合草稿、笔记、修改记录和写作过程等信息,而不能只看检测分数。

检测器可以告诉人们一段文字像不像AI生成,却无法仅凭一个数字还原真实的写作过程。随着AI和检测技术继续发展,这个边界可能还会不断变化。(记者 张佳欣)

(科技日报)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
北京国安出局!足协杯6年首遭零封,主场8年不胜海港,6纪录告破

北京国安出局!足协杯6年首遭零封,主场8年不胜海港,6纪录告破

奥拜尔
2026-11-20 21:31:51
继黄仁勋、陈立武之后,轮到AMD总裁苏姿丰了?

继黄仁勋、陈立武之后,轮到AMD总裁苏姿丰了?

穿透
2026-11-20 18:44:35
他们说这是股灾,甚至比股灾还严重...

他们说这是股灾,甚至比股灾还严重...

慧翔百科
2026-11-20 08:23:21
韩国有多强?李在明:全世界能打赢我们的国家,只有4个

韩国有多强?李在明:全世界能打赢我们的国家,只有4个

军机Nova
2026-11-21 00:41:58
人民日报点名曹德旺,释放2大信号,转移资产跑路传闻早有真相

人民日报点名曹德旺,释放2大信号,转移资产跑路传闻早有真相

爱看剧的阿峰
2026-11-20 10:41:29
突发!黄仁勋再曝新消息,该来的还是来了!

突发!黄仁勋再曝新消息,该来的还是来了!

财经要参
2026-11-20 16:00:05
旅行者1号永远停留在了前天!

旅行者1号永远停留在了前天!

故事终将光明磊落
2026-11-20 14:49:55
国际法院裁定缅甸犯有“种族灭绝罪”,中方的法官投票支持了缅甸,外交部:薛捍勤法官基于国际法和案件事实,根据其专业知识发表意见

国际法院裁定缅甸犯有“种族灭绝罪”,中方的法官投票支持了缅甸,外交部:薛捍勤法官基于国际法和案件事实,根据其专业知识发表意见

极目新闻
2026-11-20 17:36:37
尾盘,A股突变,爆天量了!

尾盘,A股突变,爆天量了!

中国基金报
2026-11-20 15:53:51
高市早苗在深圳举行的记者会上就涉华问题表态,外交部:对日方而言,当前紧迫的是在台湾问题上尽快纠正错误言行

高市早苗在深圳举行的记者会上就涉华问题表态,外交部:对日方而言,当前紧迫的是在台湾问题上尽快纠正错误言行

政知新媒体
2026-11-20 15:26:05
七万狂跌至两万八!珠海横琴神话破灭,澳门炒客排队断供逃亡

七万狂跌至两万八!珠海横琴神话破灭,澳门炒客排队断供逃亡

珠三角港
2026-11-20 10:44:17
越来越多孩子自杀  多地高中严格执行周末双休

越来越多孩子自杀 多地高中严格执行周末双休

风向观察
2026-11-20 07:40:00
美国下月举办G20峰会期间,是否会举行第二次中俄美三国元首会晤,外交部回应

美国下月举办G20峰会期间,是否会举行第二次中俄美三国元首会晤,外交部回应

极目新闻
2026-11-20 15:31:25
歌手张宇去世,年仅48岁

歌手张宇去世,年仅48岁

东方不败然多多
2026-11-20 16:36:51
斯坦丘发文感谢大连英博球迷:希望你们能理解并尊重我的决定

斯坦丘发文感谢大连英博球迷:希望你们能理解并尊重我的决定

懂球帝
2026-11-20 20:36:29
山东男子专挑留守妇女下手,糟蹋村中20名妇女,作案手法触目惊心

山东男子专挑留守妇女下手,糟蹋村中20名妇女,作案手法触目惊心

悬疑故事屋
2026-11-20 14:42:49
满仓满融死扛存储的大佬,归零了!

满仓满融死扛存储的大佬,归零了!

大财可富司机
2026-11-20 13:55:47
就在今天!灰熊3号秀创造了80年NBA纪录

就在今天!灰熊3号秀创造了80年NBA纪录

篮球大视野
2026-11-20 16:13:42
特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

极目新闻
2026-11-20 18:45:32
美悬赏1000万美元搜集缅甸电诈园区线索,知情人:园区以“欧美盘”为主,已基本搬空

美悬赏1000万美元搜集缅甸电诈园区线索,知情人:园区以“欧美盘”为主,已基本搬空

红星新闻
2026-11-20 15:33:23
2026-11-21 01:39:00
北青网-北京青年报 incentive-icons
北青网-北京青年报
北青网官方网易号
1224803文章数 856650关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

游戏
数码
旅游
本地
公开课

发现黄仁勋实在挑不出毛病后,皮衣侠的背锅梗图开始席卷全球了

数码要闻

英特尔公布D270加速器成绩单 部分专业计算性能最高领先英伟达近六倍

旅游要闻

登大报恩塔找毕业设计灵感  “去看塔”青年共创营里长出文创新点子!

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版