AI拉低造假门

来源：市场资讯

（来源：三言科技）

据《镜相工作室》，AI技术的普及正在改变造假的生态。过去，造假被视为少数人的行为，需要专业技术和硬件设备支持，而如今，AI让造假变得极为简单，普通人仅需一台手机和几句提示词，就能生成以假乱真的图片、视频等。这种变化使得造假的门槛大幅降低，参与者越来越多，而平台的审核机制却难以跟上节奏，导致受害者在面对虚假信息时，需要付出高昂的成本来自证清白。

电商领域首当其冲。11月，毛绒玩偶商家于瑾遭遇了AI假图仅退款事件，买家利用AI生成的图片申请退款，成功骗取了50元赔偿。尽管于瑾将证据提交给平台，但平台未采纳其申诉，最终在媒体介入下才拿回款项。类似事件在“双11”期间频发，键盘商家柑橘也遇到买家使用AI生成的图片申请退款，但此次平台成功识别并驳回了买家申请。这些事件表明，AI让“羊毛党”的恶意退款成本更低，而商家则面临更大的损失和无力感。

内容行业同样受到冲击。公关齐云服务的上市公司曾被AI生成的黑稿攻击，文中细节丰富但无中生有，齐云和团队不得不花费大量时间举证、申诉，才让虚假内容下架。AI的普及使得造谣的效率大幅提升，过去需要人工编写的虚假内容，如今几秒钟就能生成，且真假难辨。黑稿灰产利用AI技术，形成倒逼企业投放广告、引流卖课等利益链条，进一步扰乱了信息生态。

AI造假的低门槛还体现在个人层面。2024年6月，央视曝光一MCN机构利用AI生成图文并包装成假新闻，通过流量变现。上个月，小鹏汽车也遭遇AI造假事件，一段低俗色情视频被证实是个人利用AI技术生成，仅为炫耀技术。这些案例显示，AI让造假变得轻易且无成本，甚至可能只是出于好奇心或“试一试”的心理。

平台的审核机制在AI造假面前显得滞后。目前，社交平台主要通过“打标签”来管理AI生成内容，但对于文字内容的管理相对薄弱，技术上也难以精准识别。AI生成的低质内容正在淹没高质量信息，导致信息生态失衡。齐云表示，面对AI编造的谣言，他感到智商受到侮辱，因为无法有效反驳这些虚假内容。

造假成本的降低和维权成本的提高，使得个体在面对AI造假时陷入困惑。当违法与不违法仅一步之遥，“能不能”与“该不该”的界限变得模糊，真伪不再由事实决定，而是取决于人心的选择。