AI正在批量制造“幽灵”

“你是gg还是mm？”“我是AI。”

来源：字母AI

作者：小金牙 编辑：王靖

8月第一周，美国时尚集团Tapestry在纽约总部办了第二届AI峰会。Tapestry这个名字不算家喻户晓，但它旗下的Coach和Kate Spade，是很多人都熟悉的品牌。

过去，Tapestry想摸清顾客的喜好，主要靠真人调研。研究人员会给真人受访者发调查问卷、做访谈，有时还会上门看看顾客平时怎么穿搭、衣柜里都放着什么款式的衣服。

而在这次的峰会上，公司的消费者洞察团队展示了一批很特别的“顾客”。

这些“顾客”是Tapestry根据过去积累的消费者调研数据，用AI生成出来的虚拟人物。他们模拟的是美国和中国的年轻消费者，Tapestry准备测试新品、价格或者营销方案时，可以先让他们回答问题，也可以像做焦点小组一样直接和他们聊天，看看年轻消费者可能会有什么反应。

一位记者也在现场和其中一个AI顾客聊了起来。话题从购物一路聊到生活，这个根本不存在的“女孩”甚至告诉记者，自己最近很担心就业市场。

Tapestry旗下的Kate Spade还把这些AI顾客用在了店员培训。店员可以直接和AI“顾客”进行语音对话，练习怎么介绍商品、回应顾客的疑问。模拟销售结束后，AI还会给店员的表现打分。

这些AI顾客从一开始就被当成虚拟角色使用，而同样的“造人”能力，却被用来制造一批又一批见不得光的“幽灵”。

01

阴暗角落里的AI幽灵

美国高校已经是“AI幽灵”最严重的场景之一。

这几年，美国社区大学里出现了大量所谓的“幽灵学生”。他们其实并不是真学生，而是诈骗团伙用盗来的身份，或者干脆编造一个身份注册出来的账号。学校系统里，这些账号照样有姓名、有学号，也会选课、交作业，看起来和普通网课学生没什么区别。

成功混进学校只是第一步。

为了等到助学金到账，骗子还得让这些假学生真的扮演学生。

于是，这些“幽灵学生”定期登录网课、完成作业、参与课堂互动，必要时还要回复老师。前AI时代要走这条骗钱路，得靠骗子用一个个假身份去操作，现在基本上都可以直接交给AI。

AI让一个人同时操控大量假身份变得容易多了，一个人能同时维持的假身份数量也跟着指数级增加。

规模最大的重灾区之一是加州。2024年，加州社区学院系统收到约120万份欺诈申请，最后确认了22.3万个虚假注册。一些学校甚至出现了假学生把热门网课抢满，真正想上课的学生反而进不去的情况。

至于助学金，那是真金白银被骗去了不少。

美国教育部称，2025年通过加强审核阻止的学生资助欺诈已经超过10亿美元，其中就包括用AI机器人冒充学生的申请。对诈骗团伙来说，一个“学生”只要能顺利撑过学校的审核和一段时间的网课，就有机会换来一笔真金白银。

类似的“幽灵”也开始出现在招聘市场。

今年，美国AI模型评测公司Arena遇到过一名很奇怪的求职者。简历看上去没有异常，面试也能正常进行，甚至一路通过了工程师主持的技术面试。可等公司准备正式录用时，这个人突然消失了。Arena后来怀疑，从简历到面试，他们面对的可能一直都是一个用AI包装出来的假身份。

那就细思极恐了，这个“AI”如果愿意，是可以正式开始上班的，至于“皮下”是谁、“皮下”的人类手底下有多少这样的AI混在职场中，可就不得而知了。

这种事情已经多到让招聘行业开始专门统计。美国信息技术研究和咨询公司Gartner调查了3000名求职者，其中6%承认参加过面试欺诈。Gartner预计，到2028年，全球每4份求职者档案里，可能就有1份是假的。

金融行业里的“幽灵”，有些甚至会先“正常生活”几年，再被拿来骗钱。

早在20多年前就有了一种叫“合成身份”的诈骗手法。骗子会拿一部分真实身份信息，比如社保号码、出生日期，再配上假的姓名、照片和地址，拼出一个现实中根本不存在的人。接下来，这个“人”会去开账户、办信用卡、申请贷款，有的团伙还会先按时还钱，慢慢把信用记录养起来，等额度足够高以后再集中套现。

AI让这套流程简单了很多。以前需要一项项准备的步骤，现在都可以批量生成。就连视频和语音核验，也有AI工具可以帮着应付。

截至2024年底，美国贷款机构暴露在合成身份欺诈中的信用风险已经达到33亿美元。美国信用报告公司TransUnion也把生成式AI列为这类欺诈继续扩大的重要原因。

02

“AI造人”的正经商业化

而在太阳之下，阴影之外，“造人”已经被堂堂正正的做成了一门生意。

美国AI市场调研公司Aaru，做的就是给企业提供虚拟消费者。

相信大家多多少少都帮别人填过调查问卷吧。

以前一家公司要是想知道某类人会不会买一款新品，得招募真人做问卷、访谈或者焦点小组。Aaru则会根据真实的人口和消费数据，生成一大批年龄、收入、生活背景各不相同的虚拟消费者，再让这些“人”回答同样的问题。

Aaru刚开始找客户时，很喜欢现场证明这些假人到底靠不靠谱。

它会让客户拿出一个已经找真人做过调研、结果也已经知道的问题，再用几十万个虚拟消费者重新回答一遍。

结果证明，研究人员以前用费劲触达真人的调研结果，和如今AI模拟的结果接近，这套东西也就有了说服力。

后来，这些虚拟消费者开始被用到更多场景里。出版社会让他们挑书封，饮料公司拿不同口味去测试，投资机构在收购一家公司之前，也会先看看模拟出来的消费者怎么选。政治团体甚至会拿它测试候选人和政策。

图注：真人与AI对简洁和复杂包装设计的评分对比

到2025年底，Aaru估值已经达到10亿美元。

另一家美国AI创业公司Simile，则对“AI幽灵”的生意有不同思路。

它直接根据真人过去留下的大量回答和资料，给这个人做一个“数字双胞胎”。

以后再有新的问题，不一定每次都要把本人重新找来，可以先问他的AI分身。

美国连锁药店和医疗服务巨头CVS已经把这套方法用到了40多万名真实受访者身上。它拿这些人过去提供的290万份回答生成数字双胞胎，再把AI的回答和真人结果反复对照，部分测试的吻合度最高达到95%。

站在人类的角度，我们每个人的回答其实没有自己想得那么有“随机性”和“偶然性”。

美国老牌民调和咨询机构Gallup也一次部署了1000多个数字双胞胎，用来做政策、企业和社会趋势研究。

资本对这门生意也很买账。今年7月底，Simile完成2亿美元融资，估值达到20亿美元；而就在5个月前，它才刚刚完成上一轮1亿美元融资。

企业愿意用虚拟消费者，最直接的原因还是省时间。传统市场调研一轮问卷或者访谈做下来，往往要花上几周。AI消费者则随时都能问，一个方案改完马上可以再测一遍，也不用每次重新找一批受访者。

Simile的企业客户为此每年支付15万美元到数百万美元。

当然，现在还谈不上彻底不要真人。像CVS这样的公司仍然会继续做真人调研，也得不断拿真实回答检查AI有没有的可信度。只是“AI幽灵”代替面目模糊的大众，这个趋势已经形成。

随着虚拟消费者这门生意越来越成熟，“AI幽灵”也开始被用到更多行业。

今年2月，生命科学咨询公司Lumanity推出AI虚拟角色平台EMULaiTOR，专门给药企生成患者、医生和负责药品报销决策的人。药企可以先和这些虚拟人物对话，测试药品信息怎么说更容易被理解，医生可能会追问什么，患者又会在哪些地方产生顾虑。这套系统正式推出前已经测试约一年，并用在多家药企的实际项目中。

到了法律行业，连陪审员也有了AI版本。

今年6月，美国法律科技公司Courtroom推出AI陪审员和AI法官模拟服务。律师可以在真正开庭前先用“幽灵庭审空间”试一遍，看看不同背景的“陪审员”会有什么反应。

Courtroom称，这套系统的模拟准确率超过90%，已经有美国大型律所和财富1000强企业把它用在产品责任、专利侵权等真实案件里。

03

请证明自己真的是人

“AI幽灵”进入现实业务之后，人和AI之间的边界越来越模糊。更麻烦的是，黑灰产里的“幽灵”还在故意冒充真人。

学校、公司和网络平台因此不得不重新解决一个很基础的问题——怎么确认屏幕对面真的有一个真实的碳基人类。

被骗怕了的美国高校被迫把身份审核做得越来越严格，几乎像是在审问外星人。

今年4月，美国联邦学生资助系统给所有FAFSA助学金申请加上了实时欺诈筛查，此前提交的申请中，也有大约30万份被挑出来重新核验。6月，美国众议院又通过《禁止向“幽灵学生”提供助学金法案（No Aid for Ghost Students Act）》，要求继续筛查可疑的助学金申请。

招聘公司也只好重新把一部分流程搬回线下。

美国AI模型评测公司Arena碰到假求职者后，考虑要求新员工亲自到办公室报到并领取电脑。美国加密货币交易所Coinbase也要求部分员工赴美线下办理入职。FBI则建议企业在条件允许时，通过线下面试和入职核验身份。

折腾了一圈，最管用的办法竟然还是见到本人。

可大量招聘、交易，包括日常的社交早就依赖于线上了，不可能每次都把人叫到面前。于是，专门替人证明“我是个真人”的服务也有了市场。

Sam Altman和Alex Blania联合创办的科技公司Tools for Humanity，是World项目的主要参与方之一。

World原名Worldcoin，旗下的World ID是一套专门用来证明“你是真人”的数字身份系统。用户通过Tools for Humanity开发的Orb设备扫描虹膜，确认自己是一个独一无二的真人，之后就可以用World ID在网上完成真人验证。

截至今年7月，已有近1800万人通过Orb完成验证，用户遍布160个国家。约会软件Tinder、视频会议平台Zoom和电子签名服务商DocuSign，都已经接入或宣布接入World ID。World Foundation还为World ID推出了收费机制，普通用户仍可免费使用，但接入这套验证系统的企业需要付费。

World并不是唯一盯上这门生意的公司。

2025年，另一家做“真人证明”的身份验证公司Humanity Protocol完成2000万美元融资，估值达到11亿美元。它和World解决的是同一个问题，只不过是通过掌纹来确认账号背后确实有一个真人。

World也给World ID设计了明确的收费方式。普通用户使用World ID免费，接入这套验证系统的企业和应用则需要付费。

按照目前公布的方案，费用可以按单次验证收取，也可以根据每月使用World ID的活跃用户数量计算。换句话说，平台如果想确认一个账号背后是不是活人，就可能要为每一次验证掏钱。

今年7月，World Foundation又融到5250万美元，这笔钱主要会用来继续推广World ID，让更多消费类应用和企业接入这套真人验证系统。

照这个趋势下去，以后可能会有更多平台要求用户用虹膜、掌纹这样的生物信息来证明自己是真人。

可是在以前，只需要在网站上点一下“我不是机器人”就可以了。

如果有一天，连虹膜和掌纹验证也能被AI轻松骗过，我们又该如何证明自己是人呢？

*免责声明：本文章为作者独立观点，不代表i黑马

这里认真推荐你报名：

《黑马 AI 经营超级大课》，这不是简单的工具操作课，而是面向企业决策者的AI经营升级课。

AI时代的竞争窗口期很短，竞争对手已经在用AI提效、重构业务，企业差距正在以月为单位快速拉开，早一步完成经营模式升级，就多一分增长主动权。

本次超级大课，更是集结了多位行业实战大咖，拆解标杆企业AI转型真实案例，理清AI战略方向，花3天时间，教你从认知到实战，打通战略、管理、产品、营销全链路，找到属于自己企业的AI增长路径。

时间：10月17日-19日

地点：北京

活动详情如下，扫码咨询报名