AI造人双面镜：一边服务Coach，一边酝酿33亿美元欺诈

文 | 字母AI 8月第一周，美国时尚集团Tapestry在纽约总部办了第二届AI峰会。Tapestry这个名字不算家喻户晓，但它旗下的Coach和Kate Spade，是很多人都熟悉的品牌。 过去，Tapestry想摸清顾客的喜好，主要靠真人调研。研究人员会给真人受访者发调查问卷、做访谈，有时还会上门看看顾客平时怎么穿搭、衣柜里都放着什么款式的衣服。 而在这次的峰会上，公司的消费者洞察团队展示了一批很特别的“顾客”。 这些“顾客”是Tapestry根据过去积累的消费者调研数据，用AI生成出来的虚拟人物。他们模拟的是美国和中国的年轻消费者，Tapestry准备测试新品、价格或者营销方案时，可以先让他们回答问题，也可以像做焦点小组一样直接和他们聊天，看看年轻消费者可能会有什么反应。 一位媒体人也在现场和其中一个AI顾客聊了起来。话题从购物一路聊到生活，这个根本不存在的“女孩”甚至告诉对方，自己最近很担心就业市场。 Tapestry旗下的Kate Spade还把这些AI顾客用在了店员培训。店员可以直接和AI“顾客”进行语音对话，练习怎么介绍商品、回应顾客的疑问。模拟销售结束后，AI还会给店员的表现打分。 这些AI顾客从一开始就被当成虚拟角色使用，而同样的“造人”能力，却被用来制造一批又一批见不得光的“幽灵”。 阴暗角落里的AI幽灵 美国高校已经是“AI幽灵”最严重的场景之一。 这几年，美国社区大学里出现了大量所谓的“幽灵学生”。他们其实并不是真学生，而是诈骗团伙用盗来的身份，或者干脆编造一个身份注册出来的账号。学校系统里，这些账号照样有姓名、有学号，也会选课、交作业，看起来和普通网课学生没什么区别。 成功混进学校只是第一步。 为了等到助学金到账，骗子还得让这些假学生真的扮演学生。 于是，这些“幽灵学生”定期登录网课、完成作业、参与课堂互动，必要时还要回复老师。前AI时代要走这条骗钱路，得靠骗子用一个个假身份去操作，现在基本上都可以直接交给AI。 AI让一个人同时操控大量假身份变得容易多了，一个人能同时维持的假身份数量也跟着指数级增加。 规模最大的重灾区之一是加州。2024年，加州社区学院系统收到约120万份欺诈申请，最后确认了22.3万个虚假注册。一些学校甚至出现了假学生把热门网课抢满，真正想上课的学生反而进不去的情况。 至于助学金，那是真金白银被骗去了不少。 美国教育部称，2025年通过加强审核阻止的学生资助欺诈已经超过10亿美元，其中就包括用AI机器人冒充学生的申请。对诈骗团伙来说，一个“学生”只要能顺利撑过学校的审核和一段时间的网课，就有机会换来一笔真金白银。 类似的“幽灵”也开始出现在招聘市场。 今年，美国AI模型评测公司Arena遇到过一名很奇怪的求职者。简历看上去没有异常，面试也能正常进行，甚至一路通过了工程师主持的技术面试。可等公司准备正式录用时，这个人突然消失了。Arena后来怀疑，从简历到面试，他们面对的可能一直都是一个用AI包装出来的假身份。 那就细思极恐了，这个“AI”如果愿意，是可以正式开始上班的，至于“皮下”是谁、“皮下”的人类手底下有多少这样的AI混在职场中，可就不得而知了。 这种事情已经多到让招聘行业开始专门统计。美国信息技术研究和咨询公司Gartner调查了3000名求职者，其中6%承认参加过面试欺诈。Gartner预计，到2028年，全球每4份求职者档案里，可能就有1份是假的。 金融行业里的“幽灵”，有些甚至会先“正常生活”几年，再被拿来骗钱。 早在20多年前就有了一种叫“合成身份”的诈骗手法。骗子会拿一部分真实身份信息，比如社保号码、出生日期，再配上假的姓名、照片和地址，拼出一个现实中根本不存在的人。接下来，这个“人”会去开账户、办信用卡、申请贷款，有的团伙还会先按时还钱，慢慢把信用记录养起来，等额度足够高以后再集中套现。 AI让这套流程简单了很多。以前需要一项项准备的步骤，现在都可以批量生成。就连视频和语音核验，也有AI工具可以帮着应付。 截至2024年底，美国贷款机构暴露在合成身份欺诈中的信用风险已经达到33亿美元。美国信用报告公司TransUnion也把生成式AI列为这类欺诈继续扩大的重要原因。 “AI造人”的正经商业化 而在太阳之下，阴影之外，“造人”已经被堂堂正正的做成了一门生意。 美国AI市场调研公司Aaru，做的就是给企业提供虚拟消费者。 相信大家多多少少都帮别人填过调查问卷吧。 以前一家公司要是想知道某类人会不会买一款新品，得招募真人做问卷、访谈或者焦点小组。Aaru则会根据真实的人口和消费数据，生成一大批年龄、收入、生活背景各不相同的虚拟消费者，再让这些“人”回答同样的问题。 Aaru刚开始找客户时，很喜欢现场证明这些假人到底靠不靠谱。它会让客户拿出一个已经找真人做过调研、结果已经明确的案例，再让AI虚拟消费者重新回答一遍。如果两者高度吻合，客户就会信服：原来AI造的“人”，确实能当作真实市场的低成本替身。