撰稿 | 绵总
编辑 | 草草
随着科技革命和产业变革进程加快,人工智能正在全球范围内助力产业转型。我国人工智能发展早已上升到国家战略层面,加快建设创新型国家和世界科技强国。
在 2020 年疫情的催化作用下,以人工智能为代表的新一代信息技术在迭代演进中大大加速了传统行业变革,AI 逐渐在医疗、城市治理、教育等众多领域迸发出强大势能。可随着AI技术的发展,所带来的的弊端也正在逐步显现。11月16日,人民日报发布评论:人工智能的“聪明”不能用错了地方。在评论中人民日报提到,一些营销类骚扰电话在人工智能技术的加持下,更有欺骗性和针对性,令人防不胜防。与过去相比,“AI骚扰电话”不仅能实现日呼上千次,还能精准找客户、绕过手机管家的标记拉黑,既给用户造成了烦扰,也潜藏诈骗、窃取个人隐私等隐患。
全球首部打击AI电话法律实施
AI骚扰电话并非新鲜事,2019年12月30日,美国参议院投票通过了一项名为《机器人电话滥用犯罪执法威慑》(The Telephone Robocall Abuse Criminal Enforcement and Deterrence Act,简称《TRACED法》)经美国总统特朗普签署后正式生效,该法是美国也是全球第一部打击电话机器人的法律。所谓“机器人骚扰电话”指的是那些由电脑根据预设程序自动拨打,接通之后播放录音的电话。
数据显示,2019年,美国境内民众接到的“机器人骚扰电话”总数超过500亿个,也就是说,平均一个美国人每个月会接到15个“机器人骚扰电话”。其中,得克萨斯州、加利福尼亚州和佛罗里达州是这类电话的“重灾区”。而根据这项参议院已经通过的法案,美国“机器人骚扰电话”的罚金上限将从现在的1500美元一跃提升到1万美元,约合7万元人民币。同时,法案还将处罚的时限从1年扩大到3年,希望能给执法部门更多执行的时间。
《TRACED法》赋予了美国联邦通信委员会(FCC)更大的权力,要求各部门加强合作共治,规定了语音服务提供商应承担的相关义务,为打击非法电话机器人提供了有力的法律武器。其中,通过明确主管部门及其职责、要求组建跨部门工作组、强制服务提供商部署相关技术手段的三个方向来共同打击AI骚扰电话。
我国早在2018年便由工信部推出《关于推进综合整治骚扰电话专项行动的工作方案》,该《方案》明确提出,对金融类电话营销,售房租房电话营销,医疗机构、保健食品生产经营企业的电话营销,人力资源服务、旅游等行业的电话营销,这四大重点行业商业营销行为进行规范。
物美价廉?AI电话成本优势巨大
“它每天可以打1000个电话,是人类的5倍,并且成本只有雇佣一名员工的五分之一”硅基智能(Silicon Intelligence)创始人司马华鹏(Sima Huapeng)说。南京硅基智能科技有限公司”——一家总部位于南京的语音机器人开发商,该公司主要向销售公司出售“硅语”的技术,平均售价为1万元。而销售公司则利用“硅语”与消费者进行互动,包括给他们打电话。
“硅语”的原理是当对话开始时,识别出用户所说的内容,并将其以文本的形式写出来——这被称为“自动语音识别”(ASR)。接着,机器人通过查阅包含大量短语和句子的数据库来理解文本——这一过程被称为“自然语言理解”——然后对其做出反应。最后,在一种被称为“文本转成语音”的机制中,“硅语”将它的书面反应转化为语音。司马华鹏认为,“硅语”的交际能力已经接近人类的水平。“我们的目标是通过图灵测试。”他补充道。
AI电话的高效率与低花费是赢得市场的主要原因,不仅如此,智能分析及操作便捷也是其优势之一。在该公司的官方网站上可以看到,他们主张以硅基解放碳基(人),可以根据需求定制专属形象,实现语音唇形同步,驱动虚拟形像多模态交互,并且可以通过录音及文本的记录,自动提炼高价值的关键信息,主动分析用户意向。
司马华鹏认为,中国流行的电话推销应归咎于销售公司,而不是开发商。他说,由于语音机器人可以处理比人类大得多的呼叫量,不同的机器人更有可能多次呼叫人类。此外,他表示,许多公司将电话营销服务外包给第三方承包商,而这些第三方承包商有时会进行欺诈操作,导致他们对技术使用方式的控制很少。他告诉我们:“这些公司中有许多只拨打从000到999的电话。”不过,司马也赞成该行业需要进一步的监管。
骚扰只是表象,用户声纹信息被收集
一旦机器人开发者将他们的技术卖给第三方销售公司,他们很少会检查这些技术的使用是否合法并且合乎道德。这是个值得关注的问题,因为随着廉价的智能语音技术充斥市场,越来越多的公司开始使用机器人——用烦人的、未经请求的电话轰炸消费者。
“市面上流行的AI骚扰电话分为智能呼叫、智能应答、智能会话等三个技术层级。”奇安信集团行业安全研究中心主任裴智勇表示,AI语音电话可以自动定时、定向拨打,常用于催缴欠款、花费提醒、快递通知等;AI推销电话则带有简单交互操作功能,可以向社会用户随机智能推销商品;真正的AI推销员则能够和当事人进行有意义的连续对话。“目前公众普遍反感的骚扰电话,第一种和第二种最为常见。”
为何拨打骚扰电话的人或机器人知道普通人的信息?这与违法者倒卖信息分不开的。不法分子为了金钱利益,对所负责的用户资料信息泄密,倒卖给一些非法数据公司。这些非法公司通过收集来的个人资料,做成大数据库,然后倒卖给需要的某公司或某人。就这样,形成一套完整的倒卖信息产业链。在企业欺骗中,黑客通过大数据窃取个人信息,冒充一家熟悉的大公司,并向客户索要社会安全号码或出生日期,以方便身份盗窃。
随着《中华人民共和国个人信息保护法》的实施,对于个人信息的界定也愈加明确。因此,如果从个人敏感信息泄漏角度看,AI骚扰电话只是表象,更深层的问题对人声纹的搜集。大多数AI骚扰电话都会进行全程录音,机器搜集声音后,既可以与事先收集的个人信息相匹配,掌握用户的生物信息,又可以通过人工合成的方式模拟声音,做一些其他违法犯罪的活动。
AI对抗AI?如何防治成为难题
数字技术的广泛应用,让用户个人信息在数字空间“坦诚相见”,这为数据要素的流动和应用创造了条件。目前,普通用户对于AI骚扰电话毫无办法,“传统的拉黑、标记、手机管家等手段对于这些每次来电都不一样的骚扰电话几乎没用!”有网友愤懑地表示。不断更换“马甲”是让这些骚扰电话难以被针对的主要原因之一,“我不停拉黑,对方却不停地换号码打过来。一开始都是95字头的网络号码,后来变成手机号,有一次还是010开头的座机号。”
如何对抗这些AI骚扰电话,国内外给出了许多做法。Comcast、AT&T和T-Mobile这几家美国通信服务商推出一个名叫STIR/SHAKEN的协议,全称是Secure Telephone Identity Revisited and Signature-Based Handling of Asserted Information Using Tokens,安全电话身份重访和使用token基于签名的声明信息。这个协议可以保证接到的电话不是一个伪装的号码,得到身份验证后,就可以判断是否是机器人打来的电话。阿里巴巴在2019年推出了代号名为“二哈”防骚扰电话AI技术,当用户在手机上开通了这项服务,在接到骚扰来电时,用户可以直接转接给机器人接听,机器人会模拟人声及环境声来应对骚扰电话。
不过,这些产品落地后却反响平平,也很难大面积推广。“想在来电接听后让AI对骚扰电话实现语音对抗拦截,目前还有一定的技术难度。这意味着用户的所有电话都需要被机器人接听,也会损害用户的使用体验。”腾讯手机管家产品负责人杨朗表示,目前主流的做法仍是结合用户的贡献,对骚扰电话实行统一标记或拦截拒接,效率更高。
仿生会话和智能呼叫并不是一个层级的智能技术,用优质技术对抗低级技术,不管是识别还是对抗,本身就是消耗社会资源,对抗效率也十分低下。除了通讯上利用号码库迅速识别骚扰电话外,更重要的是快速找到AI骚扰电话的源头,要强化溯源治理,也要在执法上对于违规营销的企业做出严厉处罚。
齐心抗疫 与你同在
点【在看】的人最好看
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.