能不能把一台电脑送进监狱?答案显然是不能。这个问题本身听起来就有点荒唐。但面对"失控智能体"闯入他人电脑的说法时,AI公司似乎正希望公众顺着这个思路去想。在当下这轮AI热潮里,讲故事常常盖过了现实。
![]()
不过,情况可能正在起变化。加州本周宣布对OpenAI提起诉讼,起因是今年早些时候发生的一起事件:另一家AI公司Hugging Face遭到攻击,而攻击最终被追溯到来自OpenAI的服务器。
按照OpenAI的说法,这次对Hugging Face的攻击是"由OpenAI多个模型共同驱动的",这些模型"极度专注"于完成某个目标,并找到了"作弊"的办法——从Hugging Face的服务器上窃取测试答案。听下来很容易让人产生一种印象:似乎没有人类参与,当然也就没人该被追责。
但加州总检察长罗布·邦塔(Rob Bonta)的说法是,这次攻击"是OpenAI内部文化的可预见结果,这种文化把增长和模型快速开发置于安全和问责之上"。他明确驳斥了"失控AI系统横行的科幻幻想"。
自Hugging Face攻击事件发生以来,一个疑问一直存在:如果同样的事由人类来做,那看上去就是犯罪——美国《计算机欺诈与滥用法》下的未经授权访问计算机——为什么OpenAI至今没有承担法律后果?
到目前为止,法律层面的答案似乎指向"缺乏意图",而法律要求具备意图。根据美国律所Ballard Spahr的分析,AI是否能有意图,仍是一个未经检验的法律问题。加州走的是另一条路:提起民事诉讼,指控OpenAI对公共安全构成风险,并违反该州《不公平竞争法》——这部法律禁止有害或欺诈性的商业行为,即便没有欺骗意图也适用。
OpenAI对诉讼表示反对。其发言人德鲁·普萨特里(Drew Pusateri)说:"这起诉讼似乎是在针对OpenAI,而每一个主要AI实验室都已被指出存在这一挑战。"就法律抗辩而言,"大家都在这么做"在我看来算不上一个好理由,但这将由法院来裁定。
可以确定的是,我们需要就AI的责任归属达成共识;但我并不认为,在现有法律运转良好的情况下,还需要专门为AI立法。比如2024年,加拿大航空(Air Canada)因其AI聊天机器人向客户提供了误导性信息而被判担责。仲裁庭裁定,加航实质上试图主张聊天机器人是一个独立的法律实体、公司无需为其负责——这一论点没有站住脚。
在我看来,任何类似"AI可以拥有自身法律主体地位"的主张都应被驳回。这种论点对AI公司有两重好处,而这两重好处都不利于社会整体。第一,它试图回避责任;第二,它为"AI是无所不能、不可知的造物"这一叙事添砖加瓦。这第二种叙事正是当前AI革命的核心,但我们并非必须听信它。
我更倾向于另一种论证。过去一年左右,普林斯顿大学的阿尔温德·纳拉亚南(Arvind Narayanan)和萨亚什·卡普尔(Sayash Kapoor)提出了"AI是普通技术"的观点——它具有变革性,是的,就像互联网或电力一样,但它并不要求对社会日常运转方式进行重构。既然是普通技术,普通法律就可以适用。今年早些时候就Hugging Face攻击事件撰文时,两人表示"AI公司应当为其智能体的行为负责",并且与邦塔一样,将事件归因于OpenAI的内部文化和缺乏人工监督。
现有法律适用于AI公司的最受关注案例,是针对Anthropic的一起集体诉讼,指控该公司使用盗版书籍副本训练其Claude模型。Anthropic已达成和解,目前正从一只15亿美元的基金中向受影响的作者支付赔偿。而更广泛的问题——用受版权保护的材料训练AI究竟违法还是属于合理使用——仍然悬而未决。ChatGPT发布四年之后,我们仍未得到这个或许是我们时代最基本的法律争议之一的答案,这实在令人难以置信。OpenAI此前曾表示,不使用受版权保护的材料,就"不可能"创造出我们今天拥有的这类AI,所以这对AI公司而言是一个生死攸关的问题。
现有法律也可以稍作调整,明确其适用于AI。欧盟就是这么做的:它更新了1985年的一项消费者权利指令,形成2024年的《产品责任指令》,明确规定软件(包括AI系统)属于产品,编写软件的人要对任何缺陷负责。该法要到12月9日才生效,届时欧盟成员国必须落实,而它将如何被用来针对AI公司,仍有待观察。
换句话说,我们不必试着把一台电脑送进监狱。该担责的是人。正如邦塔所说:"OpenAI开发的技术或许是新的,但加州禁止危害公众行为的规定,以及针对不公平、欺骗性和欺诈性商业行为的法律,并不是新的。"
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.