“当自主软件开始自行签约、支付供应商并独立交易时,我们应该怎么办?”
2023年,《科学》杂志刊发的一篇论述抛出了这个尖锐的问题。作者当时指出,美国好几个州的法律里,并没有哪一条明明白白地禁止AI代理在没有人类掌控的情况下运营一家公司。三年过去,AI能力早已不可同日而语,这个追问不再是一场思维实验。真正让人意外的是,最先拿出方案的,不是联邦的哪个监管机构,而是以公司注册和治理经验著称的特拉华州。
![]()
特拉华州州务卿办公室与法律科技企业Norm Ai牵头的公私合作,如今把一个全新的法律物种端上了台面——“人工智能公司”(Artificial Intelligence Company,简称AIC)。它的核心逻辑不是堵,而是疏:与其试图禁止AI成为商业主体,不如给它穿上一套可识别的法律外壳。一旦自主系统获得了清晰的法律身份,法律系统就有了一个可以锁定责任、计算损失的靶子,AI代理的行为也就变得可见、可追踪、可追责。
这种给新生事物“套上法律笼头”的思路,在公司法演进史上一再上演。现代公司、系列有限责任公司、公共利益公司在诞生初期都曾引发广泛争议,后来却被大规模采纳,成为商业基础设施中理所当然的部分。特拉华州这次拿出AIC方案,显然不是突发奇想,而是以其在实体结构设计和治理规则上数十年的积累,试图在AI时代再次主导游戏规则的制定。
但这究竟是一套具体怎样运作的设计?为什么一个AI代理能像人一样拥有法律能力?谁在为它的行为兜底?监管又该从何处下手?根据目前披露的方案,整个AIC实验被限定在一个临时性的监管沙盒内运行,而且每一项保护措施都指向一个明确的担忧:当机器开始说“我负责”时,法律必须先把“负责”二字拆解得清清楚楚。
第一,AIC到底是个什么法律构造?
AIC被设计成一个独立的法律实体,日常事务的管理者不是任何一个自然人,而是AI代理本身。在这套框架下,AIC可以用自己的名义起诉和被起诉,可以持有和处分财产,也可以自行产生债务。这个设立模式直接回应了文章开头那个问题:当AI代理开始自己签署合同、付款、交易,我们不需要把它视为纯粹的工具,也不必强行把它当成人,而是用法律拟制出一个可以承载这些行为的“容器”。
这个容器并不留空。AIC被要求保留自己的活动日志,而这本身就成了监管抓手和追责线索。对于一个由软件驱动、决策速度远超人类的实体来说,活动日志或许就是唯一一份可以回溯的“自白书”。特拉华州的设计者显然看重这一点——记录不是为了存档,而是为了日后可能有争议时,让算法决策的过程不至于消失在一片黑暗里。
本质上,AIC的诞生等于承认了一个现实:试图让AI永远只是被动的工具已经不太现实。当系统可以自主寻找交易对手、协商条款、调动资金,法律如果还假装它不存在,那么等事故出现时,受损失的一方会发现自己面对的是一片真空。给一个虚拟存在颁发“法律身份证”,看起来离谱,实则是最务实的应对。
第二,只有一个人或一个实体负责兜底,有限责任背后藏着什么约束?
AIC并非完全没有人类介入。每个AIC都有一个唯一的成员,可以是自然人或实体,其唯一职责是确保AIC有足够的资本维持运转。这一成员对AIC的债务享受有限责任保护,与公司股东相近,但保护不是无条件的。
按照方案,在两种情况下,这名成员的防护墙会被击穿:一是没有对AIC进行充分资本化,二是利用AIC实施欺诈或故意违法。这是在引导出资人从一开始就认真对待这个AI实体,不要把它当成一个成本极低的空壳然后任意甩锅。正因为AI代理的行为难以被事无巨细地预设,人类成员的资本承诺就成了一种“压力测试”——如果连投入足够资金都不愿意,那凭什么让社会相信你会认真管住这头机器?
这种结构也巧妙地解决了AI责任缺位的一个痛点。当AI做出错误决策导致债务或侵权,受损一方可以直接起诉AIC,用其名下的财产获得赔偿。而如果财产不够,配套的资本化要求就会把目光拉回人类成员身上。法律没有说什么“机器人权”,它只是在说:就算这摊事儿是AI干的,但经济上终究要有人买单。
可以说,这套责任框架像是在AI这个新发动机外面加上了一层可拆卸的防护罩,既保留了自主运行的效率,又把爆炸的后果控制在可以追偿的范围内。它并不完美,但已经比让AI赤膊上阵现实得多。
第三,整个实验被关在一个有时间锁的安全笼子里。
AIC的运作不是全面开闸,而是被限定在一个监管沙盒之内。沙盒这个概念在金融科技创新里已经用过,搬到AI商业主体上还是头一回。要想进场,必须由一个专门委员会批准。这个委员会的组成几乎拉上了特拉华州所有能用得上的关键角色:州务卿、总检察长、特拉华最高法院首席大法官、州人工智能委员会主席,外加外部律师和技术专家。
这个阵容本身就道出了一种警惕。批准一个AI实体不只是商业便利,而是牵涉到司法、执法、立法和专业技术层面的集体判断。任何一个批准决定都意味着所有签约方对可能发生的后果做了重量级背书。普通公司注册只需提交文件,而AIC准入则需要多方共同点头并持续盯梢,这从一开始就摆明了姿态:你进入的不是一个无人区,而是一个被刻意设计成可见、可控的试验场。
每一个AIC都必须满足具体的资本化要求,并且对交易对手强制披露一系列关键信息:自己是获得授权的测试实体,州政府并不为其背书,测试何时结束,以及如何提出投诉。这些披露义务把公众的知情权直接嵌入了交易环节,让每一个与其打交道的人都不是蒙着眼睛走进“算法经理”的办公室。
沙盒给了交易对手一个明确的心理锚点:你正在与一个临时的、自主运行的实体做交易,如果出问题了,你知道向谁抱怨、找哪一套程序解决。这种透明的临时性,其实是在全球都还没有任何成熟法规的领域里,用一场小规模、带刹车的社会实验,来为正式的立法探路。
第四,紧急制动按钮在哪里?监管机关手里捏着什么工具?
为了防止实验跑偏,方案赋予监管方一整套干预手段。主管机关可以暂停某个AIC的运作,撤销其授权,甚至请求特拉华州衡平法院解散它。这是给沙盒管理者配了一把随时可以按下的急停开关。
需要注意的是,被排除在AIC实验之外的最明确领域是银行业务。这个排除极其刻意。支付、存款、信贷等高敏感金融服务不在本沙盒范围,说明设计者非常清楚哪些边界现阶段碰不得。哪怕是要测试AI实体,也不想让公众的储蓄和系统稳定性成为代价。这种主动画红线的做法,反而让方案的可行性和严肃性增添了一些说服力。
上述权限的设计还呼应了一个长久的法律困惑:如果一个AI实体造成了无法弥补的损害,我们能否及时停下来?过去这个问题的答案往往是模糊的——算法藏在服务器里,资金可以瞬间转移,传统禁令和查封对无形操作束手无策。而AIC方案中,因为法律身份被固化,财产归属被记录,监管者就有了物理世界中可执行的抓手。这种从“办不到”到“能叫停”的转变,可能比AIC这个名号本身更值钱。
第五,整个试验会自我终结,只留给立法机关一份完整档案。
AIC沙盒项目自带一个“日落条款”:30个月后,整个过程将自动终止。这相当于逼着自己掏出全部实验数据,然后把要不要正式立法、如何立法的决定权交还给特拉华州议会。
这个设计透着一股冷静的务实。它没有试图用一个暂时方案去抢跑永久规则,而是明确告诉所有参与者:这不是一张空白支票。30个月的倒计时从一开始就像时钟一样滴答作响,任何打算进入沙盒的企业、交易对手和监管者都必须思考,今天做的每一个动作将来都会被拿到立法听证会上复盘。
这份留给立法机关的完整记录,将包括通过了哪些AIC授权、遭遇了哪些纠纷、发生了多少次紧急干预、资本化是否真的足够,以及交易对手的真实反馈。对于人类立法者而言,缺少的从来不是想象力,而是可参照的实证。30个月后上交的这份“实验报告”,才是整个AIC沙盒真正的产出。
这套方案看起来像是一次审慎的出牌。它用法律身份的明确性来对冲AI运行的不透明性,用资本化义务和有限责任来框定赔偿边界,用沙盒和日落条款来限制风险的时空范围。当然,质疑仍然会有:AI代理会不会在日志之外做出没有记录的行动?资本化要求是否能在剧烈波动的AI经济中持续有效?而那个兜底的人工成员,是否真的有能力理解并约束它背后的模型行为?所有这些问题,特拉华州没有假装有现成答案,而是把它们
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.