北京
分享至
一位曾在Anthropic任职的研究员，把一句警告带到了纽约市议会面前。Jacob Coxon向市议员表示，人类可能会失去对AI的控制。他本人将出席纽约市关于AI"kill switches"（紧急关停机制）的听证会作证。
纽约想给AI销售设一道门槛
与这场听证会同步推进的，是一项正在酝酿的法案。按照该法案的要求，在纽约市本地销售的每一个AI模型，都必须先通过外部验证。没有通过验证就销售或部署，每次将被罚款2.5万美元。
这条路径的逻辑并不复杂：先验证，再上架。验证由外部完成，而不是由开发模型的公司自己说了算。罚款按次计算，意味着违规成本会随着部署规模累加。
警告与法案，指向同一个问题
Coxon的身份是前Anthropic研究员，他给出的判断是"人类可能失去对AI的控制"。这一判断出现在纽约市讨论AI关停机制的场合，而法案要求的外部验证，恰好是把这种担忧转化为准入条件的尝试。
一边是研究者的风险提示，一边是立法层面的验证要求。两件事在同一个时间点交汇于纽约市。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
