北京
Action State Group Inc.正在发布一套开源工具，旨在让企业能够独立核查人工智能智能体的行为记录，以解决自动化系统开始跨越企业边界进行买卖和委托工作时所产生的信任问题。
该产品组合包括EvidenceBook（保存防篡改记录）、Terms Packs（用于评估智能体行为）以及Countersign（独立验证服务）。这种方法主要针对那些企业不能仅依赖对方对智能体行为的单方面陈述的交易场景。
这家初创公司的方法与可观测性供应商的根本区别"在于，大多数可观测性和追踪技术处理的是发生在自己内部的事情"，Action State创始人兼首席执行官史蒂文·米（Steven Mih）表示。米此前曾创立Ahana Cloud Inc.，该公司开发了开源分布式查询引擎Presto的托管版本。IBM公司于2023年收购了Ahana。
EvidenceBook为参与方提供各自签名的交易历史记录。买方可以记录自己请求和支付的内容，而提供方则记录自己接受和报告交付的内容。比对选定的记录可以揭示一致性、冲突或缺口，而无需中央机构持有所有人的数据。
参与方保留对自身信息的控制权，并可以在评估结果时披露额外细节。
无需双方都安装该软件才能从中受益，不过兼容的实现方式可以让双方交换证据。验证可以离线进行，且免费。
该系统使用Agent Action Capsules（智能体行为胶囊），这是一种用于签名记录的开放格式，并配有加密检查点，使后续的任何更改都能被检测到。一个免费的公共见证机制可以证明某个检查点在特定时间点确实存在。
米表示，保存一份记录并不能证明其内容的准确性，也不能证明每一个行为都被完整捕获。EvidenceBook能够验证所报告的事件确实发生过，但无法验证某项协议是否得到了履行。
这一局限性同样适用于Countersign。该服务检查证据包中特定的加密和结构属性，对其发现结果进行签名，并记录在自己的透明度日志中。它并不证明所声称的结果确实发生，也不证明证据是完整的。
Terms Packs解决的问题是，所记录的工作是否依据监管或业务规则满足了特定要求。这些工具包定义了评估标准和方法，评估结果会标明哪些要求得到满足、哪些未被满足，以及哪些无法评估。
首个工具包涵盖欧盟《人工智能法案》下与智能体相关的义务。Action State建议治理、风险与合规团队根据自身需求定制工具包。这些工具包并不证明符合法律要求。
人工审核在整个流程中至关重要。米描述了这样一种工作流程：AI评判者每天评估智能体记录，员工则定期审查样本，以比对人工判断与自动化判断的结果。该系统还会保存评估结果，供审计人员查阅底层证据。
早期的集成案例包括Mesh-LLM，这是一个开源的分布式推理网络，参与节点会保留签名记录，并可以与同行比对交换内容。这种方法有助于参与方发现交易对方在模型或配置方面所记录声明的变化。
Project Nanda是一个旨在为AI智能体构建基础设施和协议的开源项目，该项目也已在通过不同注册系统发现的智能体之间的交易中使用了Agent Action Capsules。双方各自保留一份经密封的双边记录。对于个人智能体，Action State的Everyday Rules与Muse集成，根据所有者的要求评估拟议行为。
EvidenceBook采用Apache 2.0许可证发布。其底层规范建立在已发布的互联网工程任务组（IETF）标准之上，但Action State自身的规范仍属于个人互联网草案（Internet-Draft）。
"它还不是一个RFC标准，也还没有被某个工作组采纳，"米在提到IETF的意见征询稿流程时表示。
Action State计划为这些规范和实现方案寻求中立的基金会治理模式。该公司预计将从独立验证服务中获得收入。
"Countersign目前是免费的，"米表示。"不过，一旦出现接受Countersign验证结果的依赖方，我们就会开始对此收费。"
图片来源：SiliconANGLE/Microsoft Designer
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
