北京
分享至
一个开源承保代理，凭什么敢让大模型自己批贷款？答案藏在代码里，不在提示词里。
作者放出了一个基于 LangGraph 的承保代理，采用 MIT 协议开源。它的核心设计只有一句话：在纯代码里写死一个风险上限，这个上限的优先级高于任何模型输出。
换句话说，模型可以很自信，但自信不构成放款理由。哪怕提示注入把模型忽悠得团团转，只要触碰风险天花板，审批就走不通。
这套逻辑拆开看只有两层：
- 模型负责理解与生成，输出建议；
- 代码负责兜底，用硬性风险阈值做最终裁决。
作者的原话是，风险上限以纯代码形式覆盖每一个模型。这句话的分量在于"覆盖"二字——不是模型说了算，是代码说了算。
提示注入之所以危险，是因为它攻击的是模型的判断。而判断一旦被写进代码的硬约束之外，攻击面就转移了：你可以骗过模型，但骗不过那个阈值。
代码地址已公开：github.com/shadrach-tayo/underwriting-agent。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
