北京
分享至
9月15日，SAS结合IDC研究洞察发布《数据与AI影响力报告：信任的新经济学》。（Data and AI Impact Report: The New Economics of Trust）报告显示，落实可信AI实践的组织，AI项目实现高ROI的概率可达其他组织的15倍。
据报告，拥有最完善治理、数据质量和可审计性实践的企业（虽然目前在市场中占比相对较小）的表现持续优于同行，其AI 部署所带来的 ROI 至少是同行的两倍。相比之下，在可信 AI 方面落后的企业中，仅有不到1/20能达到同等 ROI 水平。
投资可信AI举措的企业，AI项目实现高ROI的概率为62%，未投资的企业仅4%；前者13项业务指标收益平均高出同行1.85倍。具备完善治理与数据质量的可信AI领军企业目前占比仍较小，但85%已计划今年将相关投资提升10%以上。
报告同时揭示落地隐患：当员工不信任AI决策时，会推翻AI输出结果进行人工修正。
据报告，97.2%的AI使用者至少曾在某些情况下推翻AI生成的建议，最常见的原因是AI无法说明决策依据。受访者对生成式AI的信任度为76%，对自主程度更高的智能体AI降至66%。
据介绍，在研究框架下，可信 AI（Trustworthy AI）是指具备可靠性、公平性、安全性、符合监管要求与可解释性，并具备明确治理及问责机制的 AI 系统。企业必须确保 AI 的决策过程能被理解与监督，并针对错误或缺失的 AI 输出建立清楚的责任机制，使 AI 应用符合组织所制定的治理规范。（纪川）
