SAS新研究强调可信任人工智能势在必行

SAS是数据和人工智能领域的全球领导者，它公布了一项新的研究，探讨了人工智能的使用、影响和可信度。SAS委托的《IDC数据和人工智慧影响报告：信任势在必行》发现，IT和商业领袖对生成式人工智能（GenAI）的信任度高于其他任何形式的人工智能。

探索人工智能使用和采用的全球研究还发现，只有40%的人通过治理、可解释性和道德保障来投资使人工智能系统值得信赖，尽管优先考虑值得信赖人工智能项目的投资回报率翻一番的可能性高出60%。那些对值得信赖的人工智能系统投资最少的人中，认为GenAI（如ChatGPT）比传统人工智能（如机器学习）更值得信赖的比例高出200%，尽管后者是最成熟、最可靠和最可解释的人工智能形式。

IDC人工智能和自动化实践研究总监Kathy Lange表示：“我们的研究表明了一个矛盾：具有类人互动和社交熟悉度的人工智能形式似乎能获得最大的信任，而不管实际的可靠性或准确性如何。”“作为人工智能提供商、专业人士和个人用户，我们必须要问：GenAI是值得信赖的，但它总是值得信赖的吗？领导者是否对这项新兴技术应用了必要的防护措施和人工智能治理实践？”

该研究基于对北美、拉丁美洲、欧洲、中东和非洲以及亚太地区2375名受访者的全球调查。参与者包括IT专业人员和业务线领导者的平衡组合，从技术和业务职能两个方面提供观点。

新兴人工智能技术赢得最多信任

总体而言，该研究发现，与更成熟的人工智能形式相比，最值得信赖的人工智能部署是新兴技术，如GenAI和代理AI。近一半的受访者（48%）表示对GenAI“完全信任”，而三分之一的受访者（33%）表示对代理AI也是如此。最不可信的人工智能形式是传统人工智能——不到五分之一（18%）的人表示完全信任。

尽管受访者对GenAI和代理AI表示高度信任，但他们也表达了担忧，包括数据隐私（62%）、透明度和可解释性（57%）以及道德使用（56%）。

与此同时，量子人工智能正在迅速获得信心，尽管执行大多数用例的技术尚未完全实现。近三分之一的全球决策者表示他们熟悉量子人工智能，26%的人表示完全信任这项技术，尽管现实世界的量子人工智能应用仍处于早期阶段。

滞后的AI护栏削弱了AI的影响力和投资回报率

该研究显示，人工智能的使用率迅速上升，尤其是GenAI，它在可见性和应用程序方面迅速超越了传统人工智能（81%对66%）。这引发了新的风险和道德问题。

在所有地区，IDC的研究人员发现，组织对人工智能的信任程度与该技术的真实可信度之间存在不一致。根据这项研究，虽然近十分之八（78%）的组织声称完全信任人工智能，但只有40%的组织投资通过人工智能治理、可解释性和道德保障使系统明显值得信赖。

该研究还表明，在实施人工智能项目时，实施值得信赖的人工智能措施的优先级较低。在受访者的三大组织优先事项中，只有2%的人选择制定人工智能治理框架，不到10%的人表示制定了负责任的人工智能政策。然而，降低值得信赖的人工智能措施的优先级可能会阻碍这些组织在未来充分实现其人工智能投资回报。

研究人员将受访者分为值得信赖的人工智能领导者和值得信赖的AI追随者。领导者在实践、技术和治理框架上投入最多，以使他们的人工智能系统值得信赖，并且似乎正在收获回报。同样值得信赖的人工智能领导者报告其人工智能项目投资回报率翻倍或更高的可能性是1.6倍。

缺乏强大的数据基础和治理阻碍了人工智能的发展

随着人工智能系统变得更加自主，并深入集成到关键流程中，数据基础也变得更加重要。数据的质量、多样性和治理直接影响人工智能的结果，因此智能数据策略对于实现收益（如投资回报率、生产率提高）和降低风险至关重要。

该研究确定了阻碍人工智能实施成功的三大障碍：数据基础设施薄弱、治理不善和缺乏人工智能技能。近一半（49%）的组织认为，数据基础不是集中式或非优化的云数据环境是主要障碍。紧随其后的是缺乏足够的数据治理流程（44%）和组织内缺乏熟练的专家（41%）。

受访者报告称，管理人工智能实施中使用的数据的首要问题是难以访问相关数据源（58%）。其他主要问题包括数据隐私和合规问题（49%）以及数据质量（46%）。

SAS首席技术官Bryan Harris表示：“为了社会、企业和员工的利益，信任人工智能势在必行。”“为了实现这一目标，人工智能行业必须提高实施的成功率，人类必须严格审查人工智能的结果，领导层必须用人工智能赋予员工权力。”

与 Ai 时代前沿合作，将大门向更多普通用户敞开！无论你是对新技术充满好奇心的爱好者，还是希望提升自己技能的职场人士，这里都有适合你的课程和资源。欢迎扫码加入我们！