网易首页 > 网易号 > 正文 申请入驻

“幻觉”影响“可靠性”!Salesforce高管称“对大模型的信任度已经下降”,已减少使用程度

0
分享至

企业软件巨头Salesforce高管承认,对大模型的信任度在过去一年中有所下降,该公司正在其主要AI产品Agentforce中减少对生成式AI的依赖,转而采用更多基础的“确定性”自动化技术来提高软件可靠性。

周一,据The Information报道,Salesforce产品营销高级副总裁Sanjna Parulekar表示:“我们所有人在一年前对大语言模型都更有信心。”该公司现在Agentforce中使用基于预定义指令的确定性自动化,而非完全依赖AI模型的推理和解释能力。

这一策略调整旨在解决大模型在处理精确任务时出现的“幻觉”等技术故障,确保关键业务流程每次都遵循完全相同的步骤。Salesforce网站现在强调Agentforce能够帮助“消除大模型固有的随机性”。

作为最具价值的软件公司之一,Salesforce对大模型的部分退让可能对数千家使用该技术的企业产生影响,目前Agentforce预计年收入将超过5亿美元。

技术可靠性挑战推动策略转变

Salesforce在实际应用中遇到了大模型的多项技术挑战。该公司Agentforce首席技术官Muralidhar Krishnaprasad指出,当给大模型超过8个指令时,它会开始遗漏指令,这对需要精确处理的任务来说并不理想。

家庭安防公司Vivint的经历印证了这些问题。该公司为250万客户使用Agentforce处理客户支持,但遇到了可靠性问题。例如,尽管给出了在每次互动结束时向客户发送满意度调查的指令,但Agentforce有时会因无法确定的原因不发送调查。

为解决这类问题,Vivint与Salesforce合作在Agentforce内设置了"确定性触发器",确保每次都能发送调查。使用这种基础自动化形式不仅降低了运营成本,也为客户提供了更低的价格。

应对AI"漂移"现象

Salesforce高管Phil Mui在10月的博客文章中描述了另一个关键挑战:AI“漂移”现象。据Mui介绍,该公司“最复杂的客户”在使用AI时遇到困难,“当用户提出无关问题时,AI代理会失去对其主要目标的关注”。

例如,被编程引导客户填写表格的AI聊天机器人在客户提出与表格无关的问题时会“失去焦点”。为解决这一问题,Salesforce开发了Agentforce Script系统,通过识别哪些任务可以由不使用大模型的"代理"处理来最小化大语言模型的"不可预测性"。

该系统目前处于测试阶段,旨在确保AI代理在面对偏离问题时仍能保持专注于核心任务。

实际应用中的调整与优化

在自身运营中,Salesforce也调整了对大模型的使用程度。尽管CEO Marc Benioff此前表示,部分依赖OpenAI大模型的Agentforce现在处理Salesforce大部分客户服务询问,使公司能够裁减约4000名客户服务人员,但该公司近期似乎减少了其客户服务代理对大模型的使用。

例如,上周该公司在回应Agentforce技术问题的协助请求时,显示了博客文章链接列表,而非询问更多信息或讨论可能的问题。这种响应方式类似于企业多年来使用基础聊天机器人处理客户或网站访客问题的方式。

Salesforce发言人表示,公司今年“完善了主题结构,加强了防护措施,提高了检索质量,并调整响应以更具体、更符合上下文、更符合真实客户需求”。该发言人称,帮助代理解决的客户问题比以往任何时候都多,预计在1月底结束的财年中,已解决对话数量将增长90%。

这一趋势反映了整个行业面临的挑战。本月早些时候,由企业AI初创公司Sierra提供支持的Gap Inc.聊天机器人回答了关于成人用品和纳粹德国的问题,凸显了大模型偏离预期用途的普遍性问题。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“数学界第一神山”被攻克?Anthropic数学家宣称证明黎曼猜想,给出1700万行Lean源码,AI证明文件超过25万页

“数学界第一神山”被攻克?Anthropic数学家宣称证明黎曼猜想,给出1700万行Lean源码,AI证明文件超过25万页

华尔街见闻官方
2026-11-21 09:15:36
点赞深圳,特朗普:看看人家,再看看我们自己,城市又脏,都是坑洼,轨道也是破的生锈的,让人恶心

点赞深圳,特朗普:看看人家,再看看我们自己,城市又脏,都是坑洼,轨道也是破的生锈的,让人恶心

第一财经资讯
2026-11-21 09:45:13
25天前刚拿金球奖!拜仁噩耗:凯恩韧带撕裂将休3个月 16场造20球

25天前刚拿金球奖!拜仁噩耗:凯恩韧带撕裂将休3个月 16场造20球

风过乡
2026-11-21 07:03:17
没想到,APEC峰会结束仅1天,中国竟因三个“特产”在全球火出圈

没想到,APEC峰会结束仅1天,中国竟因三个“特产”在全球火出圈

云上乌托邦
2026-11-21 00:20:04
前10月全国税收收入增长6%,其中个税收入增长22.9%

前10月全国税收收入增长6%,其中个税收入增长22.9%

风向观察
2026-11-20 18:17:34
黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

财联社
2026-11-20 16:09:05
哈登51+6+6超越奥尼尔!骑士拒步行者24分逆转 米切尔20分

哈登51+6+6超越奥尼尔!骑士拒步行者24分逆转 米切尔20分

醉卧浮生
2026-11-21 10:57:09
继黄仁勋、陈立武之后,轮到AMD总裁苏姿丰了?

继黄仁勋、陈立武之后,轮到AMD总裁苏姿丰了?

穿透
2026-11-20 18:44:35
U17世界杯开门黑!国足0-5西班牙 邝兆镭争议送点 12分钟崩盘丢3球

U17世界杯开门黑!国足0-5西班牙 邝兆镭争议送点 12分钟崩盘丢3球

我爱英超
2026-11-20 23:57:22
1-3!利雅得胜利遭逆转 6连胜终结 41岁C罗斩生涯第986球+连场失点

1-3!利雅得胜利遭逆转 6连胜终结 41岁C罗斩生涯第986球+连场失点

我爱英超
2026-11-21 04:21:00
AI交易崩跌踩踏!金银铜全线重挫,全周期金跌超9%、纽铜跌近10%,原油三周大跌两成

AI交易崩跌踩踏!金银铜全线重挫,全周期金跌超9%、纽铜跌近10%,原油三周大跌两成

华尔街见闻官方
2026-11-21 06:34:34
大幂幂不是白叫的

大幂幂不是白叫的

草莓解说体育
2026-10-24 07:40:22
男子让好友睡自己妻子,遭好友拒绝,愤怒下将好友妻子和娃杀死

男子让好友睡自己妻子,遭好友拒绝,愤怒下将好友妻子和娃杀死

夜话奇谭
2026-11-20 14:15:49
9发7中!荷兰公司高调认领,确认导弹参战炸俄大桥,俄罗斯会报复吗

9发7中!荷兰公司高调认领,确认导弹参战炸俄大桥,俄罗斯会报复吗

共工之锚
2026-11-20 11:18:21
哈登51分创纪录!骑士128-119步行者,看数据:你就是头号功臣!

哈登51分创纪录!骑士128-119步行者,看数据:你就是头号功臣!

运筹帷幄的篮球
2026-11-21 09:42:00
没想到“关门歇业”才是今年最好的生意,卖掉厂子的小舅子,终于读懂不折腾才是大智慧

没想到“关门歇业”才是今年最好的生意,卖掉厂子的小舅子,终于读懂不折腾才是大智慧

清风晓
2026-11-20 16:18:29
数学界炸了!一天两方称证出“黎曼猜想”:一份借助Claude,一份纯人工

数学界炸了!一天两方称证出“黎曼猜想”:一份借助Claude,一份纯人工

可达鸭面面观
2026-11-21 08:21:38
悲剧接连发生!男子砍伤妻子和岳母被取保候审,轻伤二级鉴定当日他杀妻后自尽

悲剧接连发生!男子砍伤妻子和岳母被取保候审,轻伤二级鉴定当日他杀妻后自尽

大风新闻
2026-11-20 15:04:06
卧槽!76人逆转!飙到联盟第一!逆转之王…

卧槽!76人逆转!飙到联盟第一!逆转之王…

詹姆斯吧
2026-11-20 13:09:42
马斯克收到上海特产!特斯拉员工用边角料手搓了个礼物

马斯克收到上海特产!特斯拉员工用边角料手搓了个礼物

快科技
2026-11-20 17:47:33
2026-11-21 11:08:49
华尔街见闻官方 incentive-icons
华尔街见闻官方
中国领先的金融商业信息提供商
155338文章数 2655560关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

牛弹琴:美媒发文"追杀"黄仁勋 细节绝对拉满触目惊心

头条要闻

牛弹琴:美媒发文"追杀"黄仁勋 细节绝对拉满触目惊心

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

教育
时尚
家居
艺术
军事航空

教育要闻

校长要守住的3条办学底线

运动风,漫不经心地穿才“松弛”!

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

他把时光刻成纹理,把幻想拍成现实:墨西哥天才摄影师的画面,看完像做了一场醒不来的梦

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版