![]()
总部位于波士顿的初创公司CollectivIQ Inc.推出了一款旨在帮助企业管控AI使用成本的平台,让管理者对模型的调用方式拥有更清晰的掌控力。
该公司将其产品定位为"AI共识平台"。通过这一平台,管理员可根据员工的职能角色、所属部门、业务需求及预算情况,为其分配不同类别的AI模型访问权限。此外,管理员还可以设置全组织范围内的支出上限,以及针对个人员工的每日费用和Token用量限制。
上述功能回应了一个日益突出的行业痛点——越来越多的企业正将生成式AI从小规模试验推向更大范围的生产应用。推理模型、后台进程和自主智能体在运行过程中会持续消耗Token,而员工和管理者往往对由此产生的费用缺乏清晰的认知。
近期已有数起典型案例引发广泛关注:Uber Technologies Inc.在短短四个月内便烧完了全年的AI编程预算;一家名为Swan AI Inc.的公司,仅凭四人团队就累积了每月高达11.3万美元的账单。
CollectivIQ表示,其新推出的管控功能可将AI使用情况在员工和企业两个层面同步呈现,并允许管理员对后台任务和智能体的相关操作进行限制。
与大多数围绕单一模型供应商构建的企业级AI服务不同,CollectivIQ采取了差异化路线——其平台同时接入了OpenAI LLC、谷歌、Anthropic PBC、XAI LLC等多家供应商的模型。用户可以同时向多个模型发起查询,并获得一个综合性的答案,该答案会标注出各模型之间的共识点与分歧所在。
公司首席执行官约翰·戴维(John Davie)表示,这一平台的研发灵感来自他在另一家公司的亲身经历。他同时掌舵餐饮及食品服务采购技术公司Buyers Edge Platform LLC,在推广AI时深刻体会到了成本与能力之间的取舍难题。
"我不想给员工提供一个功能受限的通用AI工具,"戴维说道。但若为每位员工配备传统企业级AI许可证,每年的成本将高达约70万美元。
CollectivIQ选择通过API接口接入各家模型,按实际消耗的Token付费,而非为每名员工购买完整席位授权。其软件会根据请求的复杂程度进行智能路由。戴维表示,面向至少拥有100名用户的企业客户,平台定价约为每人每月10美元,相比部分个人高级AI订阅服务动辄40美元的价格,具有显著优势。
"我们的核心秘诀在于充分利用API和智能路由的组合,"他说。此外,客户也可以接入自有模型。
平台新推出的"自动模式"会对用户输入的提示词进行评估,并自动匹配低、中、高三个成本档次的模型。简单的请求会被导向价格较低的模型,而需要深度推理或主观判断的问题则会被分配给能力更强的模型。企业可根据具体员工的需求进行个性化配置。
这一设计思路也在一定程度上回应了CollectivIQ自身面临的一个潜在矛盾:同时查询多个模型,可能会消耗比单一模型更多的Token。戴维坦言,公司最初对所有请求都调用最顶级的模型,但随着推理模型响应时间和成本的不断攀升,才逐步调整了路由策略。他表示,选择最高档次的用户需要接受更长的等待时间,而快速模型则能提供更短的响应延迟。
在生成综合答案方面,平台采用了CollectivIQ所称的"仲裁阶段"和"裁判阶段"来比对各模型的输出结果。若多数模型在某一数据或观点上达成一致,系统会降低异常答案的权重,但仍会向用户展示模型间的差异。新推出的"辩论模式"则更进一步,让各模型之间相互质疑和挑战彼此的回答。用户也可以查看各模型的独立输出,自行作出判断。
CollectivIQ将这种多模型对比机制定位为抵御幻觉、降低对单一AI供应商依赖的有效手段。"模型供应商不会主动拿自己的答案去和竞争对手比对,"戴维说。
目前,CollectivIQ已拥有约25个企业账户,覆盖数百名用户。公司目前处于自筹资金阶段,戴维表示预计将在未来三个月内寻求外部融资。
Q&A
Q1:CollectivIQ平台的定价模式是什么?和普通企业AI订阅相比有什么优势?
A:CollectivIQ通过API接口接入各家AI模型,按用户实际消耗的Token付费,而非为每位员工购买完整席位授权。面向至少100名用户的企业客户,定价约为每人每月10美元,相比部分个人高级AI订阅服务每月40美元的价格,成本大幅降低。此外,平台还内置智能路由功能,会根据请求复杂程度自动匹配低、中、高不同成本档次的模型,进一步优化整体使用成本。
Q2:CollectivIQ的"AI共识平台"是如何防止AI产生幻觉的?
A:CollectivIQ平台通过同时查询多家供应商(如OpenAI、谷歌、Anthropic等)的模型,并采用"仲裁阶段"和"裁判阶段"对各模型的输出进行比对。若多数模型在某一数据或观点上达成一致,系统会降低异常答案的权重,同时向用户展示模型间的分歧之处。此外,"辩论模式"还可让各模型相互质疑彼此的回答,用户也可查看各模型的独立输出自行判断,从而有效减少对单一模型答案的过度依赖。
Q3:CollectivIQ平台的"自动模式"是如何工作的?
A:平台的"自动模式"会对用户输入的提示词进行自动评估,并据此将请求路由至低、中、高三个成本档次的模型之一。简单直接的问题会被分配给价格较低的模型,而需要深度推理或涉及主观判断的复杂问题则会被导向能力更强的高级模型。企业管理员还可针对特定员工进行个性化配置,在控制整体成本的同时,确保不同需求的用户都能获得合适的AI能力支持。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.