北京
来源：环球市场播报
OpenAI首次向用户全面开放其Decisions API模型，正式进军快速、低成本人工智能决策市场。近期，由一名前沿人工智能实验室研究员创立的初创公司TypeSafe，凭借旗下Jev模型在这一市场取得成功，估值达到76亿美元。
TypeSafe的Jev模型开创了一类新的深度学习模型，即能够充当“超级分类器”的模型。这类模型可以根据给定的一组选项迅速作出选择，并为决策结果提供置信度评分。
软件开发者很快发现，这些被称为“决策模型”或“系统一”（System One）模型的技术，可以在多种工作流程中替代大语言模型（LLM），不仅运行速度更快，而且成本大幅降低。
OpenAI API产品负责人尼昆杰·汉达（Nikunj Handa）向TechCrunch表示，他的同事在看到Jev后惊叹道：“哇，我们简直有上百万种应用场景可以使用这项技术。”
汉达的团队随即加快开发自己的版本。不过，他们并未从头构建专门经过置信度校准的决策模型，而是选择对ChatGPT Luna模型进行重新配置，以提高推理速度并降低成本。
汉达表示：“Decisions API带来的最大突破在于速度。我们将原本需要1至3秒的任务，缩短到了100、120甚至180毫秒。”
“未来，我们可能会通过专门的训练，进一步提高模型在这些方面的表现。但就目前而言，普通的Luna模型已经足以完成任务。”
OpenAI于9月29日举行的开发者大会上宣布推出Decisions API，并于周四向所有客户开放。
在公开版本中，OpenAI新增了语音和视觉模态支持，并通过针对不同地理区域部署推理资源，努力降低全球各地用户的访问延迟。
在与Box、Datadog、Ramp和Speak等客户开展的初期测试中，工程师利用这款API替代OpenAI原有的大语言模型，以实现更高的吞吐量。
AI语言学习应用Speak的首席技术官安德鲁·徐（Andrew Hsu）表示，Decisions API帮助该公司将操作之间的响应时间从1.4秒缩短至0.13秒。
OpenAI还利用这项技术提高了旗下Dots语音助手的响应速度。
不过，究竟什么才算优秀的决策模型，目前仍缺乏明确标准。除了“能够满足用户需求”之外，模型在智能水平、成本、置信度校准和速度之间的最优平衡，似乎会因具体工作负载而有所不同。
TypeSafe首席执行官迪奥戈·阿尔梅达（Diogo Almeida）对基准测试持怀疑态度，并鼓励用户在实际工作中测试模型。
但即便是TypeSafe，也在上周发布最新版Jev模型的同时，公布了自己的模型排行榜。
最新版Jev新增了多项功能，包括图像支持和智能条件判断语句（smart-if statements）。
AIM System One Index和Artificial Analysis Decision Index等公开基准测试，更倾向于支持Liquid上周推出的新型决策模型D1 Ultra，以及Base Lab的Elephant-1。
最新版Jev模型在上述两个排行榜中仍具有竞争力，分别位列第七和第三；相比之下，OpenAI的Decision Model分别排名第八和第十四。
不过，就目前而言，TypeSafe的模型仍是OpenRouter平台上查询使用最广泛的决策模型。
最有趣的Jev基准测试则是JevMan。这项测试要求决策模型玩经典游戏《吃豆人》（Pac-Man），最新版Jev模型在该排行榜上位居榜首。
开发这项基准测试的Opper AI首席增长官费利克斯·温德利希（Felix Wunderlich）表示，这款经典游戏“是一项有趣的测试，因为玩家必须连续不断地作出快速且事关成败的决策。每到一个岔路口，模型都必须在几百毫秒内决定前进方向”。
OpenAI的模型可以说拥有更强的综合能力，而其潜在优势可能在于多模态处理。
汉达向TechCrunch表示，在图像分类方面，“Luna的能力极其强大，而且表现出了更好的置信度校准效果”。
他补充称，OpenAI客户还希望Decisions API能够更加灵活地将图像作为输出结果。
汉达认为，推理速度的进一步提高还将催生新的应用场景。
他表示：“我们能不能将延迟降低到大约60毫秒？如果能做到，你就可以想象这样一种API调用方式：比如，对视频中的每一帧都调用一次API。”
随着这些模型变得越来越快、越来越便宜，我们可以预期，它们将印证Jev名称所致敬的那位经济学家的理论：当一种资源的使用效率提高时，其应用反而会变得更加普遍。
换句话说，正如汉达所认为的那样，决策模型将催生越来越多“令人难以想象的应用场景”。这些场景其实一直就在眼前，只是直到决策模型出现后，人们才真正发现它们的可能性。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
