微软用一种新模式将决策与生成性人工智能分开
微软表示,Decision-1旨在比通用大型语言模型更有效地处理路由、分类和验证任务。
微软推出了Decision-1,这是一个人工智能模型,可以返回预定义答案的概率,允许软件应用程序直接使用其输出,而不是处理来自大型语言模型(LLM)的自由形式响应。
该模型针对任务,如对请求进行分类、对事件进行优先排序以及检查人工智能生成的响应。微软表示,与依赖通用LLM的方法相比,它可以以更低的成本和延迟来处理这些决策。
微软在一篇博文中说:“它不是编写自由形式的响应,而是需要一组固定的答案选项,并在一次通过中返回每个选项的校准概率。”
据该公司称,Microsoft-Decision-1可以通过Microsoft Foundry和OpenRouter获得。微软通过培训后Qwen3.5-9B构建了该模型,并表示计划将其重新建立在其他模型上,包括微软人工智能(MAI)和OpenAI模型。
模型针对特定决策
微软表示,Decision-1支持是或否判断、预定义选项之间的选择、评级以及基于标题的人工智能响应和代理行动评估。开发人员可以使用其输出对输入进行分类、对工作进行排名、验证响应或确定人工智能代理工作流程中的下一个操作。
与可以生成解释和其他自然语言内容的通用LLM不同,决策模型返回可用答案的概率。微软表示,其Decision-1模型还可以在单个请求中并行评估多个决策。
微软引用了基准结果
据微软称,Decision-1在36个基准的比较中取得了最高的准确性,涵盖了近15万个问题,这些问题被忽视了。该公司还报告说,该模型比亚军快约2.5倍,比GPT-6 Sol快35倍。
根据博客文章,微软将价格列为每百万个输入令牌4.2美分,输出令牌不收费。
在事件优先级示例中,该公司表示,使用86个输入令牌和两个输出令牌的请求成本约为0.0000036美元。按照这个费率,1美元将涵盖超过275,000个类似决定。
基准结果和成本计算是微软的声明,尚未经过独立验证。
Forrester副总裁兼首席分析师Charlie Dai表示,专门的决策模型可以降低代理人工智能工作流程的成本和延迟。
Dai说:“路由、分类和批准检查通常占代理交互的很大一部分,因此专门的决策模型可以显著降低成本和延迟,同时保留通用LLM用于推理和内容生成。”
Kanerika人工智能开发经理Amit Kumar Jena表示,将常规路由和批准检查从大型生成模型中移出,对于企业扩展人工智能代理来说,这是一个有意义的架构变化。
然而,Jena警告说,不要使用微软的基准结果来预测企业的节省。他说,组织应该衡量“每个成功完成的工作流程的成本和延迟,包括回退和错误。”
治理风险
决策-1返回分数,但未提供每个决策的理由。Jena说,微软的文档还警告说,结果可能会根据问题的措辞而变化。
他说:“我担心的是,一个精确的概率可以给一个不确定的决定带来比它应得的更多的权威。”
Dai说,缺乏推理会使决策更难解释、验证和挑战。他建议校准测试、对问题措辞和分数阈值的控制、审计记录和人工审查对高影响力决策进行,特别是当涉及客户结果或监管义务时。
Jena建议从可逆任务开始,例如请求路由和分类,并要求对对人产生重大影响的决定进行有意义的人工审查。
关注点集中在组织如何解释模型的分数并使用它们来触发行动。分配给答案的概率本身并不能解释该决定,也不能确定它对特定企业应用程序是正确的。