Ollama v0.35.0 新增决策模型支持
Ollama 发布 v0.35.0，通过 /v1/systemone 接口支持决策模型，基于 TypeSafe 的 Jev API。这类模型不返回文本，而是返回选项、概率和分数，可用于工单分类、模型路由等任务。目前提供 Bespoke Labs 的 Nimble 和 Together AI 的 Tev1 两个模型。
要点速览
- 01新增 /v1/systemone 接口支持决策模型，基于 TypeSafe 的 Jev API
- 02决策模型返回选项、概率和分数，而非文本
- 03提供 Nimble（Bespoke Labs）和 Tev1（Together AI）两个模型，可通过 ollama pull 下载
- 04API 支持 choice 等三种问题类型，choice 会返回各选项概率和置信度
影响
适合需要做分类、路由等结构化判断的开发者，输出概率和分数便于程序直接使用。
原文来自 Ollama（GitHub），版权归原作者所有。中文标题和摘要由 AI 根据原文自动生成，可能有误，请以原文为准。