Ollama v0.40.0:Apple Silicon 默认用 MLX 跑模型
Ollama 发布 v0.40.0,在 Apple Silicon 设备上,MLX 运行时支持的模型架构将默认通过 MLX 运行。同时新增多款模型支持,包括 gemma4、qwen3.6、qwen3.5、决策模型和嵌入模型。对在 Mac 上本地跑模型的用户有用。
要点速览
- 01Apple Silicon 设备上,MLX 支持的模型架构将默认在 MLX 上运行
- 02新增模型:gemma4、qwen3.6、qwen3.5
- 03决策模型 Nimble、tev1、clef、clef-flash 也支持 MLX
- 04MLX 新增嵌入模型 embeddinggemma-2 支持
- 05官方表示将继续测试并启用更多模型
影响
在 Apple Silicon Mac 上用 Ollama 本地运行模型的用户,可默认通过 MLX 获得模型运行支持。
原文来自 Ollama(GitHub),版权归原作者所有。中文标题和摘要由 AI 根据原文自动生成,可能有误,请以原文为准。