本地模型适合用来理解模型下载、运行服务和实际推理之间的关系。本篇从一次可检查的文本对话开始，帮助你区分“安装了软件”和“模型已经能正常回答问题”。练习不会要求你把本地服务开放到互联网。

先确认选的是本地运行

Ollama 官方仓库提供桌面下载与快速入门，当前也支持云端使用路径。按官方 Quickstart安装并启动后，可以运行 ollama，按照提示选择本地模型。模型所需内存和磁盘空间随具体模型而变，下载前查看对应模型说明，不要只看参数量大小。

完成一次固定输入的对话

先选择能在自己机器上运行的模型，再输入一段自己写的短文。例如：

我准备写一篇软件教程。已经完成资料核对，尚未补充截图。
请把这段话改成两个待办事项，不要增加原文没有提到的工作。

检查回答是否包含“补充截图”，以及有没有误把已经完成的资料核对当作未完成工作。用这种有明确答案范围的短输入，通常更容易判断服务是否真的正常。

记录运行环境，方便以后比较

保存模型的完整名称、输入文本，以及你观察到的等待时间。后续更换模型时，继续使用同一份输入。不要仅根据一次回答的文风判断性能，也不要把下载模型的耗时算作每次推理耗时。

想接到程序里，先认识本地接口

官方快速入门展示了本地 /api/chat 请求。下面是本站编写的 PowerShell 练习，先把模型名替换成你已安装并能对话的实际名称；它只访问本机地址。

$body = @{
  model = '替换成已安装模型的名称'
  messages = @(@{ role = 'user'; content = '请用一句话解释什么是软件教程。' })
  stream = $false
} | ConvertTo-Json -Depth 5
Invoke-RestMethod -Uri 'http://localhost:11434/api/chat' -Method Post -ContentType 'application/json; charset=utf-8' -Body ([Text.Encoding]::UTF8.GetBytes($body))

这段命令需要本地服务正在运行。先核对返回内容，再考虑把它接入自己的应用；模型名称占位文字不能原样发送。

常见问题

连接不上本地接口怎么办？

先确认 Ollama 已运行，再核对地址和端口。Linux 环境可按官方说明检查是否需要启动 ollama serve。

为什么第一次特别慢？

把下载、加载模型和生成回答分开观察，再检查机器可用资源。不要反复重装来代替定位具体环节。

本地运行就一定完全离线吗？

先确认自己选择的模型和功能确实是本地路径；下载资源、使用云端模型或连接外部工具可能仍需要网络。

Windows 实操：验证下载、对话和接口

先从 Ollama 下载页面安装 Windows 版本并启动。打开新的 PowerShell，依次查看版本和已下载模型：

ollama --version
ollama list

如果没有模型，打开 模型库选择适合自己电脑的本地模型，核对大小和许可。根据模型页面给出的名称执行 ollama run 模型名，等待下载与加载；这会占用网络和磁盘空间。这里的“模型名”必须替换为实际名称，不要原样输入。

看到交互提示后输入：请把“先打开设置，再点击备份”改写成两个编号步骤，不要增加新操作。核对结果应包含打开设置和点击备份，且顺序一致。完成后输入 /bye退出交互；用 ollama list确认模型已出现在本地列表。

接下来使用上文 PowerShell 接口示例：将 model 的占位文字替换为列表中的完整名称，再整段执行。返回对象中检查 message.content。若端口连接失败，先确认 Ollama 应用已启动；若提示模型未找到，检查名称与标签是否完全一致。下载耗时不应当计入每次回答耗时。

项目来源与许可

原项目：ollama/ollama。许可说明：MIT，详见原仓库许可与说明。仓库与许可核验于 2026-10-31。本文为本站编写的中文导读与练习设计，不是原教程逐字翻译；未在读者环境执行，运行结果需自行核对。