接入多个模型时，重复处理不同调用格式会增加维护工作。LiteLLM 提供 Python SDK 与网关两种使用方式。本文只介绍 SDK 学习路径，具体提供商、模型标识和认证要求以 官方提供商文档 为准。

先判断是否需要单独部署网关

个人脚本可以先从 Python 库开始；集中管理团队接入属于另一类部署任务。本篇不要求启动公开服务，也不提供通用模型名。统一接口能减少代码分支，但不意味着不同模型拥有相同的能力、上下文和可选参数。

准备一个独立环境

依据仓库当前安装说明，在虚拟环境中安装 SDK，保留所选版本。找到你准备使用的提供商文档，确认服务开通、模型标识和凭据变量名称。在本机环境配置真实凭据，不要把它写入网页或文章截图。开源软件许可也不代表外部模型调用免费。

编写最小调用骨架

import os
from litellm import completion

# MODEL_ID 由你设置为官方文档支持的完整模型标识。
# 提供商要求的认证变量也需事先按其文档设置。
response = completion(
    model=os.environ["MODEL_ID"],
    messages=[{"role": "user", "content": "请用一句话解释什么是文件备份。"}],
)
print(response.choices[0].message.content)

这是一份需要配置的骨架，不是粘贴后无需准备即可运行的完整环境。先使用不含私密信息的短问题；成功后再加入实际任务。不要同时添加工具、图片、流式输出等功能，以便区分基础接入与能力支持问题。

根据错误阶段排查

  1. 导入失败：核对安装环境是否与执行脚本的 Python 一致。
  2. 缺少 MODEL_ID：先设置本机变量，再运行。
  3. 认证或权限失败：按所选提供商检查凭据和服务权限。
  4. 参数不支持：查看该模型当前支持范围，回到最小调用。

保存错误类型与请求时间，分享排错记录前移除凭据及敏感输入。

常见问题

换个模型名就一定能切换吗？

还需要对应凭据、权限和参数兼容性；高级能力尤其要分别验证。

如何确认实际用了哪个服务？

记录自己的路由配置与返回元数据，并结合服务端用量记录核对，不能仅凭回答语气判断。

Windows 本地模型完整示例

这个示例使用已经安装并启动的 Ollama；先执行 ollama list，确认至少有一个本地模型。若列表为空，按 Ollama 模型库选择适合自己设备的模型并下载。模型名称要以列表实际输出为准。

mkdir litellm-practice
cd litellm-practice
python -m venv .venv
.\.venv\Scripts\python.exe -m pip install litellm

在此目录新建 chat.py，将下面代码的模型名称替换成列表中的实际名称。例如列表名称为 model:tag，就填写 ollama_chat/model:tag。

from litellm import completion

response = completion(
    model="ollama_chat/替换为实际模型名",
    api_base="http://localhost:11434",
    messages=[{"role": "user", "content": "请用一句话解释软件备份。"}],
    timeout=120,
)
print(response.choices[0].message.content)

保存后执行 .\.venv\Scripts\python.exe chat.py。成功时终端会输出模型的回答；内容因模型而异。连接失败时确认 Ollama 服务运行且地址可访问；模型找不到时核对名称和标签。参考 LiteLLM 的 Ollama 文档。下一步可做两个模型对比练习。

项目来源与许可

原项目：BerriAI/litellm。许可说明：普通目录为 MIT；enterprise 目录适用单独许可，详见原仓库许可与说明。仓库与许可核验于 2026-10-31。本文为本站编写的中文导读与练习设计，不是原教程逐字翻译；未在读者环境执行，运行结果需自行核对。