配置开发环境,理解 LLM API 调用方式,创建可切换国内模型的统一工厂函数。
配置开发环境,理解 LLM API 调用方式,创建可切换国内模型的统一工厂函数。
| 模型 | API 地址 | 兼容性 | 特点 |
|---|---|---|---|
| DeepSeek | api.deepseek.com/v1 | OpenAI 兼容 | 性价比高,tool calling 强 |
| 智谱 GLM | open.bigmodel.cn/api/paas/v4 | OpenAI 兼容 | 中英双语优秀 |
| 通义千问 | dashscope.aliyuncs.com/compatible-mode/v1 | OpenAI 兼容 | 阿里云生态,VL 视觉模型 |
所有模型都兼容 OpenAI API 格式,意味着同一个 ChatOpenAI 类可以调用所有模型,只需切换 base_url。
在开发 Agent 时,你可能需要:
- 开发阶段用便宜的模型(DeepSeek)
- 生产阶段用更强的模型(GPT-4o)
- 视觉任务用多模态模型(通义千问 VL)
llm_factory.py 通过环境变量统一管理这些切换。
from module_00_setup.llm_factory import create_llm
# 默认使用 .env 中配置的 provider
llm = create_llm()
# 或指定 provider
llm = create_llm(provider="zhipu")
# 调用
response = llm.invoke("你好")
print(response.content)
# 1. 复制配置模板
cp .env.template .env
# 2. 编辑 .env 填入 API Key
# 3. 验证环境
python module_00_setup/check_environment.py
# 4. 测试 API 连通性
python module_00_setup/llm_factory.py
| 文件 | 说明 |
|---|---|
.env.template |
API 配置模板 |
module_00_setup/llm_factory.py |
LLM 工厂函数 |
module_00_setup/check_environment.py |
环境检查脚本 |
requirements.txt |
依赖清单 |
- 所有国内主流模型都提供 OpenAI 兼容 API
- 善用 .env 管理敏感信息(永远不要把 API Key 提交到 git)
- ChatOpenAI 通过 base_url 参数适配任意兼容 API