sidebar position: 4 title: "Provider 运行时解析" description: "Hermes 如何在运行时解析 Provider、凭据、API 模式和辅助模型" Hermes 有一个共享的 Provider 运行时解析器,在以下场景中使用: - CLI
> 📖 本文档翻译自 Provider Runtime Resolution > 最后更新:2026-04-16
sidebar_position: 4 title: "Provider 运行时解析" description: "Hermes 如何在运行时解析 Provider、凭据、API 模式和辅助模型"
Provider 运行时解析
Hermes 有一个共享的 Provider 运行时解析器,在以下场景中使用:
- CLI
- 网关
- 定时任务
- ACP
- 辅助模型调用
主要实现:
hermes_cli/runtime_provider.py——凭据解析、_resolve_custom_runtime()hermes_cli/auth.py——Provider 注册表、resolve_provider()hermes_cli/model_switch.py——共享的/model切换管道(CLI + 网关)agent/auxiliary_client.py——辅助模型路由
如果你要添加新的第一方推理 Provider,请将 添加 Provider 与本页一起阅读。
解析优先级
在高层级上,Provider 解析使用:
- 显式 CLI/运行时请求
config.yaml模型/Provider 配置- 环境变量
- Provider 特定默认值或自动解析
这个顺序很重要,因为 Hermes 将保存的模型/Provider 选择视为正常运行的真相来源。这防止过期的 shell 导出静默覆盖用户上次在 hermes model 中选择的端点。
Provider
当前的 Provider 系列包括:
- AI Gateway (Vercel)
- OpenRouter
- Nous Portal
- OpenAI Codex
- Copilot / Copilot ACP
- Anthropic(原生)
- Google / Gemini
- Alibaba / DashScope
- DeepSeek
- Z.AI
- Kimi / Moonshot
- MiniMax
- MiniMax China
- Kilo Code
- Hugging Face
- OpenCode Zen / OpenCode Go
- 自定义(
provider: custom)——用于任何 OpenAI 兼容端点的第一方 Provider - 命名自定义 Provider(
config.yaml中的custom_providers列表)
运行时解析的输出
运行时解析器返回以下数据:
providerapi_modebase_urlapi_keysource- Provider 特定元数据如过期/刷新信息
为什么这很重要
这个解析器是 Hermes 能在以下场景间共享认证/运行时逻辑的主要原因:
hermes chat- 网关消息处理
- 在全新会话中运行的定时任务
- ACP 编辑器会话
- 辅助模型任务
AI Gateway
在 ~/.hermes/.env 中设置 AI_GATEWAY_API_KEY 并使用 --provider ai-gateway 运行。Hermes 从网关的 /models 端点获取可用模型,过滤到支持工具使用的语言模型。
OpenRouter、AI Gateway 和自定义 OpenAI 兼容 Base URL
Hermes 包含逻辑以避免在存在多个 Provider 密钥(例如 OPENROUTER_API_KEY、AI_GATEWAY_API_KEY 和 OPENAI_API_KEY)时将错误的 API 密钥泄露到自定义端点。
每个 Provider 的 API 密钥限定在其自己的 Base URL:
OPENROUTER_API_KEY仅发送到openrouter.ai端点AI_GATEWAY_API_KEY仅发送到ai-gateway.vercel.sh端点OPENAI_API_KEY用于自定义端点并作为回退
Hermes 还区分:
- 用户选择的真正自定义端点
- 未配置自定义端点时使用的 OpenRouter 回退路径
这种区分在以下场景中尤为重要:
- 本地模型服务器
- 非 OpenRouter/非 AI Gateway 的 OpenAI 兼容 API
- 无需重新运行设置即可切换 Provider
- 应在当前 shell 未导出
OPENAI_BASE_URL时继续工作的配置保存的自定义端点
原生 Anthropic 路径
Anthropic 不再只是"通过 OpenRouter"。
当 Provider 解析选择 anthropic 时,Hermes 使用:
api_mode = anthropic_messages- 原生 Anthropic Messages API
agent/anthropic_adapter.py进行转换
原生 Anthropic 的凭据解析现在优先使用可刷新的 Claude Code 凭据,而非复制的环境变量令牌(当两者同时存在时)。实际效果是:
- Claude Code 凭据文件在包含可刷新认证时被视为首选来源
- 手动设置的
ANTHROPIC_TOKEN/CLAUDE_CODE_OAUTH_TOKEN值仍然作为显式覆盖 - Hermes 在原生 Messages API 调用前预检 Anthropic 凭据刷新
- Hermes 仍然在 401 后重建 Anthropic 客户端重试一次,作为回退路径
OpenAI Codex 路径
Codex 使用独立的 Responses API 路径:
api_mode = codex_responses- 专用的凭据解析和认证存储支持
辅助模型路由
辅助任务如:
- 视觉
- 网页提取摘要
- 上下文压缩摘要
- 会话搜索摘要
- 技能中心操作
- MCP 辅助操作
- 内存刷新
可以使用自己的 Provider/模型路由而非主对话模型。
当辅助任务配置 Provider 为 main 时,Hermes 通过与正常聊天相同的共享运行时路径解析。实际效果是:
- 环境变量驱动的自定义端点仍然有效
- 通过
hermes model/config.yaml保存的自定义端点也有效 - 辅助路由可以区分真正保存的自定义端点和 OpenRouter 回退
回退模型
Hermes 支持配置的回退模型/Provider 对,允许在主模型遇到错误时进行运行时故障转移。
内部工作原理
-
存储:
AIAgent.__init__存储fallback_model字典并设置_fallback_activated = False。 -
触发点:
_try_activate_fallback()从run_agent.py中主重试循环的三个位置被调用:- 无效 API 响应(None choices、缺失 content)达到最大重试次数后
- 遇到不可重试的客户端错误(HTTP 401、403、404)
- 瞬态错误(HTTP 429、500、502、503)达到最大重试次数后
-
激活流程(
_try_activate_fallback):- 如果已激活或未配置则立即返回
False - 调用
auxiliary_client.py中的resolve_provider_client()构建带正确认证的新客户端 - 确定
api_mode:openai-codex 为codex_responses,anthropic 为anthropic_messages,其他为chat_completions - 就地替换:
self.model、self.provider、self.base_url、self.api_mode、self.client、self._client_kwargs - 对于 anthropic 回退:构建原生 Anthropic 客户端而非 OpenAI 兼容客户端
- 重新评估提示词缓存(在 OpenRouter 上的 Claude 模型启用)
- 设置
_fallback_activated = True——防止再次触发 - 将重试计数重置为 0 并继续循环
- 如果已激活或未配置则立即返回
-
配置流程:
- CLI:
cli.py读取CLI_CONFIG["fallback_model"]→ 传递给AIAgent(fallback_model=...) - 网关:
gateway/run.py._load_fallback_model()读取config.yaml→ 传递给AIAgent - 验证:
provider和model键必须都非空,否则回退被禁用
- CLI:
不支持回退的部分
- 子 Agent 委托(
tools/delegate_tool.py):子 Agent 继承父 Agent 的 Provider 但不继承回退配置 - 定时任务(
cron/):使用固定 Provider 运行,无回退机制 - 辅助任务:使用自己独立的 Provider 自动检测链(见上方辅助模型路由)
测试覆盖
参见 tests/test_fallback_model.py,其中包含覆盖所有支持的 Provider、一次性语义和边界情况的全面测试。