OmniRoute 3.8.48 开源软件 – 开源本地AI路由平台

介绍

OmniRoute 是一款免费开源的 AI 网关与智能路由工具，可在 macOS 上通过 npm、Docker、桌面应用或源码方式运行，把 OpenAI 兼容接口、Claude、Gemini、Responses API 以及大量模型服务统一到一个本地端点。它聚合 236 个提供商，支持自动故障转移、订阅额度消耗、免费额度统计、成本优化路由和多层弹性保护，适合 Claude Code、Codex、Cursor、Cline、Copilot、Gemini CLI 等编码代理统一接入。软件内置仪表盘、17 种路由策略、RTK 与 Caveman 叠加压缩、FTS5 与向量混合记忆、MCP Server、A2A 协议、代理与 TLS 指纹伪装、Guardrails、评测和分析能力，让开发者在本地优先的架构下管理密钥、配额、健康状态与请求成本，减少频繁改配置、额度中断和工具割裂带来的工作流摩擦。

截图

功能

OmniRoute 是面向开发者和 AI 编码工作流的开源网关，可将 236 个模型与服务提供商整合到一个本地 OpenAI 兼容端点，通过仪表盘完成提供商连接、路由策略、免费额度、健康状态、成本分析和代理协议管理，适合需要在 macOS 上同时使用多种 CLI、IDE 插件和云端编码代理的用户。

• 统一端点接入: 将 Claude Code、Codex、Cursor、Cline、Copilot、Gemini CLI、OpenCode、Continue 等工具统一指向 localhost:20128/v1，背后自动适配 OpenAI、Claude、Gemini 与 Responses API，减少每个工具单独配置模型和密钥的重复工作。
• 236个提供商目录: 覆盖 OAuth、API Key、本地模型、网页服务、搜索、音频、图像、视频、Embedding、Rerank 与音乐等类别，包含 OpenAI、Groq、NVIDIA、Cerebras、Mistral、Ollama、LM Studio、vLLM 等常见后端，方便按任务选择不同能力。
• 毫秒级自动故障转移: 当提供商额度耗尽、连接异常或模型限流时，OmniRoute 可在多层候选中自动切换到下一个可用目标，避免编码任务在中途因单个服务不可用而中断。
• 17种路由策略: 支持 priority、fill-first、round-robin、p2c、least-used、cost-optimized、context-relay、context-optimized、random、auto、last-known-good、reset-aware 等策略，可围绕速度、成本、上下文长度、订阅额度消耗和稳定性创建组合。
• 免费额度管理: 可跟踪 90 多个带免费层的提供商并进行池化去重统计，优先消耗即将浪费的可用额度，帮助开发者在多账号和多服务之间更清楚地掌握剩余资源。
• 令牌压缩管线: 内置 Session-Dedup、CCR、RTK、Headroom、Relevance、Caveman、LLMLingua-2 等可组合压缩引擎，可针对工具输出、重复上下文和冗长 JSON 进行精简，降低长会话与工具密集任务的 token 消耗。
• 三层弹性保护: 以提供商 circuit breaker、连接 cooldown、模型 lockout 三个层级隔离故障，单个密钥、单个模型或单个上游异常不会拖垮整条路由链，其它可用连接仍能继续服务。
• 本地仪表盘管理: 在 localhost:20128/dashboard 查看提供商连接、组合策略、请求分析、健康状态、成本估算、免费额度使用和故障恢复情况，无需长期维护复杂 YAML 配置。
• MCP与A2A代理协议: 内置 MCP Server，暴露 95 个工具与 30 个作用域，并提供 A2A JSON-RPC 服务器和 6 项代理技能，让智能代理可以查询配额、调整路由、分析成本、检查健康状态并驱动网关本身。
• 隐私与网络穿透: 密钥、使用记录和历史数据保存在本机 SQLite 中，凭据使用 AES-256 加密；支持全局、按提供商、按连接的代理配置，以及 TLS JA3/JA4 指纹伪装和 CLI 指纹匹配，用于改善受限网络环境下的连接成功率。

下载链接