# 🚀 OmniRoute — 免費 AI 閘道器

🌐 **語言:** 🇺🇸 [English](../../../README.md) · 🇸🇦 [ar](../ar/README.md) · 🇧🇬 [bg](../bg/README.md) · 🇧🇩 [bn](../bn/README.md) · 🇨🇿 [cs](../cs/README.md) · 🇩🇰 [da](../da/README.md) · 🇩🇪 [de](../de/README.md) · 🇪🇸 [es](../es/README.md) · 🇮🇷 [fa](../fa/README.md) · 🇫🇮 [fi](../fi/README.md) · 🇫🇷 [fr](../fr/README.md) · 🇮🇳 [gu](../gu/README.md) · 🇮🇱 [he](../he/README.md) · 🇮🇳 [hi](../hi/README.md) · 🇭🇺 [hu](../hu/README.md) · 🇮🇩 [id](../id/README.md) · 🇮🇹 [it](../it/README.md) · 🇯🇵 [ja](../ja/README.md) · 🇰🇷 [ko](../ko/README.md) · 🇮🇳 [mr](../mr/README.md) · 🇲🇾 [ms](../ms/README.md) · 🇳🇱 [nl](../nl/README.md) · 🇳🇴 [no](../no/README.md) · 🇵🇭 [phi](../phi/README.md) · 🇵🇱 [pl](../pl/README.md) · 🇵🇹 [pt](../pt/README.md) · 🇧🇷 [pt-BR](../pt-BR/README.md) · 🇷🇴 [ro](../ro/README.md) · 🇷🇺 [ru](../ru/README.md) · 🇸🇰 [sk](../sk/README.md) · 🇸🇪 [sv](../sv/README.md) · 🇰🇪 [sw](../sw/README.md) · 🇮🇳 [ta](../ta/README.md) · 🇮🇳 [te](../te/README.md) · 🇹🇭 [th](../th/README.md) · 🇹🇷 [tr](../tr/README.md) · 🇺🇦 [uk-UA](../uk-UA/README.md) · 🇵🇰 [ur](../ur/README.md) · 🇻🇳 [vi](../vi/README.md) · 🇨🇳 [zh-CN](../zh-CN/README.md) · 🇹🇼 [zh-TW](../zh-TW/README.md)

---

<div align="center">

<img src="../../screenshots/MainOmniRoute.png" alt="OmniRoute 儀表板" width="820"/>

<br/>

# 🚀 OmniRoute — 免費 AI 閘道器

### 開發不停歇。只需單一端點，即可將所有 AI 工具串接至 **329 家模型提供者** — **155 個免費／免驗證目錄項目**。

**將 Claude Code、Codex、Cursor、Cline、Copilot 與 Antigravity 無縫對接至免費的 Claude / GPT / Gemini，支援自動切換備援。**

<br/>

**RTK + Caveman 堆疊壓縮可節省 15–95% 的 Token（平均約 89%），告別額度上限痛點。**

<br/>

**~1.53B 有記錄的免費 Token/月** — 首月透過註冊獎勵最高可達 **~2.15B** — 聚合所有免費層配額，加上沒有公開 Token 上限但仍受速率／並發限制的提供者，再輔以智慧壓縮進一步延長每一分 Token 開銷。([統計方法 →](../../reference/FREE_TIERS.md#tldr--how-much-free-inference-does-omniroute-actually-aggregate))

<br/>

[![329 AI Providers](https://img.shields.io/badge/329-AI_Providers-6C5CE7?style=for-the-badge)](#-329-ai-providers--155-freeno-auth)
[![155 Free/No-Auth](https://img.shields.io/badge/155-Free%2FNo--Auth-00B894?style=for-the-badge)](#-329-ai-providers--155-freeno-auth)
[![1.53B Free Tokens/mo](https://img.shields.io/badge/1.53B-Free_Tokens%2Fmo-00B894?style=for-the-badge)](../../reference/FREE_TIERS.md)
[![Token Savings](https://img.shields.io/badge/up_to_95%25-Token_Savings-E17055?style=for-the-badge)](#%EF%B8%8F-save-1595-tokens--automatically)
[![19 Strategies](https://img.shields.io/badge/19-Routing_Strategies-0984E3?style=for-the-badge)](#-combos--the-flagship)
[![$0 to start](https://img.shields.io/badge/%240-To_Start-FDCB6E?style=for-the-badge&logoColor=black)](#-quick-start)

<br/>

### 💬 加入社群

[![Discord](https://img.shields.io/badge/Discord-5865F2?style=for-the-badge&logo=discord&logoColor=white)](https://discord.gg/U47eFqAXCn)
[![Telegram](https://img.shields.io/badge/Telegram-26A5E4?style=for-the-badge&logo=telegram&logoColor=white)](https://t.me/omnirouteOficial)
[![WhatsApp Global](https://img.shields.io/badge/WhatsApp_Global-25D366?style=for-the-badge&logo=whatsapp&logoColor=white)](https://chat.whatsapp.com/JI7cDQ1GyaiDHhVBpLxf8b?mode=gi_t)
[![WhatsApp Brasil](https://img.shields.io/badge/WhatsApp_Brasil-25D366?style=for-the-badge&logo=whatsapp&logoColor=white)](https://chat.whatsapp.com/LTSpdFhXTxjH4R6CCNiKWz)

**問題、提供者技巧、路線圖與支援 → [Discord](https://discord.gg/U47eFqAXCn) · [Telegram](https://t.me/omnirouteOficial) · WhatsApp [🌍 全球](https://chat.whatsapp.com/JI7cDQ1GyaiDHhVBpLxf8b?mode=gi_t) / [🇧🇷 巴西](https://chat.whatsapp.com/LTSpdFhXTxjH4R6CCNiKWz)**

<br/>

<a href="https://trendshift.io/repositories/23589" target="_blank"><img src="https://trendshift.io/api/badge/repositories/23589" alt="diegosouzapw%2FOmniRoute | Trendshift" style="width: 250px; height: 55px;" width="250" height="55"/></a>

[![npm](https://img.shields.io/npm/v/omniroute?logo=npm&style=flat-square)](https://www.npmjs.com/package/omniroute)
[![License: MIT](https://img.shields.io/badge/License-MIT-yellow.svg?style=flat-square)](../../LICENSE)
[![Node](https://img.shields.io/badge/node-%E2%89%A522.0.0-brightgreen?style=flat-square)](../../package.json)
[![Stars](https://img.shields.io/github/stars/diegosouzapw/OmniRoute?style=social)](https://github.com/diegosouzapw/OmniRoute)

<div align="center">

[![npm version](https://img.shields.io/npm/v/omniroute?color=cb3837&logo=npm)](https://www.npmjs.com/package/omniroute)
![NPM Monthly](https://img.shields.io/npm/dm/omniroute?label=npm/month&color=cb3837&logo=npm)
[![Docker Hub](https://img.shields.io/docker/v/diegosouzapw/omniroute?label=Docker%20Hub&logo=docker&color=2496ED)](https://hub.docker.com/r/diegosouzapw/omniroute)
![Docker Pulls](https://img.shields.io/docker/pulls/diegosouzapw/omniroute?label=docker%20pulls&logo=docker&color=2496ED)
![Electron Downloads](https://img.shields.io/github/downloads/diegosouzapw/omniroute/total?style=flat&label=electron%20downloads&logo=electron&color=47848F)
[![Website](https://img.shields.io/badge/Website-omniroute.online-blue?logo=google-chrome&logoColor=white)](https://omniroute.online)

</div>

<br/>

[**🚀 快速開始**](#-quick-start) • [**🎯 Combo**](#-combos--the-flagship) • [**🌐 提供者**](#-329-ai-providers--155-freeno-auth) • [**🔌 CLI 與 MCP**](#-full-cli--a2a--mcp) • [**🗜️ 壓縮**](#%EF%B8%8F-save-1595-tokens--automatically) • [**🌍 網站**](https://omniroute.online)

[💥 承諾](#-the-promise) • [🤔 為什麼](#-why-omniroute) • [🏆 優勢](#-what-sets-omniroute-apart) • [🤖 相容 CLI](#-compatible-clis--coding-agents) • [🖥️ 執行平台](#%EF%B8%8F-where-omniroute-runs--anywhere) • [🔒 隱私](#-private--local-first) • [🎬 實際展示](#-omniroute-in-action) • [📚 探索更多](#-explore-more) • [📧 支援](#-support--community)

</div>

<div align="center">
 <b>🌐 支援 43 種語言環境</b>
 <table>
  <tr>
    <td align="center"><a href="README.md">🇺🇸</a></td>
    <td align="center"><a href="docs/i18n/pt-BR/README.md">🇧🇷</a></td>
    <td align="center"><a href="docs/i18n/es/README.md">🇪🇸</a></td>
    <td align="center"><a href="docs/i18n/fr/README.md">🇫🇷</a></td>
    <td align="center"><a href="docs/i18n/it/README.md">🇮🇹</a></td>
    <td align="center"><a href="docs/i18n/ru/README.md">🇷🇺</a></td>
    <td align="center"><a href="docs/i18n/zh-CN/README.md">🇨🇳</a></td>
    <td align="center"><a href="docs/i18n/zh-TW/README.md">🇹🇼</a></td>
    <td align="center"><a href="docs/i18n/de/README.md">🇩🇪</a></td>
    <td align="center"><a href="docs/i18n/ja/README.md">🇯🇵</a></td>
    <td align="center"><a href="docs/i18n/ko/README.md">🇰🇷</a></td>
  </tr>
  <tr>
    <td align="center"><a href="docs/i18n/th/README.md">🇹🇭</a></td>
    <td align="center"><a href="docs/i18n/vi/README.md">🇻🇳</a></td>
    <td align="center"><a href="docs/i18n/id/README.md">🇮🇩</a></td>
    <td align="center"><a href="docs/i18n/ms/README.md">🇲🇾</a></td>
    <td align="center"><a href="docs/i18n/phi/README.md">🇵🇭</a></td>
    <td align="center"><a href="docs/i18n/ar/README.md">🇸🇦</a></td>
    <td align="center"><a href="docs/i18n/he/README.md">🇮🇱</a></td>
    <td align="center"><a href="docs/i18n/az/README.md">🇦🇿</a></td>
    <td align="center"><a href="docs/i18n/uk-UA/README.md">🇺🇦</a></td>
    <td align="center"><a href="docs/i18n/pl/README.md">🇵🇱</a></td>
    <td align="center"><a href="docs/i18n/cs/README.md">🇨🇿</a></td>
  </tr>
  <tr>
    <td align="center"><a href="docs/i18n/nl/README.md">🇳🇱</a></td>
    <td align="center"><a href="docs/i18n/bg/README.md">🇧🇬</a></td>
    <td align="center"><a href="docs/i18n/da/README.md">🇩🇰</a></td>
    <td align="center"><a href="docs/i18n/fi/README.md">🇫🇮</a></td>
    <td align="center"><a href="docs/i18n/no/README.md">🇳🇴</a></td>
    <td align="center"><a href="docs/i18n/sv/README.md">🇸🇪</a></td>
    <td align="center"><a href="docs/i18n/hu/README.md">🇭🇺</a></td>
    <td align="center"><a href="docs/i18n/ro/README.md">🇷🇴</a></td>
    <td align="center"><a href="docs/i18n/sk/README.md">🇸🇰</a></td>
    <td align="center"><a href="docs/i18n/pt/README.md">🇵🇹</a></td>
    <td align="center"></td>
  </tr>
</table>
</div>

<br/>

<div align="center">

# 💰 ~1.53B 免費 Token / 月

</div>

> 手動堆疊免費層很痛苦 — 數十個 SDK、數十個速率限制，而且你不清楚自己到底有多少配額。OmniRoute 將 **43 個提供者池 / 522 個模型預算項目**的**有記錄**免費層聚合為一個真實數字，並在儀表板上即時展示 (`/dashboard/free-tiers`)。

- **~1.53B 免費 Token/月**（穩定） — 首月透過註冊獎勵最高可達 **~2.15B**。
- **跨池去重，真實不虛報** — 每個共享免費池僅計算**一次**，絕不以速率限制數據誇大宣傳。（若全天候無上限累計，數字可達 ~10B，但我們堅持僅發布實際可用的真實數據。）
- **加上不可計數的免費資源** — 沒有公開 Token 上限但仍受速率／並發限制的提供者（SiliconFlow、Z.AI GLM-Flash、Kilo、OpenCode Zen…）以及 **$10 OpenRouter 充值**可解鎖 **+24M/月**，兩者獨立列出，絕不誇大統計數字。
- **按模型細分**，當月**已用/剩餘**即時顯示，以及每個提供者的透明**條款標記**。

![Free-Tier Budget card (preview mockup)](../../screenshots/free-tier-budget-card.svg)

> 預覽模型 — 實際截圖將在 `/dashboard/free-tiers` 頁面驗證後上線。完整方法論（池去重、信用層級、提供者條款）：**[docs/reference/FREE_TIERS.md](../../reference/FREE_TIERS.md)**。

<br/>

<div align="center">

# 💥 承諾

</div>

> 單一端點。**329 家提供者。** 讓開發流程暢行無阻 — 由 OmniRoute 自動挑選最划算且可行的最佳方案。

<table>
  <tr>
    <td width="33%" valign="top"><b>🛡️ 彈性備援</b><br/><sub>上游或配額失敗時嘗試下一條合格路由；實際可用性取決於提供者與候選路由。</sub></td>
    <td width="33%" valign="top"><b>💸 節省高達 95% 的 Token</b><br/><sub>RTK + Caveman 堆疊壓縮可削減 15–95% 的合格 Token（工具密集型會話平均約 89%）。</sub></td>
    <td width="33%" valign="top"><b>🆓 零成本輕鬆上手</b><br/><sub>155 個目錄項目標記為免費／免驗證；條件與限額依提供者而異。</sub></td>
  </tr>
  <tr>
    <td width="33%" valign="top"><b>🔌 廣泛相容各式工具</b><br/><sub>33 個編碼工具與代理 — Claude Code、Codex、Cursor、Cline、Copilot、Antigravity — 單一設定隨插即用。</sub></td>
    <td width="33%" valign="top"><b>🧩 單一統一端點</b><br/><sub>OpenAI ↔ Claude ↔ Gemini ↔ Responses API 雙向轉換。將任何工具指向 <code>/v1</code> 即可直接運作。</sub></td>
    <td width="33%" valign="top"><b>🛡️ 生產級穩定架構</b><br/><sub>斷路器、TLS 指紋隱身、MCP（107 工具）、A2A、對話記憶、護欄、評估套件。</sub></td>
  </tr>
</table>

<br/>
<br/>

<div align="center">

# 🤔 為什麼選擇 OmniRoute？

</div>

> 告別手動切換數十個控制台、API 金鑰過期與預期外帳單的痛點。

| ❌ 日常痛點                            | ✅ OmniRoute 的解決方案                                             |
| -------------------------------------- | ------------------------------------------------------------------- |
| 📉 訂閱配額每月用不完白白浪費          | **最大化訂閱價值** — 精準追蹤配額，在重置前善用每一分 Token         |
| 🛑 Rate Limit 導致開發工作中斷         | **4 層自動切換備援** — 訂閱 → API → 廉價模型 → 免費，毫秒級無感切換 |
| 🔥 工具輸出耗費巨量 Token              | **RTK + Caveman 堆疊壓縮** — 每次請求大幅節省 15–95% 合格 Token     |
| 💸 昂貴的 API 帳單（各平台 $20–50/月） | **成本優化智慧路由** — 自動路由至成本最低且可行的模型               |
| 🧰 各個 AI 工具需要繁瑣獨立設定        | **單一端點、整合所有工具與統一控制儀表板**                          |
| 🌍 特定區域網路連線限制                | **3 層代理** + TLS 指紋隱身 — 隨時隨地順暢存取 AI 服務              |

<div align="center">

```
┌──────────────────────────────────────────────────────────┐
│        Your IDE / CLI  (Claude Code, Cursor, Cline…)       │
└─────────────────────────┬──────────────────────────────────┘
                          │ http://localhost:20128/v1
                          ▼
┌──────────────────────────────────────────────────────────┐
│                  OmniRoute — Smart Router                  │
│  RTK + Caveman compression · 19 routing strategies         │
│  Circuit breakers · TLS stealth · MCP · A2A · Guardrails   │
└─────────────────────────┬──────────────────────────────────┘
        ┌─────────────┬────┴────────┬─────────────┐
        ▼ Tier 1      ▼ Tier 2      ▼ Tier 3       ▼ Tier 4
   SUBSCRIPTION     API KEY        CHEAP          FREE
   Claude Code,     DeepSeek,      GLM $0.5,      Kiro, Qoder,
   Codex, Copilot   Groq, xAI      MiniMax $0.2   Pollinations
   quota out? ───▶  budget hit? ─▶ budget hit? ─▶ upstream limits
```

</div>

<br/>

<div align="center">

# 🎯 Combo — 旗艦功能

</div>

> **Combo** 是 OmniRoute 的**自動路由模型鏈結機制**。無論是配額用盡、提供者斷線或成本飆升，Combo 都會嘗試下一個合格候選模型，以提高備援覆蓋；上游可用性不受保證。 🛡️

### ⚡ 零設定 — 只需將模型設為 `auto`

無需手動建立 Combo。只要將模型名稱設為 `auto`（或其衍生變體），OmniRoute 就會根據您已連線的提供者進行即時動態評分，為您建立虛擬 Combo：

| 模型 ID        | 最佳化目標                                         |
| -------------- | -------------------------------------------------- |
| `auto`         | 🎯 智慧平衡預設（LKGP — 優先沿用上次穩定的提供者） |
| `auto/coding`  | 🧑‍💻 程式碼生成優先品質權重                          |
| `auto/fast`    | ⚡ 最低延遲優先                                    |
| `auto/cheap`   | 💰 每 Token 最低價優先                             |
| `auto/offline` | 🔋 最多配額/速率限制餘量優先                       |
| `auto/smart`   | 🔭 品質優先 + 10% 探索以發現更好模型               |

### 🔀 或自行建構 — 19 種路由策略

| 目標                       | 策略 / Combo                                      |
| -------------------------- | ------------------------------------------------- |
| 🥇 先用完訂閱再付費        | `priority` / `fill-first`                         |
| ⚖️ 跨帳戶分散負載          | `round-robin` · `weighted` · `p2c` · `least-used` |
| 💸 始終選最便宜的可行模型  | `cost-optimized` · `auto/cheap`                   |
| 🧠 模型間移交長上下文      | `context-relay` · `context-optimized`             |
| 🎲 隨機/隱私路由           | `random` · `strict-random`                        |
| 🧬 分發到專家組 + 裁判合成 | `fusion`                                          |
| 📊 按剩餘配額餘量路由      | `reset-window` · `headroom`                       |
| 🤖 智慧路由                | `auto`（9 因素評分）· `lkgp` · `reset-aware`      |

<sub>Auto-Combo 引擎根據 **9 項因素**（健康度、配額、成本、延遲、成功率、新鮮度…）對每個候選模型評分 — 參見 [`docs/routing/AUTO-COMBO.md`](../../routing/AUTO-COMBO.md)。</sub>

### 🧱 內建彈性（3 個獨立層）

| 層              | 範圍          | 作用                                       |
| --------------- | ------------- | ------------------------------------------ |
| 🔌 **斷路器**   | 整個提供者    | 停止重複呼叫上游失敗的提供者；自動探測恢復 |
| 💤 **連線冷卻** | 一個帳戶/金鑰 | 跳過速率限制的金鑰，其他金鑰繼續提供服務   |
| 🎯 **模型鎖定** | 提供者 + 模型 | 僅隔離配額受限的模型，不影響整個連線       |

```
Combo: "always-on"                         Strategy: priority
  1. cc/claude-opus-4-7   ← subscription (use it fully)
  2. cx/gpt-5.5           ← second subscription
  3. glm/glm-5.1          ← cheap backup ($0.5/1M)
  4. kr/claude-sonnet-4.5 ← listed free access; account limits apply
Result: 4 fallback layers reduce downtime; upstream availability is not guaranteed
```

<sub>📖 [Auto-Combo Engine](../../routing/AUTO-COMBO.md) · [Resilience Guide](../../architecture/RESILIENCE_GUIDE.md)</sub>

<br/>

<div align="center">

# 🏆 OmniRoute 的獨特優勢

</div>

| 功能                       | OmniRoute                                              | 其他路由器  |
| -------------------------- | ------------------------------------------------------ | ----------- |
| 🌐 提供者數量              | **329**                                                | 20–100      |
| 🆓 免費／免驗證目錄項目    | **155**                                                | 1–5         |
| 🔀 路由策略                | **19 種**（優先級、加權、成本優化、上下文中繼、融合…） | 1–3         |
| 🗜️ Token 壓縮              | **RTK + Caveman 堆疊（15–95%）**                       | 無 / 20–40% |
| 🧰 內建 MCP 伺服器         | **107 工具、3 種傳輸、32 個範圍**                      | 少有        |
| 🤝 A2A 代理協定            | **6 項技能、JSON-RPC 2.0**                             | 無          |
| 🧠 記憶（FTS5 + 向量）     | **支援**                                               | 少有        |
| 🛡️ 護欄（PII、注入、視覺） | **支援**                                               | 少有        |
| ☁️ 雲端代理                | **Codex、Cursor、Devin、Jules**                        | 無          |
| 🥷 TLS 指紋隱身            | **JA3/JA4 透過 wreq-js**                               | 無          |
| 🖥️ 多平台                  | **Web · 桌面 · Termux · PWA**                          | 僅 Web      |
| 🌍 國際化                  | **43 種語言環境**                                      | 0–4         |

<sub>📊 與 LiteLLM、OpenRouter 和 Portkey 的詳細比較 → [`docs/comparison/OMNIROUTE_VS_ALTERNATIVES.md`](../../comparison/OMNIROUTE_VS_ALTERNATIVES.md)</sub>

<br/>

<div align="center">

# ✨ 最新功能

</div>

> **v3.8.20 → v3.8.38** 的重點更新。完整記錄在 [`CHANGELOG.md`](../../CHANGELOG.md)。

- **⚖️ Quota-Share 路由** — 一種專用 Combo 策略，根據可用配額跨帳戶分配負載：赤字輪詢排程、每個連線的 `max_concurrent` 搭配冷卻等待佇列、多時窗使用量桶（5 小時 / 7 天 / 按模型）、每（金鑰，模型）上限、為提示快取完整性而設的會話黏著性，以及來自上游 Token 使用量標頭的主動飽和偵測。→ [Resilience Guide](../../architecture/RESILIENCE_GUIDE.md)
- **🛰️ 遠端模式** — 透過範圍存取令牌從任何機器驅動遠端 OmniRoute（`omniroute connect` / `omniroute contexts` / `omniroute tokens`）。→ [Remote Mode](../../guides/REMOTE-MODE.md)
- **🧭 更智慧的 Auto-Routing** — OpenRouter 風格的 `auto/<category>:<tier>` Combo（例如 `auto/coding:fast`、`auto/reasoning:pro`）、**Fusion** 策略（第 16 種 — 並行分發到多個模型，然後透過裁判合成）、**任務感知路由**（按任務類型選擇最佳連線）、每請求 `X-Route-Model` 覆寫、即時 Arena-ELO + models.dev 模型智慧、每步驟帳戶允許清單、提供者萬用字元 Combo 步驟、巢狀 Combo 引用執行、黏性加權選擇和 `web_search` 感知路由。→ [Auto-Combo](../../routing/AUTO-COMBO.md)
- **🗜️ 可插拔壓縮** — **9 個可組合引擎**的非同步管線，含 Compression Studios、LLMLingua-2 ONNX 引擎和啟發式/SLM 雙層 **Ultra**、RTK、委託 Anthropic Context Editing、**Output Styles**（輸出軸控制：terse-prose / less-code / terse-CJK）、**自適應上下文預算撥盤**（僅升級到足以符合上下文視窗）、每請求 `x-omniroute-compression` 控制、可選的離線評估工具、一鍵從儀表板管理 **Headroom** 代理生命週期、合成**壓縮遊樂場**（Play 賽道 + A/B 比較）、可選的**每步驟保真度閘門**，以及統一面板搭配命名設定檔 + 活動設定檔選擇器。→ [Compression](../../compression/COMPRESSION_ENGINES.md)
- **🕵️ 透明 MITM 解密（TPROXY）** — 捕獲並轉換忽略代理環境變數的 CLI 流量，配備每個 SNI 的憑證授權機構和信任儲存安裝程式。→ [MITM/TPROXY](../../security/MITM-TPROXY-DECRYPT.md)
- **💸 全方位成本遙測** — 每個端點（包括媒體）上的 `X-OmniRoute-*` 成本/使用量標頭、非 Token 成本引擎、快取命中 `X-OmniRoute-Cost-Saved` 標頭，以及每金鑰 USD 支出配額。→ [API Reference](../../reference/API_REFERENCE.md)
- **🧠 可控記憶** — 可選的 int8 向量量化（Qdrant + sqlite-vec），記憶預設關閉，以及每請求 `x-omniroute-no-memory` 標頭。→ [Memory](../../frameworks/MEMORY.md)
- **🛡️ 安全** — 所有 LLM 路由的提示注入防護（由紅隊測試套件支援），加上免費的 DuckDuckGo 最後手段網路搜尋。→ [Guardrails](../../security/GUARDRAILS.md)
- **🤝 更多提供者和代理** — Cursor Cloud Agent（第 4 個雲端代理）、CodeBuddy CN（`copilot.tencent.com`）、Google Flow 影片生成提供者、新閘道 **DGrid** 和 **Pioneer AI**（Fastino Labs）、入站 **xAI Grok** 轉換器加上 **Grok Build (xAI)** 附 OAuth 匯入令牌流程、GitHub Copilot 提供者上的 GPT-4 / GPT-4o-mini、多模型 **Factory Droid**、**ZenMux Free**（session-cookie 免費層）、**Alibaba DashScope** 文字轉影片（`wan2.7-t2v`）、更新後的 329 提供者目錄、Vertex AI 媒體生成（語音 / 轉錄 / 音樂 / 影片），以及從 CLIProxyAPI 一鍵匯入帳戶。→ [Providers](../../reference/PROVIDER_REFERENCE.md)
- **⚡ 本地效能與基礎設施** — 一鍵本地 Redis 啟動器（`omniroute redis up`，加上儀表板 Redis 面板）、一鍵 **Cloudflare Workers** 和 **Deno Deploy** 中繼部署器接入代理池，以及可選的 Bifrost Go sidecar，用於卸載最熱門的中繼路徑（`BIFROST_BASE_URL`，逾時時自動備援到 TypeScript 路徑）。→ [Environment](../../reference/ENVIRONMENT.md)

<br/>

<div align="center">

# 🤖 相容的 CLI 和編碼代理

</div>

> 一個設定 — `http://localhost:20128/v1` — **每個** AI IDE 或 CLI 都可以在免費和低成本模型上執行。

<div align="center">
<table>
  <tr>
    <td align="center" width="120"><a href="https://github.com/anthropics/claude-code"><img src="../../public/providers/claude.svg" width="52" alt="Claude Code"/><br/><b>Claude Code</b></a></td>
    <td align="center" width="120"><a href="https://github.com/openai/codex"><img src="../../public/providers/codex.svg" width="52" alt="Codex CLI"/><br/><b>Codex CLI</b></a></td>
    <td align="center" width="120"><img src="../../public/providers/cursor.png" width="52" alt="Cursor"/><br/><b>Cursor</b></td>
    <td align="center" width="120"><img src="../../public/providers/copilot.png" width="52" alt="Copilot"/><br/><b>Copilot</b></td>
    <td align="center" width="120"><img src="../../public/providers/continue.png" width="52" alt="Continue"/><br/><b>Continue</b></td>
  </tr>
  <tr>
    <td align="center" width="120"><a href="https://github.com/anomalyco/opencode"><img src="../../public/providers/opencode.svg" width="52" alt="OpenCode"/><br/><b>OpenCode</b></a></td>
    <td align="center" width="120"><a href="https://github.com/Kilo-Org/kilocode"><img src="../../public/providers/kilocode.svg" width="52" alt="Kilo Code"/><br/><b>Kilo Code</b></a></td>
    <td align="center" width="120"><img src="../../public/providers/droid.svg" width="52" alt="Droid"/><br/><b>Droid</b></td>
    <td align="center" width="120"><img src="../../public/providers/openclaw.png" width="52" alt="OpenClaw"/><br/><b>OpenClaw</b></td>
    <td align="center" width="120"><img src="../../public/providers/kiro.svg" width="52" alt="Kiro"/><br/><b>Kiro</b></td>
    <td align="center" width="120"><img src="../../public/providers/command-code.svg" width="52" alt="Command Code"/><br/><b>Command</b></td>
  </tr>
</table>
</div>

<div align="center">
<b>＋也相容於</b> · Cline · Antigravity · Windsurf · AMP · Hermes · Qwen CLI · Roo · Continue · <b>任何相容 OpenAI 的工具</b>
</div>

<sub>📖 所有 33 個工具的個別設定 → [`docs/reference/CLI-TOOLS.md`](../../reference/CLI-TOOLS.md) · 🧩 OpenCode 插件 → [`@omniroute/opencode-provider`](https://www.npmjs.com/package/@omniroute/opencode-provider)</sub>

<br/>

<div align="center">

# 🌐 329 個 AI 提供者 — 155 個免費／免驗證

</div>

> 最完整的開源路由器目錄：**329 個提供者**，其中 **155 個目錄項目標記為免費／免驗證**。

<div align="center">

### 🆓 有記錄的免費存取 — 列為 $0 的方案，無需信用卡

<table>
  <tr>
    <td align="center" width="150"><img src="https://img.shields.io/badge/AgentRouter-FF6600?style=flat-square" alt="AgentRouter"/><br/><sub>GPT-5, Claude, Gemini<br/>$100 免費額度</sub></td>
    <td align="center" width="150"><img src="https://img.shields.io/badge/Qoder_AI-6366F1?style=flat-square" alt="Qoder AI"/><br/><sub>Kimi-K2, DeepSeek-R1<br/>免費存取；限額依方案</sub></td>
    <td align="center" width="150"><img src="https://img.shields.io/badge/Pollinations-10B981?style=flat-square" alt="Pollinations"/><br/><sub>GPT-5, Claude, Llama 4<br/>無需金鑰</sub></td>
    <td align="center" width="150"><img src="https://img.shields.io/badge/LongCat-FF7A00?style=flat-square" alt="LongCat"/><br/><sub>LongCat-2.0<br/>1000 萬一次性額度（需 KYC）</sub></td>
  </tr>
  <tr>
    <td align="center" width="150"><img src="https://img.shields.io/badge/Cloudflare_AI-F38020?style=flat-square&logo=cloudflare&logoColor=white" alt="Cloudflare AI"/><br/><sub>50+ 模型<br/>1 萬 neurons/天</sub></td>
    <td align="center" width="150"><img src="https://img.shields.io/badge/NVIDIA_NIM-76B900?style=flat-square&logo=nvidia&logoColor=white" alt="NVIDIA NIM"/><br/><sub>129 模型<br/>~40 RPM 免費</sub></td>
    <td align="center" width="150"><img src="https://img.shields.io/badge/Cerebras-F15A29?style=flat-square" alt="Cerebras"/><br/><sub>Qwen3 235B<br/>100 萬 Token/天</sub></td>
  </tr>
</table>

📖 完整機器可讀目錄 → [`docs/reference/PROVIDER_REFERENCE.md`](../../reference/PROVIDER_REFERENCE.md)

<br/>
</div>

<div align="center">

# 🖥️ OmniRoute 的執行平台 — 無所不在

</div>

> 相同的應用程式，您的機器，您的規則。從全域 npm 安裝到透過 Termux **在手機上**執行。

| 平台                     | 安裝方式                                     | 亮點                                            |
| ------------------------ | -------------------------------------------- | ----------------------------------------------- |
| 📦 **npm（全域）**       | `npm install -g omniroute`                   | 一條命令，任何作業系統                          |
| 🐳 **Docker**            | `docker run … diegosouzapw/omniroute`        | 多架構 **AMD64 + ARM64**                        |
| 🖥️ **桌面（Electron）**  | `npm run electron:build`                     | 原生視窗 + 系統匣 — **Windows / macOS / Linux** |
| 💪 **ARM**               | 原生 `arm64`                                 | Raspberry Pi、ARM 伺服器、Apple Silicon         |
| 📱 **Android（Termux）** | `pkg install nodejs-lts && npx -y omniroute` | **在手機上**執行，24/7，無需 root               |
| 📲 **PWA**               | "新增到主畫面"                               | 全螢幕、離線、可從瀏覽器安裝                    |
| 🧩 **OpenCode 插件**     | `@omniroute/opencode-provider`               | 原生 OpenCode 整合                              |
| 🛠️ **從原始碼建構**      | `npm install && npm run dev`                 | 參與開發                                        |

<sub>📖 [Docker Guide](../../guides/DOCKER_GUIDE.md) · [Desktop](../../electron/README.md) · [Termux](../../guides/TERMUX_GUIDE.md) · [PWA](../../guides/PWA_GUIDE.md) · [OpenCode](../../frameworks/OPENCODE.md)</sub>

<br/>

<div align="center">

# 🔒 私有與本地優先

</div>

> 您的金鑰、您的機器、您的資料。OmniRoute 是**本地代理** — 絕不向外回報。

- 🏠 **100% 在您的硬體上執行** — npm、Docker、桌面或手機。OmniRoute 雲端絕不介入請求路徑。
- 🔐 **憑證靜態加密** — API 金鑰和 OAuth 令牌使用 **AES-256-GCM** 加密。
- 🚫 **預設零遙測** — 您的提示僅傳送給您選擇的提供者，絕無其他去處。
- 🛡️ **強化閘道** — API 金鑰範圍限制、IP 過濾、速率限制、提示注入防護、僅回送處理程序路由。
- 📜 **MIT 授權且完全開源** — 審計每一行程式碼，永久自托管。

<sub>📖 [Authorization](../../architecture/AUTHZ_GUIDE.md) · [Guardrails](../../security/GUARDRAILS.md) · [Compliance](../../security/COMPLIANCE.md)</sub>

<br/>

<div align="center">

# 🔌 完整 CLI + A2A 和 MCP

</div>

> OmniRoute 不僅僅是伺服器 — 它擁有 **60+ 命令**的**完整命令列控制台**，以及開放的代理協定，讓 AI 代理可以**自行**驅動 OmniRoute。

### ⌨️ 真正的 CLI（不僅僅是 `start`）

```bash
omniroute               # 啟動閘道 + 儀表板（埠口 20128）
omniroute chat          # 互動式 TUI 聊天客戶端（斜線指令：/model /combo /skill /memory）
omniroute setup         # 引導式首次執行精靈
omniroute doctor        # 診斷提供者、埠口、原生依賴
```

### 🛰️ 遠端模式 — 在此執行 CLI，OmniRoute 在 VPS 上

OmniRoute 在伺服器上？從筆記型電腦使用**相同 CLI** 驅動。登入一次
使用範圍存取令牌；之後每個命令都指向遠端。

```bash
omniroute connect 192.168.0.15            # 密碼 → 範圍令牌，儲存為上下文
omniroute models list                     # ← 針對遠端伺服器執行
omniroute configure codex                 # ← 選擇遠端模型，寫入本地 Codex 設定檔
omniroute tokens create --name ci --scope read   # 為其他機器建立更窄的令牌
omniroute contexts use default            # ← 切換回本地伺服器
```

令牌範圍為 `read` / `write` / `admin`；產生處理程序的路由保持僅回送。
<sub>📖 [Remote Mode](../../guides/REMOTE-MODE.md)</sub>

<div align="center">

`providers` · `oauth` · `keys` · `combo` · `nodes` · `models` · `cache` · `compression` · `cost` · `usage` · `quota` · `health` · `resilience` · `telemetry` · `logs` · `audit` · `mcp` · `a2a` · `cloud` · `memory` · `skills` · `eval` · `tunnel` · `backup` · `sync` · `webhooks` · `policy` · `pricing` · `translator` · `simulate` …

</div>

### 🤝 連接代理 — 代理自行控制 OmniRoute

透過 **MCP** 或 **A2A** 公開 OmniRoute，任何有能力的代理即可取得整個閘道的金鑰 — 路由、提供者、Combo、快取、壓縮、記憶 — 自主運作。

| 協定                | 端點                                            | 用途                                           |
| ------------------- | ----------------------------------------------- | ---------------------------------------------- |
| 🧰 **MCP（stdio）** | `omniroute --mcp`                               | 接入 Claude Desktop、Cursor 等 MCP 客戶端      |
| 🌊 **MCP（HTTP）**  | `http://localhost:20128/api/mcp/stream`         | 遠端 MCP — **107 工具**、32 範圍、完整稽核軌跡 |
| 📡 **MCP（SSE）**   | `http://localhost:20128/api/mcp/sse`            | 串流 MCP 傳輸                                  |
| 🤝 **A2A**          | `http://localhost:20128/.well-known/agent.json` | 代理間通訊，**JSON-RPC 2.0** + SSE，6 技能     |

```bash
# 將完整 OmniRoute 工具集透過 MCP 提供給 Claude Code：
claude mcp add-server omniroute --type http --url http://localhost:20128/api/mcp/stream
```

<sub>📖 [MCP Server](../../frameworks/MCP-SERVER.md) · [A2A Server](../../frameworks/A2A-SERVER.md) · [Agent Protocols](../../frameworks/AGENT_PROTOCOLS_GUIDE.md)</sub>

<br/>

<div align="center">

# 🗜️ 自動節省 15–95% 的 Token

</div>

> **為什麼用很多 Token 而不用少量 Token？** 每個請求**透明地**通過 OmniRoute 的壓縮管線 — 無需變更客戶端。它現在是**9 個可組合引擎的堆疊**，按順序執行，並可依路由 Combo 混合搭配 — 建立在 [RTK](https://github.com/rtk-ai/rtk)、[Caveman](https://github.com/JuliusBrussee/caveman) (⭐ 51K+)、[LLMLingua-2](https://github.com/microsoft/LLMLingua) 和 [Troglodita](https://github.com/leninejunior/troglodita) (PT-BR) 的基礎上。

### 🧱 9 引擎堆疊

引擎按管線順序執行；每個可獨立切換並按 Combo 設定：

| #   | 引擎              | 作用                                                       |
| --- | ----------------- | ---------------------------------------------------------- |
| 1   | **Session-Dedup** | 刪除跨輪次重複的內容（內容定址、跨輪次）                   |
| 2   | **CCR**           | 將大塊內容歸檔到檢索標記後，按需取得                       |
| 3   | **RTK**           | 智慧工具結果過濾、去重和截斷（命令感知）                   |
| 4   | **Headroom**      | 同構 JSON 陣列的無損表格壓縮（~30%+）                      |
| 5   | **Caveman**       | 基於規則的文章壓縮（輸出約 ~65–75%）                       |
| 6   | **LLMLingua-2**   | 透過 MobileBERT ONNX 進行 ML 語義剪枝 — 程式碼安全、非同步 |
| 7   | **Lite**          | 空白字元和圖片 URL 修剪（低延遲基準線）                    |
| 8   | **Aggressive**    | 摘要 + 逐步淘汰舊輪次                                      |
| 9   | **Ultra**         | 啟發式 Token 剪枝 + 可選小模型（SLM）層                    |

程式碼區塊、URL 和結構化資料**始終被完美保留**。**一鍵預設**組合引擎：

| 模式                         | 節省比例   | 最佳用途                 |
| ---------------------------- | ---------- | ------------------------ |
| 🪶 **Lite**                  | ~15%       | 始終開啟的安全預設       |
| 🪨 **Standard（Caveman）**   | ~30%       | 日常編碼                 |
| ⚡ **Aggressive**            | ~50%       | 長時間工具密集型會話     |
| 🔥 **Ultra**                 | ~75%       | 最大節省                 |
| 🧰 **RTK**                   | 60–90%     | Shell/測試/建構/Git 輸出 |
| 🔗 **堆疊（RTK → Caveman）** | **78–95%** | 混合提示 + 工具日誌      |

**實際範例 — Standard 模式：**

> **之前（69 tokens）：** _"The reason your React component is re-rendering is likely because you're creating a new object reference on each render cycle. When you pass an inline object as a prop, React's shallow comparison sees it as a different object every time, which triggers a re-render. I would recommend using useMemo to memoize the object."_
>
> **之後（19 tokens）：** _"New object ref each render. Inline object prop = new ref = re-render. Wrap in useMemo."_
>
> **相同答案。72% 更少的 Token。零準確度損失。** ✅

**PT-BR 範例 — [Troglodita](https://github.com/leninejunior/troglodita) 模式：**

> **Antes（42 tokens）：** _"O problema é que o componente está re-renderizando porque uma nova referência de objeto está sendo criada em cada ciclo de renderização. Eu recomendaria usar useMemo."_
>
> **Depois（12 tokens）：** _"Re-render: ref nova cada ciclo (objeto inline recriado). Usar `useMemo`."_
>
> **Mesma resposta. ~70% menos tokens. Precisão técnica intacta.** ✅

### 📖 運作方式 — 管線、架構與節省數學

```
Client (10,000 tok) ──▶ OmniRoute Compression (9 engines) ──▶ Provider (~1,080 tok, up to 95% saved)
```

預設堆疊 Combo 執行 `RTK → Caveman`。當兩者作用於相同工具/上下文 payload 時，節省效果疊加：

```txt
combined = 1 − (1 − RTK) × (1 − Caveman_input)
average  = 1 − (1 − 0.80) × (1 − 0.46) = 89.2%
range    = 78.4 – 94.6%
```

程式碼區塊、URL、JSON 和結構化資料**始終受**保留引擎保護。

### 🎚️ 超越引擎 — 輸出樣式、自適應撥盤與每請求控制

上述 9 個引擎縮小**輸入**。另外三層決定**如何**、**何時**以及輸出**什麼**：

- **🪄 Output Styles**（_輸出軸控制_）— 注入確定性、快取安全的回應塑形指令；可組合，每個在 `lite` / `full` / `ultra` 強度。新增一個樣式只需一行註冊：
  - **Terse prose** — 刪除填充詞/冠詞/保留用語；保持技術內容精確。
  - **Less code** — "懶惰資深開發者" YAGNI：最小可行變更，不要求不搭建。
  - **Terse CJK（文言）** — 古典中文極簡風格（僅限 `zh` 語言環境）。
- **🎯 自適應上下文預算**（_撥盤_）— 不是一個開/關 Token 閾值，而是僅升級最便宜、最無損的引擎，直到**符合模型的上下文視窗**。策略：`reserve-output`（預設，模型感知）· `percentage` · `absolute`。模式：`floor`（保證符合）· `replace-autotrigger`（您的明確選擇優先）· `off`（傳統閾值）。
- **🎛️ 壓縮決策位置**（_優先級，高 → 低_）— 每請求 `x-omniroute-compression` 標頭 › 路由 Combo 覆寫 › 活動命名設定檔 › 自適應/自動觸發 › 面板預設 › 關閉。應用的計畫在 `X-OmniRoute-Compression: <mode>; source=<source>` 回應標頭中回顯。

按 Token 閾值自動觸發、切換自適應撥盤、固定命名設定檔、設定一次性每請求、或為每個路由 Combo 指派管線 — 任選適合工作負載的方式。可選的離線**評估工具**（`npm run eval:compression`）在固定語料庫上評分保真度與節省比例。

📖 [`COMPRESSION_GUIDE.md`](../../compression/COMPRESSION_GUIDE.md) · [`RTK_COMPRESSION.md`](../../compression/RTK_COMPRESSION.md) · [`COMPRESSION_ENGINES.md`](../../compression/COMPRESSION_ENGINES.md)

<br/>

<div align="center">

# ⚡ 快速開始

</div>

**1) 安裝並執行**

```bash
npm install -g omniroute
omniroute
```

儀表板：`http://localhost:20128` · API：`http://localhost:20128/v1`

**2) 連接免費提供者（無需註冊）**

儀表板 → **Providers** → 連接 **Kiro AI**（免費 Claude，每帳戶約 50 額度/月）或 **OpenCode Free**（無需驗證）→ 完成。

**3) 設定您的編碼工具**

```txt
Base URL: http://localhost:20128/v1
API Key:  [從儀表板 → Endpoints 複製]
Model:    auto            （零設定智慧路由 — 或任何提供者/模型）
```

**4) 驗證是否正常運作**

```bash
curl http://localhost:20128/v1/models -H "Authorization: Bearer ***"
```

您應該會看到已連接的模型列表。🎉 就是這樣 — 開始編碼，OmniRoute 會自動路由和備援。

如果您的客戶端無法傳送自訂標頭，OmniRoute 也提供令牌化的相容別名：

```txt
OpenAI catalog:   http://localhost:20128/vscode/YOUR_KEY/
OpenAI models:    http://localhost:20128/vscode/YOUR_KEY/models
OpenAI chat:      http://localhost:20128/vscode/YOUR_KEY/chat/completions
OpenAI responses: http://localhost:20128/vscode/YOUR_KEY/responses
Ollama chat:      http://localhost:20128/vscode/YOUR_KEY/api/chat
Ollama tags:      http://localhost:20128/vscode/YOUR_KEY/api/tags
```

僅在客戶端無法附加 `Authorization: Bearer ***` 時使用這些。標頭驗證仍是首選模式。

<br/>

## 📦 更多安裝方式 — Docker、原始碼、pnpm、Arch

**🐳 Docker**

```bash
docker run -d --name omniroute --restart unless-stopped --stop-timeout 40 \
  -p 20128:20128 -v omniroute-data:/app/data diegosouzapw/omniroute:latest
```

**🛠️ 從原始碼建構**

```bash
cp .env.example .env && npm install
PORT=20128 npm run dev
```

**📦 pnpm**

```bash
pnpm add -g omniroute@latest --allow-build=better-sqlite3 --allow-build=@swc/core && omniroute
```

**🐧 Arch Linux（AUR）**

```bash
yay -S omniroute-bin && systemctl --user enable --now omniroute.service
```

**🔧 Nix（Flake）**

```bash
# 使用 Nix flakes
nix develop
npm run dev

# 或使用 devbox
devbox run npm run dev
```

📖 [Docker Guide](../../guides/DOCKER_GUIDE.md) — Compose 設定檔、Caddy HTTPS、Cloudflare 隧道。

**🦭 Podman**

```bash
# 1. 準備繫結掛載的資料目錄
mkdir -p data

# 2. 僅限 Linux + 本機 rootless Podman（切勿用於遠端 Podman Machine 用戶端）
podman unshare chown 1000:1000 ./data

# 3. 設定執行環境提示、建構本機 Compose 映像並啟動
echo "CONTAINER_HOST=podman" >> .env
podman compose --profile base up -d --build
```

在 macOS 或 Windows 上，Podman 使用遠端 Podman Machine：請略過
`podman unshare`，並依照[各拓撲的資料目錄指引](../../../contrib/podman/README.md#data-directory-permissions-by-topology)操作。

📖 [Podman Guide](../../../contrib/podman/README.md) — Compose 建構、Podman Machine
以及僅限 Linux/systemd 的 Quadlet 設定。

<br/>

<div align="center">

# 🎬 OmniRoute 實際展示

</div>

<div align="center">
<table>
  <tr>
    <td align="center" width="280">
      <a href="https://www.youtube.com/watch?v=Rxdc36yUyOQ"><img src="https://img.youtube.com/vi/Rxdc36yUyOQ/maxresdefault.jpg" alt="Guia em Português" width="260"/></a><br/>
      <b>🇧🇷 Português</b><br/><sub>Guia completo</sub>
    </td>
    <td align="center" width="280">
      <a href="https://www.youtube.com/watch?v=CMzyOiUyEVc"><img src="https://img.youtube.com/vi/CMzyOiUyEVc/maxresdefault.jpg" alt="English Guide" width="260"/></a><br/>
      <b>🇺🇸 English</b><br/><sub>Complete walkthrough</sub>
    </td>
    <td align="center" width="280">
      <a href="https://www.youtube.com/watch?v=il_5Ii6v4-Y"><img src="https://img.youtube.com/vi/il_5Ii6v4-Y/maxresdefault.jpg" alt="Руководство" width="260"/></a><br/>
      <b>🇷🇺 Русский</b><br/><sub>Полное руководство</sub>
    </td>
  </tr>
</table>
</div>

<div align="center">

> 🎬 **製作了關於 OmniRoute 的影片？** 透過連結開啟 [issue](https://github.com/diegosouzapw/OmniRoute/issues/new) 或 [discussion](https://github.com/diegosouzapw/OmniRoute/discussions) — 我們會在此展示。

<br/>
</div>

<div align="center">

# 📚 探索更多

</div>

<details>
<summary><b>💰 價格一覽與 $0 免費堆疊</b></summary>

<br/>

| 層級                      | 範例                                     | 成本        |
| ------------------------- | ---------------------------------------- | ----------- |
| 💳 **訂閱**               | Claude Code Pro / Codex / Copilot        | $10–200/月  |
| 🔑 **API 金鑰（免費層）** | NVIDIA NIM、Cerebras、Groq               | **免費**    |
| 💰 **廉價**               | GLM-5 $0.5/1M · MiniMax M2.5 $0.3/1M     | 幾分錢      |
| 🆓 **有記錄的免費存取**   | Kiro、Qoder、Qwen、Pollinations、LongCat | **列為 $0** |

**$0 免費堆疊 — 組合成一個不可中斷的 Combo：**

| 提供者            | 前綴        | 免費模型                                        | 配額                         |
| ----------------- | ----------- | ----------------------------------------------- | ---------------------------- |
| **Kiro**          | `kr/`       | Claude Sonnet 4.5、Haiku 4.5、Opus 4.6          | 50 額度/月                   |
| **Qoder**         | `if/`       | kimi-k2-thinking、qwen3-coder-plus、deepseek-r1 | 無公開總量；受每日／速率限制 |
| **Qwen**          | `qw/`       | qwen3-coder-plus/flash/next                     | 無公開總量；受每日／速率限制 |
| **Pollinations**  | `pol/`      | GPT-5、Claude、Gemini、DeepSeek、Llama 4        | 無需金鑰                     |
| **LongCat**       | `lc/`       | LongCat-2.0                                     | 1000 萬一次性額度（需 KYC）  |
| **Cloudflare AI** | `cf/`       | 50+ 模型                                        | 1 萬 neurons/天              |
| **NVIDIA NIM**    | `nvidia/`   | 129 模型                                        | ~40 RPM                      |
| **Cerebras**      | `cerebras/` | Qwen3 235B、GPT-OSS 120B                        | 100 萬 Token/天              |

> 💡 儀表板上的"成本"是**節省追蹤器**，不是帳單 — OmniRoute 從不向您收費。使用免費模型顯示的"$290 總成本"意味著**節省了 $290**。

📖 完整免費目錄 → [`docs/reference/FREE_TIERS.md`](../../reference/FREE_TIERS.md) — 43 個提供者池、522 個模型預算項目、配額與基本 URL。

</details>

<details>
<summary><b>🎯 使用案例 — 現成 Combo 腳本</b></summary>

<br/>

**$0 方案（條件與限額依提供者而異）：**

```
1. kr/claude-sonnet-4.5   (Kiro — 每帳戶約 50 額度/月)
2. if/kimi-k2-thinking    (Qoder — 無公開總量；受每日／速率限制)
3. pol/gpt-5              (Pollinations — 無需金鑰)
4. lc/longcat-2.0         (1000 萬一次性額度；需 KYC)
壓縮：aggressive (~50%) → 加倍您的免費配額 · 成本：$0/月
```

**24/7 無中斷：** 串聯 2 個訂閱 → 廉價 → 免費，5 層備援。
**被封鎖地區：** 免費提供者 + 全域/每提供者代理 → 從任何國家存取 AI。
**最大節省：** 訂閱 + 廉價備用 + `ultra` 壓縮 (~75%) → 重度使用者每月節省 ~$150–300。

</details>

<details>
<summary><b>🌍 繞過地理封鎖 — 3 層代理 + 隱身</b></summary>

<br/>

🇷🇺 🇨🇳 🇮🇷 🇨🇺 🇹🇷 在被封鎖的地區？OmniRoute 的 **3 層代理**（全域 / 每提供者 / 每連線）代理 API 請求、OAuth 流程、連線測試、Token 重新整理和模型同步。

- **協定：** HTTP/HTTPS、SOCKS5、認證代理
- **🆓 1proxy 市場** — 數百個免費驗證代理、品質評分、自動輪換
- **反偵測** — TLS 指紋偽造（`wreq-js`）、CLI 指紋比對、代理 IP 保留

📖 [`docs/ops/PROXY_GUIDE.md`](../../ops/PROXY_GUIDE.md)

</details>

<details>
<summary><b>✨ 完整功能列表 — 30+ 功能（記憶、評估、可觀測性）</b></summary>

<br/>

**路由：** 19 種策略 · 任務感知智慧路由 · 思考預算控制 · 萬用字元路由 · 系統提示注入。
**相容性：** OpenAI ↔ Claude ↔ Gemini ↔ Responses API · 自動 OAuth 重新整理（PKCE，8 個提供者）· 多帳戶輪詢 · Batch + Files API · 即時 OpenAPI 3.0。
**協定：** MCP（107 工具、3 種傳輸、32 範圍）· A2A（JSON-RPC 2.0、SSE、6 技能）· ACP · 雲端代理（Codex、Cursor、Devin、Jules）。
**插件：** 自訂插件市場（系統設定的註冊表 URL，附 SSRF 防護擷取）· 安裝/啟用/停用 · Notion + Obsidian 知識庫整合（WebDAV 檔案伺服器、筆記 CRUD）。
**內嵌服務：** 一鍵安裝和生命週期管理本地 sidecar 服務（CLIProxy、NineRouter）。
**品質與維運：** 內建 **Evals**（黃金集：精確/包含/正則/自訂）· 護欄（PII、注入、視覺）· 健康儀表板 · p50/p95/p99 遙測 · webhooks · 合規稽核。
**AI 代理技能：** 即插即用 Markdown 清單 — 將任何代理指向 `skills/*/SKILL.md` 清單。43 個可用技能。

📖 [MCP Server](../../open-sse/mcp-server/README.md) · [A2A Server](../../src/lib/a2a/README.md) · [Resilience Guide](../../architecture/RESILIENCE_GUIDE.md) · [Features Gallery](../../guides/FEATURES.md)

</details>

<details>
<summary><b>📖 設定、環境變數與 FAQ</b></summary>

<br/>

| 環境變數          | 預設值         | 用途                      |
| ----------------- | -------------- | ------------------------- |
| `PORT`            | `20128`        | API + 儀表板埠口          |
| `REQUIRE_API_KEY` | `false`        | 要求所有請求使用 API 金鑰 |
| `DATA_DIR`        | `~/.omniroute` | 資料庫和設定儲存位置      |

**OmniRoute 會向我收費嗎？** 不會 — 它是免費的開源軟體，在您的機器上執行。您只直接向付費提供者付費。OmniRoute 沒有帳單系統。
**免費提供者真的無限嗎？** 不能保證 — 有些目錄項目沒有公開 Token 上限，但仍可能受到速率、並發、帳戶、地區或服務條款限制。請在使用前查看提供者條款；在 Combo 中堆疊多個免費／免驗證項目可增加備援，但不代表無限或保證可用。
**壓縮會損害品質嗎？** 不會 — 它只壓縮**輸入**；程式碼、URL、JSON 始終受保護。
**在被封鎖 AI 的地區能用嗎？** 可以嘗試 — 3 層代理 + 1proxy 市場可連接目錄中的 329 個提供者，但實際可用性取決於網路、地區與提供者政策。

📖 [User Guide](../../guides/USER_GUIDE.md) · [API Reference](../../reference/API_REFERENCE.md) · [Environment Config](../../reference/ENVIRONMENT.md)

</details>

<details>
<summary><b>🐛 故障排除</b></summary>

<br/>

| 問題                                      | 快速修復                                                  |
| ----------------------------------------- | --------------------------------------------------------- |
| "Language model did not provide messages" | 提供者配額用盡 → 使用 Combo 備援                          |
| 速率限制（429）                           | 新增備援：`cc/claude → glm/glm-4.7 → if/kimi-k2-thinking` |
| OAuth 令牌過期                            | 自動重新整理；如果卡住，在 Providers 中刪除並重新驗證     |
| `unsupported_country_region_territory`    | 在 Settings → Proxy 中設定代理                            |
| Docker SQLite 鎖定                        | 使用 `--stop-timeout 40` 進行乾淨的 WAL 檢查點            |
| Node 執行時期錯誤                         | 使用 Node `>=22.0.0 <23` 或 `>=24.0.0 <27`                |

🐛 **回報錯誤？** 執行 `npm run system-info` 並附上 `system-info.txt`。📖 [`docs/guides/TROUBLESHOOTING.md`](../../guides/TROUBLESHOOTING.md)

</details>

<details>
<summary><b>📸 儀表板截圖</b></summary>

<br/>

| 頁面       | 截圖                                               | 頁面       | 截圖                                           |
| ---------- | -------------------------------------------------- | ---------- | ---------------------------------------------- |
| Providers  | ![Providers](../../screenshots/01-providers.png)   | Combos     | ![Combos](../../screenshots/02-combos.png)     |
| Analytics  | ![Analytics](../../screenshots/03-analytics.png)   | Health     | ![Health](../../screenshots/04-health.png)     |
| Translator | ![Translator](../../screenshots/05-translator.png) | Settings   | ![Settings](../../screenshots/06-settings.png) |
| CLI Tools  | ![CLI Tools](../../screenshots/07-cli-tools.png)   | Usage Logs | ![Usage](../../screenshots/08-usage.png)       |

</details>

<br/>

<div align="center">

# 📧 支援與社群

> 💬 **與社群聊天** — Discord、Telegram 和 WhatsApp（🌍 / 🇧🇷）連結在[本 README 頂部](#-join-the-community)。

- 🌍 **網站**：[omniroute.online](https://omniroute.online)
- 🐙 **GitHub**：[github.com/diegosouzapw/OmniRoute](https://github.com/diegosouzapw/OmniRoute)
- 🐛 **Issue**：[回報錯誤](https://github.com/diegosouzapw/OmniRoute/issues)（請附上 `npm run system-info` 輸出）
- 🤝 **貢獻**：參見 [CONTRIBUTING.md](../../CONTRIBUTING.md) 或選擇 `good first issue`

</div>

---

<br/>
<div align="center">

## 🛠️ 技術棧

</div>

- **執行時期**：Node.js 22.x 或 24.x LTS（建議 24 LTS）— `>=22.0.0 <23 || >=24.0.0 <27`
- **語言**：TypeScript 6.0 — **100% TypeScript**，涵蓋 `src/` 和 `open-sse/`（自 v2.0 起核心模組零 `any`）
- **框架**：Next.js 16 + React 19 + Tailwind CSS 4
- **資料庫**：better-sqlite3（SQLite）+ LowDB（JSON 舊版）— 領域狀態、代理日誌、MCP 稽核、路由決策、記憶、技能
- **架構**：Zod（MCP 工具 I/O 驗證、API 合約）
- **協定**：MCP（stdio/HTTP）+ A2A v0.3（JSON-RPC 2.0 + SSE）
- **串流**：Server-Sent Events（SSE）+ WebSocket 橋接（`/v1/ws`）
- **驗證**：OAuth 2.0（PKCE）+ JWT + API 金鑰 + MCP 範圍授權
- **測試**：Node.js 測試執行器 + Vitest（**14,965 個測試案例**，涵蓋 517 個檔案 — 單元、整合、E2E、安全、生態系統）
- **平台**：桌面（Electron）、Android（Termux）、PWA（任何瀏覽器）
- **CI/CD**：GitHub Actions（發布時自動 npm 發布 + Docker Hub）
- **網站**：[omniroute.online](https://omniroute.online)
- **套件**：[npmjs.com/package/omniroute](https://www.npmjs.com/package/omniroute)
- **Docker**：[hub.docker.com/r/diegosouzapw/omniroute](https://hub.docker.com/r/diegosouzapw/omniroute)
- **彈性**：斷路器、指數退避、反奔湧群、TLS 偽造、自動 Combo 自我修復

<div align="center">

<br/>

## 📖 文件

</div>

### 📘 入門指南

| 文件                                                            | 說明                                                                      |
| --------------------------------------------------------------- | ------------------------------------------------------------------------- |
| [User Guide](../../guides/USER_GUIDE.md)                        | 提供者、Combo、CLI 整合、部署                                             |
| [Setup Guide](../../guides/SETUP_GUIDE.md)                      | 完整安裝方法、CLI 工具設定、協定設定、逾時調整                            |
| [CLI Tools Guide](../../reference/CLI-TOOLS.md)                 | Claude Code、Codex、Cursor、Cline、OpenClaw、Kilo、Copilot 的個別工具設定 |
| [Remote Mode](../../guides/REMOTE-MODE.md)                      | 從筆記型電腦 CLI 透過範圍存取令牌驅動遠端 OmniRoute（VPS）                |
| [Claude Code Config](../../guides/CLAUDE-CODE-CONFIGURATION.md) | 將 Claude Code 指向 OmniRoute（本地/遠端），附 `launch` + 每模型設定檔    |
| [Quick Start](../../README.md#-quick-start)                     | 3 步驟安裝 → 連接 → 設定                                                  |

### 🔧 維運與部署

| 文件                                                      | 說明                                                     |
| --------------------------------------------------------- | -------------------------------------------------------- |
| [Docker Guide](../../guides/DOCKER_GUIDE.md)              | Docker 執行、Compose 設定檔、Caddy HTTPS、隧道、映像標籤 |
| [Podman Guide](../../contrib/podman/README.md)            | Quadlet systemd 整合、podman-compose、SELinux            |
| [VM Deployment](../../ops/VM_DEPLOYMENT_GUIDE.md)         | 完整指南：VM + nginx + Cloudflare 設定                   |
| [Fly.io Deployment](../../ops/FLY_IO_DEPLOYMENT_GUIDE.md) | 部署到 Fly.io，附持久儲存                                |
| [Termux Guide](../../guides/TERMUX_GUIDE.md)              | 在 Android 上透過 Termux 執行 OmniRoute                  |
| [PWA Guide](../../guides/PWA_GUIDE.md)                    | Progressive Web App 安裝、快取、架構                     |
| [Uninstall Guide](../../guides/UNINSTALL.md)              | 所有安裝方法的完整移除                                   |
| [Environment Config](../../reference/ENVIRONMENT.md)      | 完整 `.env` 變數和參考                                   |

### 🧠 功能與架構

| 文件                                                                   | 說明                                                                   |
| ---------------------------------------------------------------------- | ---------------------------------------------------------------------- |
| [Architecture](../../architecture/ARCHITECTURE.md)                     | 系統架構、資料流程和內部運作                                           |
| [Compression Guide](../../compression/COMPRESSION_GUIDE.md)            | 7 選項管線：off / lite / standard / aggressive / ultra / RTK / stacked |
| [RTK Compression](../../compression/RTK_COMPRESSION.md)                | 命令輸出壓縮、過濾器、信任、驗證、原始輸出恢復                         |
| [Compression Engines](../../compression/COMPRESSION_ENGINES.md)        | Caveman、RTK、堆疊管線、儀表板/API/MCP 表面                            |
| [Resilience Guide](../../architecture/RESILIENCE_GUIDE.md)             | 斷路器、冷卻、佇列、反奔湧群、TLS 偽造                                 |
| [Auto-Combo Engine](../../routing/AUTO-COMBO.md)                       | 13 因素評分、模式包、自我修復                                          |
| [Proxy Guide](../../ops/PROXY_GUIDE.md)                                | 3 層代理系統、1proxy 市場、註冊表 CRUD                                 |
| [Free Tiers](../../reference/FREE_TIERS.md)                            | 155 個免費／免驗證目錄項目，以及 43 個量化提供者池                     |
| [Features Gallery](../../guides/FEATURES.md)                           | 附截圖的視覺儀表板導覽                                                 |
| [Codebase Documentation](../../architecture/CODEBASE_DOCUMENTATION.md) | 初學者友善的程式碼庫導覽                                               |

### 🤖 協定與 API

| 文件                                               | 說明                                           |
| -------------------------------------------------- | ---------------------------------------------- |
| [API Reference](../../reference/API_REFERENCE.md)  | 所有端點附範例                                 |
| [OpenAPI Spec](../../openapi.yaml)                 | OpenAPI 3.0 規格                               |
| [MCP Server](../../open-sse/mcp-server/README.md)  | 107 個 MCP 工具、IDE 設定、Python/TS/Go 客戶端 |
| [MCP Server Guide](../../frameworks/MCP-SERVER.md) | MCP 安裝、傳輸和工具參考                       |
| [A2A Server](../../src/lib/a2a/README.md)          | JSON-RPC 2.0 協定、技能、串流、任務管理        |
| [A2A Server Guide](../../frameworks/A2A-SERVER.md) | A2A 代理卡片、任務、技能和串流                 |

### 📋 專案與品質

| 文件                                                | 說明                             |
| --------------------------------------------------- | -------------------------------- |
| [Contributing](../../CONTRIBUTING.md)               | 開發設定和指南                   |
| [Changelog](../../CHANGELOG.md)                     | 完整每個版本的發布歷史           |
| [Security Policy](../../SECURITY.md)                | 漏洞回報和安全實踐               |
| [i18n Guide](../../guides/I18N.md)                  | 43 種語言環境、翻譯工作流程、RTL |
| [Release Checklist](../../ops/RELEASE_CHECKLIST.md) | 發布前驗證步驟                   |
| [Coverage Plan](../../ops/COVERAGE_PLAN.md)         | 測試覆蓋率策略和 14,965 測試套件 |

<br/>

<div align="center">

# ⭐ 頂級貢獻者

> OmniRoute 由充滿熱情的開源社群塑造。這些個人做出了卓越貢獻，直接影響了專案的品質、穩定性和影響力。**謝謝你們。**

<table>
  <tr>
    <td align="center" width="160">
      <a href="https://github.com/oyi77">
        <img src="https://github.com/oyi77.png" width="80" style="border-radius:50%" alt="oyi77"/><br/>
        <b>oyi77</b>
      </a><br/>
      <sub>🥇 190 commits • +72K lines</sub><br/>
      <sub>Analytics engine, SQL aggregations,<br/>proxy marketplace, test coverage</sub>
    </td>
    <td align="center" width="160">
      <a href="https://github.com/christopher-s">
        <img src="https://github.com/christopher-s.png" width="80" style="border-radius:50%" alt="Chris Staley"/><br/>
        <b>Chris Staley</b>
      </a><br/>
      <sub>🥈 72 commits • +5.7K lines</sub><br/>
      <sub>SSE stream hardening, Responses API,<br/>Gemini pagination, test regression fixes</sub>
    </td>
    <td align="center" width="160">
      <a href="https://github.com/zenobit">
        <img src="https://github.com/zenobit.png" width="80" style="border-radius:50%" alt="zenobit"/><br/>
        <b>zenobit</b>
      </a><br/>
      <sub>🥉 62 commits • +24K lines</sub><br/>
      <sub>CI/CD pipeline, i18n for 33 languages,<br/>Void Linux package, platform fixes</sub>
    </td>
    <td align="center" width="160">
      <a href="https://github.com/rdself">
        <img src="https://github.com/rdself.png" width="80" style="border-radius:50%" alt="R.D. & Randi"/><br/>
        <b>R.D. & Randi</b>
      </a><br/>
      <sub>🏅 107 commits • +28K lines</sub><br/>
      <sub>Endpoints page, tunnel integrations,<br/>Docker workflows, A2A status, compression UI</sub>
    </td>
    <td align="center" width="160">
      <a href="https://github.com/benzntech">
        <img src="https://github.com/benzntech.png" width="80" style="border-radius:50%" alt="benzntech"/><br/>
        <b>benzntech</b>
      </a><br/>
      <sub>🏅 20 commits • +7.5K lines</sub><br/>
      <sub>Electron desktop app, auto-updater,<br/>release build workflows, cross-platform CI</sub>
    </td>
  </tr>
</table>

> 🙏 這些貢獻者的功能、錯誤修復和基礎設施改進是 OmniRoute 可靠且功能豐富的**核心部分**。每一個 Pull Request、每一個測試案例、每一個 i18n 翻譯檔案都很重要。開源是由像他們這樣的人建構的。

</div>

---

<br/>

<div align="center">

## 👥 貢獻者

</div>

[![Contributors](https://contrib.rocks/image?repo=diegosouzapw/OmniRoute&max=100&columns=20&anon=1)](https://github.com/diegosouzapw/OmniRoute/graphs/contributors)

### 如何貢獻

1. Fork 倉庫
2. 建立您的功能分支（`git checkout -b feature/amazing-feature`）
3. 提交您的變更（`git commit -m 'Add amazing feature'`）
4. 推送到分支（`git push origin feature/amazing-feature`）
5. 開啟 Pull Request

詳細指南請參見 [CONTRIBUTING.md](../../CONTRIBUTING.md)。

### 發布新版本

```bash
# 建立發布 — npm publish 自動執行
gh release create v3.8.2 --title "v3.8.2" --generate-notes
```

<br/>

<div align="center">

## 📊 Stars

<a href="https://www.star-history.com/?repos=diegosouzapw%2Fomniroute&type=date&legend=top-left">
 <picture>
   <source media="(prefers-color-scheme: dark)" srcset="https://api.star-history.com/chart?repos=diegosouzapw/omniroute&type=date&theme=dark&legend=top-left" />
   <source media="(prefers-color-scheme: light)" srcset="https://api.star-history.com/chart?repos=diegosouzapw/omniroute&type=date&legend=top-left" />
   <img alt="Star History Chart" src="https://api.star-history.com/chart?repos=diegosouzapw/omniroute&type=date&legend=top-left" />
 </picture>
</a>
</div>

<br/>

<div align="center">

## 🌍 StarMapper

<a href="https://starmapper.bruniaux.com/diegosouzapw/omniroute">
  <picture>
    <source media="(prefers-color-scheme: dark)" srcset="https://starmapper.bruniaux.com/api/map-image/diegosouzapw/omniroute?theme=dark" />
    <source media="(prefers-color-scheme: light)" srcset="https://starmapper.bruniaux.com/api/map-image/diegosouzapw/omniroute?theme=light" />
    <img alt="StarMapper" src="https://starmapper.bruniaux.com/api/map-image/diegosouzapw/omniroute" />
  </picture>
</a>
</div>

<br/>

<div align="center">

## 🙏 致謝

</div>

OmniRoute 站在巨人的肩膀上。它始於 **[9router](https://github.com/decolua/9router)** 的分支和 Go 專案 **[CLIProxyAPI](https://github.com/router-for-me/CLIProxyAPI)** 的 TypeScript 移植 — 從那裡開始，下面的每個子系統都受到先行開源專案的啟發。每一個都塑造了 OmniRoute 的具體部分。這是我們對它們所有人的感謝。🙏

> ⭐ 星星數截至 2026 年 6 月 — 去給這些專案一顆星。

### 🧬 淵源與閘道

| 專案                                                                            | ⭐    | 啟發 OmniRoute 的方式                                                                       |
| ------------------------------------------------------------------------------- | ----- | ------------------------------------------------------------------------------------------- |
| **[9router](https://github.com/decolua/9router)** · decolua                     | 17.9k | 此分叉所基於的原始專案 — 此處以多模態 API 和完整的 TypeScript 重寫進行擴展。                |
| **[CLIProxyAPI](https://github.com/router-for-me/CLIProxyAPI)** · router-for-me | 37.8k | 啟發此 JavaScript/TypeScript 移植的 Go 實作。                                               |
| **[LiteLLM](https://github.com/BerriAI/litellm)** · BerriAI                     | 50.8k | AI 閘道，其公開定價資料集為我們的成本追蹤同步提供資料，其提供者正規化模型啟發了我們的路由。 |

### 🗜️ 上下文與 Token 壓縮 — 引擎

| 專案                                                                         | ⭐    | 啟發 OmniRoute 的方式                                                                                                                                 |
| ---------------------------------------------------------------------------- | ----- | ----------------------------------------------------------------------------------------------------------------------------------------------------- |
| **[Caveman](https://github.com/JuliusBrussee/caveman)** · JuliusBrussee      | 74.5k | 病毒式"為什麼用很多 Token 而不用少量 Token"專案 — 其原始人語哲學為我們的標準壓縮模式和 30+ 填充詞/濃縮規則提供動力。                                  |
| **[RTK – Rust Token Killer](https://github.com/rtk-ai/rtk)** · rtk-ai        | 63.6k | 高效能命令輸出壓縮 — 啟發了我們的 RTK 引擎、JSON 過濾器 DSL、原始輸出恢復和堆疊 RTK → Caveman 管線。                                                  |
| **[headroom](https://github.com/chopratejas/headroom)** · chopratejas        | 33.6k | 可逆上下文壓縮（SmartCrusher）— 啟發了我們的 `headroom` 引擎和 `ccr` 檢索標記模式。                                                                   |
| **[LLMLingua](https://github.com/microsoft/LLMLingua)** · Microsoft          | 6.3k  | 提示壓縮研究（LLMLingua / LLMLingua-2）— 啟發了我們的非同步、程式碼安全、fail-open `llmlingua` 引擎。                                                 |
| **[llmlingua-2-js](https://github.com/atjsh/llmlingua-2-js)** · atjsh        | 27    | JS/ONNX 移植（MobileBERT / XLM-RoBERTa）用作 LLMLingua 引擎的工作執行緒後端。                                                                         |
| **[Troglodita](https://github.com/leninejunior/troglodita)** · Lenine Júnior | 15    | PT-BR Token 壓縮 — 為我們的 pt-BR 語言包提供動力：針對巴西葡萄牙語文法調整的冗詞減少和填充詞移除。                                                    |
| **[ponytail](https://github.com/DietrichGebert/ponytail)** · DietrichGebert  | 51.4k | 病毒式"懶惰資深開發者" YAGNI 編碼技能 — 啟發了我們的 **less-code** Output Style：最小可行變更控制，減少生成的程式碼（Caveman 精簡文章的輸出軸夥伴）。 |

### 🧩 緊湊格式、Token 研究和程式碼感知工具

| 專案                                                                              | ⭐    | 啟發 OmniRoute 的方式                                                                             |
| --------------------------------------------------------------------------------- | ----- | ------------------------------------------------------------------------------------------------- |
| **[TOON](https://github.com/toon-format/toon)** · toon-format                     | 24.6k | Token 導向物件表示法 — 其欄式、標頭+行模型塑造了我們的表格壓縮階段。                              |
| **[GCF](https://github.com/blackwell-systems/gcf)** · Blackwell Systems           | 11    | 架構感知的"LLM 用 JSON"表示法 — 共同啟發了我們使用 `[N rows]` 標記的無損同構陣列壓縮。            |
| **[token-optimizer-mcp](https://github.com/ooples/token-optimizer-mcp)** · ooples | 409   | Brotli/SQLite 快取 + 每會話上下文 delta — 啟發了我們的 `session-dedup` 引擎。                     |
| **[token-savior](https://github.com/Mibayy/token-savior)** · Mibayy               | 993   | Bash 輸出壓縮 + MCP 設定檔 — 啟發了我們的壓縮 bail-out 紀律和 MCP 工具清單縮減。                  |
| **[ts-morph](https://github.com/dsherret/ts-morph)** · David Sherret              | 6.1k  | TypeScript 編譯器 API 工具包 — 啟發了我們基於解析器的註解移除，可保留字串、範本和正則表達式文字。 |

### 🧠 記憶與 RAG

| 專案                                                               | ⭐    | 啟發 OmniRoute 的方式                                                               |
| ------------------------------------------------------------------ | ----- | ----------------------------------------------------------------------------------- |
| **[Mem0](https://github.com/mem0ai/mem0)** · mem0ai                | 58.9k | 通用記憶層 — 其代理作為寫入/讀取邊界模型塑造了我們的記憶架構。                      |
| **[Letta (MemGPT)](https://github.com/letta-ai/letta)** · letta-ai | 23.4k | 具有分層記憶的狀態化代理 — 啟發了我們的 Context Control & Recovery（CCR）分層模型。 |
| **[WFGY](https://github.com/onestardao/WFGY)** · onestardao        | 1.8k  | 16 種常見 RAG/LLM 失敗模式的 ProblemMap 分類法 — 我們故障排除指南中的共享詞彙。     |

### 🛰️ 流量檢查、MITM 和透明代理

| 專案                                                                              | ⭐   | 啟發 OmniRoute 的方式                                                                                             |
| --------------------------------------------------------------------------------- | ---- | ----------------------------------------------------------------------------------------------------------------- |
| **[llm-interceptor](https://github.com/chouzz/llm-interceptor)** · chouzz         | 46   | 編碼助手 ↔ LLM 流量的 MITM 攔截/分析 — 我們的 Traffic Inspector 移植其 SSE 合併、對話正規化、主機傳遞和秘密遮罩。 |
| **[ProxyBridge](https://github.com/InterceptSuite/ProxyBridge)** · InterceptSuite | 5.1k | 透明每程序代理路由 — 啟發了我們的崩潰安全 MITM 拆卸、socket 空閒逾時、`/proc` 程序歸屬和 TPROXY 捕獲。            |

### 📚 模型資料、可觀測性與 UI

| 專案                                                                       | ⭐    | 啟發 OmniRoute 的方式                                                                         |
| -------------------------------------------------------------------------- | ----- | --------------------------------------------------------------------------------------------- |
| **[models.dev](https://github.com/anomalyco/models.dev)** · SST / OpenCode | 5.1k  | AI 模型規格、定價和能力的開放資料庫 — 原生同步到我們的模型目錄。                              |
| **[React Flow / xyflow](https://github.com/xyflow/xyflow)** · xyflow       | 37.1k | 驅動我們即時 Compression Studio 和 Combo/Routing Studio 的基於節點的圖形函式庫。              |
| **[LangGraph](https://github.com/langchain-ai/langgraph)** · LangChain     | 35.1k | LangGraph Studio 的即時工作流程圖形視覺化啟發了我們 Studios 的即時級聯視圖。                  |
| **[Langfuse](https://github.com/langfuse/langfuse)** · Langfuse            | 29.3k | 其 trace → span → generation 可觀測性模型塑造了我們的 Compression Studio 瀑布圖。             |
| **[Kiali](https://github.com/kiali/kiali)** · Kiali                        | 3.6k  | Istio 服務網格可觀測性 — 啟發了我們在 Routing/Combo Studio 中的斷路器徽章和錯誤邊緣視覺效果。 |
| **[lobe-icons](https://github.com/lobehub/lobe-icons)** · LobeHub          | 2.1k  | 在我們儀表板上呈現提供者圖示的 AI/LLM 品牌標誌。                                              |

### 🛡️ 安全

| 專案                                                                                        | ⭐  | 啟發 OmniRoute 的方式                                                                                                |
| ------------------------------------------------------------------------------------------- | --- | -------------------------------------------------------------------------------------------------------------------- |
| **[awesome-secure-defaults](https://github.com/tldrsec/awesome-secure-defaults)** · tldrsec | 708 | 一個精選的安全預設函式庫列表，引導我們的安全選擇（Helmet.js、DOMPurify、ssrf-req-filter、safe-regex、Google Tink）。 |

## ❤️ 支援

OmniRoute 是免費且開源的，在公開環境中建構和維護。如果它為您節省了時間或金錢，請考慮支援其開發：

- ⭐ **為倉庫加星** — 這確實有助於提高能見度
- 💖 **[GitHub Sponsors](https://github.com/sponsors/diegosouzapw)** — 資助持續維護和新提供者
- 🐛 **在 [Discussions](https://github.com/diegosouzapw/OmniRoute/discussions) 中回報錯誤和分享意見回饋**

## 📄 授權

MIT 授權 — 詳情請參見 [LICENSE](../../LICENSE)。

---

<div align="center">

**[⬆ 回到頂部](#-omniroute)** · 為開源 AI 社群用心建構。

<sub>OmniRoute v3.8.24 · Node ≥22.0.0 · MIT License · <a href="https://omniroute.online">omniroute.online</a></sub>

</div>
