1,104 mirrors rewritten over five passes of run-translation on the 22-source core set: the 14 sources edited since their translation, the 322 mirrors that were still English copies, and the frontmatter the old extractor leaked into the newer locales' bodies. The pipeline now caches per-`## `-section hashes and retranslates only changed sections, never reuses a section that is still English, rebuilds English-copy / leaked mirrors even when the source is unchanged, merges the state on save (parallel runs), and the drift gate (scoped to the core set) is blocking. Final audit: 0 stale, 0 English copies, 0 leaked frontmatter across 1,430 core mirrors. ⚠️ base-red inherited: #12732
122 KiB
User Guide (తెలుగు)
🌐 Languages: 🇺🇸 English · 🇪🇹 am · 🇸🇦 ar · 🇦🇿 az · 🇧🇬 bg · 🇧🇩 bn · 🇨🇿 cs · 🇩🇰 da · 🇩🇪 de · 🇬🇷 el · 🇪🇸 es · 🇪🇪 et · 🇮🇷 fa · 🇫🇮 fi · 🇫🇷 fr · 🇮🇪 ga · 🇮🇳 gu · 🇳🇬 ha · 🇮🇱 he · 🇮🇳 hi · 🇭🇷 hr · 🇭🇺 hu · 🇦🇲 hy · 🇮🇩 id · 🇳🇬 ig · 🇮🇹 it · 🇯🇵 ja · 🇬🇪 ka · 🇰🇭 km · 🇮🇳 kn · 🇰🇷 ko · 🇱🇹 lt · 🇱🇻 lv · 🇮🇳 ml · 🇮🇳 mr · 🇲🇾 ms · 🇲🇹 mt · 🇲🇲 my · 🇳🇵 ne · 🇳🇱 nl · 🇳🇴 no · 🇮🇳 or · 🇮🇳 pa · 🇵🇭 phi · 🇵🇱 pl · 🇵🇹 pt · 🇧🇷 pt-BR · 🇷🇴 ro · 🇷🇺 ru · 🇱🇰 si · 🇸🇰 sk · 🇸🇮 sl · 🇷🇸 sr · 🇸🇪 sv · 🇰🇪 sw · 🇮🇳 ta · 🇹🇭 th · 🇹🇷 tr · 🇺🇦 uk-UA · 🇵🇰 ur · 🇺🇿 uz · 🇻🇳 vi · 🇳🇬 yo · 🇨🇳 zh-CN · 🇹🇼 zh-TW
🌐 భాషలు: 🇺🇸 English | 🇪🇹 አማርኛ | 🇸🇦 العربية | 🇦🇿 Azərbaycan dili | 🇧🇬 Български | 🇧🇩 বাংলা | 🇨🇿 Čeština | 🇩🇰 Dansk | 🇩🇪 Deutsch | 🇬🇷 Ελληνικά | 🇪🇸 Español | 🇪🇪 Eesti | 🇮🇷 فارسی | 🇫🇮 Suomi | 🇫🇷 Français | 🇮🇪 Gaeilge | 🇮🇳 ગુજરાતી | 🇳🇬 Hausa | 🇮🇱 עברית | 🇮🇳 हिन्दी | 🇭🇷 Hrvatski | 🇭🇺 Magyar | 🇦🇲 Հայերեն | 🇮🇩 Bahasa Indonesia | 🇳🇬 Igbo | 🇮🇹 Italiano | 🇯🇵 日本語 | 🇬🇪 ქართული | 🇰🇭 ខ្មែរ | 🇮🇳 ಕನ್ನಡ | 🇰🇷 한국어 | 🇱🇹 Lietuvių | 🇱🇻 Latviešu | 🇮🇳 മലയാളം | 🇮🇳 मराठी | 🇲🇾 Bahasa Melayu | 🇲🇹 Malti | 🇲🇲 မြန်မာ | 🇳🇵 नेपाली | 🇳🇱 Nederlands | 🇳🇴 Norsk | 🇮🇳 ଓଡ଼ିଆ | 🇮🇳 ਪੰਜਾਬੀ | 🇵🇭 Filipino | 🇵🇱 Polski | 🇵🇹 Português (Portugal) | 🇧🇷 Português (Brasil) | 🇷🇴 Română | 🇷🇺 Русский | 🇱🇰 සිංහල | 🇸🇰 Slovenčina | 🇸🇮 Slovenščina | 🇷🇸 Српски | 🇸🇪 Svenska | 🇰🇪 Kiswahili | 🇮🇳 தமிழ் | 🇮🇳 తెలుగు | 🇹🇭 ไทย | 🇹🇷 Türkçe | 🇺🇦 Українська | 🇵🇰 اردو | 🇺🇿 Oʻzbekcha | 🇻🇳 Tiếng Việt | 🇳🇬 Yorùbá | 🇨🇳 中文 (简体) | 🇹🇼 中文 (繁體)
ప్రొవైడర్లను కాన్ఫిగర్ చేయడం, కాంబోలను సృష్టించడం, CLI సాధనాలను అనుసంధానించడం మరియు OmniRouteను డిప్లాయ్ చేయడం కోసం సమగ్ర మార్గదర్శిని.
విషయ సూచిక
- ధరల సంక్షిప్త వివరణ
- వినియోగ సందర్భాలు
- ప్రొవైడర్ సెటప్
- CLI అనుసంధానం
- డిప్లాయ్మెంట్
- అందుబాటులో ఉన్న మోడళ్లు
- అధునాతన ఫీచర్లు
- ఆటో-రూటింగ్ (కాన్ఫిగరేషన్ అవసరం లేదు)
- MCP & A2A అనుసంధానం
- స్కిల్స్ సిస్టమ్
- మెమరీ సిస్టమ్
- వెబ్హుక్లు
- క్లౌడ్ ఏజెంట్లు
- ప్రోగ్రామేటిక్ నిర్వహణ
- అంతర్గత CLI
- డెస్క్టాప్ అప్లికేషన్ (Electron)
💰 ధరల సంక్షిప్త వివరణ
| శ్రేణి | ప్రొవైడర్ | ఖర్చు | కోటా రీసెట్ | అత్యుత్తమ వినియోగం |
|---|---|---|---|---|
| 💳 సబ్స్క్రిప్షన్ | Claude Code (Pro) | $20/నెల | 5గం + వారానికి | ఇప్పటికే సబ్స్క్రైబ్ చేసుకున్నవారు |
| Codex (Plus/Pro) | $20-200/నెల | 5గం + వారానికి | OpenAI వినియోగదారులు | |
| GitHub Copilot | $10-19/నెల | నెలవారీ | GitHub వినియోగదారులు | |
| 🔑 API కీ | DeepSeek | వినియోగానికి అనుగుణంగా చెల్లింపు | లేదు | చౌకైన రీజనింగ్ |
| Groq | వినియోగానికి అనుగుణంగా చెల్లింపు | లేదు | అత్యంత వేగవంతమైన ఇన్ఫరెన్స్ | |
| xAI (Grok) | వినియోగానికి అనుగుణంగా చెల్లింపు | లేదు | Grok 4 రీజనింగ్ | |
| Mistral | వినియోగానికి అనుగుణంగా చెల్లింపు | లేదు | EUలో హోస్ట్ చేసిన మోడళ్లు | |
| Perplexity | వినియోగానికి అనుగుణంగా చెల్లింపు | లేదు | శోధనతో మెరుగుపరచబడిన వినియోగం | |
| Together AI | వినియోగానికి అనుగుణంగా చెల్లింపు | లేదు | ఓపెన్-సోర్స్ మోడళ్లు | |
| Fireworks AI | వినియోగానికి అనుగుణంగా చెల్లింపు | లేదు | వేగవంతమైన FLUX చిత్రాలు | |
| Cerebras | వినియోగానికి అనుగుణంగా చెల్లింపు | లేదు | వేఫర్-స్థాయి వేగం | |
| Cohere | వినియోగానికి అనుగుణంగా చెల్లింపు | లేదు | Command R+ RAG | |
| NVIDIA NIM | వినియోగానికి అనుగుణంగా చెల్లింపు | లేదు | ఎంటర్ప్రైజ్ మోడళ్లు | |
| Baidu Qianfan | వినియోగానికి అనుగుణంగా చెల్లింపు | లేదు | ERNIE మోడళ్లు | |
| 💰 చౌకైనవి | GLM-4.7 | $0.6/1M | ప్రతిరోజూ 10AM | బడ్జెట్ బ్యాకప్ |
| MiniMax M2.1 | $0.2/1M | ప్రతి 5 గంటలకు రోలింగ్ రీసెట్ | అత్యంత చౌకైన ఎంపిక | |
| Kimi K2 | $9/నెల స్థిర ధర | 10M టోకెన్లు/నెల | అంచనా వేయగలిగే ఖర్చు | |
| 🆓 ఉచితం | Qoder | $0 | ప్రొవైడర్ పరిమితులు వర్తిస్తాయి | ప్రస్తుత కేటలాగ్ను ధృవీకరించండి |
| Kiro | $0 | ~50 క్రెడిట్లు/నెల | ఉచిత Claude |
🎯 వినియోగ సందర్భాలు
సందర్భం 1: "నాకు Claude Pro సబ్స్క్రిప్షన్ ఉంది"
సమస్య: ఉపయోగించని కోటా గడువు ముగుస్తుంది, భారీ కోడింగ్ సమయంలో రేట్ పరిమితులు ఎదురవుతాయి
కాంబో: "maximize-claude"
1. cc/claude-opus-4-7 (సబ్స్క్రిప్షన్ను పూర్తిగా ఉపయోగించండి)
2. glm/glm-4.7 (కోటా అయిపోయినప్పుడు చౌకైన బ్యాకప్)
3. if/qwen3.8-max-preview (అత్యవసర పరిస్థితుల్లో ఉచిత ప్రత్యామ్నాయం)
నెలవారీ ఖర్చు: $20 (సబ్స్క్రిప్షన్) + ~$5 (బ్యాకప్) = మొత్తం $25
దీనికి బదులుగా $20 చెల్లించి + పరిమితులు ఎదుర్కోవడం = నిరాశ
సందర్భం 2: "నాకు ఎలాంటి ఖర్చూ వద్దు"
సమస్య: సబ్స్క్రిప్షన్లను భరించలేను, నమ్మదగిన AI కోడింగ్ అవసరం
కాంబో: "zero-cost"
1. if/kimi-k2.7-code (ఉచిత యాక్సెస్గా జాబితా చేయబడింది; రేట్ పరిమితులు వర్తించవచ్చు)
2. kr/qwen3-coder-next (Kiro ఉచిత ప్రత్యామ్నాయం)
నెలవారీ ఖర్చు: $0
నాణ్యత: మీ పనిభారానికి అనుగుణంగా మోడల్, పరిమితులు, గోప్యత మరియు SLAను ధృవీకరించండి
సందర్భం 3: "అంతరాయాలు లేకుండా 24/7 కోడింగ్ కావాలి"
సమస్య: గడువులు ఉన్నాయి, సేవ నిలిచిపోవడాన్ని భరించలేను
కాంబో: "always-on"
1. cc/claude-opus-4-7 (అత్యుత్తమ నాణ్యత)
2. cx/gpt-5.5 (రెండవ సబ్స్క్రిప్షన్)
3. glm/glm-4.7 (చౌకైనది, ప్రతిరోజూ రీసెట్ అవుతుంది)
4. minimax/MiniMax-M2.1 (అత్యంత చౌకైనది, 5గం రీసెట్)
5. if/deepseek-v4-flash (ఉచిత యాక్సెస్గా జాబితా చేయబడింది; రేట్ పరిమితులు వర్తించవచ్చు)
ఫలితం: 5 ప్రత్యామ్నాయ లేయర్లు స్థిరత్వాన్ని పెంచుతాయి; అప్స్ట్రీమ్ లభ్యతకు హామీ లేదు
నెలవారీ ఖర్చు: $20-200 (సబ్స్క్రిప్షన్లు) + $10-20 (బ్యాకప్)
సందర్భం 4: "OpenClawలో నాకు ఉచిత AI కావాలి"
సమస్య: మెసేజింగ్ యాప్లలో పూర్తిగా ఉచితమైన AI అసిస్టెంట్ అవసరం
కాంబో: "openclaw-free"
1. if/qwen3.8-max-preview (ఉచిత యాక్సెస్గా జాబితా చేయబడింది; రేట్ పరిమితులు వర్తించవచ్చు)
2. if/deepseek-v4-flash (ఉచిత యాక్సెస్గా జాబితా చేయబడింది; రేట్ పరిమితులు వర్తించవచ్చు)
3. if/kimi-k2.7-code (ఉచిత యాక్సెస్గా జాబితా చేయబడింది; రేట్ పరిమితులు వర్తించవచ్చు)
నెలవారీ ఖర్చు: $0
వీటి ద్వారా యాక్సెస్ చేయండి: WhatsApp, Telegram, Slack, Discord, iMessage, Signal...
📖 ప్రొవైడర్ సెటప్
CSV లేదా JSON ఫైల్ నుండి API-key కనెక్షన్లను పెద్ద మొత్తంలో జోడించడానికి, డ్యాష్బోర్డ్ → ప్రొవైడర్లు → ఫైల్ నుండి దిగుమతి చేయండి ఉపయోగించండి. కాలమ్లు స్థాన క్రమంలో ఉంటాయి (provider,name,apiKey,baseUrl,priority); provider ఇప్పటికే నిర్వహిత ప్రొవైడర్గా లేదా అనుకూల నోడ్గా ఉండాలి. CSV లేదా JSON ఫైల్ నుండి ప్రొవైడర్లను దిగుమతి చేయడం చూడండి.
🔐 సబ్స్క్రిప్షన్ ప్రొవైడర్లు
Claude Code (Pro/Max)
డ్యాష్బోర్డ్ → ప్రొవైడర్లు → Claude Codeను కనెక్ట్ చేయండి
→ OAuth లాగిన్ → ఆటోమేటిక్ టోకెన్ రిఫ్రెష్
→ 5-గంటల + వారపు కోటా ట్రాకింగ్
మోడల్లు:
cc/claude-opus-4-7
cc/claude-sonnet-4-6
cc/claude-haiku-4-5-20251001
నిపుణుల చిట్కా: క్లిష్టమైన పనులకు Opusను, వేగం కోసం Sonnetను ఉపయోగించండి. OmniRoute ప్రతి మోడల్కు కోటాను ట్రాక్ చేస్తుంది!
Claude మరియు Claude Codeకు అనుకూలమైన రూట్లు Opus మరియు Sonnet
మోడల్ల కోసం max ఆలోచనా శ్రమను యథాతథంగా ఉంచుతాయి. Haiku మోడల్లు max శ్రమ స్థాయిని అంగీకరించవు, కాబట్టి OmniRoute ఆ
అభ్యర్థనను అప్స్ట్రీమ్కు పంపే ముందు అధిక ఆలోచనా బడ్జెట్కు తగ్గిస్తుంది.
OpenAI Codex (Plus/Pro)
డ్యాష్బోర్డ్ → ప్రొవైడర్లు → Codexను కనెక్ట్ చేయండి
→ OAuth లాగిన్ (పోర్ట్ 1455)
→ 5-గంటల + వారపు రీసెట్
మోడల్లు:
cx/gpt-5.5
cx/gpt-5.4
cx/gpt-5.3-codex
cx/gpt-5.3-codex-spark
GitHub Copilot
డ్యాష్బోర్డ్ → ప్రొవైడర్లు → GitHubను కనెక్ట్ చేయండి
→ GitHub ద్వారా OAuth
→ నెలవారీ రీసెట్ (నెలలో 1వ తేదీ)
మోడల్లు:
gh/gpt-5.5
gh/gpt-5.4
gh/claude-sonnet-4.6
gh/claude-opus-4.7
gh/gemini-3.1-pro-preview
💰 చౌకైన ప్రొవైడర్లు
GLM-4.7 (రోజువారీ రీసెట్, $0.6/1M)
- సైన్ అప్ చేయండి: Zhipu AI
- Coding Plan నుండి API keyని పొందండి
- డ్యాష్బోర్డ్ → API Keyని జోడించండి: ప్రొవైడర్:
glm, API Key:your-key
ఉపయోగం: glm/glm-4.7 — నిపుణుల చిట్కా: Coding Plan 1/7 ఖర్చుతో 3× కోటాను అందిస్తుంది! ప్రతిరోజూ ఉదయం 10:00 గంటలకు రీసెట్ అవుతుంది.
MiniMax M2.1 (5గం. రీసెట్, $0.20/1M)
- సైన్ అప్ చేయండి: MiniMax
- API keyని పొందండి → డ్యాష్బోర్డ్ → API Keyని జోడించండి
ఉపయోగం: minimax/MiniMax-M2.1 — నిపుణుల చిట్కా: సుదీర్ఘ కాంటెక్స్ట్కు (1M టోకెన్లు) అత్యంత చౌకైన ఎంపిక!
Kimi K2 (నెలకు స్థిరంగా $9)
- సబ్స్క్రైబ్ చేయండి: Moonshot AI
- API keyని పొందండి → డ్యాష్బోర్డ్ → API Keyని జోడించండి
ఉపయోగం: kimi/kimi-k2.5 — నిపుణుల చిట్కా: 10M టోకెన్లకు నెలకు స్థిరంగా $9 = ప్రభావవంతమైన ఖర్చు $0.90/1M!
Baidu Qianfan / ERNIE
- సైన్ అప్ చేయండి: Baidu AI Cloud Qianfan
- Qianfan API keyని సృష్టించండి → డ్యాష్బోర్డ్ → API Keyని జోడించండి: ప్రొవైడర్:
qianfan
ఉపయోగం: qianfan/ernie-5.1, qianfan/ernie-x1.1, లేదా మరొక Qianfan OpenAI-అనుకూల మోడల్ ID.
🆓 ఉచిత ప్రొవైడర్లు
ప్రామాణీకరణ అవసరం లేని ఉచిత ప్రొవైడర్ల పేజీలో ప్రామాణీకరణ అవసరం లేదు పక్కన ఒక స్విచ్ ఉంటుంది.
దాన్ని ఆఫ్ చేయడం వలన ఆ ప్రొవైడర్ నిలిపివేయబడుతుంది, కాన్ఫిగర్ చేసిన/కాంపాక్ట్ ప్రొవైడర్ల వీక్షణల నుండి తొలగించబడుతుంది, అలాగే
దాని మోడల్లు /v1/models నుండి తొలగించబడతాయి.
Qoder (9 ఉచిత మోడల్లు)
డ్యాష్బోర్డ్ → Qoderను కనెక్ట్ చేయండి → OAuth లాగిన్ → యాక్సెస్ ప్రస్తుత ప్రొవైడర్ పరిమితులకు లోబడి ఉంటుంది
మోడల్లు: if/qwen3.8-max-preview, if/qwen3.7-max, if/qwen3.7-plus, if/kimi-k3, if/kimi-k2.7-code, if/glm-5.2, if/deepseek-v4-pro, if/deepseek-v4-flash, if/minimax-m3
Kiro (Claude ఉచితం)
డ్యాష్బోర్డ్ → Kiroను కనెక్ట్ చేయండి → AWS Builder ID లేదా Google/GitHub → నెలకు ~50 క్రెడిట్లు
మోడల్లు: kr/claude-sonnet-4.5, kr/claude-haiku-4.5
🎨 కాంబోలు
ప్రతి కార్డ్పై ఉన్న హ్యాండిల్ను డ్రాగ్ చేయడం ద్వారా మీరు నేరుగా Dashboard → Combosలో కాంబో కార్డ్ల క్రమాన్ని మార్చవచ్చు. ఆ క్రమం SQLiteలో నిల్వ చేయబడుతుంది మరియు రీలోడ్ చేసినప్పుడు పునరుద్ధరించబడుతుంది.
ఉదాహరణ 1: సబ్స్క్రిప్షన్ను గరిష్ఠంగా వినియోగించడం → చౌకైన బ్యాకప్
Dashboard → Combos → Create New
పేరు: premium-coding
మోడల్లు:
1. cc/claude-opus-4-7 (ప్రధాన సబ్స్క్రిప్షన్)
2. glm/glm-4.7 (చౌకైన బ్యాకప్, $0.6/1M)
3. minimax/MiniMax-M2.7 (అత్యంత చౌకైన ఫాల్బ్యాక్, $0.3/1M)
CLIలో ఉపయోగించండి: premium-coding
ఉదాహరణ 2: ఉచితమైనవి మాత్రమే (సున్నా ఖర్చు)
పేరు: free-combo
మోడల్లు:
1. if/kimi-k2.7-code (ఉచిత యాక్సెస్గా జాబితా చేయబడింది; ప్రొవైడర్ పరిమితులు వర్తించవచ్చు)
2. kr/qwen3-coder-next (Kiro ఉచిత ఫాల్బ్యాక్)
ఖర్చు: ప్రస్తుతం $0గా జాబితా చేయబడింది; నిబంధనలు మరియు లభ్యత మారవచ్చు
🔧 CLI ఇంటిగ్రేషన్
Cursor IDE
Cursorను OmniRoute క్లయింట్గా ఉపయోగించడం (Cursor చాట్ను OmniRoute ద్వారా రూట్ చేయండి):
Settings → Models → Advanced:
OpenAI API బేస్ URL: http://localhost:20128/v1
OpenAI API కీ: [omniroute డ్యాష్బోర్డ్ నుండి]
మోడల్: cc/claude-opus-4-7
OmniRouteను Cursor ప్రొవైడర్గా ఉపయోగించడం (OmniRoute అప్స్ట్రీమ్లో Cursorను కాల్ చేస్తుంది): ప్రాధాన్యంగా
Dashboard → Providers → Cursor → Login with Cursorను ఉపయోగించండి. Dockerలో,
docs/providers/CURSOR-DOCKER.md చూడండి.
Claude Code
~/.claude/settings.jsonను సవరించండి:
{
"env": {
"ANTHROPIC_BASE_URL": "http://localhost:20128",
"ANTHROPIC_AUTH_TOKEN": "your-omniroute-api-key"
}
}
ఇక్కడ Claude-అనుకూల రూట్ ఎండ్పాయింట్ను ఉపయోగించండి. ANTHROPIC_BASE_URLకు /v1ను జోడించవద్దు.
Codex CLI
export OPENAI_BASE_URL="http://localhost:20128"
export OPENAI_API_KEY="your-omniroute-api-key"
codex "your prompt"
OpenClaw
~/.openclaw/openclaw.jsonను సవరించండి:
{
"agents": {
"defaults": {
"model": { "primary": "omniroute/if/kimi-k2.7-code" }
}
},
"models": {
"providers": {
"omniroute": {
"baseUrl": "http://localhost:20128/v1",
"apiKey": "your-omniroute-api-key",
"api": "openai-completions",
"models": [{ "id": "if/kimi-k2.7-code", "name": "Kimi K2.7 Code" }]
}
}
}
}
లేదా Dashboard ఉపయోగించండి: CLI Tools → OpenClaw → Auto-config
Cline / Continue / RooCode
ప్రొవైడర్: OpenAI Compatible
బేస్ URL: http://localhost:20128/v1
API కీ: [డ్యాష్బోర్డ్ నుండి]
మోడల్: cc/claude-opus-4-7
🚀 డిప్లాయ్మెంట్
గ్లోబల్ npm ఇన్స్టాల్ (సిఫార్సు చేయబడింది)
npm install -g omniroute
# కాన్ఫిగ్ డైరెక్టరీని సృష్టించండి
mkdir -p ~/.omniroute
# .env ఫైల్ను సృష్టించండి (.env.example చూడండి)
cp .env.example ~/.omniroute/.env
# సర్వర్ను ప్రారంభించండి
omniroute
# లేదా అనుకూల పోర్ట్తో:
omniroute --port 3000
CLI స్వయంచాలకంగా ~/.omniroute/.env లేదా ./.env నుండి .envను లోడ్ చేస్తుంది.
ట్రే మోడ్
OmniRouteను సిస్టమ్ ట్రేలో ప్రారంభించండి:
omniroute serve --tray
సర్వర్ మరియు ట్రే సిద్ధమైన తర్వాత కమాండ్ ముగుస్తుంది.
టెర్మినల్ లేకుండానే సర్వర్ కొనసాగుతుంది.
ట్రే మోడ్ macOS, Windows మరియు గ్రాఫికల్ Linux సెషన్లకు మద్దతు ఇస్తుంది. ట్రే మోడ్ డ్యాష్బోర్డ్ను స్వయంచాలకంగా తెరవదు.
ఈ చర్యల కోసం ట్రే మెనూను ఉపయోగించండి:
- డ్యాష్బోర్డ్ను తెరవండి.
/dashboard/logsను తెరవండి.- ఆటో-స్టార్ట్ను మార్చండి.
- OmniRouteను ఆపండి.
ఈ ఆప్షన్లతో --trayను కలిపి ఉపయోగించవద్దు:
--daemon--log--no-recovery
ఈ మోడ్లకు వేర్వేరు ప్రాసెస్ యాజమాన్యం అవసరం.
తదుపరి మెషీన్ లాగిన్ సమయంలో స్టార్టప్ను ప్రారంభించండి:
omniroute autostart enable
macOS, Windows మరియు గ్రాఫికల్ Linux సెషన్లలో ఆటో-స్టార్ట్ ట్రే మోడ్ను ఉపయోగిస్తుంది. హెడ్లెస్ Linux ఇప్పటికే ఉన్న systemd యూజర్ సర్వీస్ను ఉపయోగిస్తుంది.
లాగిన్ సమయంలో స్టార్టప్ను నిలిపివేయండి:
omniroute autostart disable
అన్ఇన్స్టాల్ చేయడం
మీకు ఇకపై OmniRoute అవసరం లేనప్పుడు, పూర్తిగా తొలగించడానికి మేము రెండు శీఘ్ర స్క్రిప్ట్లను అందిస్తున్నాము:
| కమాండ్ | చర్య |
|---|---|
npm run uninstall |
సిస్టమ్ యాప్ను తొలగిస్తుంది, కానీ ~/.omnirouteలోని మీ DB మరియు కాన్ఫిగరేషన్లను ఉంచుతుంది. |
npm run uninstall:full |
యాప్ను తొలగించడంతో పాటు అన్ని కాన్ఫిగరేషన్లు, కీలు మరియు డేటాబేస్లను శాశ్వతంగా తొలగిస్తుంది. |
గమనిక: ఈ కమాండ్లను అమలు చేయడానికి, OmniRoute ప్రాజెక్ట్ ఫోల్డర్కు వెళ్లి (మీరు దాన్ని క్లోన్ చేసి ఉంటే) వాటిని అమలు చేయండి. ప్రత్యామ్నాయంగా, గ్లోబల్గా ఇన్స్టాల్ చేసి ఉంటే, మీరు కేవలం
npm uninstall -g omnirouteను అమలు చేయవచ్చు.
VPS డిప్లాయ్మెంట్
git clone https://github.com/diegosouzapw/OmniRoute.git
cd OmniRoute && npm install && npm run build
export JWT_SECRET="your-secure-secret-change-this"
export INITIAL_PASSWORD="your-password"
export DATA_DIR="/var/lib/omniroute"
export PORT="20128"
export HOSTNAME="0.0.0.0"
export NODE_ENV="production"
export NEXT_PUBLIC_BASE_URL="http://localhost:20128"
export API_KEY_SECRET="endpoint-proxy-api-key-secret"
npm run start
# లేదా: pm2 start npm --name omniroute -- start
PM2 డిప్లాయ్మెంట్ (తక్కువ మెమరీ)
పరిమిత RAM ఉన్న సర్వర్ల కోసం, మెమరీ పరిమితి ఆప్షన్ను ఉపయోగించండి:
# 512MB పరిమితితో (డిఫాల్ట్)
pm2 start npm --name omniroute -- start
# లేదా అనుకూల మెమరీ పరిమితితో
OMNIROUTE_MEMORY_MB=512 pm2 start npm --name omniroute -- start
# లేదా ecosystem.config.jsను ఉపయోగించి
pm2 start ecosystem.config.js
ecosystem.config.jsను సృష్టించండి:
module.exports = {
apps: [
{
name: "omniroute",
script: "npm",
args: "start",
env: {
NODE_ENV: "production",
OMNIROUTE_MEMORY_MB: "512",
JWT_SECRET: "your-secret",
INITIAL_PASSWORD: "your-password",
},
node_args: "--max-old-space-size=512",
max_memory_restart: "300M",
},
],
};
Docker
# ఇమేజ్ను బిల్డ్ చేయండి (డిఫాల్ట్ = codex/claude/droid ముందే ఇన్స్టాల్ చేయబడిన runner-cli)
docker build -t omniroute:cli .
# పోర్టబుల్ మోడ్ (సిఫార్సు చేయబడింది)
docker run -d --name omniroute -p 20128:20128 --env-file ./.env -v omniroute-data:/app/data omniroute:cli
CLI బైనరీలతో హోస్ట్-ఇంటిగ్రేటెడ్ మోడ్ కోసం, ప్రధాన డాక్యుమెంటేషన్లోని Docker విభాగాన్ని చూడండి.
Void Linux (xbps-src)
Void Linux వినియోగదారులు xbps-src క్రాస్-కంపైలేషన్ ఫ్రేమ్వర్క్ను ఉపయోగించి OmniRouteను స్థానికంగా ప్యాకేజ్ చేసి ఇన్స్టాల్ చేయవచ్చు. ఇది అవసరమైన better-sqlite3 నేటివ్ బైండింగ్లతో పాటు Node.js స్వతంత్ర బిల్డ్ను ఆటోమేట్ చేస్తుంది.
xbps-src టెంప్లేట్ను వీక్షించండి
# 'omniroute' కోసం టెంప్లేట్ ఫైల్
pkgname=omniroute
version=3.8.0
revision=1
hostmakedepends="nodejs python3 make"
depends="openssl"
short_desc="Universal AI gateway with smart routing for multiple LLM providers"
maintainer="zenobit <zenobit@disroot.org>"
license="MIT"
homepage="https://github.com/diegosouzapw/OmniRoute"
distfiles="https://github.com/diegosouzapw/OmniRoute/archive/refs/tags/v${version}.tar.gz"
checksum=009400afee90a9f32599d8fe734145cfd84098140b7287990183dde45ae2245b
system_accounts="_omniroute"
omniroute_homedir="/var/lib/omniroute"
export NODE_ENV=production
export npm_config_engine_strict=false
export npm_config_loglevel=error
export npm_config_fund=false
export npm_config_audit=false
do_build() {
# node-gyp కోసం లక్ష్య CPU ఆర్కిటెక్చర్ను నిర్ధారించండి
local _gyp_arch
case "$XBPS_TARGET_MACHINE" in
aarch64*) _gyp_arch=arm64 ;;
armv7*|armv6*) _gyp_arch=arm ;;
i686*) _gyp_arch=ia32 ;;
*) _gyp_arch=x64 ;;
esac
# 1) అన్ని డిపెండెన్సీలను ఇన్స్టాల్ చేయండి – స్క్రిప్ట్లను దాటవేయండి
NODE_ENV=development npm ci --ignore-scripts
# 2) Next.js స్వతంత్ర బండిల్ను బిల్డ్ చేయండి
npm run build
# 3) స్టాటిక్ అసెట్లను స్వతంత్ర బండిల్లోకి కాపీ చేయండి
cp -r .next/static .next/standalone/.next/static
[ -d public ] && cp -r public .next/standalone/public || true
# 4) better-sqlite3 నేటివ్ బైండింగ్ను కంపైల్ చేయండి
local _node_gyp=/usr/lib/node_modules/npm/node_modules/node-gyp/bin/node-gyp.js
(cd node_modules/better-sqlite3 && node "$_node_gyp" rebuild --arch="$_gyp_arch")
# 5) కంపైల్ చేసిన బైండింగ్ను స్వతంత్ర బండిల్లో ఉంచండి
local _bs3_release=.next/standalone/node_modules/better-sqlite3/build/Release
mkdir -p "$_bs3_release"
cp node_modules/better-sqlite3/build/Release/better_sqlite3.node "$_bs3_release/"
# 6) ఆర్కిటెక్చర్-నిర్దిష్ట sharp బండిల్లను తొలగించండి
rm -rf .next/standalone/node_modules/@img
# 7) Next.js స్టాటిక్ విశ్లేషణ విస్మరించిన pino రన్టైమ్ డిపెండెన్సీలను కాపీ చేయండి:
for _mod in pino-abstract-transport split2 process-warning; do
cp -r "node_modules/$_mod" .next/standalone/node_modules/
done
}
do_check() {
npm run test:unit
}
do_install() {
vmkdir usr/lib/omniroute/.next
vcopy .next/standalone/. usr/lib/omniroute/.next/standalone
# పోస్ట్-ఇన్స్టాల్ హుక్ ద్వారా ఖాళీ Next.js యాప్ రౌటర్ డైరెక్టరీలు తొలగించబడకుండా నిరోధించండి
for _d in \
.next/standalone/.next/server/app/dashboard \
.next/standalone/.next/server/app/dashboard/settings \
.next/standalone/.next/server/app/dashboard/providers; do
touch "${DESTDIR}/usr/lib/omniroute/${_d}/.keep"
done
cat > "${WRKDIR}/omniroute" <<'EOF'
#!/bin/sh
export PORT="${PORT:-20128}"
export DATA_DIR="${DATA_DIR:-${XDG_DATA_HOME:-${HOME}/.local/share}/omniroute}"
export APP_LOG_TO_FILE="${APP_LOG_TO_FILE:-false}"
mkdir -p "${DATA_DIR}"
exec node /usr/lib/omniroute/.next/standalone/server.js "$@"
EOF
vbin "${WRKDIR}/omniroute"
}
post_install() {
vlicense LICENSE
}
ఎన్విరాన్మెంట్ వేరియబుల్స్
| వేరియబుల్ | డిఫాల్ట్ | వివరణ |
|---|---|---|
JWT_SECRET |
omniroute-default-secret-change-me |
JWT సంతకం కోసం రహస్యం (ప్రొడక్షన్లో మార్చండి) |
INITIAL_PASSWORD |
CHANGEME |
మొదటి లాగిన్ పాస్వర్డ్ |
DATA_DIR |
~/.omniroute |
డేటా డైరెక్టరీ (db, వినియోగం, లాగ్లు) |
PORT |
ఫ్రేమ్వర్క్ డిఫాల్ట్ | సేవా పోర్ట్ (ఉదాహరణల్లో 20128) |
HOSTNAME |
ఫ్రేమ్వర్క్ డిఫాల్ట్ | బైండ్ హోస్ట్ (Docker డిఫాల్ట్ 0.0.0.0) |
NODE_ENV |
రన్టైమ్ డిఫాల్ట్ | డిప్లాయ్మెంట్ కోసం productionగా సెట్ చేయండి |
NEXT_PUBLIC_BASE_URL |
http://localhost:20128 |
డాష్బోర్డ్లో చూపబడే మరియు సర్వర్కు అందుబాటులో ఉండే పబ్లిక్ బేస్ URL (లెగసీ BASE_URLను భర్తీ చేస్తుంది) |
NEXT_PUBLIC_CLOUD_URL |
https://omniroute.dev |
క్లౌడ్ సింక్ ఎండ్పాయింట్ బేస్ URL (లెగసీ CLOUD_URLను భర్తీ చేస్తుంది) |
API_KEY_SECRET |
endpoint-proxy-api-key-secret |
రూపొందించిన API కీల కోసం HMAC రహస్యం |
REQUIRE_API_KEY |
false |
/v1/*పై Bearer API కీని తప్పనిసరి చేయండి |
ALLOW_API_KEY_REVEAL |
false |
ప్రామాణీకరించబడిన డాష్బోర్డ్ వినియోగదారులు అభ్యర్థనపై నిల్వ చేసిన పూర్తి API కీ విలువలను చూసేందుకు అనుమతించండి |
PROVIDER_LIMITS_SYNC_INTERVAL_MINUTES |
70 |
క్యాష్ చేసిన ప్రొవైడర్ పరిమితుల డేటా కోసం సర్వర్-వైపు రిఫ్రెష్ వ్యవధి; UI రిఫ్రెష్ బటన్లు ఇప్పటికీ మాన్యువల్ సింక్ను ట్రిగ్గర్ చేస్తాయి |
DISABLE_SQLITE_AUTO_BACKUP |
false |
రైట్/ఇంపోర్ట్/రిస్టోర్కు ముందు ఆటోమేటిక్ SQLite స్నాప్షాట్లను నిలిపివేయండి; మాన్యువల్ బ్యాకప్లు ఇప్పటికీ పనిచేస్తాయి |
APP_LOG_TO_FILE |
true |
అప్లికేషన్ మరియు ఆడిట్ లాగ్ అవుట్పుట్ను డిస్క్లోకి ప్రారంభిస్తుంది |
AUTH_COOKIE_SECURE |
false |
Secure ప్రామాణీకరణ కుకీని బలవంతం చేయండి (HTTPS రివర్స్ ప్రాక్సీ వెనుక) |
CLOUDFLARED_BIN |
సెట్ చేయబడలేదు | నిర్వహిత డౌన్లోడ్కు బదులుగా ఇప్పటికే ఉన్న cloudflared బైనరీని ఉపయోగించండి |
CLOUDFLARED_PROTOCOL |
http2 |
నిర్వహిత క్విక్ టన్నెల్స్ కోసం ట్రాన్స్పోర్ట్ (http2, quic, లేదా auto) |
OMNIROUTE_MEMORY_MB |
512 |
MBలో Node.js హీప్ పరిమితి |
PROMPT_CACHE_MAX_SIZE |
50 |
ప్రాంప్ట్ క్యాష్ ఎంట్రీల గరిష్ఠ సంఖ్య |
SEMANTIC_CACHE_MAX_SIZE |
100 |
సెమాంటిక్ క్యాష్ ఎంట్రీల గరిష్ఠ సంఖ్య |
పూర్తి ఎన్విరాన్మెంట్ వేరియబుల్ సూచన కోసం, README చూడండి.
📊 అందుబాటులో ఉన్న మోడల్లు
అందుబాటులో ఉన్న అన్ని మోడల్లను చూడండి
దిగువ జాబితా v3.8.0 కోసం
open-sse/config/providerRegistry.tsనుండి ఎంపిక చేయబడింది. క్లౌడ్ కేటలాగ్లు (Gemini, OpenRouter మొదలైనవి) డైనమిక్గా సమకాలీకరించబడతాయి — పూర్తి లైవ్ కేటలాగ్ కోసం Dashboard → Providers → [provider] → Available Models తెరవండి లేదాGET /api/models/catalogకాల్ చేయండి.ప్రొవైడర్లో అంతర్నిర్మితంగా ఉన్న జాబితా తాజా స్థితికి భిన్నంగా ఉంటే, లైవ్ అప్స్ట్రీమ్ కేటలాగ్ను పొందడానికి ఆ పేజీలోని Import from /models ఉపయోగించండి (లేదా Auto-Sync ప్రారంభించండి). ఇది LLM7.io (
gemini-3.1-flash-lite) మరియు UncloseAI (solidrust/Hermes-3-Llama-3.1-8B-AWQ) కోసం v3.8.50లో ధృవీకరించబడింది; అదే పరీక్షా సమయంలో Pollinations అనామక యాక్సెస్ అప్స్ట్రీమ్ పరిమితులతోనే కొనసాగింది.
Claude Code (cc/) — Pro/Max OAuth: cc/claude-opus-4-8, cc/claude-opus-4-7, cc/claude-opus-4-6, cc/claude-opus-4-5-20251101, cc/claude-sonnet-4-6, cc/claude-sonnet-4-5-20250929, cc/claude-haiku-4-5-20251001
Codex (cx/) — Plus/Pro OAuth: cx/gpt-5.5 (+ శ్రమ స్థాయులు: gpt-5.5-xhigh, gpt-5.5-high, gpt-5.5-medium, gpt-5.5-low), cx/gpt-5.4, cx/gpt-5.4-mini, cx/gpt-5.3-codex, cx/gpt-5.3-codex-spark
GitHub Copilot (gh/) — OAuth: gh/gpt-5.5, gh/gpt-5.4, gh/gpt-5.4-mini, gh/gpt-5-mini, gh/gpt-5.3-codex, gh/claude-opus-4.7, gh/claude-opus-4.6, gh/claude-opus-4-5-20251101, gh/claude-sonnet-4.6, gh/claude-sonnet-4.5, gh/claude-haiku-4.5, gh/gemini-3.1-pro-preview, gh/gemini-3-flash-preview, gh/oswe-vscode-prime
Kiro (kr/) — ఉచిత OAuth: Dashboard → Providers → Kiro → Available Models కింద చూపబడే లైవ్ కేటలాగ్ను ఉపయోగించండి. లభ్యత ఖాతా మరియు ప్లాన్పై ఆధారపడి ఉంటుంది.
Qoder (if/) — ఉచిత OAuth: if/qwen3.8-max-preview, if/qwen3.7-max, if/qwen3.7-plus, if/kimi-k3, if/kimi-k2.7-code, if/glm-5.2, if/deepseek-v4-pro, if/deepseek-v4-flash, if/minimax-m3
GLM (glm/, glm-cn/, zai/, glmt/) — $0.2–0.6/1M: glm/glm-5.1, glm/glm-5, glm/glm-5-turbo, glm/glm-4.7, glm/glm-4.7-flash, glm/glm-4.6, glm/glm-4.6v, glm/glm-4.5, glm/glm-4.5v, glm/glm-4.5-air
MiniMax (minimax/, minimax-cn/) — $0.2/1M: minimax/MiniMax-M2.7, minimax/MiniMax-M2.7-highspeed, minimax/MiniMax-M2.5, minimax/MiniMax-M2.5-highspeed
Kimi (kimi/, kimi-coding/, kimi-coding-apikey/) — నెలకు స్థిరంగా $9 లేదా వినియోగం ఆధారంగా: kimi/kimi-k2.6, kimi/kimi-k2.5
DeepSeek (ds/) — API కీ: ds/deepseek-v4-pro, ds/deepseek-v4-flash
Groq (groq/) — అత్యంత వేగవంతమైనది: groq/llama-3.3-70b-versatile, groq/meta-llama/llama-4-maverick-17b-128e-instruct, groq/qwen/qwen3-32b, groq/openai/gpt-oss-120b
xAI (xai/) — స్థానిక Grok: xai/grok-4.3, xai/grok-4.20-multi-agent-0309, xai/grok-4.20-0309-reasoning, xai/grok-4.20-0309-non-reasoning
Mistral (mistral/) — EUలో హోస్ట్ చేయబడింది: mistral/mistral-large-latest, mistral/mistral-medium-3-5, mistral/mistral-small-latest, mistral/devstral-latest, mistral/codestral-latest
Perplexity (pplx/) — శోధనతో విస్తరించబడింది: pplx/sonar-deep-research, pplx/sonar-reasoning-pro, pplx/sonar-pro, pplx/sonar
Together AI (together/) — ఓపెన్ సోర్స్: together/meta-llama/Llama-3.3-70B-Instruct-Turbo-Free (ఉచితం), together/meta-llama/Llama-Vision-Free, together/deepseek-ai/DeepSeek-R1-Distill-Llama-70B-Free, together/deepseek-ai/DeepSeek-R1, together/Qwen/Qwen3-235B-A22B, together/meta-llama/Llama-4-Maverick-17B-128E-Instruct-FP8
Fireworks AI (fireworks/) — వేగవంతమైన ఇన్ఫరెన్స్: fireworks/accounts/fireworks/models/kimi-k2p6, fireworks/accounts/fireworks/models/minimax-m2p7, fireworks/accounts/fireworks/models/qwen3p6-plus, fireworks/accounts/fireworks/models/glm-5p1, fireworks/accounts/fireworks/models/deepseek-v4-pro
Cerebras (cerebras/) — వేఫర్ స్థాయి: cerebras/zai-glm-4.7, cerebras/gpt-oss-120b
Cohere (cohere/) — RAGపై దృష్టి కేంద్రీకరించబడింది: cohere/command-a-reasoning-08-2025, cohere/command-a-vision-07-2025, cohere/command-a-03-2025, cohere/command-r-08-2024
NVIDIA NIM (nvidia/) — ఎంటర్ప్రైజ్: nvidia/z-ai/glm-5.1, nvidia/minimaxai/minimax-m2.7, nvidia/google/gemma-4-31b-it, nvidia/mistralai/mistral-small-4-119b-2603, nvidia/mistralai/mistral-large-3-675b-instruct-2512, nvidia/qwen/qwen3.5-397b-a17b, nvidia/deepseek-ai/deepseek-v4-pro, nvidia/openai/gpt-oss-120b, nvidia/nvidia/nemotron-3-super-120b-a12b
Baidu Qianfan (qianfan/) — ERNIE: qianfan/ernie-5.1, qianfan/ernie-5.0-thinking-latest, qianfan/ernie-x1.1
Ollama Cloud (ollama-cloud/): ollama-cloud/deepseek-v4-pro, ollama-cloud/deepseek-v4-flash, ollama-cloud/kimi-k2.6, ollama-cloud/glm-5.1, ollama-cloud/minimax-m2.7, ollama-cloud/gemma4:31b, ollama-cloud/qwen3.5:397b
Gemini (Google Cloud gemini/): Google నుండి ప్రతి API కీకి లైవ్గా సమకాలీకరించబడుతుంది — స్థిరమైన జాబితా లేదు. Dashboard → Providersలో ఒక కీని కనెక్ట్ చేసి, ఆపై ప్రస్తుత కేటలాగ్ను దిగుమతి చేయడానికి Available Models ఉపయోగించండి (ఉదా. gemini/gemini-3-pro, gemini/gemini-3-flash).
ఇతర అనుకూల ప్రొవైడర్లు (ఎంపిక చేసినవి): cohere, databricks, snowflake, together, vertex, alibaba, alibaba-cn, bedrock (aws-bedrock ద్వారా), azure-ai, openrouter (పాస్త్రూ కేటలాగ్), siliconflow, hyperbolic, huggingface, featherless-ai, cloudflare-ai, scaleway, deepinfra, vercel-ai-gateway, bazaarlink, friendliai, nous-research, reka, volcengine, ai21, gigachat. ప్రతి ఒక్కటి providerRegistry.tsలో దాని స్వంత మోడల్ జాబితాను నిర్వహిస్తుంది మరియు ప్రొవైడర్ /models ఎండ్పాయింట్ను అందించినప్పుడు స్వయంచాలకంగా సమకాలీకరించవచ్చు.
మోడల్ IDలపై గమనిక: OmniRoute ప్రొవైడర్కు స్థానికమైన IDలను (claude-opus-4-8, gpt-5.5, glm-5.1, MiniMax-M2.7, kimi-k2.5, grok-4.20-0309-reasoning) ఉపయోగిస్తుంది. అప్స్ట్రీమ్ API వాటిని ఆ విధంగానే ఆశిస్తుంది కాబట్టి కొన్ని IDలలో చుక్కలతో కూడిన వెర్షన్లు ఉంటాయి. ఒక మోడల్ పైన జాబితా చేయబడకపోతే, లభ్యతను నిర్ధారించడానికి omniroute models --search <term> అమలు చేయండి లేదా GET /api/models/catalog అభ్యర్థించండి.
🧩 అధునాతన ఫీచర్లు
అనుకూల మోడళ్లు
యాప్ అప్డేట్ కోసం వేచి ఉండకుండా ఏ ప్రొవైడర్కైనా ఏదైనా మోడల్ IDని జోడించండి:
# API ద్వారా
curl -X POST http://localhost:20128/api/provider-models \
-H "Content-Type: application/json" \
-d '{"provider": "openai", "modelId": "gpt-5.2", "modelName": "GPT-5.2"}'
# జాబితా: curl http://localhost:20128/api/provider-models?provider=openai
# తొలగించండి: curl -X DELETE "http://localhost:20128/api/provider-models?provider=openai&model=gpt-5.2"
లేదా డ్యాష్బోర్డ్ను ఉపయోగించండి: ప్రొవైడర్లు → [ప్రొవైడర్] → అనుకూల మోడళ్లు.
గమనికలు:
- OpenRouter మరియు OpenAI/Anthropic-అనుకూల ప్రొవైడర్లు అందుబాటులో ఉన్న మోడళ్లు నుండి మాత్రమే నిర్వహించబడతాయి. మాన్యువల్ జోడింపు, దిగుమతి మరియు ఆటో-సింక్ అన్నీ ఒకే అందుబాటులో-ఉన్న-మోడళ్ల జాబితాలో చేరతాయి, కాబట్టి ఆ ప్రొవైడర్లకు ప్రత్యేక అనుకూల మోడళ్ల విభాగం ఉండదు.
- నిర్వహిత అందుబాటులో-ఉన్న-మోడళ్ల దిగుమతులను అందించని ప్రొవైడర్ల కోసం అనుకూల మోడళ్లు విభాగం ఉద్దేశించబడింది.
OmniRoute పీర్లను గొలుసుగా అనుసంధానించడం
మరొక OmniRoute గేట్వేను అనుకూల OpenAI-అనుకూల ప్రొవైడర్గా జోడించవచ్చు. పీర్ యొక్క /v1 బేస్ URLను మరియు ఆ పీర్ జారీ చేసిన ప్రత్యేక, కనిష్ఠ-అధికార API కీని ఉపయోగించండి.
పరస్పర లేదా బహుళ-హాప్ గొలుసుల కోసం, ప్రతి గేట్వేపై ఆప్ట్-ఇన్ లూప్ గార్డ్ను ప్రారంభించండి:
# gateway-a
OMNIROUTE_INSTANCE_ID=gateway-a
OMNIROUTE_PEER_URLS=http://gateway-b:20128/v1
OMNIROUTE_PEER_MAX_HOPS=4
# gateway-b
OMNIROUTE_INSTANCE_ID=gateway-b
OMNIROUTE_PEER_URLS=http://gateway-a:20128/v1
OMNIROUTE_PEER_MAX_HOPS=4
స్పష్టంగా అనుమతి జాబితాలో చేర్చిన పీర్ URLకు పంపిన అభ్యర్థనలు మాత్రమే
X-OmniRoute-Peer-Trace హెడర్ను అందుకుంటాయి. పునరావృతమైన ఇన్స్టాన్స్ IDని లేదా పూర్తిగా వినియోగించబడిన హాప్
బడ్జెట్ను గేట్వే HTTP 508 Loop Detectedతో తిరస్కరిస్తుంది; సాధారణ అప్స్ట్రీమ్ ప్రొవైడర్లకు పీర్ మెటాడేటా అందదు.
పీర్ చైనింగ్ అనేది డేటాబేస్ రెప్లికేషన్ లేదా హోస్ట్ ఫెయిలోవర్ కాదు. ప్రతి గేట్వే స్వతంత్ర SQLite స్థితి, క్యాష్లు, రేట్ కౌంటర్లు మరియు సెషన్లను నిర్వహిస్తుంది. యాక్టివ్/పాసివ్ లేదా యాక్టివ్/యాక్టివ్ లభ్యత కోసం హెల్త్-చెక్ చేసిన రివర్స్ ప్రాక్సీ లేదా క్లయింట్ ఫెయిలోవర్ను ఉపయోగించండి మరియు ఒకే SQLite డేటాబేస్ను అమలులో ఉన్న బహుళ OmniRoute ఇన్స్టాన్స్లలో ఎప్పుడూ మౌంట్ చేయవద్దు.
ప్రత్యేక ప్రొవైడర్ రూట్లు
మోడల్ ధ్రువీకరణతో అభ్యర్థనలను నేరుగా నిర్దిష్ట ప్రొవైడర్కు రూట్ చేయండి:
POST http://localhost:20128/v1/providers/openai/chat/completions
POST http://localhost:20128/v1/providers/openai/embeddings
POST http://localhost:20128/v1/providers/fireworks/images/generations
ప్రొవైడర్ ప్రిఫిక్స్ లేకపోతే అది స్వయంచాలకంగా జోడించబడుతుంది. సరిపోలని మోడళ్లు 400ను తిరిగి ఇస్తాయి.
నెట్వర్క్ ప్రాక్సీ కాన్ఫిగరేషన్
# గ్లోబల్ ప్రాక్సీని సెట్ చేయండి
curl -X PUT http://localhost:20128/api/settings/proxy \
-d '{"global": {"type":"http","host":"proxy.example.com","port":"8080"}}'
# ప్రతి ప్రొవైడర్కు ప్రాక్సీ
curl -X PUT http://localhost:20128/api/settings/proxy \
-d '{"providers": {"openai": {"type":"socks5","host":"proxy.example.com","port":"1080"}}}'
# ప్రాక్సీని పరీక్షించండి
curl -X POST http://localhost:20128/api/settings/proxy/test \
-d '{"proxy":{"type":"socks5","host":"proxy.example.com","port":"1080"}}'
ప్రాధాన్యత క్రమం: కీ-నిర్దిష్ట → కాంబో-నిర్దిష్ట → ప్రొవైడర్-నిర్దిష్ట → గ్లోబల్ → ఎన్విరాన్మెంట్.
మోడల్ కేటలాగ్ API
curl http://localhost:20128/api/models/catalog
రకాల (chat, embedding, image)తో ప్రొవైడర్ వారీగా సమూహపరచిన మోడళ్లను తిరిగి ఇస్తుంది.
క్లౌడ్ సింక్
- పరికరాల మధ్య ప్రొవైడర్లు, కాంబోలు మరియు సెట్టింగ్లను సింక్ చేయండి
- టైమ్అవుట్ + ఫెయిల్-ఫాస్ట్తో ఆటోమేటిక్ బ్యాక్గ్రౌండ్ సింక్
- ప్రొడక్షన్లో సర్వర్-సైడ్
NEXT_PUBLIC_BASE_URL/NEXT_PUBLIC_CLOUD_URLకు ప్రాధాన్యత ఇవ్వండి
Cloudflare క్విక్ టన్నెల్
- Docker మరియు ఇతర స్వీయ-హోస్ట్ చేసిన డిప్లాయ్మెంట్ల కోసం డ్యాష్బోర్డ్ → ఎండ్పాయింట్లులో అందుబాటులో ఉంటుంది
- మీ ప్రస్తుత OpenAI-అనుకూల
/v1ఎండ్పాయింట్కు ఫార్వర్డ్ చేసే తాత్కాలికhttps://*.trycloudflare.comURLను సృష్టిస్తుంది - మొదటిసారి ప్రారంభించినప్పుడు అవసరమైతే మాత్రమే
cloudflaredను ఇన్స్టాల్ చేస్తుంది; తదుపరి రీస్టార్ట్లు అదే నిర్వహిత బైనరీని తిరిగి ఉపయోగిస్తాయి - OmniRoute లేదా కంటైనర్ రీస్టార్ట్ తర్వాత క్విక్ టన్నెల్లు స్వయంచాలకంగా పునరుద్ధరించబడవు; అవసరమైనప్పుడు డ్యాష్బోర్డ్ నుండి వాటిని మళ్లీ ప్రారంభించండి
- టన్నెల్ URLలు తాత్కాలికమైనవి మరియు మీరు టన్నెల్ను ఆపి/ప్రారంభించిన ప్రతిసారీ మారతాయి
- పరిమిత వనరులున్న కంటైనర్లలో శబ్దపూరిత QUIC UDP బఫర్ హెచ్చరికలను నివారించడానికి నిర్వహిత క్విక్ టన్నెల్లు డిఫాల్ట్గా HTTP/2 ట్రాన్స్పోర్ట్ను ఉపయోగిస్తాయి
- నిర్వహిత ట్రాన్స్పోర్ట్ ఎంపికను ఓవర్రైడ్ చేయాలనుకుంటే
CLOUDFLARED_PROTOCOL=quicలేదాautoను సెట్ చేయండి - నిర్వహిత డౌన్లోడ్కు బదులుగా ముందుగా ఇన్స్టాల్ చేసిన
cloudflaredబైనరీని ఉపయోగించాలనుకుంటేCLOUDFLARED_BINను సెట్ చేయండి - Cloudflare క్విక్ టన్నెల్, Tailscale ఫన్నెల్ మరియు ngrok టన్నెల్ ప్యానెల్లను సెట్టింగ్లు → రూపంలో చూపించవచ్చు లేదా దాచవచ్చు. ప్యానెల్ను దాచడం వల్ల అమలులో ఉన్న టన్నెల్ ఆగదు.
LLM గేట్వే ఇంటెలిజెన్స్ (దశ 9)
- సెమాంటిక్ క్యాష్ — స్ట్రీమింగ్ కాని, temperature=0 ప్రతిస్పందనలను స్వయంచాలకంగా క్యాష్ చేస్తుంది (
X-OmniRoute-No-Cache: trueతో బైపాస్ చేయండి) - అభ్యర్థన ఐడెంపొటెన్సీ —
Idempotency-KeyలేదాX-Request-Idహెడర్ ద్వారా 5sలోపు అభ్యర్థనల నకళ్లను తొలగిస్తుంది - పురోగతి ట్రాకింగ్ —
X-OmniRoute-Progress: trueహెడర్ ద్వారా ఆప్ట్-ఇన్ SSEevent: progressఈవెంట్లు
ట్రాన్స్లేటర్ ప్లేగ్రౌండ్
డ్యాష్బోర్డ్ → ట్రాన్స్లేటర్ ద్వారా యాక్సెస్ చేయండి. OmniRoute ప్రొవైడర్ల మధ్య API అభ్యర్థనలను ఎలా అనువదిస్తుందో డీబగ్ చేసి దృశ్యరూపంలో చూడండి.
| మోడ్ | ప్రయోజనం |
|---|---|
| ప్లేగ్రౌండ్ | మూలం/లక్ష్య ఫార్మాట్లను ఎంచుకుని, అభ్యర్థనను పేస్ట్ చేసి, అనువదించిన అవుట్పుట్ను వెంటనే చూడండి |
| చాట్ టెస్టర్ | ప్రాక్సీ ద్వారా లైవ్ చాట్ సందేశాలను పంపి, పూర్తి అభ్యర్థన/ప్రతిస్పందన చక్రాన్ని పరిశీలించండి |
| టెస్ట్ బెంచ్ | అనువాద ఖచ్చితత్వాన్ని ధృవీకరించడానికి బహుళ ఫార్మాట్ కలయికలపై బ్యాచ్ పరీక్షలను అమలు చేయండి |
| లైవ్ మానిటర్ | అభ్యర్థనలు ప్రాక్సీ ద్వారా ప్రవహిస్తున్నప్పుడు నిజ-సమయ అనువాదాలను గమనించండి |
వినియోగ సందర్భాలు:
- నిర్దిష్ట క్లయింట్/ప్రొవైడర్ కలయిక ఎందుకు విఫలమవుతుందో డీబగ్ చేయండి
- థింకింగ్ ట్యాగ్లు, టూల్ కాల్లు మరియు సిస్టమ్ ప్రాంప్ట్లు సరిగ్గా అనువదించబడుతున్నాయని ధృవీకరించండి
- OpenAI, Claude, Gemini మరియు Responses API ఫార్మాట్ల మధ్య ఫార్మాట్ తేడాలను సరిపోల్చండి
రూటింగ్ వ్యూహాలు
డ్యాష్బోర్డ్ → సెట్టింగ్లు → రూటింగ్ ద్వారా కాన్ఫిగర్ చేయండి. డ్యాష్బోర్డ్లో అత్యధికంగా ఉపయోగించే ఆరు వ్యూహాలు కనిపిస్తాయి; కాంబోలు మరియు ఆటో-రౌటర్ అంతర్గతంగా మరిన్ని వ్యూహాలకు మద్దతు ఇస్తాయి.
డ్యాష్బోర్డ్లో కనిపించే వ్యూహాలు (ఖాతా-స్థాయి రూటింగ్):
| వ్యూహం | వివరణ |
|---|---|
| మొదటిదాన్ని నింపు | ప్రాధాన్యత క్రమంలో ఖాతాలను ఉపయోగిస్తుంది — ప్రాథమిక ఖాతా అందుబాటులో లేకుండా పోయే వరకు అన్ని అభ్యర్థనలను నిర్వహిస్తుంది |
| రౌండ్ రాబిన్ | కాన్ఫిగర్ చేయగల స్టికీ పరిమితితో అన్ని ఖాతాల మధ్య చక్రీయంగా మారుతుంది (డిఫాల్ట్: ఒక్కో ఖాతాకు 3 కాల్లు) |
| P2C (రెండు ఎంపికల శక్తి) | యాదృచ్ఛికంగా 2 ఖాతాలను ఎంచుకుని, వాటిలో ఆరోగ్యకరమైన దానికి రూట్ చేస్తుంది — ఆరోగ్య స్థితిని పరిగణనలోకి తీసుకుంటూ లోడ్ను సమతుల్యం చేస్తుంది |
| యాదృచ్ఛికం | Fisher-Yates షఫుల్ను ఉపయోగించి ప్రతి అభ్యర్థనకు ఒక ఖాతాను యాదృచ్ఛికంగా ఎంచుకుంటుంది |
| అతి తక్కువగా ఉపయోగించినది | అత్యంత పాత lastUsedAt టైమ్స్టాంప్ ఉన్న ఖాతాకు రూట్ చేసి, ట్రాఫిక్ను సమానంగా పంపిణీ చేస్తుంది |
| వ్యయ ఆప్టిమైజ్డ్ | అత్యల్ప ప్రాధాన్యత విలువ ఉన్న ఖాతాకు రూట్ చేసి, అత్యల్ప-వ్యయ ప్రొవైడర్ల కోసం ఆప్టిమైజ్ చేస్తుంది |
అధునాతన కాంబో మరియు ఆటో వ్యూహాలు (ఒక్కో కాంబోకు లేదా auto/* ప్రిఫిక్స్ల ద్వారా కాన్ఫిగర్ చేయవచ్చు — AUTO-COMBO.md చూడండి):
priority— కఠినమైన క్రమం, రౌండ్-రాబిన్ను ఎప్పుడూ ఉపయోగించదుweighted— ఒక్కో మోడల్ బరువుల ఆధారంగా అనుపాత ట్రాఫిక్ విభజనfill-first— పరిమితులు చేరుకునే వరకు మొదటి మోడల్ను పూర్తిగా ఉపయోగిస్తుందిround-robin/strict-random/randomp2c(రెండు ఎంపికల శక్తి)least-usedమరియుcost-optimizedauto— అభ్యర్థులందరిలో స్కోర్ ఆధారంగా ఎంపికlkgp(చివరిగా సక్రమంగా పనిచేసిన ప్రొవైడర్) — చివరిగా విజయవంతమైన ప్రొవైడర్కు పిన్ చేసి, ఆపై నియమాల ప్రకారం ఫాల్బ్యాక్ అవుతుందిcontext-optimized— అత్యధిక ఖాళీ కాంటెక్స్ట్ విండో ఉన్న మోడల్ను ఎంచుకుంటుందిcontext-relay— తదుపరి టర్న్ల కోసం దీర్ఘ-కాంటెక్స్ట్ మోడల్లను గొలుసుగా అనుసంధానిస్తుంది
బాహ్య స్టికీ సెషన్ హెడర్
బాహ్య సెషన్ అనుబంధం కోసం (ఉదాహరణకు, రివర్స్ ప్రాక్సీల వెనుక ఉన్న Claude Code/Codex ఏజెంట్లు), దీన్ని పంపండి:
X-Session-Id: your-session-key
OmniRoute x_session_idను కూడా అంగీకరిస్తుంది మరియు అమలులో ఉన్న సెషన్ కీని X-OmniRoute-Session-Idలో తిరిగి అందిస్తుంది.
మీరు Nginx ఉపయోగిస్తూ అండర్స్కోర్-రూపంలోని హెడర్లను పంపితే, దీన్ని ప్రారంభించండి:
underscores_in_headers on;
వైల్డ్కార్డ్ మోడల్ అలియాస్లు
మోడల్ పేర్లను రీమ్యాప్ చేయడానికి వైల్డ్కార్డ్ నమూనాలను సృష్టించండి:
నమూనా: claude-sonnet-* → లక్ష్యం: cc/claude-sonnet-4-6
నమూనా: gpt-* → లక్ష్యం: gh/gpt-5.3-codex
వైల్డ్కార్డ్లు * (ఏవైనా అక్షరాలు) మరియు ? (ఒకే అక్షరం)కు మద్దతు ఇస్తాయి.
ఫాల్బ్యాక్ గొలుసులు
అన్ని అభ్యర్థనలకు వర్తించే గ్లోబల్ ఫాల్బ్యాక్ గొలుసులను నిర్వచించండి:
గొలుసు: production-fallback
1. cc/claude-opus-4-7
2. gh/gpt-5.3-codex
3. glm/glm-4.7
స్థితిస్థాపకత & సర్క్యూట్ బ్రేకర్లు
డ్యాష్బోర్డ్ → సెట్టింగ్లు → స్థితిస్థాపకత ద్వారా కాన్ఫిగర్ చేయండి.
OmniRoute ఐదు భాగాలతో ప్రొవైడర్-స్థాయి స్థితిస్థాపకతను అమలు చేస్తుంది:
-
అభ్యర్థన క్యూ & పేసింగ్ — సిస్టమ్-స్థాయి అభ్యర్థన నియంత్రణ:
- నిమిషానికి అభ్యర్థనలు (RPM) — ఒక్కో ఖాతాకు నిమిషానికి గరిష్ఠ అభ్యర్థనలు
- అభ్యర్థనల మధ్య కనిష్ఠ సమయం — అభ్యర్థనల మధ్య మిల్లీసెకన్లలో కనిష్ఠ విరామం
- గరిష్ఠ ఏకకాల అభ్యర్థనలు — ఒక్కో ఖాతాకు గరిష్ఠ ఏకకాల అభ్యర్థనలు
-
కనెక్షన్ కూల్డౌన్ — మళ్లీ ప్రయత్నించగల వైఫల్యాల తర్వాత ఒకే కనెక్షన్ కోసం ఒక్కో ప్రామాణీకరణ రకానికి కాన్ఫిగరేషన్:
- ప్రాథమిక కూల్డౌన్ — మళ్లీ ప్రయత్నించగల అప్స్ట్రీమ్ వైఫల్యాలకు డిఫాల్ట్ కూల్డౌన్ వ్యవధి
- అప్స్ట్రీమ్ రీట్రై సూచనలను ఉపయోగించు — అందుబాటులో ఉన్నప్పుడు అధికారిక
Retry-Afterలేదా రీసెట్ సూచనలను పాటిస్తుంది - గరిష్ఠ బ్యాక్ఆఫ్ దశలు — పునరావృత వైఫల్యాల కోసం గరిష్ఠ ఎక్స్పోనెన్షియల్ బ్యాక్ఆఫ్ స్థాయి
-
ప్రొవైడర్ సర్క్యూట్ బ్రేకర్ — ఎండ్-టు-ఎండ్ ప్రొవైడర్ వైఫల్యాలను ట్రాక్ చేస్తుంది, కాన్ఫిగర్ చేసిన హెచ్చరిక పరిమితి వద్ద ప్రొవైడర్ను క్షీణించినదిగా గుర్తిస్తుంది మరియు కాన్ఫిగర్ చేసిన వైఫల్య పరిమితి చేరుకున్నప్పుడు బ్రేకర్ను తెరుస్తుంది:
- క్షీణత పరిమితి —
DEGRADEDస్థితిలోకి ప్రవేశించడానికి ముందు వరుసగా సంభవించే ప్రొవైడర్ వైఫల్యాలు - వైఫల్య పరిమితి —
OPENస్థితిలోకి ప్రవేశించడానికి ముందు వరుసగా సంభవించే ప్రొవైడర్ వైఫల్యాలు - రీసెట్ టైమ్అవుట్ — ప్రొవైడర్ను మళ్లీ పరీక్షించడానికి ముందు వేచి ఉండే సమయ వ్యవధి
- CLOSED (ఆరోగ్యకరం) — అభ్యర్థనలు సాధారణంగా ప్రవహిస్తాయి
- DEGRADED — పెరిగిన వైఫల్యాలను ట్రాక్ చేస్తూనే అభ్యర్థనలు ప్రవహిస్తాయి
- OPEN — పునరావృత వైఫల్యాల తర్వాత ప్రొవైడర్ తాత్కాలికంగా బ్లాక్ చేయబడుతుంది
- HALF_OPEN — ప్రొవైడర్ కోలుకుందో లేదో పరీక్షిస్తుంది
కనెక్షన్-పరిధిలోని
429రేట్ పరిమితులు కనెక్షన్ కూల్డౌన్లోనే ఉంటాయి మరియు ప్రొవైడర్ బ్రేకర్ గణనలోకి రావు.ప్రొవైడర్ బ్రేకర్ రన్టైమ్ స్థితి డ్యాష్బోర్డ్ → ఆరోగ్యంలో మాత్రమే చూపబడుతుంది.
- క్షీణత పరిమితి —
-
కూల్డౌన్ కోసం వేచి ఉండు — ప్రతి అభ్యర్థి కనెక్షన్ ఇప్పటికే కూల్డౌన్లో ఉంటే, OmniRoute అత్యంత ముందుగా ముగిసే కూల్డౌన్ కోసం వేచి ఉండి, అదే క్లయింట్ అభ్యర్థనను స్వయంచాలకంగా మళ్లీ ప్రయత్నించగలదు.
-
రేట్ పరిమితి స్వయంచాలక గుర్తింపు — అప్స్ట్రీమ్ ప్రొవైడర్లు స్పష్టమైన నిరీక్షణ వ్యవధులను అందించినప్పుడు, ఈ సెట్టింగ్ ప్రారంభించబడి ఉంటే ఆ సూచనలు స్థానిక కనెక్షన్ కూల్డౌన్ను అధిగమిస్తాయి.
ఉపయోగకర సూచన: అంతరాయం తర్వాత సక్రియ ప్రొవైడర్ బ్రేకర్లను పరిశీలించి రీసెట్ చేయడానికి ఆరోగ్యం పేజీని ఉపయోగించండి. స్థితిస్థాపకత పేజీ కాన్ఫిగరేషన్ను మాత్రమే మారుస్తుంది.
డేటాబేస్ ఎగుమతి / దిగుమతి
డేటాబేస్ బ్యాకప్లను డ్యాష్బోర్డ్ → సెట్టింగ్లు → సిస్టమ్ & నిల్వలో నిర్వహించండి.
| చర్య | వివరణ |
|---|---|
| డేటాబేస్ను ఎగుమతి చేయండి | ప్రస్తుత SQLite డేటాబేస్ను .sqlite ఫైల్గా డౌన్లోడ్ చేస్తుంది |
| అన్నింటినీ ఎగుమతి చేయండి (.tar.gz) | డేటాబేస్, సెట్టింగ్లు, కాంబోలు, ప్రొవైడర్ కనెక్షన్లు (క్రెడెన్షియల్స్ లేకుండా), API కీ మెటాడేటాతో సహా పూర్తి బ్యాకప్ ఆర్కైవ్ను డౌన్లోడ్ చేస్తుంది |
| డేటాబేస్ను దిగుమతి చేయండి | ప్రస్తుత డేటాబేస్ను భర్తీ చేయడానికి .sqlite ఫైల్ను అప్లోడ్ చేస్తుంది. DISABLE_SQLITE_AUTO_BACKUP=true అయితే తప్ప, దిగుమతికి ముందు బ్యాకప్ స్వయంచాలకంగా సృష్టించబడుతుంది |
# API: డేటాబేస్ను ఎగుమతి చేయండి
curl -o backup.sqlite http://localhost:20128/api/db-backups/export
# API: అన్నింటినీ ఎగుమతి చేయండి (పూర్తి ఆర్కైవ్)
curl -o backup.tar.gz http://localhost:20128/api/db-backups/exportAll
# API: డేటాబేస్ను దిగుమతి చేయండి
curl -X POST http://localhost:20128/api/db-backups/import \
-F "file=@backup.sqlite"
దిగుమతి ధ్రువీకరణ: దిగుమతి చేసిన ఫైల్ సమగ్రత (SQLite pragma తనిఖీ), అవసరమైన పట్టికలు (provider_connections, provider_nodes, combos, api_keys), మరియు పరిమాణం (గరిష్ఠంగా 100MB) కోసం ధ్రువీకరించబడుతుంది.
వినియోగ సందర్భాలు:
- యంత్రాల మధ్య OmniRouteను మైగ్రేట్ చేయడం
- విపత్తు పునరుద్ధరణ కోసం బాహ్య బ్యాకప్లను సృష్టించడం
- బృంద సభ్యుల మధ్య కాన్ఫిగరేషన్లను పంచుకోవడం (అన్నింటినీ ఎగుమతి చేయండి → ఆర్కైవ్ను పంచుకోండి)
సెట్టింగ్ల డ్యాష్బోర్డ్
సులభమైన నావిగేషన్ కోసం సెట్టింగ్ల పేజీ 7 ట్యాబ్లుగా నిర్వహించబడింది:
| ట్యాబ్ | విషయాలు |
|---|---|
| సాధారణం | సిస్టమ్ స్టోరేజ్ సాధనాలు, డిఫాల్ట్ ప్రవర్తన, Endpoint టన్నెల్ విజిబిలిటీ |
| రూపురేఖలు | థీమ్ నియంత్రణలు (లైట్/డార్క్/సిస్టమ్), సైడ్బార్ విజిబిలిటీ, Cloudflare/Tailscale/ngrok టన్నెల్ కార్డ్ల కోసం ప్యానెల్ టాగుల్లు |
| AI | థింకింగ్ బడ్జెట్ (పాస్త్రూ / ఆటో-స్ట్రిప్ / కస్టమ్ / అడాప్టివ్ — THINKING_BUDGET.md చూడండి), గ్లోబల్ సిస్టమ్ ప్రాంప్ట్, ప్రాంప్ట్ క్యాష్ గణాంకాలు |
| భద్రత | లాగిన్/పాస్వర్డ్ సెట్టింగ్లు, IP యాక్సెస్ కంట్రోల్, /models కోసం API ప్రమాణీకరణ, ప్రొవైడర్ బ్లాకింగ్, ప్రాంప్ట్-ఇంజెక్షన్ రక్షణ |
| రూటింగ్ | గ్లోబల్ రూటింగ్ వ్యూహం (మొదట నింపడం / రౌండ్ రాబిన్ / P2C / యాదృచ్ఛికం / అతి తక్కువగా ఉపయోగించినది / ఖర్చు ఆప్టిమైజ్డ్), వైల్డ్కార్డ్ మోడల్ అలియాస్లు, ఫాల్బ్యాక్ చైన్లు, కాంబో డిఫాల్ట్లు |
| స్థితిస్థాపకత | అభ్యర్థన క్యూ, కనెక్షన్ కూల్డౌన్, ప్రొవైడర్ బ్రేకర్ కాన్ఫిగరేషన్, మరియు కూల్డౌన్ కోసం వేచి ఉండే ప్రవర్తన |
| అధునాతనం | గ్లోబల్ ప్రాక్సీ కాన్ఫిగరేషన్ (HTTP/SOCKS5), ప్రతి ప్రొవైడర్కు ప్రాక్సీ ఓవర్రైడ్లు |
సాధారణం ఇకపై చదవడానికి మాత్రమే ఉద్దేశించిన లాగింగ్ మరియు క్యాష్ గమనికలను నకలు చేయదు. డేటాబేస్ నిల్వ వ్యవధి మరియు
ఆప్టిమైజేషన్ సెట్టింగ్లు /api/settings/database ద్వారా భద్రపరచబడతాయి; మాన్యువల్ క్యాష్ క్లియరింగ్ కోసం
DELETE /api/cache ఉపయోగించబడుతుంది. అభ్యర్థన మరియు ప్రాక్సీ లాగ్ వరుస పరిమితులు
CALL_LOGS_TABLE_MAX_ROWS మరియు PROXY_LOGS_TABLE_MAX_ROWS ద్వారా నియంత్రించబడతాయి.
ఖర్చులు & బడ్జెట్ నిర్వహణ
డ్యాష్బోర్డ్ → ఖర్చులు ద్వారా యాక్సెస్ చేయండి.
| ట్యాబ్ | ప్రయోజనం |
|---|---|
| బడ్జెట్ | రోజువారీ/వారంవారీ/నెలవారీ బడ్జెట్లు మరియు రియల్-టైమ్ ట్రాకింగ్తో ప్రతి API కీకి ఖర్చు పరిమితులను సెట్ చేయండి |
| ధరలు | మోడల్ ధరల నమోదులను వీక్షించండి మరియు సవరించండి — ప్రతి ప్రొవైడర్కు ప్రతి 1K ఇన్పుట్/అవుట్పుట్ టోకెన్ల ఖర్చు |
# API: బడ్జెట్ను సెట్ చేయండి
curl -X POST http://localhost:20128/api/usage/budget \
-H "Content-Type: application/json" \
-d '{"keyId": "key-123", "limit": 50.00, "period": "monthly"}'
# API: ప్రస్తుత బడ్జెట్ స్థితిని పొందండి
curl http://localhost:20128/api/usage/budget
ఖర్చు ట్రాకింగ్: ప్రతి అభ్యర్థన టోకెన్ వినియోగాన్ని లాగ్ చేసి, ధరల పట్టికను ఉపయోగించి ఖర్చును లెక్కిస్తుంది. ప్రొవైడర్, మోడల్, మరియు API కీ వారీగా విభజనలను డ్యాష్బోర్డ్ → వినియోగంలో వీక్షించండి.
ఆడియో ట్రాన్స్క్రిప్షన్
OpenAI-అనుకూల endpoint ద్వారా ఆడియో ట్రాన్స్క్రిప్షన్కు OmniRoute మద్దతు ఇస్తుంది:
POST /v1/audio/transcriptions
Authorization: Bearer your-api-key
Content-Type: multipart/form-data
# curlతో ఉదాహరణ
curl -X POST http://localhost:20128/v1/audio/transcriptions \
-H "Authorization: Bearer your-api-key" \
-F "file=@audio.mp3" \
-F "model=openai/whisper-1"
deepgram/nova-3 అనేది స్థానిక Deepgram రూట్ మరియు దీనికి Deepgram API కీ అవసరం.
OpenRouter మాత్రమే కాన్ఫిగర్ చేయబడి ఉంటే, openrouter/deepgram/nova-3 ఉపయోగించండి.
మాటల నుండి వచనం (ట్రాన్స్క్రిప్షన్) ప్రొవైడర్లు:
openai/(whisper-అనుకూలం)groq/(Groq Whisper Turbo)deepgram/(Nova కుటుంబం)assemblyai/nvidia/(Parakeet, Canary)huggingface/(whisper వేరియంట్లు)qwen/
వచనం నుండి మాటలు (POST /v1/audio/speech) ప్రొవైడర్లు:
openai/(tts-1, tts-1-hd)hyperbolic/deepgram/(Aura)nvidia/(Magpie TTS)elevenlabs/huggingface/inworld/cartesia/playht/kie/aws-polly/xiaomi-mimo/coqui/,tortoise/qwen/
ట్రాన్స్క్రిప్షన్ కోసం మద్దతు ఉన్న ఆడియో ఫార్మాట్లు: mp3, wav, m4a, flac, ogg, webm. TTS అవుట్పుట్ ఫార్మాట్లు ప్రొవైడర్పై ఆధారపడి ఉంటాయి (mp3, wav, opus, pcm, mulaw).
కాంబో బ్యాలెన్సింగ్ వ్యూహాలు
డ్యాష్బోర్డ్ → కాంబోలు → సృష్టించండి/సవరించండి → వ్యూహంలో ప్రతి కాంబోకు బ్యాలెన్సింగ్ను కాన్ఫిగర్ చేయండి.
| వ్యూహం | వివరణ |
|---|---|
| రౌండ్-రాబిన్ | మోడళ్లను వరుస క్రమంలో మారుస్తుంది |
| ప్రాధాన్యత | ఎల్లప్పుడూ మొదటి మోడల్ను ప్రయత్నిస్తుంది; లోపం సంభవించినప్పుడు మాత్రమే ప్రత్యామ్నాయానికి మారుతుంది |
| యాదృచ్ఛికం | ప్రతి అభ్యర్థన కోసం కాంబో నుండి ఒక యాదృచ్ఛిక మోడల్ను ఎంచుకుంటుంది |
| వెయిటెడ్ | ఒక్కో మోడల్కు కేటాయించిన వెయిట్ల ఆధారంగా అనుపాతంలో రూట్ చేస్తుంది |
| అతి తక్కువగా ఉపయోగించబడినది | ఇటీవల అతి తక్కువ అభ్యర్థనలు అందుకున్న మోడల్కు రూట్ చేస్తుంది (కాంబో మెట్రిక్లను ఉపయోగిస్తుంది) |
| వ్యయ-అనుకూలీకృతం | అందుబాటులో ఉన్న అత్యంత చౌకైన మోడల్కు రూట్ చేస్తుంది (ధరల పట్టికను ఉపయోగిస్తుంది) |
గ్లోబల్ కాంబో డిఫాల్ట్లను డ్యాష్బోర్డ్ → సెట్టింగ్లు → రూటింగ్ → కాంబో డిఫాల్ట్లులో సెట్ చేయవచ్చు. కాంబో టార్గెట్ టైమ్అవుట్లు డిఫాల్ట్గా ప్రస్తుత అభ్యర్థన టైమ్అవుట్ను వారసత్వంగా పొందుతాయి. తక్కువ వ్యవధి గల ప్రతి-టార్గెట్ పరిమితి వేగవంతమైన ప్రత్యామ్నాయ మార్పును ట్రిగ్గర్ చేయాల్సినప్పుడు మాత్రమే కాంబో డిఫాల్ట్లలో లేదా వ్యక్తిగత కాంబోలోని **టార్గెట్ టైమ్అవుట్ (సెకన్లు)**ను ఉపయోగించండి.
జీరో-లేటెన్సీ కాంబో అనుకూలీకరణలు స్వచ్ఛందంగా ప్రారంభించాల్సినవి. ఈ లేటెన్సీ ఫీచర్లు ప్రత్యామ్నాయ టార్గెట్లతో పోటీ పడకుండా, TTFT చరిత్ర ఆధారంగా టార్గెట్లను దాటవేయకుండా లేదా ప్రత్యామ్నాయ అభ్యర్థనలను కుదించకుండా నిరోధించడానికి జీరో-లేటెన్సీ అనుకూలీకరణలును నిలిపివేసి ఉంచండి; దీన్ని ప్రారంభిస్తే కాన్ఫిగర్ చేసిన హెడ్జింగ్, అంచనా-ఆధారిత TTFT దాటవేతలు మరియు క్రియాశీల ప్రత్యామ్నాయ కుదింపును ఉపయోగించి తక్కువ టెయిల్ లేటెన్సీ కోసం రూటింగ్/అభ్యర్థన విశ్వసనీయతను మార్పిడి చేసుకోవచ్చు.
అప్స్ట్రీమ్ ప్రొవైడర్లకు ఖచ్చితమైన
max_tokens / maxOutputTokens పరిమితులు అవసరమైనప్పుడు రీజనింగ్ టోకెన్ బఫర్ను నిలిపివేయండి. ఇది ప్రారంభించబడినప్పుడు, తెలిసిన అవుట్పుట్ పరిమితి ఉన్న మోడళ్లకు మాత్రమే కాంబో రూటింగ్ రీజనింగ్-మోడల్
అదనపు సామర్థ్యాన్ని జోడిస్తుంది మరియు సురక్షితమైన బఫర్ విలువ ఆ పరిమితిని మించినప్పుడు క్లయింట్ టోకెన్ పరిమితిని మార్చదు. క్లయింట్ పరిమితి ఇప్పటికే తెలిసిన పరిమితి కంటే ఎక్కువగా ఉంటే,
అప్స్ట్రీమ్ అభ్యర్థనను పంపే ముందు OmniRoute దాన్ని ఆ పరిమితికి తగ్గిస్తుంది.
ఆరోగ్య డ్యాష్బోర్డ్
డ్యాష్బోర్డ్ → ఆరోగ్యం ద్వారా యాక్సెస్ చేయండి. 6 కార్డ్లతో కూడిన రియల్-టైమ్ సిస్టమ్ ఆరోగ్య అవలోకనం:
| కార్డ్ | ఇది చూపించేది |
|---|---|
| సిస్టమ్ స్థితి | అప్టైమ్, వెర్షన్, మెమరీ వినియోగం, డేటా డైరెక్టరీ |
| ప్రొవైడర్ ఆరోగ్యం | గ్లోబల్ ప్రొవైడర్ సర్క్యూట్ బ్రేకర్ రన్టైమ్ స్థితి |
| రేట్ పరిమితులు | మిగిలిన సమయంతో ఒక్కో ఖాతాకు యాక్టివ్ కనెక్షన్ కూల్డౌన్లు |
| యాక్టివ్ లాకౌట్లు | యాక్టివ్ మోడల్-స్కోప్డ్ లాకౌట్లు మరియు తాత్కాలిక మినహాయింపులు |
| సిగ్నేచర్ క్యాష్ | డీడూప్లికేషన్ క్యాష్ గణాంకాలు (యాక్టివ్ కీలు, హిట్ రేట్) |
| లేటెన్సీ టెలిమెట్రీ | ఒక్కో ప్రొవైడర్కు p50/p95/p99 లేటెన్సీ సమీకరణ |
ఉపయోగకరమైన చిట్కా: ఆరోగ్య పేజీ ప్రతి 10 సెకన్లకు ఆటోమేటిక్గా రిఫ్రెష్ అవుతుంది. ఏ ప్రొవైడర్లు సమస్యలను ఎదుర్కొంటున్నాయో గుర్తించడానికి సర్క్యూట్ బ్రేకర్ కార్డ్ను ఉపయోగించండి.
🤖 ఆటో-రూటింగ్ (కాన్ఫిగరేషన్ అవసరం లేదు)
OmniRoute ప్రతి కనెక్ట్ చేయబడిన ప్రొవైడర్లోనూ ప్రతి అభ్యర్థనకు ఉత్తమ మోడల్ను ఎంచుకునే స్కోర్-ఆధారిత ఆటో-రూటర్తో వస్తుంది — నిర్వహించాల్సిన కాంబో ఏదీ లేదు. auto/* ప్రిఫిక్స్లలో ఒకదానితో అభ్యర్థనను పంపితే చాలు; OmniRoute వెంటనే ఒక వర్చువల్ కాంబోను రూపొందించి, లేటెన్సీ, ఖర్చు, విజయ శాతం, కాంటెక్స్ట్ అనుకూలత, టాస్క్కు మోడల్ సామర్థ్యం, ఇటీవలి వైఫల్యాలు, కోటా, సర్క్యూట్-బ్రేకర్ స్థితి ఆధారంగా అభ్యర్థి మోడల్లకు స్కోర్ ఇస్తుంది.
| ప్రిఫిక్స్ | దేనికి అనుకూలీకరిస్తుంది |
|---|---|
auto |
సమతుల్య డిఫాల్ట్ (లేటెన్సీ × ఖర్చు × విజయ శాతం) |
auto/coding |
కోడింగ్ టాస్క్లు: Claude, GPT-5, GLM, Kimi, Qwen Coder, DeepSeek కోడర్లకు ప్రాధాన్యం ఇస్తుంది |
auto/cheap |
అత్యల్ప $/token, అధిక లేటెన్సీని అంగీకరిస్తుంది |
auto/fast |
అత్యల్ప లేటెన్సీ, ఖర్చును పట్టించుకోదు |
auto/offline |
స్థానిక-మాత్రమే ప్రొవైడర్లు (Ollama, vLLM, llama.cpp) — ఎయిర్-గ్యాప్డ్ సెటప్లకు ఉపయోగకరం |
auto/smart |
రీజనింగ్ నాణ్యతకు మొదటి ప్రాధాన్యం (Opus, GPT-5 xhigh, R1, GLM 5.1 reasoning) |
auto/lkgp |
"చివరిగా విజయవంతమైన ప్రొవైడర్" — చివరిగా విజయవంతమైన ప్రొవైడర్కే పిన్ చేసి, ఆపై నియమాలకు ఫాల్బ్యాక్ అవుతుంది |
ఉదాహరణ:
curl -X POST http://localhost:20128/v1/chat/completions \
-H "Authorization: Bearer $OMNIROUTE_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "auto/coding",
"messages": [{ "role": "user", "content": "Refactor this Python function" }],
"stream": true
}'
స్కోరింగ్ వెయిట్లను ఎలా సర్దుబాటు చేయాలి, ప్రొవైడర్లను బ్లాక్లిస్ట్ చేయడం ఎలా, అలాగే Dashboard → Auto Comboలో రూటింగ్ నిర్ణయాలను ఎలా పరిశీలించాలి అనే వివరాలతో సహా ఆటో-రూటర్ గురించి AUTO-COMBO.mdలో పూర్తిగా వివరించబడింది.
🔌 MCP & A2A ఇంటిగ్రేషన్
OmniRoute ఒక MCP సర్వర్ (Model Context Protocol) మరియు ఒక A2A సర్వర్ (Agent-to-Agent JSON-RPC 2.0) రెండూ. ఏదైనా MCP-అనుకూల IDE లేదా ఏజెంట్ హోస్ట్ OmniRoute టూల్లను నేరుగా కాల్ చేయగలదు — అదనపు ర్యాపర్ అవసరం లేదు.
MCP ట్రాన్స్పోర్ట్లు
- SSE:
http://localhost:20128/api/mcp/sse - స్ట్రీమ్ చేయగల HTTP:
http://localhost:20128/api/mcp/stream - stdio:
omniroute --mcp(stdioను ఇష్టపడే IDE ప్లగిన్ల కోసం)
Claude Desktopను కనెక్ట్ చేయండి
~/Library/Application Support/Claude/claude_desktop_config.json (macOS) లేదా Windows/Linuxలో దానికి సమానమైన ఫైల్ను సవరించండి:
{
"mcpServers": {
"omniroute": {
"command": "omniroute",
"args": ["--mcp"]
}
}
}
Cursor / Continue / VS Code MCPను కనెక్ట్ చేయండి
SSE URL http://localhost:20128/api/mcp/sseను మరియు Dashboard → API Keysలో రూపొందించిన Bearer API కీని ఉపయోగించండి.
స్కోప్లు
MCP ప్రస్తుతం 32 పేరుగల స్కోప్లను నిర్వచిస్తుంది. ప్రతి Bearer కీని నిర్దిష్ట స్కోప్లకు పరిమితం చేయవచ్చు — ప్రామాణిక స్కోప్ మరియు టూల్ జాబితా కోసం MCP-SERVER.mdను, JSON-RPC స్కీమా కోసం A2A-SERVER.mdను చూడండి.
🧠 నైపుణ్యాల వ్యవస్థ
ఏజెంట్లు మరియు A2A ఎండ్పాయింట్ డొమైన్-నిర్దిష్ట రొటీన్లను (ఉదా. code-review, summarize, extract-facts, web-research) అమలు చేయగలిగేలా OmniRoute విస్తరించదగిన నైపుణ్య ఫ్రేమ్వర్క్ను (src/lib/skills/) అందిస్తుంది.
- మార్కెట్ప్లేస్ UI — డ్యాష్బోర్డ్ → నైపుణ్యాలు నుండి నైపుణ్యాలను బ్రౌజ్ చేసి, ఇన్స్టాల్ చేయండి
- ఒక్కో కీకి స్కోప్లు — ఏ API కీలు ఏ నైపుణ్యాలను అమలు చేయగలవో నియంత్రించండి
- అనుకూల నైపుణ్యాలు —
src/lib/a2a/skills/లో ఒక TypeScript ఫైల్ను ఉంచి, దాన్ని నమోదు చేస్తే, అది వెంటనే A2A ద్వారా అమలు చేయదగినదిగా మారుతుంది
పూర్తి సూచన: SKILLS.md.
💾 మెమరీ వ్యవస్థ
OmniRoute హైబ్రిడ్ రిట్రీవల్తో దీర్ఘకాలిక సంభాషణ మెమరీని నిల్వ చేస్తుంది:
- గత సంభాషణ టర్న్లలో కీవర్డ్ శోధన కోసం SQLite FTS5
- భావార్థ రీకాల్ కోసం Qdrant వెక్టర్ స్టోర్ (ఐచ్ఛికం)
- ఆటోమేటిక్ ఫ్యాక్ట్ ఎక్స్ట్రాక్షన్ — ప్రతి సెషన్ తర్వాత ఎంటిటీలు, ప్రాధాన్యతలు మరియు నిర్ణయాలు సంగ్రహించబడి,
memory_factsపట్టికలో నిల్వ చేయబడతాయి - మెమరీలు ఒక్కో API కీకి మరియు ఒక్కో సెషన్కు ప్రత్యేకంగా పరిమితం చేయబడతాయి
డ్యాష్బోర్డ్ → మెమరీలో మెమరీలను నిర్వహించండి (శోధించండి, సవరించండి, ఎగుమతి చేయండి, పూర్తిగా తొలగించండి). HTTP ఇంటర్ఫేస్ (/api/memory/*) ద్వారా ఏజెంట్లు ప్రోగ్రామాటిక్గా ఫ్యాక్ట్లను పంపించవచ్చు మరియు ప్రశ్నించవచ్చు — MEMORY.md చూడండి.
🔔 వెబ్హుక్లు
రియల్-టైమ్ పర్యవేక్షణ మరియు ఆటోమేషన్ కోసం OmniRoute ఈవెంట్లకు సబ్స్క్రైబ్ చేయండి.
- లక్ష్య URL మరియు HMAC సంతక సీక్రెట్తో డ్యాష్బోర్డ్ → వెబ్హుక్లులో ఒక వెబ్హుక్ను సృష్టించండి
- అందుబాటులో ఉన్న ఈవెంట్లు:
request.completed,request.failed,provider.unavailable,budget.exceeded,combo.switched,circuit_breaker.opened,circuit_breaker.closed - ధృవీకరణ కోసం ప్రతి పేలోడ్లో
X-OmniRoute-Signature(HMAC-SHA256) ఉంటుంది - మళ్లీ ప్రయత్నాలు: ఎక్స్పోనెన్షియల్ బ్యాక్ఆఫ్తో 3 ప్రయత్నాలు, ఆ తర్వాత డెడ్-లెటర్ క్యూ
పూర్తి స్కీమా WEBHOOKS.mdలో ఉంది.
☁️ క్లౌడ్ ఏజెంట్లు
OmniRoute క్లౌడ్ కోడింగ్ ఏజెంట్లతో (OpenAI Codex Cloud, Devin, Jules, Antigravity) అనుసంధానమవుతుంది, తద్వారా మీ స్థానిక రూటింగ్ను నిర్వహించే అదే డ్యాష్బోర్డ్ నుండి దీర్ఘకాలం నడిచే టాస్క్లను పంపించవచ్చు.
- డ్యాష్బోర్డ్ → క్లౌడ్ ఏజెంట్లులో లేదా
POST /api/v1/agents/tasksద్వారా టాస్క్లను సృష్టించండి - ఒక్కో టాస్క్కు సంబంధించిన స్థితి, లాగ్లు మరియు ఆర్టిఫ్యాక్ట్లను ట్రాక్ చేయండి
- ఒక్కో ప్రొవైడర్కు మీ స్వంత API కీని ఉపయోగించండి — క్రెడెన్షియల్లు ఎప్పటికీ OmniRoute ఇన్స్టాన్స్ను వదిలి వెళ్లవు
పూర్తి సూచన: CLOUD_AGENT.md.
🛠️ ప్రోగ్రామాటిక్ నిర్వహణ
manage స్కోప్ ఉన్న Bearer కీని ఉపయోగించి HTTP ద్వారా ప్రతి OmniRoute వనరును (ప్రొవైడర్లు, కాంబోలు, కీలు, సెట్టింగ్లు) నిర్వహించవచ్చు.
డ్యాష్బోర్డ్ → API కీలు → కొత్త కీ → స్కోప్: manageలో కీని రూపొందించి, ఆపై:
# ప్రొవైడర్లను జాబితా చేయండి
curl http://localhost:20128/api/providers \
-H "Authorization: Bearer $OMNIROUTE_MANAGE_KEY"
# ప్రొవైడర్ కనెక్షన్ను జోడించండి
curl -X POST http://localhost:20128/api/providers \
-H "Authorization: Bearer $OMNIROUTE_MANAGE_KEY" \
-H "Content-Type: application/json" \
-d '{ "provider": "openai", "apiKey": "sk-...", "name": "main" }'
# కాంబోను సృష్టించండి
curl -X POST http://localhost:20128/api/combos \
-H "Authorization: Bearer $OMNIROUTE_MANAGE_KEY" \
-H "Content-Type: application/json" \
-d '{ "name": "premium", "strategy": "priority", "models": [{ "model": "cc/claude-opus-4-7" }, { "model": "glm/glm-5.1" }] }'
# API కీలను జాబితా చేయండి/సృష్టించండి
curl http://localhost:20128/api/keys -H "Authorization: Bearer $OMNIROUTE_MANAGE_KEY"
curl -X POST http://localhost:20128/api/keys -H "Authorization: Bearer $OMNIROUTE_MANAGE_KEY" \
-d '{ "name": "ci-bot", "scopes": ["chat"] }'
పూర్తి ఎండ్పాయింట్ కేటలాగ్ మరియు రిక్వెస్ట్/రెస్పాన్స్ స్కీమాల కోసం API_REFERENCE.md చూడండి.
💻 అంతర్గత CLI
సెటప్, డయాగ్నస్టిక్స్ మరియు రన్టైమ్ నియంత్రణ కోసం OmniRoute అంతర్గత CLI (omniroute …)తో వస్తుంది. ఇది డ్యాష్బోర్డ్లోని "CLI సాధనాలు" పేజీకి భిన్నమైనది; ఆ పేజీ మూడవ పక్ష CLIలను (Claude Code, Cursor, Codex, Cline, …) కాన్ఫిగర్ చేసి, అవి OmniRouteతో కమ్యూనికేట్ చేయగలిగేలా చేస్తుంది.
omniroute setup # ఇంటరాక్టివ్ విజార్డ్ (పాస్వర్డ్, ప్రొవైడర్లు, కాంబోలు)
omniroute setup --non-interactive # CIకి అనుకూలమైనది
omniroute doctor # ఆరోగ్య డయాగ్నస్టిక్స్ (డేటా డైరెక్టరీ, DB, ప్రొవైడర్లు, పోర్టులు)
omniroute providers available # మద్దతు ఉన్న ప్రొవైడర్లను జాబితా చేయండి
omniroute providers list # కాన్ఫిగర్ చేసిన కనెక్షన్లను జాబితా చేయండి
omniroute providers test <id> # ప్రొవైడర్ కనెక్షన్ను ప్రత్యక్షంగా పరీక్షించండి
omniroute combos list # కాంబోలను జాబితా చేయండి
omniroute combos switch <name> # డిఫాల్ట్ కాంబోను సెట్ చేయండి
omniroute models # అందుబాటులో ఉన్న మోడళ్లను జాబితా చేయండి (--json, --search)
omniroute keys add | list | remove # టెర్మినల్ నుండి API కీలను నిర్వహించండి
omniroute backup # కాన్ఫిగరేషన్ + DB స్నాప్షాట్
omniroute restore [<timestamp>] # స్నాప్షాట్ నుండి పునరుద్ధరించండి
omniroute health # వివరణాత్మక ఆరోగ్య స్థితి (బ్రేకర్లు, కాష్, మెమరీ)
omniroute quota # ప్రొవైడర్ కోటా వినియోగం
omniroute mcp status # MCP సర్వర్ స్థితి
omniroute a2a status # A2A సర్వర్ స్థితి
omniroute tunnel list|create|stop # Cloudflare/Tailscale/ngrok టన్నెల్లు
omniroute reset-password # అడ్మిన్ పాస్వర్డ్ను రీసెట్ చేయండి
omniroute --mcp # stdio ద్వారా MCP సర్వర్ను ప్రారంభించండి
omniroute --port 3000 # అనుకూల పోర్టులో సర్వర్ను ప్రారంభించండి
చిట్కా: అనారోగ్యకరమైన ప్రొవైడర్ కనెక్షన్లపై హెచ్చరికలు పొందడానికి omniroute doctor --jsonను మీ మానిటరింగ్ సాధనంతో జత చేయండి.
🖥️ డెస్క్టాప్ అప్లికేషన్ (Electron)
OmniRoute Windows, macOS మరియు Linux కోసం స్థానిక డెస్క్టాప్ అప్లికేషన్గా అందుబాటులో ఉంది.
ఇన్స్టాలేషన్
# electron డైరెక్టరీ నుండి:
cd electron
npm install
# డెవలప్మెంట్ మోడ్ (రన్ అవుతున్న Next.js డెవ్ సర్వర్కు కనెక్ట్ అవుతుంది):
npm run dev
# ప్రొడక్షన్ మోడ్ (స్టాండ్అలోన్ బిల్డ్ను ఉపయోగిస్తుంది):
npm start
ఇన్స్టాలర్లను బిల్డ్ చేయడం
cd electron
npm run build # ప్రస్తుత ప్లాట్ఫారమ్
npm run build:win # Windows (.exe NSIS)
npm run build:mac # macOS (.dmg యూనివర్సల్)
npm run build:linux # Linux (.AppImage)
అవుట్పుట్ → electron/dist-electron/
ముఖ్య ఫీచర్లు
| ఫీచర్ | వివరణ |
|---|---|
| సర్వర్ సిద్ధస్థితి | విండోను చూపించే ముందు సర్వర్ను పోలింగ్ చేస్తుంది (ఖాళీ స్క్రీన్ ఉండదు) |
| సిస్టమ్ ట్రే | ట్రేకు మినిమైజ్ చేయడం, పోర్టును మార్చడం, ట్రే మెను నుండి నిష్క్రమించడం |
| పోర్ట్ నిర్వహణ | ట్రే నుండి సర్వర్ పోర్టును మార్చడం (సర్వర్ను స్వయంచాలకంగా పునఃప్రారంభిస్తుంది) |
| కంటెంట్ సెక్యూరిటీ పాలసీ | సెషన్ హెడర్ల ద్వారా కఠినమైన CSP |
| ఒకే ఇన్స్టాన్స్ | ఒక సమయంలో ఒక అప్లికేషన్ ఇన్స్టాన్స్ మాత్రమే రన్ అవుతుంది |
| ఆఫ్లైన్ మోడ్ | బండిల్ చేసిన Next.js సర్వర్ ఇంటర్నెట్ లేకుండా పనిచేస్తుంది |
ఎన్విరాన్మెంట్ వేరియబుల్స్
| వేరియబుల్ | డిఫాల్ట్ | వివరణ |
|---|---|---|
OMNIROUTE_PORT |
20128 |
సర్వర్ పోర్టు |
OMNIROUTE_MEMORY_MB |
512 |
Node.js హీప్ పరిమితి (64–16384 MB) |
📖 పూర్తి డాక్యుమెంటేషన్: electron/README.md