* feat(docs): mirror every docs/ page in all 65 locales Extends the documentation mirrors from the 22-page core set (#13940) to every Markdown page under docs/: 152 sources x 65 locales = 9,880 mirrors (6,208 new), language bars rewritten for the full locale list, state adopted so the blocking drift gate now covers all 152 pages. run-translation.mjs: an oversized block made only of table rows or list items (PROVIDER_REFERENCE.md 244-row table, FREE_TIERS.md 71-item list) is cut at item boundaries and rejoined without a blank line â the single 16-40 KB request outlived the backend socket for verbose scripts. 48 older mirrors whose tables had lost rows were retranslated with --force. * docs(i18n): refresh mirrors for the sources the base changed since the branch cut Section-level retranslation of the 29 docs (and README.md) whose source or mirrors moved on release/v3.8.51 during the run, then state adoption; the drift gate is green again on the merged tree.
64 KiB
ðïž Prompt Compression Guide â OmniRoute (ááŒááºáá¬)
ð Languages: ðºðž English · ðªð¹ am · ðžðŠ ar · ðŠð¿ az · ð§ð¬ bg · ð§ð© bn · ðšð¿ cs · ð©ð° da · ð©ðª de · ð¬ð· el · ðªðž es · ðªðª et · ð®ð· fa · ð«ð® fi · ð«ð· fr · ð®ðª ga · ð®ð³ gu · ð³ð¬ ha · ð®ð± he · ð®ð³ hi · ðð· hr · ððº hu · ðŠð² hy · ð®ð© id · ð³ð¬ ig · ð®ð¹ it · ð¯ðµ ja · ð¬ðª ka · ð°ð km · ð®ð³ kn · ð°ð· ko · ð±ð¹ lt · ð±ð» lv · ð®ð³ ml · ð®ð³ mr · ð²ðŸ ms · ð²ð¹ mt · ð³ðµ ne · ð³ð± nl · ð³ðŽ no · ð®ð³ or · ð®ð³ pa · ðµð phi · ðµð± pl · ðµð¹ pt · ð§ð· pt-BR · ð·ðŽ ro · ð·ðº ru · ð±ð° si · ðžð° sk · ðžð® sl · ð·ðž sr · ðžðª sv · ð°ðª sw · ð®ð³ ta · ð®ð³ te · ð¹ð th · ð¹ð· tr · ðºðŠ uk-UA · ðµð° ur · ðºð¿ uz · ð»ð³ vi · ð³ð¬ yo · ðšð³ zh-CN · ð¹ðŒ zh-TW
áááºááŸááºáá»ááºááŸáá·áº ááá¯ááºáá®áá±á¬ context á¡ááœáẠ15-95% ááᯠá¡ááá¯á¡áá»á±á¬áẠáá»áœá±áá¬áá«á á¡áá»ááºážáá»á¯ááºááᯠá¡ááŒááºááŒáá·áºááẠREADME Compression á¡ááá¯ááºáž ááᯠááŒáá·áºáá«á
ááŒá¯á¶áá¯á¶áá¯á¶ážáááºáá»ááº
OmniRoute ááẠrequest áá»á¬áž upstream provider áá»á¬ážáá¶ ááá±á¬ááºááŸááá® ááŒáá¯áááºáá¯ááºáá±á¬ááºááá·áº modular prompt compression pipeline áá áºáá¯ááᯠá¡áá±á¬ááºá¡áááºáá±á¬áºáá¬ážáááºá ááá¯ááá¯áááºááŸá¬ token áá»áœá±áá¬ááŸá¯ááᯠááááá¬áá² á¡ááá¯á¡áá»á±á¬áẠáááŸááááºááŒá áºááŒá®áž áááºá workflow ááᯠááŒá±á¬ááºážáá²ááẠáááá¯á¡ááºáá«á
Client Request
â Compression Strategy Selector
â Combo override ááŸáááá¬áž? â combo setting ááᯠá¡áá¯á¶ážááŒá¯áááº
â Auto-trigger threshold ááŒáá·áºááá¬áž? â auto mode ááᯠá¡áá¯á¶ážááŒá¯áááº
â Default mode ááŸáááá¬áž? â global setting ááᯠá¡áá¯á¶ážááŒá¯áááº
â Off ááŒá
áºááá¬áž? â compression ááᯠáá»á±á¬áºáááº
â ááœá±ážáá»ááºáá¬ážáá±á¬ Compression Mode
â Off: Compression áááŒá¯áá¯ááºáá«
â Lite: áá±ážáááºážáá±á¬ whitespace/formatting ááŸááºážáááºážááŸá¯ (~15%)
â Standard: Caveman áá¯á¶á
á¶ áááá¯á¡ááºááá·áº á
áá¬ážáá¯á¶ážáá»á¬áž áááºááŸá¬ážááŸá¯ (~30%)
â Aggressive: History aging + á¡áá»ááºážáá»á¯ááºááŒááºáž (~50%)
â Ultra: Heuristic pruning + code-block thinning (~75%)
â RTK: Command ááᯠáá¬ážáááºáá±á¬ terminal/tool-output á
á
áºáá¯ááºááŸá¯ (upstream á¡ááá¯ááºážá¡ááŒá¬áž 60-90%)
â Stacked: á¡á
á®á¡á
ááºááá» multi-engine pipelineá áá¯á¶ááŸááºá¡á¬ážááŒáá·áº RTK ááŒá®ážáá±á¬áẠCaveman (áááºááŸááºáá»ááºááŸáá·áº ááá¯ááºáá®áá±á¬ á¡ááá¯ááºážá¡ááŒá¬áž 78-95%)
â áá»á¯á¶á·áá¬ážáá±á¬ Request â Provider
Compression Mode áá»á¬áž
Off
Compression áááŒá¯áá¯ááºáá«á Message á¡á¬ážáá¯á¶ážááᯠááŒá±á¬ááºážáá²ááŒááºážáááŸááá² ááŒááºáááºážá á±áááºá
Lite Mode (~15% áá»áœá±áá¬ááŸá¯á latency <1ms)
á¡áá¯á¶ááŒá¯á¶áá¯á¶áž mode ááŒá áºááŒá®áž á¡áááá¹áá¬ááºááá¯ááºážááá¯ááºáᬠááŒá±á¬ááºážáá²ááŸá¯ áá¯á¶ážááááŸááá² formatting ááá¯áᬠááŸááºážáááºážáááº-
| áááºážáááºáž | áá±á¬áºááŒáá»áẠ|
|---|---|
collapseWhitespace |
áááºááá¯ááºááŒá áºáá±áá±á¬ á á¬ááŒá±á¬ááºážááœááºáá»á¬ážááŸáá·áº áá±á¬ááºáá¯á¶ážááŸá space áá»á¬ážááᯠáá±á«ááºážá ááºážááẠ|
dedupSystemPrompt |
áááºáá±áá±á¬ system message áá»á¬ážááᯠáááºááŸá¬ážááẠ|
compressToolResults |
á á¬ááŸááºáá±á¬ tool/function output áá»á¬ážááᯠáá»á¯á¶á·ááẠ|
removeRedundantContent |
áááºáá«ááá²áá²áá«áá±á¬ ááœáŸááºááŒá¬ážáá»ááºáá»á¬ážááᯠáááºááŸá¬ážááẠ|
replaceImageUrls |
base64 image data URI áá»á¬ážááᯠá¡ááá¯áá»á¯á¶á·ááẠ|
á¡ááá·áºáá±á¬áºáá¯á¶áž: á¡ááŒá²ááœáá·áºáá¬ážáá±á¬ á¡áá¯á¶ážááŒá¯ááŸá¯ááŸáá·áº áá±ážáááºážáá¯á¶ááŒá¯á¶áá±áž á¡ááœááºá¡áá±ážááŒá®ážáá±á¬ workflow áá»á¬ážá
Standard Mode (~30% áá»áœá±áá¬ááŸá¯)
Caveman ááᯠá¡ááŒá±áá¶áá¬ážááŒá®áž á¡áááá¹áá¬ááºááᯠááááºážááááºážáá»áẠáááá¯á¡ááºáá±á¬ á áá¬ážáá¯á¶ážáá»á¬ážááŸáá·áº á áá¬ážááŸááºá¡áá¯á¶ážá¡ááŸá¯ááºážáá»á¬ážááᯠáááºááŸá¬ážáááº-
- áááá¯á¡ááºáá±á¬ á áá¬ážáá¯á¶ážáá»á¬áž ("please", "I think", "basically", "actually") ááᯠáááºááŸá¬ážáááº
- á áá¬ážááŸááºá¡áá¯á¶ážá¡ááŸá¯ááºážáá»á¬ážááᯠááá¯á á±ááẠ("in order to" â "to", "as a result of" â "because")
- áááºáá»á±ážááááºááœá±á·á áœá¬ ááá±ááá¬ááŒá±á¬ááá¯ááŸá¯áá»á¬áž ("Would you mind...", "If you could possibly...") ááᯠáááºááŸá¬ážáááº
- coding prompt áá»á¬ážá¡ááœáẠáá»áááºááŸááá¬ážáá±á¬ regex rule 30 áá»á±á¬áº áá«áááºáááº
á¡ááá·áºáá±á¬áºáá¯á¶áž: áá±á·á áẠcoding workflow áá»á¬ážááŸáá·áº áá¯ááºáá»á ááááºááᯠá¡áá±ážáá¬ážáá±á¬ á¡ááœá²á·áá»á¬ážá
Aggressive Mode (~50% áá»áœá±áá¬ááŸá¯)
ááŒá¬ááŸáẠsession áá»á¬ážá¡ááœáẠá áááºáá»áá±á¬ history á á®áá¶ááá·áºááœá²ááŸá¯-
- Message Aging â message á¡áá±á¬ááºážáá»á¬ážááᯠáááŒááºážááŒááºáž ááá¯ááá¯áá»á¯á¶á·áááº
- Tool Result Summarization â ááŸááºáá»á¬ážáá±á¬ tool output áá»á¬ážááᯠá¡áá»ááºážáá»á¯ááºáá»á¬ážááŒáá·áº á¡á á¬ážááá¯ážáááº
- Structural Integrity Guards â
tool_use+tool_resultá¡ááœá²áá»á¬áž áá áºááááºáááºážááŸáááŒá±á¬ááºáž áá±áá»á¬á á±ááẠ- Context Window Awareness â model áá áºáá¯áá»ááºážá á®á token ááá·áºáááºáá»ááºáá»á¬ážááᯠááá¯ááºáá¬áááº
á¡ááá·áºáá±á¬áºáá¯á¶áž: áááºááŸáẠdebugging session áá»á¬ážááŸáá·áº ááŒá®ážáá¬ážáá±á¬ codebase áá»á¬ážá
Ultra Mode (~75% áá»áœá±áá¬ááŸá¯)
Token á¡ááœááºá¡áá±ážááŒá®ážáá±á¬ á¡ááŒá±á¡áá±áá»á¬ážá¡ááœáẠá¡ááŒáá·áºáá¯á¶áž compression-
- Heuristic Pruning â áááºá ááºááŸá¯ threshold á¡á±á¬ááºááŸá message áá»á¬ážááᯠáááºááŸá¬ážáááº
- Code Block Thinning â áááºááá²áá²ááŒá áºáá±áá±á¬ code á¥ááá¬áá»á¬ážááᯠáá»á¯á¶á·áááº
- Binary Search Truncation â context window á¡ááœáẠá¡áá±á¬ááºážáá¯á¶áž ááŒááºáá±á¬ááºáááá·áºáá±áá¬ááᯠááŸá¬ááœá±áááº
- Aggressive mode á feature á¡á¬ážáá¯á¶áž áá«áááºáááº
á¡ááá·áºáá±á¬áºáá¯á¶áž: Context limit ááᯠáááºáá«ááá²áá² ááŒáá·áºááœá¬ážááá·áºá¡áá«á
RTK Mode (upstream á¡ááá¯ááºážá¡ááŒá¬áž 60-90%)
RTK mode ááᯠcoding-agent session áá»á¬ážááœáẠáá±á«áºáá¬ááá·áº á á¬ááŸááºáá±á¬ tool output áá»á¬ážá¡ááœáẠá¡áá°ážááŒá¯áá¬ážáááº-
git status,git diff,git log, test runner áá»á¬ážá TypeScript/Vite/Webpack build áá»á¬ážá ESLint/Biome/Prettierá npm audit/install áá»á¬ážá Docker log áá»á¬ážá infra output ááŸáá·áº áá±áá¯áá» shell output áá²á·ááá¯á· command/output á¡áá»áá¯ážá¡á á¬ážáá»á¬ážááᯠááŸá¬ááœá±ááááŸááááºopen-sse/services/compression/engines/rtk/filters/á០JSON filter pack áá»á¬ážááᯠá¡áá¯á¶ážááŒá¯áááº- Project ááá¯á·ááá¯áẠglobal
filters.tomlfile áá»á¬ážá០RTK TOML schema v1 filter áá»á¬ážááᯠinline-test validation ááŸáá·áº project file áá»á¬ážá¡ááœáẠtrust-gating ááá¯á·ááŒáá·áº import áá¯ááºááẠ- Inline verify sample áá»á¬ážáá«áááºáá±á¬ built-in filter 49 áá¯ááᯠááá·áºááœááºážáá±ážáá¬ážáááº
- ANSI control sequence áá»á¬ážá progress bar áá»á¬ážá áááºáá±áá±á¬ á á¬ááŒá±á¬ááºážáá»á¬ážááŸáá·áº á¡áá±ážáá°áááºáááá¯áá±á¬ noise áá»á¬ážááᯠáááºááŸá¬ážáááº
- Failure áá»á¬ážá error áá»á¬ážá warning áá»á¬ážá ááŒá±á¬ááºážáá²áá¬ážáá±á¬ file áá»á¬ážá á¡áá»ááºážáá»á¯ááºáá»á¬ážááŸáá·áº ááŸááºáá»á¬ážáá±á¬ output á áá±á¬ááºáá¯á¶ážááá¯ááºážááᯠááááºážááááºážáá¬ážáááº
- Trust-gated project filter áá»á¬ážá global filter áá»á¬ážááŸáá·áº ááœá±ážáá»ááºááá¯ááºáá±á¬ redacted raw-output recovery ááᯠáá¶á·ááá¯ážáááº
á¡ááá·áºáá±á¬áºáá¯á¶áž: Shellá buildá testá gitá grep ááŸáá·áº file-output transcript áá»á¬áž áá«áááºáá±á¬ agent session áá»á¬ážá
Stacked Mode (áááºááŸááºáá»ááºááŸáá·áº ááá¯ááºáá®áá±á¬ á¡ááá¯ááºážá¡ááŒá¬áž 78-95%)
Stacked mode ááẠcompression engine á¡áá»á¬ážá¡ááŒá¬ážááᯠáááá»áááºááŸááºáá¬ážáá±á¬ á¡á á®á¡á ááºá¡ááá¯ááºáž áá¯ááºáá±á¬ááºáááºá áá°á pipeline ááŸá¬-
RTK -> Caveman
ááá¯á¡á á®á¡á ááºááẠterminal/tool output ááᯠáŠážá áœá¬ áá»á áºáá»á áºá á±ááŒá®ážáá±á¬áẠáá»ááºááŸááá±á¬ ááá¬ááá¬áá¬á áá¬áž prompt á¡áá±á«áº Caveman semantic condensation ááᯠá¡áá¯á¶ážááŒá¯áááºá Stacked pipeline áá»á¬ážááᯠglobal á¡áá±ááŒáá·áºááŒá áºá á±á routing combo áá»á¬ážááœáẠáááºááŸááºáá¬ážáá±á¬ compression combo áá»á¬ážááŸáá áºááá·áºááŒá áºá á± ááŒááºáááºáááºááŸááºááá¯ááºáááºá
á¡ááá·áºáá±á¬áºáá¯á¶áž: ááŒá®ážáá¬ážáá±á¬ tool log áá»á¬ážááŸáá·áº áá°áá¬ážá ááœáŸááºááŒá¬ážáá»ááºáá»á¬áž ááá¯á·ááá¯áẠassistant á¡áá»ááºážáá»á¯ááºáá»á¬áž áá±á¬ááŸá±á¬áá«áááºáá±á¬ context áá»á¬ážá
Upstream áá»áœá±áá¬ááŸá¯ ááœááºáá»ááºáá¯á¶
OmniRoute ááẠáá»á¯á¶á·ááŒááºážááŒá±á¬áá·áº áááŸáááá·áº áá»áœá±áá¬ááŸá¯áá»á¬ážááᯠáááºážááŒá áºááŸá áºáá¯ááŒá áºáá±á¬ upstream ááá±á¬áá»áẠbenchmark áá»á¬ážááŸáá·áº OmniRoute á ááá¯ááºááá¯áẠengine áá±á«ááºážá ááºááŸá¯ááá¯á·á០ááŸááºáááºážáááºáá±á¬áºááŒáá¬ážáááºá
| áááºážááŒá Ạ| á€áá±áá¬ááœáẠá¡áá¯á¶ážááŒá¯áá¬ážááá·áº Upstream README ááááºážááááºáž |
|---|---|
| Caveman | output token ~75% ááá¯áááºážááŒááºážá benchmark áá»ááºážáá»áŸ output áá»áœá±áá¬ááŸá¯ 65%á á¡ááá¯ááºážá¡ááŒá¬áž 22-87% ááŸáá·áº input áá»á¯á¶á·ááŒááºáž tool ~46% |
| RTK | command output áá»áœá±áá¬ááŸá¯ 60-90%á ááá°áᬠsession ááœáẠtoken ~118,000 -> ~23,900 ááá¯á·ááá¯áẠ79.7% áá»áœá±áá¬ááŸá¯ (~80%) |
áááºáá±áá±á¬ tool/context payload áá»á¬ážá¡ááœáẠáá¯á¶áá± OmniRoute áá±á«ááºážá ááºááŸá¯ááẠengine áá»á¬ážááᯠá¡á±á¬ááºáá«á¡ááá¯ááºáž á¡ááá·áºááá·áº á¡áá¯á¶ážááŒá¯áááº-
RTK -> Caveman
áá±á«ááºážá ááºáá»áœá±áá¬ááŸá¯ááẠáá±á«ááºážááŒááºážááá¯ááºáá² ááŒáŸá±á¬ááºááŒááºážáá¯á¶á á¶ááŒáá·áº ááœááºáá»ááºáááº-
combined = 1 - (1 - RTK savings) * (1 - Caveman input savings)
average = 1 - (1 - 0.80) * (1 - 0.46) = 89.2%
range = 1 - (1 - 0.60..0.90) * (1 - 0.46) = 78.4-94.6%
ááᯠ78-95% ááááºážááááºážááẠRTK ááŸáá·áº Caveman ááŸá
áºáá¯á
áá¯á¶ážá áá°áá®áá±á¬ input/context payload ááᯠáá»áŸá±á¬á·áá»ááá¯ááºááá·áºá¡áá«ááœáẠá¡áá»á¯á¶ážáááºáááºá
Caveman á response output mode ááẠáá®ážááŒá¬ážááŒá
áºáááºá áááºážááᯠááœáá·áºáá¬ážááá·áºá¡áá« Caveman á ááá¯ááºááá¯áẠoutput áá»áœá±áá¬ááŸá¯áá»á¬áž (áá»ááºážáá»áŸ 65%á
á¡ááááá±á¬áºááŒáá»áẠ~75%á á¡ááá¯ááºážá¡ááŒá¬áž 22-87%) ááᯠá¡áá¯á¶ážááŒá¯áá«á á
á¯á
á¯áá±á«ááºáž billing áá»áœá±áá¬ááŸá¯ááẠáááºá prompt/output á¡áá»áá¯ážá¡á
á¬ážáá±á«áº áá°áááºáááºá
"eligible" áá°ááẠá¡ááŸááºáááẠáá¬ááᯠááá¯ááá¯ááááºáž
á¡ááááá±á¬áºááŒáá¬ážáá±á¬ 15-95% á¡ááá¯ááºážá¡ááŒá¬ážááẠá¡ááŸááºááŒá
áºáá±á¬áºáááºáž áááºáá±áá±á¬ ááá¯á·ááá¯áẠá¡ááœááºááŸááºáá»á¬ážáá±á¬ á¡ááŒá±á¬ááºážá¡áá¬áá»á¬ážá¡ááœááºáᬠá¡áá»á¯á¶ážáááºááẠâ áááºáá«ááá²áá²ááŒá
áºáá±áá±á¬
error á
á¬ááŒá±á¬ááºážáá»á¬ážá áá°áá®áá±á¬ warning ááᯠá¡ááœááºá¡áá»áœá¶ áá¯ááºááŒááá·áº build logá á¡ááœááºá¡á
á¬ážá¡ááœááºááŒá®ážáá±á¬ grep/file-read dump ááá¯á·ááŒá
áºáááºá áááºážáááº
request ááá¯ááºážááœáẠááá¯áá»áŸáá±á¬áẠáá»áœá±áá¬ááá¯ááºáááºáᯠá ááá¯ááá¯áá«á
áááºááœá±á·á
ááºážáááºááŒá®áž á¡áááºááŒá¯áá¬ážááẠ(tests/unit/compression/stacked-compression-tool-result-savings.test.ts)á áá°áá®áá±á¬
error á
á¬ááŒá±á¬ááºáž 300 áá«áááºááá·áº Anthropic áá¯á¶á
á¶ tool_result block á¡áá±á«áº stacked (RTK + Caveman) run áá
áºáá¯á
token áá»áœá±áá¬ááŸá¯ 95.93% / character áá»áœá±áá¬ááŸá¯ 96.26% ááᯠáááŸáá
á±áá²á·ááŒá®áž ááŒá±á¬áºááŒá¬áá¬ážááá·áº
á¡ááá¯ááºážá¡ááŒá¬ážá¡ááœááºáž á¡ááŒáá·áºá¡á ááŸááá±áááºá ááá¯á·áá±á¬áº áá°áá®áá±á¬ pipeline ááᯠáá¯á¶ááŸááºá ááááºáá±áá±á¬ tool output (ááŸááºážáááºážááá·áº grep ááá¯ááºáá®ááŸá¯á
á¬áááºážá
ááá¯áá±á¬ááºážáá±á¬ file readá áá¯á¶ááŸáẠá
áá¬ážááŒá±á¬á
á¬áá¬áž) á¡áá±á«áº run ááá·áºá¡áá«ááœáẠááŸááºáááºá
áœá¬ áá¯ááá®ážáá«áž áá»áœá±áá¬ááŸá¯ áᬠáááŸááááºá á¡áááºááŒá±á¬áá·áºááá¯áá±á¬áº
áááºááŸá¬ážááẠáááºáá±áá±á¬á¡áᬠáááŸáááá·áºá¡ááŒáẠvalidateCompression() (validation.ts) ááẠcode block áá»á¬ážá URL áá»á¬ážá heading áá»á¬ážá version áá»á¬áž ááá¯á·ááá¯áẠALL-CAPS constant identifier áá»á¬ážááᯠáááºááŸá¬ážááŒááºáž ááá¯á·ááá¯áẠááŒá±á¬ááºážáá²ááŒááºážááŒá
áºá
á±ááá·áº
ááŒááºáááºáá±ážáá¬ážááŸá¯ááᯠáá±ážááá¯á·ááẠááŒááºážáááºáá±á¬ááŒá±á¬áá·áº ááŒá
áºáááºá
áááºážááẠáá»áŸá±á¬áºááá·áºáá¬ážááá·áº áá±ážáááºážáá±á¬ áá¯ááºáá±á¬ááºáá»ááºááŒá áºááŒá®áž bug ááá¯ááºáá«á ááŸááºážáááºážáá±á¬ file áá»á¬ážááᯠá¡áááá¡á¬ážááŒáá·áº áááºááŸá¯ááŒááºáž/grep áá¯ááºááŒááºážáá¬ááŸáááá·áº coding session áá áºáá¯ááœáẠáá»á¯á¶á·ááŒááºážááᯠá¡ááŒáá·áºá¡á ááœáá·áºáá¬ážáá±á¬áºáááºáž á á¯á á¯áá±á«ááºážáá»áœá±áá¬ááŸá¯ á¡áááºážáááºáᬠááœá±á·ááááºááŒá áºááŒá®ážá fail ááŒá áºáá±ááá·áº loop ááá¯á·ááá¯áẠoutput á¡ááœááºáá»á¬ážáá±á¬ linter ááŸáá·áº ááŒá¯á¶ááœá±á·áááá·áº session áá áºáá¯ááœááºáá° ááᯠtraffic á¡ááœáẠ78-95% á¡ááá¯ááºážá¡ááŒá¬ážá¡ááŒáá·áºááᯠáááŸááááºááŒá áºáááºá Session áá áºáá¯áááºážá á á¯á á¯áá±á«ááºážáá»áœá±áá¬ááŸá¯ áá¬ááá¯ááºááŸá¯ááºážáááºážááŒááºážááᯠcompression config ááŸá¬ážááœááºážáá±ááŒá±á¬ááºáž áááºáá±á¡ááŒá Ạááá°ááá«ááŸáá·áº â ááááŠážá áœá¬ áá°á tool output ááẠá¡ááŸááºáááẠáááºáá±ááŒááºážááŸááááŸá á á áºáá±ážáá«á
Token áá»áœá±áá¬ááŸá¯ áá¯á¶áá±á¬áºááŒáááŒááºáž
áá»á¯á¶á·ááŒááºážáááŸááá²: LLM ááá¯á· token 47K áá±ážááá¯á·áááº
Lite ááŒáá·áº: token 40K áá±ážááá¯á·ááẠ(15% áá»áœá±áᬠâ áá±ážáááºážááŒá®áž á¡ááŒá²ááœáá·áºáá¬ážáááº)
Standard ááŒáá·áº: token 33K áá±ážááá¯á·ááẠ(30% áá»áœá±áᬠâ caveman á
áá¬ážááŒá±á¬áá¯á¶ á
ááºážáá»ááºážáá»á¬áž)
Aggressive ááŒáá·áº: token 24K áá±ážááá¯á·ááẠ(50% áá»áœá±áᬠâ á¡áá±á¬ááºážááŒá
áºáá¬ááŸá¯ + á¡ááŸá
áºáá»á¯ááºááŒááºáž)
Ultra ááŒáá·áº: token 12K áá±ážááá¯á·ááẠ(75% áá»áœá±áᬠâ heuristic ááŒááºáá±á¬ááºááŒááºáž)
RTK ááŒáá·áº: token 19K-5K áá±ážááá¯á·ááẠ(command/tool output ááœáẠ60-90% áá»áœá±áá¬)
Stacked ááŒáá·áº: token 10K-2.5K áá±ážááá¯á·ááẠ(á¡áá»á¯á¶ážáááºááá·áº RTK+Caveman á¡ááá¯ááºážá¡ááŒá¬áž 78-95%)
ááŒááºáááºáááºááŸááºááŒááºáž
áááºááŸáºáá¯ááº
Dashboard â Context & Cache ááá¯á· ááœá¬ážáá«-
- Caveman â áá¯ááºááœá±ážáá»ááºááŒááºážá áá¬áá¬á áá¬ážáááºáá±á·áá»áºáá»á¬ážá á¡á ááºážááŒáá·áºááŸá¯ááŒááºážááŸáá·áº á áá áºáá áºáá¯áá¯á¶ážááá¯ááºáᬠáá°ááááºááŸááºáá»ááºáá»á¬áž
- RTK â command-filter á¡á ááºážááŒáá·áºááŸá¯ááŒááºážá RTK áá¯á¶ááŒá¯á¶áá±ážááá¯ááºáᬠáááºááŸááºáá»ááºáá»á¬ážááŸáá·áº filter catalog
- Compression Combos â routing combo áá»á¬ážááœáẠáááºááŸááºáá±ážáá¬ážáá±á¬ á¡áááºáá« engine pipeline áá»á¬áž
- Auto-Trigger Threshold â token á¡áá±á¡ááœááºááẠáááºááŸááºáá¬ážááá·áº threshold ááᯠáá»á±á¬áºááœááºáá±á¬á¡áá« compression ááᯠá¡ááá¯á¡áá»á±á¬áẠá áááºá¡áá¯á¶ážááŒá¯ááŒááºáž
Combo áá áºáá¯áá»ááºážá á®á¡ááá¯áẠOverride
Dashboard â Context & Cache â Compression Combos ááœáẠcompression combo áá
áºáá¯ááᯠrouting
combo áá
áºáá¯ááŸáá·áº áááºááŸááºáá»áááºáááºáá«-
Combo: "free-tier-fallback"
Compression Combo: "coding-agent-stack"
Pipeline: RTK -> Caveman
Targets:
1. if/kimi-k2.7-code
2. if/qwen3.8-max-preview
á€áááºážááŒáá·áº á¡ááá±áž subscription áá»á¬ážááœáẠlite mode ááᯠáááºáááºá¡áá¯á¶ážááŒá¯áá¬ážá áẠfree/coding provider áá»á¬ážááœáẠá¡ááá·áºááá·áºáááºáá¬ážáá±á¬ compression ááᯠá¡áá¯á¶ážááŒá¯ááá¯ááºáááºá
ဠ"Per-Combo Override" áááºááŸááºáá»ááºááẠrouting-combo compression
mode override (Default/Off/Lite/Standard/Aggressive/Ultra) ááŸáá·áº ááá°áá®áá±á¬ ááááºážáá»á¯ááºááŸá¯áá
áºáá¯ááŒá
áºááẠâ á¡ááá¯áá« override ááẠá¡áááºáá«
compression-combo pipeline áá
áºáá¯ááᯠááœá±ážáá»ááºááŒááºážááá¯ááºáá² resolveCompressionPlan á á¡áá¯á¶ážááŒá¯á
á
áºáá±ážááá·áº
compressionMode field ááá¯áᬠáááºááŸááºáá±ážáááºá áááºážááᯠcombo card (Dashboard â Combos) áá±á«áºááœááºááŒá
áºá
á±á
#6760 ááŸá
á á¡áááºááœáẠááŸááºáááºážáááºáá±á¬áºááŒáá¬ážáá±á¬ pipeline-assignment checkbox á áá±ážááŸá
Dashboard â Context & Cache â Compression Combos ááŸá "Assign to routing" á
á¬áááºážá¡ááœááºáž routing combo áá
áºáá¯áá»ááºážá
á®á¡ááá¯ááºááŒá
áºá
á±
áááºááŸááºááá¯ááºáááºá áá»ááºááŸá¬ááŒááºááŸá
áºáá¯á
áá¯á¶ážááẠáá°áá®áá±á¬ PUT /api/combos/{id} endpoint ááŸáá
áºááá·áº ááááºážáááºážáá¬ážáááºá
Request áá áºáá¯áá»ááºážá á®á¡ááá¯áẠoverride
Request áá
áºáá¯áááºážá¡ááœáẠcompression plan ááᯠoverride áá¯ááºááẠx-omniroute-compression request header ááá¯
ááá¯á·áá«á áááºážááœáẠá¡ááŒáá·áºáá¯á¶áž áŠážá
á¬ážáá±ážá¡ááá·áºááŸáááẠâ routing-combo overrideá áááºááŸáá¡áá¯á¶ážááŒá¯áá±áá±á¬ profileá
auto-trigger ááŸáá·áº panel á Default ááá¯á·ááẠáŠážá
á¬ážáá±ážáááºá áááááŸááá±á¬ value áá»á¬ážááᯠáá»á
áºáá»á°ááŸá¯ááẠ(request ááᯠáááºááá·áºá¡áá«áá»áŸ ááŒááºážáááºáááºááá¯ááºáá«)á
ááá¯á·ááŒáẠglobal master switch á á¡áá¬á¡á¬ážáá¯á¶ážááᯠáááºáááºááááºážáá»á¯ááºáá¬ážáááº- compression ááᯠá
áá
áºáá
áºáá¯áá¯á¶ážá¡ááœáẠááááºáá¬ážáá«á header ááŒáá·áº
áááºážááᯠááœáá·áºááááá«á Value áá»á¬ážááŸá¬-
| Value | á¡áá»áá¯ážáááºáá±á¬ááºááŸá¯ |
|---|---|
off |
ဠrequest á¡ááœáẠcompression áááŒá¯áá¯ááºáá«á |
default |
Panel á០áá¯á¶ážááŒááºáá¬ážáá±á¬ Default profile (áááºááŸáá¡áá¯á¶ážááŒá¯áá±áá±á¬ profile ááᯠáá»á áºáá»á°ááŸá¯áááº)á |
engine:<id> |
ááœáá·áºáá¬ážááá·áºá¡áá« engine áá
áºáá¯áááºážááᯠá¡áá¯á¶ážááŒá¯áááºá á¥ááᬠengine:rtká |
<combo> |
á¡áááºáá« combo áá áºáá¯á ááááŠážá áœá¬ á¡áááºááŒáá·áº (á á¬áá¯á¶ážá¡ááŒá®ážá¡áá±ážáááœá²ááŒá¬ážáá²) ááá¯ááºááá¯ááºá á áºáá±ážááŒá®ážáá±á¬áẠid ááŒáá·áº á á áºáá±ážáááºá |
á¡áá¯á¶ážááŒá¯áá¬ážáá±á¬ plan ááᯠX-OmniRoute-Compression: <mode>; source=<source> response
header ááœáẠááŒááºáááºáá±á¬áºááŒáá±ážáááºá ááá¯áá±áá¬ááŸá <source> ááẠrequest-headerá routing-overrideá active-profileá
auto-triggerá default ááá¯á·ááá¯áẠoff áá
áºáá¯áᯠááŒá
áºáááºá
API
# Compression áááºááŸááºáá»ááºáá»á¬ážááᯠááá°áááº
curl http://localhost:20128/api/settings/compression
# Compression áááºááŸááºáá»ááºáá»á¬ážááᯠá¡ááºááááºáá¯ááºáááº
curl -X PUT http://localhost:20128/api/settings/compression \
-H "Content-Type: application/json" \
-d '{"defaultMode":"stacked","autoTriggerMode":"stacked","autoTriggerTokens":32000}'
# áááºááŸááºáá¬ážáá±á¬ RTK/stacked payload áá
áºáá¯ááᯠá¡á
ááºážááŒáá·áºáááº
curl -X POST http://localhost:20128/api/compression/preview \
-H "Content-Type: application/json" \
-d '{"mode":"rtk","messages":[{"role":"tool","content":"npm test output here"}]}'
# RTK filter pack áá»á¬ážááᯠá
á¬áááºážááŒá¯á
á¯áááº
curl http://localhost:20128/api/context/rtk/filters
# ááœá±ážáá»ááºááá·áºááœááºážááá¯ááºáá±á¬ command metadata ááŒáá·áº RTK ááᯠááá¯ááºááá¯ááºá
ááºážáááºáááº
curl -X POST http://localhost:20128/api/context/rtk/test \
-H "Content-Type: application/json" \
-d '{"command":"npm test","text":"FAIL tests/example.test.ts\nError: boom"}'
áá¬ááœááºáá¬ážááá·áº á¡áá¬áá»á¬áž
áá»á¯á¶á·ááŒááºážá¡ááºáá»ááºááẠá¡á±á¬ááºáá«ááá¯á·ááᯠá¡ááŒá²ááááºážááááºážáá¬ážáááº-
- â áá¯ááºááá±á¬ááºáá»á¬áž (á¡áá¬á¡áá¶áá«áá±á¬ááŸáá·áº ááá¯ááºážá¡ááœááºážááŸááá±á¬)
- â URL áá»á¬ážááŸáá·áº ááá¯ááºáááºážááŒá±á¬ááºážáá»á¬áž
- â JSON ááœá²á·á ááºážáá¯á¶áá»á¬ážááŸáá·áº ááœá²á·á ááºážáá¬ážáá±á¬áá±áá¬
- â áááºááŸááºá¡áááºáá»á¬ážááŸáá·áº áá¬ááœááºáá¬ážáá±á¬ áááºážááá¬ááá¯ááºáᬠááá¯áááºáá»á¬áž
- â áááºá¹áá»á¬áá±á¬áºááŒáá»ááºáá»á¬áž
- â áááááá¬/áááºááŸááºáá±á«áºááá¯ááŸá¯ áááºááŸááºáá»ááºáá»á¬áž
- â á áá áºááœáŸááºááŒá¬ážáá»ááºáá»á¬áž (lite áá¯ááºááœááº)
RTK áá¯ááºááŒááºážá¡ááœáẠááŒááºáááºááá°ááŒááºážááẠáááºááá·áºá¡áá¬ááá¯áááᯠááááºážáááºážááá¬ážáá® á¡áá¯á¶ážáá»á¬ážáá±á¬ API key áá»á¬ážá bearer token áá»á¬ážá Slack token áá»á¬ážá AWS access key áá»á¬ážá á áá¬ážááŸááºáá»á¬ážá ááá¯áááºáá»á¬ážááŸáá·áº áá»áŸáá¯á·ááŸááºáá»ááºáá»á¬ážááᯠáá¯á¶ážááœááºáá±ážáááºá
áá»á¯á¶á·ááŒááºáž ááááºážááááºážáá»á¬áž
áá»á¯á¶á·áá¬ážáá±á¬ áá±á¬ááºážááá¯ááŸá¯ááá¯ááºážááœáẠáá¬áá¬ááŸááºáááºážáá»á¬ážá ááááºážááááºážáá»á¬áž áá«áááºáááº-
{
"originalTokens": 47200,
"compressedTokens": 40120,
"savingsPercent": 15.0,
"techniquesUsed": ["collapseWhitespace", "dedupSystemPrompt"],
"mode": "lite",
"engine": "caveman",
"compressionComboId": "coding-agent-stack",
"durationMs": 0.8,
"rtkRawOutputPointers": []
}
á¡ááá·áºááá·áº áááºážááŒááŒá±áá¯á¶
| á¡ááá·áº | áá¯ááºáá»á¬áž | á¡ááŒá±á¡áá± |
|---|---|---|
| á¡ááá·áº 1 | ááááºáá¬ážááŒááºážá Lite | â ááŒáá·áºáá»áááŒá®áž |
| á¡ááá·áº 2 | Standardá Aggressiveá Ultra | â ááŒáá·áºáá»áááŒá®áž |
| á¡ááá·áº 3 | RTKá Stackedá Compression Combos | â ááŒáá·áºáá»áááŒá®áž |
| á¡ááá·áº 4 | Output Stylesá SLM-tier Ultraá eval harness | â ááŒáá·áºáá»áááŒá®áž |
| á¡ááá·áº 4C | ááá¯ááºáá»á±á¬áá®ááœá±ááŒá
áºáá±á¬ context-budget ("dial") â ááœááºáá»ááºááŸá¯á¡ááºáá»áẠ+ API (PUT /api/settings/compression áá±á«áºááŸá contextBudget) + áááºááŸáºáá¯áẠáá¯ááº/áá°áá«á ááááºážáá»á¯ááºááŸá¯áá»á¬áž |
â ááŒáá·áºáá»áááŒá®áž |
á¡ááá¡ááŸááºááŒá¯ááŸá¯áá»á¬áž
Standard áá¯ááºá áá»á¯á¶á·ááŒááºážá
ááºážáá»ááºážáá»á¬ážááẠJuliusBrussee (â 51K+) áááºáá®ážáá±á¬ Caveman â áá°ááŒáá¯ááºáá»á¬ážáá»á¶á·ááŸá¶á·áá²á·ááá·áº "ááá¯áááºáááºážáááºážááŒáá·áº á¡áá¯ááºááŒá
áºáá»áŸáẠááá¯áááºá¡áá»á¬ážááŒá®ážááᯠáá¬ááŒá±á¬áá·áºáá¯á¶ážááá²" ááá±á¬áá»ááºá០á
áááºáá°ážááá°áá¬ážáááºá Caveman á á¡á
á®áááºáá¶áá»ááºá¡á á¡ááœááºááá¯ááẠ~75% áá»á±á¬á·áááºážááŒááºážá á
á¶ááŸá¯ááºážááá¯ááºážáá¬ááŸá¯ áá»ááºážáá»áŸá¡ááœáẠáá»áœá±áá¬ááŸá¯ 65%á á¡ááœááºá¡ááá¯ááºážá¡ááŒá¬áž 22-87% ááŸáá·áº á¡áááºáá»á¯á¶á·ááŒááºážáááááᬠ~46% ááŸááááºá
RTK áá¯ááºááẠRTK AI áááºáá®ážáá±á¬ RTK - Rust Token Killer â terminalá buildá testá git ááŸáá·áº tool-output á
á
áºáá¯ááºááŒááºážááá¯á·á¡ááœáẠá
áœááºážáá±á¬ááºáááºááŒáá·áº command-output áá»á¯á¶á·ááŒááºážááá±á¬áá»ááºá០á
áááºáá°ážááá°áá¬ážáááºá RTK á á¡á
á®áááºáá¶áá»ááºá¡á áá»áœá±áá¬ááŸá¯ 60-90% ááŸáááŒá®áž áááºážá README ááá°áᬠsession ááœáẠ~80% áá»áœá±áá¬áá¬ážááŒá±á¬ááºáž áá±á¬áºááŒáá¬ážáááºá
á¡ááá·áºááŒáá·áº áá»á¯á¶á·ááŒááºážá áá áºáá»á¬áž
áá¯á¶ááŸááºáá¯áẠá áá¯á¡ááŒáẠOmniRoute ááœáẠá¡ááŒá±á¬ááºážá¡áá¬á¡ááá¯áẠá¡ááá¯á¡áá»á±á¬áẠá¡áá¯ááºáá¯ááºáá±á¬ á¡ááá·áºááŒáá·áº áá»á¯á¶á·ááŒááºážá áá áºáá»á¬ážá áœá¬ áá«áááºáááºá
Cache ááᯠááá·áºááœááºážá ááºážá á¬ážáá±á¬ áá»á¯á¶á·ááŒááºáž
á¡áá»áá¯á· provider áá»á¬áž (prompt caching áá«áááºáá±á¬ Anthropic áá²á·ááá¯á·) ááẠprompt caching ááᯠáá¶á·ááá¯ážáá±ážááŒá®ážá áááºážááŒá±á¬áá·áº áá¯ááºáá»á ááááºááŸáá·áº ááŒá¬áá»áááºááᯠáá»áŸá±á¬á·áá»ááẠprompt á á¡á áááºá¡ááá¯ááºážáá»á¬ážááᯠcache ááááºážáá¬ážááá¯ááºáááºá caching ááᯠááœáá·áºáá¬ážááá·áºá¡áá« ááŒááºážáááºáá±á¬ áá»á¯á¶á·ááŒááºážááẠcache ááááºážáá¬ážáá±á¬ ááá¯áááºáá»á¬ážááᯠááŒá±á¬ááºážáá²á á±ááŒá®áž cache ááᯠáá»ááºááŒááºá á±áá±á¬ááŒá±á¬áá·áº á áœááºážáá±á¬ááºáááºááᯠá¡ááŸááºáááẠááááá¯ááºá á±ááá¯ááºáááºá
cachingAware.ts module ááẠcaching á¡ááŒá±á¡áá±ááᯠá
á
áºáá±ážááááŸáááŒááºáž ááŸáá·áº
ááá¯á¡ááŒá±á¡áá±ááŸáá·áºá¡áá® áá»á¯á¶á·ááŒááºážáááºážáá»á°áá¬ááᯠáá»áááºááŸáááŒááºáž ááŒáá·áº á€ááŒá¿áá¬ááᯠááŒá±ááŸááºážáááºá
á¡áá¯ááºáá¯ááºáá¯á¶
- caching á¡ááŒá±á¡áá±ááᯠá
á
áºáá±ážááŒááºáž â áá±á¬ááºážááá¯ááŸá¯ body áá²ááŸá
cache_controlá¡ááŸááºá¡áá¬ážáá»á¬ážááᯠá á áºáá±ážááẠ- caching provider áá»á¬ážááᯠááœá²ááŒá¬ážáááºááŸááºááŒááºáž â áŠážááẠprovider ááẠcaching ááᯠáá¶á·ááá¯ážáá±ážááŒááºážááŸááááŸá á á áºáá±ážáááº
- áááºážáá»á°áá¬ááᯠáá»áááºááŸáááŒááºáž â caching provider áá»á¬ážá¡ááœááº
aggressive/ultraááá¯standardááá¯á· áá»áŸá±á¬á·áá»ááẠ- á áá áºááœáŸááºááŒá¬ážáá»ááºááᯠáá»á±á¬áºááœá¬ážááŒááºáž â á áá áºááœáŸááºááŒá¬ážáá»ááºáá»á¬ážááᯠáá¯á¶ááŸááºá¡á¬ážááŒáá·áº cache ááááºážáá¬ážáá±á¬ááŒá±á¬áá·áº áááºážááá¯á·ááᯠááá»á¯á¶á·áá«
- áááºááŸááºáá¬ážááá·áºá¡ááá¯ááºáž áááºáá°ááááºáá¯ááºáá±ážáá±á¬ ááŒá±á¬ááºážáá²ááŸá¯áá»á¬ážááᯠá¡áá¯á¶ážááŒá¯ááŒááºáž â áá áºááááºáááºáž ááááºááœááºá á±áá±á¬ ááŒá±á¬ááºážáá²ááŸá¯áá»á¬ážááá¯áᬠá¡áá¯á¶ážááŒá¯áááº
áá¯ááºááá°áá¬
import {
detectCachingContext,
getCacheAwareStrategy,
} from "@omniroute/open-sse/services/compression/cachingAware";
const body = {
model: "anthropic/claude-sonnet-4.5",
messages: [{ role: "user", content: "Hello" }],
cache_control: { type: "ephemeral" }, // â Cache á¡ááŸááºá¡áá¬áž
};
const ctx = detectCachingContext(body, { provider: "anthropic" });
// â { hasCacheControl: true, provider: "anthropic", isCachingProvider: true }
const strategy = getCacheAwareStrategy("aggressive", ctx);
// â { strategy: "standard", skipSystemPrompt: true, deterministicOnly: true }
á¡áá¯á¶ážááŒá¯áááá·áºá¡áá»áááº
Cache ááᯠááá·áºááœááºážá ááºážá á¬ážáá±á¬ áá»á¯á¶á·ááŒááºážááᯠá¡ááŒá²ááœáá·áºáá¬ážááẠâ ááœá²á·á ááºážáááºááŸááºááẠáááá¯á¡ááºáá«á á¡á±á¬ááºáá«á¡ááŒá±á¡áá±áá»á¬ážááœááºáᬠá áááºá¡áá¯ááºáá¯ááºáááº-
- áá±á¬ááºážááá¯ááŸá¯ááœááº
cache_controlá¡ááŸááºá¡áá¬ážáá»á¬áž áá«ááŸáááŒááºáž - áŠážááẠprovider ááẠprompt caching ááᯠáá¶á·ááá¯ážáá±ážááŒááºáž (Anthropicá OpenAI á áááºááá¯á·)
á¡ááá·áºááá·áº á¡áá±á¬ááºážááŒá¯áá¯ááºááŒááºáž
ááŸááºáá»á¬ážáá±á¬ á
áá¬ážááá¯ááºážáá»á¬ážááœáẠáááºáá±á·áá»áºá¡ááŸáá·áºáá»á¬ážá
áœá¬ á
á¯á
ááºážáá¬áá±á¬áºáááºáž á¡ááŸáá·áºáá±á¬ááºážáá»á¬ážáááº
áááºá
ááºááŸá¯ áá»á±á¬á·áááºážáá¬áááºá progressiveAging.ts module ááẠá¡ááŸáá·áºá¡ááœá¬á¡áá±ážá¡ááá¯áẠáááºáá±á·áá»áºáá»á¬ážá á¡áá±ážá
áááºá¡ááá·áºááᯠáá»áŸá±á¬á·áá»áááº-
- áááŒá¬áá±ážáá® á¡ááŸáá·áºáá»á¬áž (0-3): áá°áááºážá¡ááá¯ááºáž ááááºážááááºážáá¬ážááẠ(á¡áá±ážá áááºá¡ááŒáá·áºá¡á á¯á¶)
- á¡áááºá¡ááẠá¡ááŸáá·áºáá»á¬áž (4-8): Lite áá»á¯á¶á·ááŒááºáž (áá±áá¬ááœááºáá»á¬ážá áá±á¬áºáááºááŒááºáááºááŸá¯)
- á¡ááŸáá·áºáá±á¬ááºážáá»á¬áž (9+): Caveman áá»á¯á¶á·ááŒááºáž (áááá¯á¡ááºáá±á¬ á áá¬ážáá¯á¶ážáá»á¬áž áááºááŸá¬ážááŒááºážá á¡áá»ááºážáá»á¯ááºááŒááºáž)
- á¡ááœááºáá±á¬ááºážáá±á¬ á¡ááŸáá·áºáá»á¬áž (20+): á¡ááœááºá¡áááºáž á¡áá»ááºážáá»á¯ááºááŒááºáž ááá¯á·ááá¯áẠáááºááŸá¬ážááŒááºáž
áá¯ááºááá°áá¬
import { applyAging } from "@omniroute/open-sse/services/compression/progressiveAging";
const messages = [
{ role: "system", content: "You are a helpful assistant" },
{ role: "user", content: "What is 2+2?" },
{ role: "assistant", content: "4" },
// ... áá±á¬ááºááẠá¡ááŸáá·áº á
á ...
];
const { messages: aged, saved } = applyAging(messages, {
verbatim: 3, // áááá¡ááŸáá·áº á áá¯- áá°áááºážá¡ááá¯ááºáž
light: 8, // á¡ááŸáá·áº á-á- lite áá»á¯á¶á·ááŒááºáž
moderate: 20, // á¡ááŸáá·áº á-áá- caveman áá»á¯á¶á·ááŒááºáž
// á¡ááŸáá·áº áá ááŸáá·áºá¡áááº- á¡ááœááºá¡áááºáž á¡áá»ááºážáá»á¯ááºááŒááºáž
});
// saved = áá»áœá±áá¬ááá¯ááºáá²á·áá±á¬ ááá¯áááºá¡áá±á¡ááœááº
á¡áá¯á¶ážááŒá¯áááá·áºá¡áá»áááº
áááŒááºážááŒááºáž á¡áá±á¬ááºážááŒá±á¬ááºážááŒááºážááẠaggressive ááŸáá·áº ultra áá¯ááºáá»á¬ážá¡ááœáẠá¡ááŒá²áááºáž ááœáá·áºáá¬ážáááºá á¡á±á¬ááºáá«á¡ááŒá±á¡áá±áá»á¬ážááœáẠá¡áá°ážáááá±á¬ááºáááº-
- á¡áá»áááºááŒá¬ááŒáá·áºá áœá¬ áá¯ááºáá±á¬ááºááá·áº áá¯ááºáá±ážáá¬ážááŸá¯ session áá»á¬áž
- áááºáá±á«ááºážáá»á¬ážá áœá¬ ááŒá¬ááŒáá·áºááá·áº á áá¬ážááá¯ááºážáá»á¬áž
- tool call áá»á¬ážá áœá¬áá«áááºááá·áº agentic workflow áá»á¬áž
Caveman Output áá¯ááº
outputMode.ts module ááẠmodel ááá¯ááºááá¯ááºá áá»á¯á¶á·áá¬ážááŒá®áž ááá¯áá±á¬ááºážáá±á¬ output (âcavemanâ áá¯á¶á
á¶) áá¯ááºáá¯ááºá
á±ááẠsystem prompt ááœáŸááºááŒá¬ážáá»ááºáá»á¬áž ááᯠááá·áºááœááºážáá±ážáááºá
á¡áá¯ááºáá¯ááºáá¯á¶
input ááᯠáá»á¯á¶á·ááá·áºá¡á á¬áž á€áá¯ááºááẠá¡á±á¬ááºáá«áá²á·ááá¯á· system prompt áá áºáá¯ááᯠááá·áºááœááºážáááº-
"á áá¬ážáá¯á¶ážá¡áááºážáá¯á¶ážááŒáá·áº ááŒá±áá«á áááºáá»á±ážáá±á¬ á áá¬ážáá»á¬ážááᯠáá»ááºááŸááºáá«á áá«áá»ááá¯áá»á¬ážááᯠá¡áá¯á¶ážááŒá¯áá«á"
áááºážááẠá¡á±á¬ááºáá«ááá á¹á áá»á¬ážááœáẠá¡áá°ážáá±á¬ááºážááœááºá áœá¬ á¡áá¯ááºáá¯ááºáááº-
- áá¯ááºáá¯ááºáá¯ááºááŒááºáž (ááá¯ááá¯áá±á¬ output = token ááá¯áááºážááŒááºáž)
- á¡ááŒáẠá¡áá±ážá¡ááŒá± (á¡áá±ážá ááẠááŸááºážáááºážáá»ááºáá»á¬áž áááá¯á¡ááºááŒááºáž)
- Batch processing (throughput ááᯠá¡áá»á¬ážáá¯á¶ážááŒá áºá á±ááŒááºáž)
á¡áá¯á¶ážááŒá¯ááá·áºááá·áºá¡áá»áááº
Caveman output áá¯ááºááẠopt-in ááŒá áºááẠâ combo config ááŸáá áºááá·áº áááºááŸááºáá«-
{
"strategy": "auto",
"config": {
"auto": {
"outputMode": "caveman"
}
}
}
Output áá¯á¶á á¶áá»á¬áž (áááºááá±á¬ááº)
á¡áááºáá« Caveman output áá¯ááºááẠáááẠsingle-style áááºážááŒá±á¬ááºáž ááŒá
áºáááºá Phase 4 ááœáẠáááºážááᯠáá±á«ááºážá
ááºá¡áá¯á¶ážááŒá¯ááá¯ááºáá±á¬ output áá¯á¶á
á¶áá»á¬ážá áááºááá±á¬ááºá¡ááŒá
Ạáá±áá¯áá»ááŒá¯áá²á·áááº- open-sse/services/compression/outputStyles/catalog.ts ááŸá OUTPUT_STYLE_CATALOG ááŒá
áºáááºá áá¯á¶á
á¶áá
áºáá¯á
á®ááẠmodel ááá¯ááºááá¯ááºá áá¯ááºáá»á
ááááºááá¯áááºáá¬áá±á¬ output áá¯ááºáá¯ááºá
á±ááá·áº system-prompt ááœáŸááºááŒá¬ážáá»ááºáá
áºáá¯ááŒá
áºááŒá®ážá áá¯á¶á
á¶áá»á¬ážááᯠá¡áá°ááᜠááœáá·áºááá¯ááºáᬠáááºááá±á¬ááºá¡á
á®á¡á
ááºá¡ááá¯ááºáž ááá·áºááœááºážáááºá
| áá¯á¶á á¶ | id |
áá¯ááºáá±á¬ááºáá»áẠ| ááœáŸááºááŒá¬ážáá»áẠáá¬áá¬á áá¬ážáá»á¬áž |
|---|---|---|---|
| ááá¯áá±á¬ááºážáá±á¬ á áá¬ážááŒá± | terse-prose |
áááá¯á¡ááºáá±á¬ á áá¬ážáá¯á¶ážáá»á¬áž/articles/ááá±áá»á¬áááᯠááŒá±á¬ááá¯ááŸá¯áá»á¬ážááᯠáááºááŸá¬ážááŒá®áž áááºážááá¬ááá¯ááºáᬠá¡ááŸá áºáá¬áááᯠáááá»á áœá¬ ááááºážááááºážáááºá áááẠcaveman output áá¯ááºááŸáá·áº á á¬áá¬ážáá°áá®ááẠ(ááŒááºááá¯ááºááá±ážáá² áááºááœáŸááºážáá¬ážáááº)á | en, pt-BR, es, de, fr, it, ru, zh, ja, id, vi |
| áá¯ááºááá¯áááºážááŒááºáž | less-code |
YAGNI á¡ááá·áºááá·áºáááºážáááºáž- á¡áá¯ááºáá¯ááºááá¯ááºááá·áº á¡áááºážáá¯á¶ážááŒá±á¬ááºážáá²ááŸá¯á ááá±á¬ááºážááá¯áá¬ážááá·áº abstraction áá»á¬ážááá«áááºááŒááºážá | en, pt-BR, es, de, fr, it, ru, zh, ja, id, vi |
| Ponytail (á¡áá»ááºážáá°áá±á¬ áá«ááá·áº developer) | ponytail |
"á¡áá±á¬ááºážáá¯á¶ážáá¯ááºááẠáááºáá±á¬á·á០ááá±ážáá²á·áá±á¬áá¯ááºááŒá áºáááº"- ááŒááºáá±ážááŒááºážááẠááŒááºáááºá¡áá¯á¶ážááŒá¯ááŒááºážá ááá¹ááá¬ááẠá¡áááºážáá¶á¡ááŒá±á¬ááºážáááºážá á¡áá¯ááºáá¯ááºááá¯ááºááá·áº á¡ááá¯áá¯á¶áž diffá | en, pt-BR, es, de, fr, it, ru, zh, ja, id, vi |
| áá»áœááºá¯ááºááœáẠADHD ááŸáááẠ(áá¯ááºáá±á¬ááºáá»ááºááᯠáŠážá á¬ážáá±áž) | i-have-adhd |
áá¯ááºáá±á¬ááºáá»ááºááᯠáŠážá áœá¬ááŒááŒááºáž (á áá¬ážááŒá±áááá¯ááºáá® command/path/snippet)á áá¶áá«ááºá ááºáááºáá¬ážáá±á¬ á¡ááá·áºá¡áááºááŸáááá·áº á¡ááá·áºáá»á¬ážá áááá»áá±á¬ áá±á¬ááºá¡ááá·áº áá áºáá¯áááºážá áááá«ááºáž/á¡áá»ááºážáá»á¯ááº/á¡ááááºá áá¬áž ááá«áááºááŒááºážá ayghri/i-have-adhd (MIT) á០ááŒá¯ááŒááºáá°áá¬ážáááºá | en, pt-BR, es, de, fr, it, ru, zh, ja, id, vi |
| ááá¯áá±á¬ááºážáá±á¬ CJK (æèš) | terse-cjk |
ááŸá±ážáá±á¬ááºážááá¯ááºá á¬áá±á ááá¯áẠá¡ááœááºááá¯áá±á¬ááºážáá±á¬ áá¯á¶á á¶á | zh (locale á¡ááá¯áẠááá·áºáááºáá¬ážáááº- ááŒá±ááŸááºážáááºááŸááºáá¬ážáá±á¬ áá¬áá¬á
áá¬ážááẠzh ááŒá
áºááá·áºá¡áá«ááŸáᬠáá±ážáá¬ážáááº) |
áá¯á¶á
á¶ááá¯ááºážááœáẠliteá fullá ultra áá°áá±á¬ ááŒááºážá¡á¬ážá¡ááá·áºáá¯á¶ážáᯠáá«áááºááŒá®áž á¡ááá·áºááá¯ááºážááẠáá»áŸáá±áá¬ážáá±á¬ áááºááááááºááá¯ááºáᬠá¡ááá¯ááºááŒáá·áº á¡áá¯á¶ážáááºáááºá áááºážá¡ááá¯ááºááẠcode block áá»á¬ážá file path áá»á¬ážá command áá»á¬ážá error string áá»á¬ážá URL áá»á¬ážááŸáá·áº identifier áá»á¬ážááᯠáá°áááºážá¡ááá¯ááºáž ááááºážááááºážáá±ážáááºá
ááá·áºááœááºážáá¯á¶
applyOutputStyles() (open-sse/services/compression/outputStyles/apply.ts) ááẠááœá±ážáá»ááºááŸá¯ááᯠáááºááá±á¬ááºááŸáá·áº ááá¯ááºáá®á¡á±á¬áẠááŒá±ááŸááºážááẠ(ááááá±á¬ id áá»á¬ážááŸáá·áº locale áááá¯ááºáá®áá±á¬ áá¯á¶á
á¶áá»á¬ážááᯠáááºááŸá¬ážááŒá®áž error á¡ááŒá
Ạáááºáá±á¬á·á០ááááºááŸááºáá«)á ááœá±ážáá»ááºáá¬ážáá±á¬ ááœáŸááºááŒá¬ážáá»ááºáá»á¬ážááᯠáááºááá±á¬ááºá¡á
á®á¡á
ááºá¡ááá¯ááºáž áááºá
ááºáá±ážáááºá áááºááááááºááá¯ááºáᬠá¡ááá¯ááºááᯠáá
áºááŒáááºáᬠááŒáá·áºá
áœááºááŒá®áž ááááºááᯠidempotency marker áá
áºáá¯áááºáž ([OmniRoute Output Styles]) ááá±á¬ááºááœáẠsystem prompt á ááŸá±á·ááá¯ááºážááá¯á· ááá·áºááœááºážááẠâ áááºáá¶á¡áá¯á¶ážáá»ááŒááºážááẠáááºááá·áºááŒá±á¬ááºážáá²ááŸá¯áá»áŸ áááŒá
áºá
á±áá«á ááŸá¬ááœá±áááºááŸááºáá¬ážáá±á¬ request áá¬áá¬á
áá¬ážá¡ááœáẠáá¬áá¬ááŒááºááŸááá«á á¡ááºá¹áááááºááœáŸááºááŒá¬ážáá»ááºá¡á
á¬áž áá±ááá¯á¶ážáá¬áá¬ááŒáá·áº ááŒááºááá¯áá¬ážáá±á¬ ááœáŸááºááŒá¬ážáá»ááºááᯠááá·áºááœááºážáááºá
ááœáá·áºáááºáž
dashboard ááœááº- Context â Settings â Compression â áá¯á¶á á¶áá áºáá¯á á®á¡ááœáẠon/off toggle ááŸáá·áº level selector áá«áááºáá±á¬ row áá áºáá¯á á®ááŸááááºá Programmatic áááºážááŒáá·áº compression config ááẠááœá±ážáá»ááºááŸá¯ááᯠá¡á±á¬ááºáá«á¡ááá¯ááºáž ááááºážáááºážáááº-
{
"outputStyles": [
{ "id": "i-have-adhd", "level": "full" },
{ "id": "less-code", "level": "lite" }
]
}
áá±á¬ááºááŒááºááá¯ááºáááºáá®ááŸá¯- áááẠoutputMode: "caveman" combo setting ááẠáááºáááºá¡áá¯ááºáá¯ááºááŒá®áž terse-prose ááá¯á· áá»áááºáááºáá±ážáááºá ááááºáá¬áá¬á
áá¬ážááá¯ááºážááŸá á¡áá±á¬ááºáž injection ááŸáá·áº byte á¡ááá¯áẠáá
áºáááºáááºážáá°áá®áááºá
áá¬áá¬á
áá¬ážááœá±ážáá»ááºááŸá¯- languageConfig.enabled ááᯠááœáá·áºáá¬ážáá«á autoDetect ááẠáá±á¬ááºáá¯á¶áž user message á áá¬áá¬á
áá¬ážááᯠááœá±ážáá»ááºááẠ(input engine áá»á¬ážááŸáá·áº detector áá°áá®áááº)á autoDetect ááᯠááááºááá¯ááºáá«á defaultLanguage ááᯠáá¯á¶áá±áááºááŸááºáááºá ááááºáá¬ážáá»áŸáẠâ á¡ááºá¹áááááºá
áá¯á¶á
á¶ Ã áá¬áá¬á
áá¬áž matrix ááᯠtests/unit/compression/output-styles-i18n-matrix.test.ts ááŒáá·áº áá¯á¶áá±ááááºážáá»á¯ááºáá¬ážáááº- áá¯á¶á
á¶á¡áá
áºáá
áºáá¯ááœáẠá¡áááºážáá¯á¶áž pt-BR áá¬áá¬ááŒááºáá
áºáᯠ(ááá¯á·ááá¯áẠá¡ááá¡áááºáž ááŸááºáááºážáááºááŒá±áá¬áá¶áá¬ážáá±á¬ ááŒáœááºážáá»ááºáá
áºáá¯) ááá«áá² áá¯ááºáá±áááááá²á·ááá¯á· ááŸáááŒá®ážáá¬ážáá¯á¶á
á¶áá
áºáá¯ááẠlocale áá
áºáá¯ááᯠá¡ááááá±ážáá² áááºááŸá¬ážááááá«á áá¯á¶á
á¶áá
áºáᯠááá·áºááœááºážááẠEXTENDING_COMPRESSION.md ááᯠááŒáá·áºáá«á
Tool Result áá»á¯á¶á·ááŒááºáž
toolResultCompressor.ts module ááẠtool result áá»á¬áž (function call áá»á¬ážá agent output áá»á¬ážá ááŸá¬ááœá±ááŸá¯ááááºáá»á¬áž á
áááº) á¡ááœáẠá¡áá°ážááŒá¯ compression strategy á
áá»áá¯áž ááᯠáá¶á·ááá¯ážáááº-
- ááŸá¬ááœá±ááŸá¯áááẠáá»á¯á¶á·ááŒááºáž â áááºáá±áá±á¬ááááºáá»á¬ážááᯠáááºááŸá¬ážááŒá®áž ááááºáá¯á¶áž N áá¯ááᯠááááºážááááºážáááº
- ááá¯ááºáááºááŸá¯ááŸá¯ áá»á¯á¶á·ááŒááºáž â ááŒá®ážáá¬ážáá±á¬ááá¯ááºáá»á¬ážááᯠááŒááºáá±á¬ááºááŒá®áž header/import áá»á¬ážááᯠááááºážááááºážáááº
- áá¯ááºáá¯ááºáá±á¬ááºááŸá¯ áá»á¯á¶á·ááŒááºáž â áááŸááááŒá áºááá¯á¡ááºáá±á¬ stdout/stderr ááá¯áᬠááááºážááááºážáááº
- Database query áá»á¯á¶á·ááŒááºáž â row á¡áá±á¡ááœááºááᯠááá·áºáááºááŒá®áž ááŸááºáá»á¬ážáá±á¬ metadata ááᯠáááºááŸá¬ážáááº
- API response áá»á¯á¶á·ááŒááºáž â null field áá»á¬ážááᯠáááºááŸá¬ážááŒá®áž array áá»á¬ážááᯠáá»á áºáá»á áºá á±áááº
á¡áá¯á¶ážááŒá¯ááá·áºááá·áºá¡áá»áááº
tool call áá»á¬áž áá«áááºááá·áºá¡áá« Tool result compression ááᯠá¡ááŒá²áááºáž ááœáá·áºáá¬ážáááºá Configuration ááŒá¯áá¯ááºááẠáááá¯á¡ááºáá«á
Stacked Pipeline
stacked áá¯ááºááẠengine á¡áá»á¬ážá¡ááŒá¬ážááᯠá¡á ááºááá¯áẠáá¯ááºáá±á¬ááºááẠâ áá¯á¶ááŸááºá¡á¬ážááŒáá·áº RTK ááᯠáŠážá áœá¬á¡áá¯á¶ážááŒá¯ááẠ(tool output ááœáẠ60-90% áá»áœá±áá¬ááŸá¯)á ááá¯á·áá±á¬áẠCaveman ááᯠá¡áá¯á¶ážááŒá¯ááẠ(áá»ááºááŸááá±á¬á á¬áá¬ážááœáẠáá±á¬ááºááẠ30% áá»áœá±áá¬ááŸá¯)á á€áááºážááŒáá·áº á á¯á á¯áá±á«ááºáž 78-95% áá»áœá±áá¬ááŸá¯ áááŸááááºá
á¡áá¯ááºáá¯ááºáá¯á¶
Input (1000 tokens)
â RTK (command ááᯠáá¬ážáááºááá·áº filter) â 200 tokens
â Caveman (áááá¯á¡ááºáá±á¬ á
áá¬ážáá¯á¶ážáá»á¬áž áááºááŸá¬ážááŒááºáž) â 140 tokens
â Output (140 tokensá 86% áá»áœá±áá¬ááŸá¯)
á¡áá¯á¶ážááŒá¯ááá·áºááá·áºá¡áá»áááº
á¡á±á¬ááºáá«ááá á¹á áá»á¬ážá¡ááœáẠstacked áá¯ááºááᯠá¡áá¯á¶ážááŒá¯áá«-
- Tool á¡áá¯á¶ážááŒá¯ááŸá¯áá»á¬ážáá±á¬ workflow áá»á¬áž (agentic codingá áá¯áá±áá)
- áá¯ááºáá»á ááááºá¡áá±ážááŒá®ážáá±á¬ batch processing
- token áá»áœá±áá¬ááŸá¯ááᯠá¡áá»á¬ážáá¯á¶ážááá¯á¡ááºááá·áºá¡áá«
combo ááŸáá áºááá·áº configure áá¯ááºáá«-
{
"strategy": "auto",
"config": {
"auto": {
"modePack": "stacked"
}
}
}
Compression Combo ááᯠá¡ááá¯ááºááá·áº á¡á á¬ážááá¯ážáááºááŸááºááŒááºáž
ááá°áá®áá±á¬ á¡áá¯á¶ážááŒá¯ááŸá¯á¡ááŒá±á¡áá±áá»á¬ážá¡ááœáẠáá¯ááºáá±á¬ááºáá¯á¶ááᯠá¡áá±ážá áááºáá»áááºááŸáááẠááá¹áá¬áá¯á¶ážááá¯ááºáᬠcompression mode ááᯠcombo áá áºáá¯áá»ááºážá á®á¡ááá¯áẠá¡á á¬ážááá¯ážáááºááŸááºááá¯ááºáááº-
{
"id": "coding-combo",
"strategy": "priority",
"config": {
"auto": {
"weights": { "taskFit": 0.5 },
"modePack": "quality-first"
}
},
"compressionOverride": {
"mode": "aggressive",
"stackedPipelines": ["rtk", "caveman"],
"preserveToolDefinitions": true
}
}
á€á¡áá¬ááẠá¡á±á¬ááºáá«á¡ááŒá±á¡áá±áá»á¬ážááœáẠá¡áá¯á¶ážáááºáááº-
- Coding combo áá»á¬áž: ááŒá¬ááŒáá·áºáá±á¬ session áá»á¬ážá¡ááœááº
aggressivemode ááᯠá¡áá¯á¶ážááŒá¯áá« - á¡ááŒáẠá¡áá±ážá¡ááŒá± combo áá»á¬áž: ááŒááºáááºáá±á¬ áá¯á¶á·ááŒááºáá»ááºáá»á¬ážá¡ááœááº
litemode ááᯠá¡áá¯á¶ážááŒá¯áá« - Tool á¡áá»á¬ážá¡ááŒá¬ážáá¯á¶ážáá±á¬ combo áá»á¬áž: áá»áœá±áá¬ááŸá¯á¡áá»á¬ážáá¯á¶ážáááŸááááº
stackedmode ááᯠá¡áá¯á¶ážááŒá¯áá« - Production combo áá»á¬áž: Caching provider áá»á¬ážá¡ááœááº
cache-awaremode ááᯠá¡áá¯á¶ážááŒá¯áá«
áááºáá¶ááŒáá·áºááŸá¯áááº
- Environment Config â Compression environment variable áá»á¬áž
- Architecture Guide â Compression pipeline á á¡ááœááºážááá¯ááºážáá¯ááºáá±á¬ááºáá¯á¶
- User Guide â Compression ááᯠá áááºá¡áá¯á¶ážááŒá¯ááŒááºáž
- RTK Compression â RTK filter áá»á¬ážá áá¯á¶ááŒááºááŸá¯ modelá á¡áááºááŒá¯ááŒááºáž gate ááŸáá·áº áá°áááºáž output ááŒááºáááºááá°ááŒááºáž
- Compression Engines â Cavemaná RTKá stackedá API áá»á¬ážá MCP ááŸáá·áº dashboard
- Compression Rules Format â JSON rule-pack format
- Compression Language Packs â áá¬áá¬á áá¬ážá¡ááá¯áẠCaveman rule áá»á¬áž