Files
OmniRoute/docs/i18n/yo/docs/compression/COMPRESSION_GUIDE.md
Diego Rodrigues de Sa e Souza 8feea123bb feat(docs): mirror every docs/ page in all 65 locales (#14106)
* feat(docs): mirror every docs/ page in all 65 locales

Extends the documentation mirrors from the 22-page core set (#13940) to
every Markdown page under docs/: 152 sources x 65 locales = 9,880 mirrors
(6,208 new), language bars rewritten for the full locale list, state
adopted so the blocking drift gate now covers all 152 pages.

run-translation.mjs: an oversized block made only of table rows or list
items (PROVIDER_REFERENCE.md 244-row table, FREE_TIERS.md 71-item list) is
cut at item boundaries and rejoined without a blank line — the single
16-40 KB request outlived the backend socket for verbose scripts. 48
older mirrors whose tables had lost rows were retranslated with --force.

* docs(i18n): refresh mirrors for the sources the base changed since the branch cut

Section-level retranslation of the 29 docs (and README.md) whose source
or mirrors moved on release/v3.8.51 during the run, then state adoption;
the drift gate is green again on the merged tree.
2026-09-18 13:16:46 -03:00

40 KiB
Raw Blame History

🗜️ Prompt Compression Guide — OmniRoute (Yorùbá)

🌐 Languages: 🇺🇸 English · 🇪🇹 am · 🇸🇦 ar · 🇦🇿 az · 🇧🇬 bg · 🇧🇩 bn · 🇨🇿 cs · 🇩🇰 da · 🇩🇪 de · 🇬🇷 el · 🇪🇸 es · 🇪🇪 et · 🇮🇷 fa · 🇫🇮 fi · 🇫🇷 fr · 🇮🇪 ga · 🇮🇳 gu · 🇳🇬 ha · 🇮🇱 he · 🇮🇳 hi · 🇭🇷 hr · 🇭🇺 hu · 🇦🇲 hy · 🇮🇩 id · 🇳🇬 ig · 🇮🇹 it · 🇯🇵 ja · 🇬🇪 ka · 🇰🇭 km · 🇮🇳 kn · 🇰🇷 ko · 🇱🇹 lt · 🇱🇻 lv · 🇮🇳 ml · 🇮🇳 mr · 🇲🇾 ms · 🇲🇹 mt · 🇲🇲 my · 🇳🇵 ne · 🇳🇱 nl · 🇳🇴 no · 🇮🇳 or · 🇮🇳 pa · 🇵🇭 phi · 🇵🇱 pl · 🇵🇹 pt · 🇧🇷 pt-BR · 🇷🇴 ro · 🇷🇺 ru · 🇱🇰 si · 🇸🇰 sk · 🇸🇮 sl · 🇷🇸 sr · 🇸🇪 sv · 🇰🇪 sw · 🇮🇳 ta · 🇮🇳 te · 🇹🇭 th · 🇹🇷 tr · 🇺🇦 uk-UA · 🇵🇰 ur · 🇺🇿 uz · 🇻🇳 vi · 🇨🇳 zh-CN · 🇹🇼 zh-TW


Fipamọ́ 15-95% lórí àyíká-ọ̀rọ̀ tó yẹ láìfọwọ́ṣe. Fún àkópọ̀ ṣókí, wo abala Ìfúnpọ̀ README.

Àkótán

OmniRoute ń ṣe ìlànà aláwọn-ẹ̀ka fún ìfúnpọ̀ ìtọ́sọ́nà, èyí tó ń ṣiṣẹ́ ṣáájú láìfọwọ́ṣe kí àwọn ìbéèrè tó dé ọ̀dọ̀ àwọn olùpèsè òkèèrè. Èyí túmọ̀ sí pé ìfipamọ́ token rẹ ń ṣẹlẹ̀ láìfarahàn — kò sí àyípadà kankan tí o nílò láti ṣe sí ìṣàn iṣẹ́ rẹ.

Ìbéèrè Oníbàárà
  → Olùyan Ọ̀nà Ìfúnpọ̀
    → Àyípadà combo wà? → Lo ètò combo
    → Ààlà ìmúlò aládàáṣiṣẹ́? → Lo ipò aládàáṣiṣẹ́
    → Ipò àìyípadà? → Lo ètò àgbáyé
    → Pípa? → Fò ìfúnpọ̀
  → Ipò Ìfúnpọ̀ Tí A Yàn
    → Pípa: Kò sí ìfúnpọ̀
    → Lite: Ìwẹ̀nù àlàfo/ìṣètò tó ní ààbò (~15%)
    → Standard: Yíyọ ọ̀rọ̀ àfikún ti ara Caveman kúrò (~30%)
    → Aggressive: Ìsọ̀rọ̀ ìtàn di àtijọ́ + ìṣókí (~50%)
    → Ultra: Ìyọkúrò oníheuristic + dídín ìdènà kóòdù kù (~75%)
    → RTK: Àlẹ̀jáde terminal/irinṣẹ́ tó mọ àṣẹ (ìwọ̀n òkèèrè 60-90%)
    → Stacked: Ìlànà ọ̀pọ̀ ẹ́ńjìnnì tó tẹ̀lé ètò, ní ọ̀pọ̀ ìgbà RTK lẹ́yìn náà Caveman (ìwọ̀n tó yẹ 78-95%)
  → Ìbéèrè Tí A Fúnpọ̀ → Olùpèsè

Àwọn Ipò Ìfúnpọ̀

Pípa

Kò sí ìfúnpọ̀ tí a lò. Gbogbo àwọn ìfiránṣẹ́ ń kọjá láìyípadà.

Ipò Lite (~15% ìfipamọ́, ìdádúró <1ms)

Ipò tó ní ààbò jù lọ — kò sí ìyípadà ìtumọ̀ rárá, ìwẹ̀nù ìṣètò nìkan:

Ọ̀nà Àpèjúwe
collapseWhitespace Darapọ̀ àwọn ìlà òfìfo tó tẹ̀léra àti àwọn àlàfo òpin
dedupSystemPrompt Yọ àwọn ìfiránṣẹ́ system tó ṣe àdáwòkọ kúrò
compressToolResults Fún àwọn àlẹ̀jáde irinṣẹ́/function tó gùn pọ̀
removeRedundantContent Yọ àwọn ìtọ́ni tó tún ara wọn ṣe
replaceImageUrls Kúrú àwọn URI dátà àwòrán base64

Ó dára jù fún: Ìlò tó máa ń ṣiṣẹ́ nígbà gbogbo, àwọn ìṣàn iṣẹ́ tí ààbò ṣe pàtàkì.

Ipò Standard (~30% ìfipamọ́)

Èyí gba ìmísí láti ọ̀dọ̀ Caveman — ó ń yọ àwọn ọ̀rọ̀ àfikún àti ọ̀rọ̀ gígùn kúrò nígbà tó ń pa ìtumọ̀ mọ́:

  • Ó ń yọ àwọn ọ̀rọ̀ àfikún kúrò ("jọ̀wọ́", "mo rò pé", "ní pàtàkì", "ní tòótọ́")
  • Ó ń sọ àwọn gbólóhùn gígùn di ṣókí ("láti lè" → "láti", "gẹ́gẹ́ bí àbájáde" → "nítorí")
  • Ó ń yọ ọ̀rọ̀ ẹ̀bẹ̀ tó kún fún ìṣọ́ra kúrò ("Ṣé ó máa yá ọ lára...", "Tí o bá lè ṣe é...")
  • Àwọn òfin regex tó ju 30 lọ tí a ṣètò fún àwọn ìtọ́sọ́nà ìkọ kóòdù

Ó dára jù fún: Àwọn ìṣàn iṣẹ́ ìkọ kóòdù ojoojúmọ́, àwọn ẹgbẹ́ tó ń ṣọ́ ìnáwó.

Ipò Aggressive (~50% ìfipamọ́)

Ìṣàkóso ìtàn ọlọ́gbọ́n fún àwọn ìgbà iṣẹ́ gígùn:

  • Ìsọ̀rọ̀ Ìfiránṣẹ́ Di Àtijọ́ — àwọn ìfiránṣẹ́ àtijọ́ máa ń túbọ̀ jẹ́ fífúnpọ̀
  • Ìṣókí Àbájáde Irinṣẹ́ — àwọn àlẹ̀jáde irinṣẹ́ gígùn ni a fi àkótán rọ́pò
  • Àwọn Olùṣọ́ Ìdúróṣinṣin Ẹ̀yà — ń rí i dájú pé àwọn méjì-méjì tool_use + tool_result wà ní ìbámu
  • Ìmọ̀ nípa Fèrèsé Àyíká-ọ̀rọ̀ — ń tẹ̀lé àwọn ààlà token fún model kọ̀ọ̀kan

Ó dára jù fún: Àwọn ìgbà ìṣàwárí àṣìṣe gígùn, àwọn ibi ìkó kóòdù ńlá.

Ipò Ultra (~75% ìfipamọ́)

Ìfúnpọ̀ tó pọ̀ jù lọ fún àwọn ipò tí token ṣe pàtàkì gan-an:

  • Ìyọkúrò Oníheuristic — ń yọ àwọn ìfiránṣẹ́ tó wà ní ìsàlẹ̀ ààlà ìbámu kúrò
  • Dídín Ìdènà Kóòdù Kù — ń fún àwọn àpẹẹrẹ kóòdù tó ń ṣe àtúnṣe pọ̀
  • Gígé Pẹ̀lú Ìṣàwárí Binary — ń wá ibi gígé tó dára jù lọ fún fèrèsé àyíká-ọ̀rọ̀
  • Gbogbo àwọn ẹ̀yà ipò Aggressive wà nínú rẹ̀

Ó dára jù fún: Nígbà tí o bá ń dé àwọn ààlà àyíká-ọ̀rọ̀ léraléra.

Ipò RTK (ìwọ̀n òkèèrè 60-90%)

A ṣe ìmúṣapeye ipò RTK fún àwọn àlẹ̀jáde irinṣẹ́ gígùn tó máa ń hàn nínú àwọn ìgbà iṣẹ́ aṣojú ìkọ kóòdù:

  • Ó ń ṣàwárí àwọn ẹ̀ka àṣẹ/àlẹ̀jáde bíi git status, git diff, git log, àwọn olùṣiṣẹ́ ìdánwò, àwọn àkójọ TypeScript/Vite/Webpack, ESLint/Biome/Prettier, npm audit/installs, àwọn àkọsílẹ̀ Docker, àlẹ̀jáde amáyédẹrùn, àti àlẹ̀jáde shell gbogbogbòò
  • Ó ń lo àwọn àkójọpọ̀ àlẹ̀ JSON láti open-sse/services/compression/engines/rtk/filters/
  • Ó ń gbé àwọn àlẹ̀ schema v1 RTK TOML wọlé láti inú àwọn fáìlì filters.toml ti iṣẹ́-àkànṣe tàbí ti àgbáyé, pẹ̀lú ìfọwọ́sí ìdánwò inú-ìlà àti ìṣàkóso ìgbẹ́kẹ̀lé fún àwọn fáìlì iṣẹ́-àkànṣe
  • Ó ní àwọn àlẹ̀ àbínibí 49 pẹ̀lú àwọn àpẹẹrẹ ìjẹ́rìísí inú-ìlà
  • Ó ń yọ àwọn ìtẹ̀lé ìṣàkóso ANSI, àwọn ọ̀pá ìlọsíwájú, àwọn ìlà tó tún ara wọn ṣe, àti ariwo tí kò ṣeé lò kúrò
  • Ó ń pa àwọn ìkùnà, àṣìṣe, ìkìlọ̀, àwọn fáìlì tí a yí padà, àkótán, àti ìrù àlẹ̀jáde gígùn mọ́
  • Ó ṣe àtìlẹ́yìn fún àwọn àlẹ̀ iṣẹ́-àkànṣe tí ìgbẹ́kẹ̀lé ń ṣàkóso, àwọn àlẹ̀ àgbáyé, àti ìgbàpadà àlẹ̀jáde tútù tí a ti bo ohun ìkọ̀kọ̀ rẹ̀, bí a bá fẹ́

Ó dára jù fún: Àwọn ìgbà iṣẹ́ aṣojú tó ní shell, àkójọ, ìdánwò, git, grep, àti àwọn àkọsílẹ̀ àlẹ̀jáde fáìlì.

Ipò Stacked (ìwọ̀n tó yẹ 78-95%)

Ipò Stacked ń ṣiṣẹ́ àwọn ẹ́ńjìnnì ìfúnpọ̀ púpọ̀ ní ìtẹ̀lé tó dájú. Ìlànà àìyípadà ni:

RTK -> Caveman

Ìtẹ̀lé yẹn kọ́kọ́ jẹ́ kí àlẹ̀jáde terminal/irinṣẹ́ wà ní ṣókí, lẹ́yìn náà ó lo ìṣókí ìtumọ̀ Caveman sí ìtọ́sọ́nà èdè àdánidá tó ṣẹ́ kù. A lè ṣètò àwọn ìlànà Stacked káàkiri àgbáyé tàbí nípasẹ̀ àwọn combo ìfúnpọ̀ tí a yàn sí àwọn combo ìtọ́sọ́nà.

Ó dára jù fún: Àyíká-ọ̀rọ̀ àdàpọ̀ tó ní àwọn àkọsílẹ̀ irinṣẹ́ ńlá pẹ̀lú àwọn ìtọ́ni ènìyàn tàbí àkótán olùrànlọ́wọ́.


Ìṣirò Ìfipamọ́ Upstream

OmniRoute ṣàkọsílẹ̀ ìfipamọ́ ìfúnpọ̀ láti orísun méjì: àwọn àbájáde ìdánwò iṣẹ́ àwọn iṣẹ́ upstream àti àkópọ̀ ẹ́ńjìnnì OmniRoute fúnra rẹ̀.

Orísun Nọ́ńbà README upstream tí a lò níbí
Caveman ~75% àwọn token àbájáde tó dín kù, 65% ìfipamọ́ àbájáde ìdánwò iṣẹ́ ní ìpíndọ́gba, ààlà 22-87%, àti irinṣẹ́ ìfúnpọ̀ ìwọlé ~46%
RTK Ìfipamọ́ àbájáde àṣẹ 60-90%; àpẹẹrẹ sáà token ~118,000 -> ~23,900, tàbí 79.7% tí a fipamọ́ (~80%)

Fún àwọn payload irinṣẹ́/àyíká-ọ̀rọ̀ tó fara pọ̀, àkópọ̀ OmniRoute àiyipada máa ń tò àwọn ẹ́ńjìnnì náà:

RTK -> Caveman

Àwọn ìfipamọ́ àpapọ̀ jẹ́ ti ìsọdipúpọ̀, kì í ṣe ti àfikún:

combined = 1 - (1 - RTK savings) * (1 - Caveman input savings)
average  = 1 - (1 - 0.80) * (1 - 0.46) = 89.2%
range    = 1 - (1 - 0.60..0.90) * (1 - 0.46) = 78.4-94.6%

Nọ́ńbà 78-95% yẹn kan ibi tí RTK àti Caveman méjèèjì ti lè dín payload ìwọlé/àyíká-ọ̀rọ̀ kan náà kù. Ìpo àbájáde ìdáhùn Caveman yàtọ̀: nígbà tí a bá mú un ṣiṣẹ́, lo ìfipamọ́ àbájáde Caveman fúnra rẹ̀ (65% ní ìpíndọ́gba, ~75% gẹ́gẹ́ bí àkọlé, ààlà 22-87%). Àpapọ̀ ìfipamọ́ ìdíyelé dá lórí àdàpọ̀ prompt/àbájáde rẹ.

Ohun tí “tó yẹ” túmọ̀ sí gan-an

Ààlà àkọlé 15-95% jẹ́ òtítọ́, ṣùgbọ́n ó kan àkóónú tó ṣe àṣejù tàbí tó ní ọ̀rọ̀ púpọ̀ jù nìkan — àwọn ìlà àṣìṣe tí a tún ṣe, àkọsílẹ̀ build tó ń tú ìkìlọ̀ kan náà jáde léraléra, dump grep/kíka-fáìlì tó tóbi jù. Kò túmọ̀ sí pé gbogbo ìbéèrè máa ń fi iye tó pọ̀ bẹ́ẹ̀ pamọ́.

A ti fìdí rẹ̀ múlẹ̀ nípasẹ̀ ìdánwò gidi (tests/unit/compression/stacked-compression-tool-result-savings.test.ts): ìṣiṣẹ́ stacked (RTK + Caveman) lórí block tool_result tó ní ìrísí Anthropic, tó ní ìlà àṣìṣe kan náà ní ìgbà 300, mú ìfipamọ́ token 95.93% / ìfipamọ́ àmì-ọ̀rọ̀ 96.26% jáde — ó wà ní àárín ààlà tí a polówó rẹ̀ gẹ́gẹ́ bí a ti sọ. Ṣùgbọ́n nígbà tí pipeline kan náà bá ṣiṣẹ́ lórí àbájáde irinṣẹ́ déédéé tí kò ní àṣejù (àtòjọ ìbámu grep tó mọ́, kíka fáìlì kúkúrú, ọ̀rọ̀ ìjíròrò déédéé), ó máa ń mú ìfipamọ́ tó sún mọ́ òdo jáde lọ́nà tó tọ́, nítorí kò sí ohun àtúnsọ láti yọ kúrò, àti pé validateCompression() (validation.ts) kò gbà láti fi àtúnkọ tí yóò sọ àwọn block kóòdù, URL, àkọlé, ẹ̀yà, tàbí àwọn amọ̀dájú òǹkà ALL-CAPS nù tàbí yí wọn padà ránṣẹ́.

Èyí ni ìwà tí a retí, tó sì ní ààbò, kì í ṣe àbùkù: sáà coding kan tó sábà máa ń ka/tú àwọn fáìlì tó mọ́ yẹ̀wò pẹ̀lú grep yóò rí àpapọ̀ ìfipamọ́ kékeré, kódà bí ìfúnpọ̀ bá ti ṣiṣẹ́ ní kíkún, nígbà tí sáà kan tó bá pàdé loop tó ń kùnà tàbí linter tó ń sọ̀rọ̀ púpọ̀ yóò rí ààlà 78-95% ní kíkún lórí ìṣàn yẹn. Má ṣe lo ìdá ọgọ́rùn-ún ìfipamọ́ àpapọ̀ tó kéré láti inú sáà kan ṣoṣo gẹ́gẹ́ bí ẹ̀rí pé a ṣètò ìfúnpọ̀ lọ́nà tí kò tọ́ — kọ́kọ́ ṣàyẹ̀wò bóyá àbájáde irinṣẹ́ tó wà ní ìpìlẹ̀ ní àṣejù ní ti gidi.


Àfihàn Ìfipamọ́ Token

Láìsí ìfúnpọ̀:              token 47K ni a fi ránṣẹ́ sí LLM
Pẹ̀lú Lite:                 token 40K ni a fi ránṣẹ́          (15% ni a fipamọ́ — ó ní ààbò, ó sì máa ń ṣiṣẹ́ nígbà gbogbo)
Pẹ̀lú Standard:             token 33K ni a fi ránṣẹ́          (30% ni a fipamọ́ — àwọn òfin caveman-speak)
Pẹ̀lú Aggressive:           token 24K ni a fi ránṣẹ́          (50% ni a fipamọ́ — ìmú-dárúgbó + ṣíṣe àkótán)
Pẹ̀lú Ultra:                token 12K ni a fi ránṣẹ́          (75% ni a fipamọ́ — yíyọ ohun tí kò pọn dandan kúrò nípa heuristic)
Pẹ̀lú RTK:                  token 19K-5K ni a fi ránṣẹ́       (60-90% ni a fipamọ́ lórí àbájáde àṣẹ/irinṣẹ́)
Pẹ̀lú Stacked:              token 10K-2.5K ni a fi ránṣẹ́     (ààlà RTK+Caveman 78-95% tó yẹ)

Ìṣètò

Pánẹ́ẹ̀lì Ìṣàkóso

Lọ sí Dashboard → Context & Cache:

  • Caveman — yíyan ipò, àwọn àkójọpọ̀ èdè, àwòtẹ́lẹ̀, àti àwọn àiyípadà àgbáyé
  • RTK — àwòtẹ́lẹ̀ àsẹ-àlẹ̀mọ́, àwọn ètò ààbò RTK, àti àkójọ àwọn àlẹ̀mọ́
  • Compression Combos — àwọn ìlànà ẹ̀rọ tí a fún ní orúkọ, tí a sì yàn fún àwọn àkópọ̀ ìdarí
  • Auto-Trigger Threshold — bẹ̀rẹ̀ ìfúnpọ̀ láìfọwọ́ṣe nígbà tí iye token bá kọjá ààlà

Ìkọ̀sílẹ̀ Fún Àkópọ̀ Kọ̀ọ̀kan

Nínú Dashboard → Context & Cache → Compression Combos, yan àkópọ̀ ìfúnpọ̀ kan fún àkópọ̀ ìdarí kan:

Combo: "free-tier-fallback"
  Compression Combo: "coding-agent-stack"
  Pipeline: RTK -> Caveman
  Targets:
    1. if/kimi-k2.7-code
    2. if/qwen3.8-max-preview

Èyí jẹ́ kí o lè lo ìfúnpọ̀ alákòóso-lẹ́sẹẹsẹ lórí àwọn olùpèsè ọ̀fẹ́/tíkọ́ọ̀dù, nígbà tí o ṣì ń lo ipò lite lórí àwọn ìforúkọsílẹ̀ tí a sanwó fún.

Ìyàn “Per-Combo Override” yìí jẹ́ ìṣàkóso tí ó yàtọ̀ sí ìkọ̀sílẹ̀ ipò ìfúnpọ̀ àkópọ̀ ìdarí (Default/Off/Lite/Standard/Aggressive/Ultra) — ìkọ̀sílẹ̀ yẹn kò yan ìlànà àkópọ̀-ìfúnpọ̀ tí a fún ní orúkọ; ó kàn ṣètò ààyè compressionModeresolveCompressionPlan ń tọ́ka sí. A lè ṣètò rẹ̀ lórí káàdì àkópọ̀ (Dashboard → Combos) tàbí, láti #6760, fún àkópọ̀ ìdarí kọ̀ọ̀kan nínú àtòjọ “Assign to routing” ní Dashboard → Context & Cache → Compression Combos, lẹ́gbẹ̀ẹ́ àpótí àyẹ̀wò ìyàn ìlànà tí a ṣàkọsílẹ̀ rẹ̀ lókè. Àwọn ojú-ìṣàkóso méjèèjì ń tọ́jú ìyípadà nípasẹ̀ endpoint PUT /api/combos/{id} kan náà.

Ìkọ̀sílẹ̀ fún ìbéèrè kọ̀ọ̀kan

Fi header ìbéèrè x-omniroute-compression ránṣẹ́ láti kọjá ètò ìfúnpọ̀ fún ìbéèrè kan ṣoṣo. Ó ní ipò àkọ́kọ́ tó ga jù — ó borí ìkọ̀sílẹ̀ àkópọ̀ ìdarí, prófáìlì tó ń ṣiṣẹ́, ìpilẹ̀ṣẹ̀ aládàáṣiṣẹ́, àti Default ti pánẹ́ẹ̀lì. A máa foju kọ àwọn iye tí a kò mọ̀ (a kì í kọ ìbéèrè náà sílẹ̀ láéláé), àti pé yíyí àgbáyé àkọ́kọ́ ṣì ń ṣàkóso gbogbo nǹkan: nígbà tí ìfúnpọ̀ bá wà ní pípà ní gbogbo àgbáyé, header náà kò lè tan-an. Àwọn iye:

Iye Ipa
off Kò sí ìfúnpọ̀ fún ìbéèrè yìí.
default Prófáìlì Default tí pánẹ́ẹ̀lì dá sílẹ̀ (kò ka prófáìlì tó ń ṣiṣẹ́ sí).
engine:<id> Ẹ̀rọ kan ṣoṣo nígbà tí a bá ti mú un ṣiṣẹ́, àpẹẹrẹ engine:rtk.
<combo> Àkópọ̀ tí a fún ní orúkọ, tí a kọ́kọ́ bá mu nípasẹ̀ orúkọ (láìka lẹ́tà ńlá/kékeré), lẹ́yìn náà nípasẹ̀ id.

A máa fi ètò tí a lò padà hàn nínú header ìdáhùn X-OmniRoute-Compression: <mode>; source=<source>, níbi tí <source> ti jẹ́ ọ̀kan lára request-header, routing-override, active-profile, auto-trigger, default, tàbí off.

API

# Gba àwọn ètò ìfúnpọ̀
curl http://localhost:20128/api/settings/compression

# Ṣe ìmúdójúìwọ̀n àwọn ètò ìfúnpọ̀
curl -X PUT http://localhost:20128/api/settings/compression \
  -H "Content-Type: application/json" \
  -d '{"defaultMode":"stacked","autoTriggerMode":"stacked","autoTriggerTokens":32000}'

# Ṣe àwòtẹ́lẹ̀ payload RTK/stacked kan pàtó
curl -X POST http://localhost:20128/api/compression/preview \
  -H "Content-Type: application/json" \
  -d '{"mode":"rtk","messages":[{"role":"tool","content":"npm test output here"}]}'

# Ṣàtòjọ àwọn àkójọpọ̀ àlẹ̀mọ́ RTK
curl http://localhost:20128/api/context/rtk/filters

# Dán RTK wò ní tààrà pẹ̀lú metadata àsẹ àṣàyàn
curl -X POST http://localhost:20128/api/context/rtk/test \
  -H "Content-Type: application/json" \
  -d '{"command":"npm test","text":"FAIL tests/example.test.ts\nError: boom"}'

Ohun Tí A Dáàbò Bo

Ẹ́ńjìnnì ìfúnpọ̀ náà máa ń tọ́jú àwọn wọ̀nyí ní gbogbo ìgbà:

  • Àwọn búlọ́ọ̀kù kóòdù (èyí tí a fi ààlà yí ká àti èyí tó wà láàárín ìlà)
  • Àwọn URL àti àwọn ipa fáìlì
  • Àwọn ètò JSON àti dátà tí a ṣètò
  • Àwọn àmì ìdánimọ̀ àti àwọn àmì ìmọ̀ ẹ̀rọ tí a dáàbò bo
  • Àwọn gbólóhùn ìṣirò
  • Àwọn ìtumọ̀ ìpè irinṣẹ́/ìpè iṣẹ́
  • Àwọn ìtọ́nisọ́nà ètò (ní ipò lite)

Ìmúpadàbọ̀ àbájáde-àìṣẹ̀dá RTK máa ń fi àwọn kọ́kọ́rọ́ API tí ó wọ́pọ̀, àwọn àmì bearer, àwọn àmì Slack, àwọn kọ́kọ́rọ́ ìráàyèsí AWS, àwọn ọ̀rọ̀ aṣínà, àwọn àmì, àti àwọn àṣírí pamọ́ kí ohunkóhun tó tó di fífi pamọ́.


Àwọn Àlàyé Ìṣirò Ìfúnpọ̀

Gbogbo ìbéèrè tí a bá fún pọ̀ ní àwọn àlàyé ìṣirò nínú àwọn àkọsílẹ̀ olupin:

{
  "originalTokens": 47200,
  "compressedTokens": 40120,
  "savingsPercent": 15.0,
  "techniquesUsed": ["collapseWhitespace", "dedupSystemPrompt"],
  "mode": "lite",
  "engine": "caveman",
  "compressionComboId": "coding-agent-stack",
  "durationMs": 0.8,
  "rtkRawOutputPointers": []
}

Ètò Ọ̀nà Àwọn Ìpele

Ìpele Àwọn Ipò Ipò
Ìpele 1 Pípa, Lite Ti jáde
Ìpele 2 Standard, Aggressive, Ultra Ti jáde
Ìpele 3 RTK, Stacked, Àwọn Àkópọ̀ Ìfúnpọ̀ Ti jáde
Ìpele 4 Àwọn Ọ̀nà Àfihàn Àbájáde, Ultra ìpele-SLM, ètò ìdánwò Ti jáde
Ìpele 4C Ìṣúná àyíká-ọ̀rọ̀ aláṣàmúlòṣe ("dial") — ẹ́ńjìnnì ìṣirò + API (contextBudget lórí PUT /api/settings/compression) + àwọn ìṣàkóso ipò/ìlànà ojú-iṣẹ́ Ti jáde

Ìdúpẹ́

Àwọn òfin ìfúnpọ̀ ipò Standard gba ìmísí láti ọ̀dọ̀ CavemanJuliusBrussee ṣe ( 51K+) — iṣẹ́ akanṣe tó gbajúgbajà, "kí ló dé tí a fi ń lo àmì púpọ̀ nígbà tí àmì díẹ̀ lè ṣe iṣẹ́ náà". Caveman ròyìn pé ó dín àwọn àmì àbájáde kù ní ~75%, àpapọ̀ ìfipamọ́ àbájáde ìdánwò jẹ́ 65%, ìwọ̀n àbájáde jẹ́ 22-87%, àti irinṣẹ́ ìfúnpọ̀ ìwọlé jẹ́ ~46%.

Ipò RTK gba ìmísí láti ọ̀dọ̀ RTK - Rust Token KillerRTK AI ṣe — iṣẹ́ akanṣe ìfúnpọ̀ àbájáde àṣẹ tó ní iṣẹ́-gíga fún terminal, build, test, git, àti àsẹ̀jáde àbájáde irinṣẹ́. RTK ròyìn ìfipamọ́ 60-90%, pẹ̀lú àpẹẹrẹ ìgbà lílò inú README rẹ̀ tó fi hàn pé a fi ~80% pamọ́.


Àwọn Ètò Ìfúnpọ̀ Ìpele-Gíga

Ní àfikún sí àwọn ipò boṣewa 7 náà, OmniRoute ní ọ̀pọ̀ ètò ìfúnpọ̀ ìpele-gíga tí ń ṣiṣẹ́ láìfọwọ́yí gẹ́gẹ́ bí àyíká-ọ̀rọ̀ ṣe rí.

Ìfúnpọ̀ Tó Mọ Ibi-Ìpamọ́

Àwọn olùpèsè kan (bí Anthropic pẹ̀lú fífi prompt pamọ́) ṣe àtìlẹ́yìn fún fífi prompt pamọ́, èyí tó jẹ́ kí wọ́n fi àwọn apá kan ti prompt pamọ́ láti dín iye owó àti àkókò ìdádúró kù. Nígbà tí fífi pamọ́ bá ṣiṣẹ́, ìfúnpọ̀ tó lágbára lè ba ìṣiṣẹ́ jẹ́ ní ti gidi nítorí pé ó yí àwọn àmì tí a fi pamọ́ padà, tó sì sọ ibi-ìpamọ́ náà di aláìwúlò.

Módù cachingAware.ts ń yanjú èyí nípa wíwádìí àyíká-ọ̀rọ̀ fífi pamọ́ àti ṣíṣe àtúnṣe sí ìlànà ìfúnpọ̀ gẹ́gẹ́ bí ó ṣe yẹ.

Bí ó ṣe ń ṣiṣẹ́

  1. Ṣàwárí àyíká-ọ̀rọ̀ fífi pamọ́ — Ṣàyẹ̀wò ara ìbéèrè fún àwọn àmì cache_control
  2. Dá àwọn olùpèsè fífi pamọ́ mọ̀ — Ṣàyẹ̀wò bóyá olùpèsè àfojúsùn ṣe àtìlẹ́yìn fún fífi pamọ́
  3. Ṣàtúnṣe ìlànà — Sọ aggressive/ultra kalẹ̀ sí standard fún àwọn olùpèsè fífi pamọ́
  4. Fò kọjá prompt ètò — A sábà máa ń fi àwọn prompt ètò pamọ́, nítorí náà má ṣe fún wọn pọ̀
  5. Lo àwọn ìyípadà tó ń fúnni ní àbájáde kan náà — Lo àwọn ìyípadà tí ń ṣe àbájáde tó dúró ṣinṣin nìkan

Àpẹẹrẹ kóòdù

import {
  detectCachingContext,
  getCacheAwareStrategy,
} from "@omniroute/open-sse/services/compression/cachingAware";

const body = {
  model: "anthropic/claude-sonnet-4.5",
  messages: [{ role: "user", content: "Hello" }],
  cache_control: { type: "ephemeral" }, // ← Àmì ibi-ìpamọ́
};

const ctx = detectCachingContext(body, { provider: "anthropic" });
// → { hasCacheControl: true, provider: "anthropic", isCachingProvider: true }

const strategy = getCacheAwareStrategy("aggressive", ctx);
// → { strategy: "standard", skipSystemPrompt: true, deterministicOnly: true }

Ìgbà tí ó yẹ kí o lò ó

Ìfúnpọ̀ tó mọ ibi-ìpamọ́ máa ń ṣiṣẹ́ ní gbogbo ìgbà — kò nílò àtòpọ̀ kankan. Ó máa ń bẹ̀rẹ̀ iṣẹ́ nìkan nígbà tí:

  • Ìbéèrè náà ní àwọn àmì cache_control
  • Olùpèsè àfojúsùn ṣe àtìlẹ́yìn fún fífi prompt pamọ́ (Anthropic, OpenAI, àti bẹ́ẹ̀ bẹ́ẹ̀ lọ.)

Ìdínkù Díẹ̀díẹ̀ Gẹ́gẹ́ Bí Ọjọ́ Ṣe Ń Lọ

Àwọn ìjíròrò gígùn máa ń kó ọ̀pọ̀ ìyípadà ọ̀rọ̀ jọ, ṣùgbọ́n àwọn ìyípadà ọ̀rọ̀ àtijọ́ máa ń dín ní ìbámu. Módù progressiveAging.ts máa ń dín kúlẹ̀kúlẹ̀ àwọn ìfiránṣẹ́ kù gẹ́gẹ́ bí jíjìnnà ìyípadà ọ̀rọ̀ ṣe rí:

  • Àwọn ìyípadà ọ̀rọ̀ tuntun (0-3): A tọ́jú wọn bí wọ́n ṣe rí (ẹ̀kúnrẹ́rẹ́ àlàyé)
  • Àwọn ìyípadà ọ̀rọ̀ àárín (4-8): Ìfúnpọ̀ Lite (ààyè láàárín ọ̀rọ̀, ìsọdimímọ́ àgbékalẹ̀)
  • Àwọn ìyípadà ọ̀rọ̀ àtijọ́ (9+): Ìfúnpọ̀ Caveman (yíyọ ọ̀rọ̀ àfikún kúrò, ṣíṣe àkótán)
  • Àwọn ìyípadà ọ̀rọ̀ tó ti pẹ́ gan-an (20+): A ṣe àkótán wọn gidigidi tàbí a yọ wọ́n kúrò

Àpẹẹrẹ kóòdù

import { applyAging } from "@omniroute/open-sse/services/compression/progressiveAging";

const messages = [
  { role: "system", content: "You are a helpful assistant" },
  { role: "user", content: "What is 2+2?" },
  { role: "assistant", content: "4" },
  // ... Àwọn ìyípadà ọ̀rọ̀ 50 míì ...
];

const { messages: aged, saved } = applyAging(messages, {
  verbatim: 3, // Àwọn ìyípadà ọ̀rọ̀ 3 àkọ́kọ́: bí wọ́n ṣe rí
  light: 8, // Àwọn ìyípadà ọ̀rọ̀ 4-8: ìfúnpọ̀ lite
  moderate: 20, // Àwọn ìyípadà ọ̀rọ̀ 9-20: ìfúnpọ̀ caveman
  // Àwọn ìyípadà ọ̀rọ̀ 21+: àkótán tó lágbára
});

// saved = iye àwọn àmì tí a fi pamọ́

Ìgbà tí ó yẹ kí o lò ó

Ìdárúgbó onítẹ̀síwájú máa ń ṣiṣẹ́ ní gbogbo ìgbà fún àwọn ipò aggressive àti ultra. Ó wúlò gan-an fún:

  • Àwọn àkókò kíkọ kóòdù tí ó gùn
  • Àwọn ìjíròrò tí ó gba ọ̀pọ̀ ọjọ́
  • Àwọn ìṣàn-iṣẹ́ aṣojú pẹ̀lú ọ̀pọ̀ ìpè irinṣẹ́

Ipò Ìjáde Caveman

Módù outputMode.ts máa ń fi àwọn ìtọ́nisọ́nà ìbéèrè ètò sínú rẹ̀ láti mú kí móòdẹ́lì fúnra rẹ̀ ṣe àgbéjáde tí a ti fún pọ̀, tí ó sì ṣókí (àṣà "caveman").

Bí ó ṣe ń ṣiṣẹ́

Dípò fífún ìwọlé pọ̀, ipò yìí máa ń ṣàfikún ìbéèrè ètò bíi:

"Dáhùn pẹ̀lú ọ̀rọ̀ díẹ̀ jù lọ. Má ṣe lo ọ̀rọ̀ ìkíni. Lo àwọn gbólóhùn kúkúrú."

Èyí wúlò gan-an fún:

  • Ṣíṣẹ̀dá kóòdù (àgbéjáde tí ó ṣókí sí i = àwọn token díẹ̀ sí i)
  • Ìbéèrè àti ìdáhùn kíákíá (kò nílò àwọn àlàyé gígùn)
  • Ṣíṣe ìpele-ẹgbẹ́ (mú ìwọ̀n iṣẹ́ tí a lè parí pọ̀ sí i)

Ìgbà tí o yẹ kí a lò ó

Ipò ìjáde Caveman jẹ́ èyí tí a yàn láti ṣiṣẹ́ — ṣètò rẹ̀ nípasẹ̀ àtòpọ̀ ìṣètò:

{
  "strategy": "auto",
  "config": {
    "auto": {
      "outputMode": "caveman"
    }
  }
}

Àwọn Àṣà Ìjáde (àkójọ)

Ipò ìjáde Caveman lókè ni ọ̀nà àṣà ẹyọ kan àtijọ́. Ìpele 4 sọ ọ́ di àkójọ àwọn àṣà ìjáde tí a lè ṣàkójọpọ̀: OUTPUT_STYLE_CATALOG nínú open-sse/services/compression/outputStyles/catalog.ts. Àṣà kọ̀ọ̀kan jẹ́ ìtọ́nisọ́nà ìbéèrè-ètò tí ó mú kí móòdẹ́lì fúnra rẹ̀ ṣe àgbéjáde tí iye owó rẹ̀ dín kù; a lè mú àwọn àṣà ṣiṣẹ́ papọ̀, a ó sì fi wọ́n sínú rẹ̀ ní ìtòlẹ́sẹẹsẹ àkójọ.

Àṣà id Ohun tí ó ń ṣe Àwọn èdè ìtọ́nisọ́nà
Ọ̀rọ̀ ṣókí terse-prose Yọ àwọn ọ̀rọ̀ àfikún/atọ́ka/àìdánilójú kúrò; jẹ́ kí kókó ìmọ̀-ẹ̀rọ péye. Ọ̀rọ̀ kan náà ni pẹ̀lú ipò ìjáde caveman àtijọ́ (a tọ́ka sí i, a kò tún tẹ̀ ẹ́). en, pt-BR, es, de, fr, it, ru, zh, ja, id, vi
Kóòdù díẹ̀ less-code Àkàbà YAGNI: ìyípadà kékeré jù lọ tí ó ṣiṣẹ́, láìsí àwọn àfọwọ́yẹ tí a kò béèrè fún. en, pt-BR, es, de, fr, it, ru, zh, ja, id, vi
Ponytail (olùgbéejáde àgbà ọ̀lẹ) ponytail "Kóòdù tó dára jù ni kóòdù tí a kò kọ rí": tún lò > tún kọ, ìdí pàtàkì > àmì ìṣòro, ìyàtọ̀ tó kúkúrú jù lọ tí ó ṣiṣẹ́. en, pt-BR, es, de, fr, it, ru, zh, ja, id, vi
Mo ní ADHD (ìgbésẹ̀-kọ́kọ́) i-have-adhd Ìgbésẹ̀ kọ́kọ́ (àṣẹ/ọ̀nà/àjákù ṣáájú ọ̀rọ̀), àwọn ìgbésẹ̀ onínọ́ńbà tí ó ní ààlà, ìgbésẹ̀ pàtó KAN tí ó kàn, kò sí ọ̀rọ̀ ìṣáájú/àkójọpọ̀/ọ̀rọ̀ ìparí. A ṣàtúnṣe rẹ̀ láti inú ayghri/i-have-adhd (MIT). en, pt-BR, es, de, fr, it, ru, zh, ja, id, vi
CJK ṣókí (文言) terse-cjk Àṣà Ṣáínà-ìgbàanì tí ó ṣókí gan-an. zh (a fi locale ṣe ààlà rẹ̀: a ń pèsè rẹ̀ nìkan nígbà tí èdè tí a yanjú jẹ́ zh)

Àṣà kọ̀ọ̀kan ní ìpele agbára mẹ́ta — lite, full, ultra — gbogbo ìpele sì parí pẹ̀lú gbólóhùn ààlà tí gbogbo wọn ń pín, èyí tí ó jẹ́ kí àwọn àkọsílẹ̀ kóòdù, àwọn ọ̀nà fáìlì, àwọn àṣẹ, àwọn ọ̀rọ̀ aṣìṣe, àwọn URL àti àwọn atọ́ka dúró gẹ́gẹ́ bí wọ́n ṣe wà.

Bí fífi sínú rẹ̀ ṣe ń ṣiṣẹ́

applyOutputStyles() (open-sse/services/compression/outputStyles/apply.ts) máa ń yanjú àṣàyàn náà sí àkójọ (a máa yọ àwọn id tí a kò mọ̀ àti àwọn àṣà tí locale wọn kò bá mu kúrò, kò sì jẹ́ aṣìṣe láé), ó máa ń so àwọn ìtọ́nisọ́nà tí a yàn pọ̀ ní ìtòlẹ́sẹẹsẹ àkójọ, ó máa ń ṣàfikún gbólóhùn ààlà náà lẹ́ẹ̀kan ṣoṣo, ó sì máa ń fi èsì náà sí iwájú ìbéèrè ètò lẹ́yìn àmì idempotency kan ṣoṣo ([OmniRoute Output Styles]) — fífi í sílò lẹ́ẹ̀kan sí i kò ní ṣe ohunkóhun. Nígbà tí èdè ìbéèrè tí a ṣàwárí bá ní ìtumọ̀, ìtọ́nisọ́nà tí a ti sọ di èdè agbègbè ni a ó fi sínú rẹ̀ dípò Gẹ̀ẹ́sì.

Bí a ṣe lè mú un ṣiṣẹ́

Nínú pátákó ìṣàkóso: Àyíká → Àwọn Ètò → Fífún Pọ̀ — ìlà kan fún àṣà kọ̀ọ̀kan pẹ̀lú bọ́tìnì títàn/pípa àti aṣàyàn ìpele. Nípasẹ̀ ètò, ìṣètò fífún pọ̀ máa ń tọ́jú àṣàyàn náà gẹ́gẹ́ bí:

{
  "outputStyles": [
    { "id": "i-have-adhd", "level": "full" },
    { "id": "less-code", "level": "lite" }
  ]
}

Ìbámu sẹ́yìn: ìṣètò àtòpọ̀ àtijọ́ outputMode: "caveman" ṣì ń ṣiṣẹ́, ó sì máa ń darí sí terse-prose, tí báìtì rẹ̀ bá ti ìfísínú àtijọ́ mu pátápátá nínú gbogbo èdè àtijọ́.

Àṣàyàn èdè: nígbà tí languageConfig.enabled bá wà ní títàn, autoDetect máa ń yan èdè ìfiránṣẹ́ olùlò tuntun jù lọ (olùṣàwárí kan náà bí ti àwọn ẹ̀rọ ìwọlé); pípa autoDetect máa ń so defaultLanguage mọ́lẹ̀. Pípà → Gẹ̀ẹ́sì.

A ti so mátríìkì àṣà × èdè mọ́lẹ̀ nípasẹ̀ tests/unit/compression/output-styles-i18n-matrix.test.ts: àṣà tuntun kò lè jáde láìní ó kéré tán ìtumọ̀ pt-BR (tàbí ìyọkúrò tí a tọ́pinpin ní kedere), àṣà tí ó sì ti wà kò lè pàdánù locale láìkéde. Láti ṣàfikún àṣà kan, wo EXTENDING_COMPRESSION.md.

Fífún Èsì Irinṣẹ́ Pọ̀

Módù toolResultCompressor.ts pèsè àwọn ọgbọ́n fífún pọ̀ amọ̀ja 5 fún àwọn èsì irinṣẹ́ (àwọn ìpè iṣẹ́, àwọn àgbéjáde aṣojú, àwọn èsì ìṣàwárí, àti bẹ́ẹ̀ bẹ́ẹ̀ lọ):

  1. Fífún èsì ìṣàwárí pọ̀ — Yọ àwọn èsì àsọtúnsọ kúrò, pa top-N mọ́
  2. Fífún kíkà fáìlì pọ̀ — Gé àwọn fáìlì ńlá kúrú, pa àwọn àkọlé/àwọn ìgbéwọlé mọ́
  3. Fífún ìmúṣẹ kóòdù pọ̀ — Pa stdout/stderr tó ṣe pàtàkì nìkan mọ́
  4. Fífún ìbéèrè ibi ìpamọ́ dátà pọ̀ — Fi ààlà sí àwọn ìlà, yọ metadata alálàyé kúrò
  5. Fífún èsì API pọ̀ — Yọ àwọn field null kúrò, fún àwọn array pọ̀

Ìgbà tí o yẹ kí a lò ó

Fífún èsì irinṣẹ́ pọ̀ máa ń ṣiṣẹ́ ní gbogbo ìgbà tí àwọn ìpè irinṣẹ́ bá wà. Kò nílò ìṣètò kankan.

Ìṣànṣẹ́ Tí A Tó Sórí Ara Wọn

Ipò tí a tó sórí ara wọn máa ń ṣiṣẹ́ ọ̀pọ̀ ẹ̀rọ ní tẹ̀léńtẹ̀lé — RTK kọ́kọ́ ní ọ̀pọ̀ ìgbà (ìfipamọ́ 60-90% lórí àgbéjáde irinṣẹ́), lẹ́yìn náà Caveman (ìfipamọ́ àfikún 30% lórí ọ̀rọ̀ tó kù). Èyí ń ṣàṣeyọrí ìfipamọ́ àpapọ̀ 78-95%.

Bí ó ṣe ń ṣiṣẹ́

Ìwọlé (1000 token)
  → RTK (àsẹ́ tí ó mọ àṣẹ) → 200 token
    → Caveman (yíyọ ọ̀rọ̀ àfikún) → 140 token
  → Àgbéjáde (140 token, ìfipamọ́ 86%)

Ìgbà tí o yẹ kí a lò ó

Lo ipò tí a tó sórí ara wọn fún:

  • Àwọn ìṣàn-iṣẹ́ tí irinṣẹ́ pọ̀ nínú wọn (kíkọ kóòdù aṣojú, ìwádìí)
  • Ṣíṣe ìpele-ẹgbẹ́ tí iye owó ṣe pàtàkì sí
  • Nígbà tí o nílò ìfipamọ́ token tó pọ̀ jù lọ

Ṣètò rẹ̀ nípasẹ̀ àtòpọ̀:

{
  "strategy": "auto",
  "config": {
    "auto": {
      "modePack": "stacked"
    }
  }
}

Àwọn Ìkọlélórí Àkójọpọ̀ Fún Ìfúnpọ̀

O lè kọjá mode ìfúnpọ̀ àgbáyé fún àkójọpọ̀ kọ̀ọ̀kan láti ṣàtúnṣe ìhùwàsí fún onírúurú ọ̀nà ìlò:

{
  "id": "coding-combo",
  "strategy": "priority",
  "config": {
    "auto": {
      "weights": { "taskFit": 0.5 },
      "modePack": "quality-first"
    }
  },
  "compressionOverride": {
    "mode": "aggressive",
    "stackedPipelines": ["rtk", "caveman"],
    "preserveToolDefinitions": true
  }
}

Èyí wúlò fún:

  • Àwọn àkójọpọ̀ kíkọ kóòdù: Lo mode aggressive fún àwọn ìgbà iṣẹ́ gígùn
  • Àwọn àkójọpọ̀ ìbéèrè àti ìdáhùn kíákíá: Lo mode lite fún àwọn ìdáhùn yíyára
  • Àwọn àkójọpọ̀ tó ní irinṣẹ́ púpọ̀: Lo mode stacked fún ìfipamọ́ tó pọ̀ jù
  • Àwọn àkójọpọ̀ ìmújáde: Lo mode cache-aware fún àwọn olupèsè tó ń lo caching

Wo Pẹ̀lú