mirror of
https://github.com/diegosouzapw/OmniRoute.git
synced 2026-08-26 00:52:18 +03:00
* feat(compression): target-wire OmniGlyph stage and transport fidelity gate Roda o OmniGlyph depois da tradução para o wire real do provedor, em vez do corpo de origem. Um cliente OpenAI roteado para Claude deixava de comprimir com skip:source_format_not_claude porque o corpo ainda estava em formato OpenAI quando a engine era avaliada. - dispatch nativo por wire: Anthropic Messages, OpenAI Chat Completions e OpenAI Responses (input[] preservado, sem achatar para messages[]); - estágio target-wire pós-translateRequest, com guarda contra dupla compressão no caminho Claude→OpenAI; - preserveSystemPrompt do OmniRoute mapeado para compressSystem: false; - imageTransportPolicy: fidelidade de bytes/dimensões separada de supportsVision; só Anthropic/Claude tem recibo byte-preserving, o resto é fail-closed; - contagem de tokens de data URL PNG no wire OpenAI (marcador ;base64,); - README e i18n en/pt-BR com claims escopados ao caminho medido. * feat(compression): adota omniglyph 1.4.0 e tira o gate de modelo da env do host O 1.4.0 introduziu escopos de segurança e passou a resolvê-los dentro de isOmniGlyphSupportedModel() lendo process.env.OMNIGLYPH_PROFILE. Somado ao OMNIGLYPH_MODELS que já existia, duas variáveis do ambiente do host decidiam em silêncio o gate de TODO request do OmniRoute: passthrough desligaria a engine inteira e OMNIGLYPH_MODELS admitiria modelos sem recibo medido, enquanto a UI segue prometendo "Claude Fable 5 na rota direta medida". O adapter passa a usar isOmniGlyphSupportedModelForScope() com escopo explícito e fixa o escopo mais restrito como teto: a env só pode ESTREITAR a allowlist, nunca alargar. Os dois wires compartilham a mesma lista no pacote desde o 1.4.0, então uma checagem cobre Anthropic e GPT. - omniglyph ^1.3.1 -> ^1.4.0 (lock em 1.4.0); - testes de regressão para os dois caminhos de sequestro por env; - teste de contrato dos exports novos (escopo, perfis, accounting). O 1.4.0 também traz, sem mudança de código aqui: correção do glyph K que era lido como H, remoção do backtracking polinomial no secret-guard, overrides do pnpm em pnpm-workspace.yaml e as transitivas vulneráveis resolvidas. * feat(compression): expõe os perfis semânticos do omniglyph nos três wires O 1.4.0 trouxe perfis nomeados (coding-safe, balanced, aggressive, passthrough), mas só transformAnthropicMessages() os resolve sozinho: os transformadores OpenAI recebem TransformOptions cru e ignorariam o campo. Um perfil escolhido pelo operador valeria no wire Claude e sumiria no OpenAI. O adapter passa a mesclar o perfil com mergeCompressionProfileOptions() antes de chamar Chat Completions e Responses. O default segue aggressive — a política que os recibos publicados mediram. Medido nesta base: com coding-safe/balanced, uma sessão sem histórico acumulado para em below_min_chars e a engine não faz nada, porque os dois fixam minCompressChars no máximo e desligam system/tools/tool-results. Como a engine é opt-in, um default assim entregaria "ligado, 0% de ganho". O perfil é TETO, não piso: mergeCompressionProfileOptions não deixa um override do chamador reabrir uma lane lossy que o perfil fechou. Coberto por teste, por ser contra-intuitivo. Também fecha um caminho em que o OmniRoute violaria a própria política: o wire OpenAI do pacote não tem compressSystem — honra apenas compressTools, gptHistory, minCompressChars e reflow, e sempre troca a instrução por um ponteiro para a imagem. Com preserveSystemPrompt ligado, imagear assim queimaria o prefixo quente que a decisão cache-aware está protegendo, sem nada no corpo devolvido denunciando. A engine agora pula com skip:system_preservation_unsupported_on_wire. * feat(compression): contabilidade física do omniglyph com grau de evidência O adapter descartava o TransformInfo inteiro, então a UI mostrava um número de economia sem dizer de onde ele vinha — contagem do provider, estimativa ou só diferença de bytes. O 1.4.0 expõe normalizeAccounting(), que classifica essa evidência e resolve a semântica de cache por família: Anthropic reporta input, cache-create e cache-read em buckets DISJUNTOS, enquanto OpenAI e xAI reportam cached como SUBCONJUNTO do input. Somar à mão dá double-count silencioso. O novo omniglyphTelemetry.ts não filtra por denylist — MONTA um objeto novo, campo a campo, só com número e enum. TransformInfo mistura contadores inofensivos com material que não pode ser persistido: bytes PNG, imageSourceText(s), recoverable[].text, os sha8 de system/CLAUDE.md/primeira mensagem, nomes de tags observadas e o bloco env (cwd, branch, versões). Copiar o objeto inteiro transformaria telemetria de compressão em vazamento de prompt. O teste de negação prova que segredo, caminho do operador, texto do system e base64 não aparecem, e varre a allowlist exigindo que toda string seja de um enum conhecido. - provider threaded do chatCore e do bridge Codex WS até a engine; ausente vira `unknown`, que faz o upstream recusar adivinhar buckets de cache; - contabilidade propagada para o engineBreakdown do passo (o agregado do pipeline soma todas as engines e não serviria); - skip não emite contabilidade: zeros ali seriam indistinguíveis de "a engine nem rodou". * feat(compression): perfil do omniglyph configurável, persistido e documentado Fecha o caminho do operador: o perfil já existia no adapter, mas só como default de código. Agora atravessa schema Zod, normalizador do banco, API de settings e a página dedicada do engine. - OmniglyphConfig tipado + omniglyphConfigSchema (z.enum dos quatro perfis); - normalizeOmniglyphConfig: nome desconhecido vindo do storage cai para o default em vez de virar "roda com a política padrão"; - seletor na página do engine, com PATCH próprio — o perfil vive fora do mapa `engines`, e mandá-lo junto reescreveria o mapa inteiro (o store persiste o mapa como uma linha JSON só); - i18n en/pt-BR descrevendo o custo medido de cada perfil, não só o nome; - README e COMPRESSION_ENGINES.md com a regra do teto e o motivo de o default não ser o perfil mais seguro. Corrige de passagem um teste-irmão que ninguém via: o gate de transporte na UI deixou de dizer "direct Anthropic" quando os wires OpenAI nativos entraram, mas tests/unit/ui/omniglyphContextPage.test.tsx continuou afirmando a cópia antiga. O arquivo inteiro estava excluído do vitest.config.ts como "#8618 pre-existing failure", então a quebra passou silenciosa. Com a asserção alinhada o arquivo fecha 3/3, e a exclusão sai — o próprio comentário mandava removê-la quando corrigida. A doc não nomeia OMNIGLYPH_MODELS: o gate de docs fabricadas está certo em apontar que o OmniRoute nunca lê essa env — quem lê é o pacote. * fix(i18n): paridade do locale vi com as chaves novas do perfil do omniglyph `tests/unit/i18n-vi-completeness.test.ts` exige paridade ESTRITA de chaves entre en e vi — diferente do ratchet `i18n:check-ui-coverage`, que passa com 80%. As 11 chaves do seletor de perfil entraram só em en e pt-BR, e o gate de cobertura seguiu verde, então a quebra só apareceu na matriz completa do CI. --------- Co-authored-by: Xiangzhe <bakryun0718@proton.me> Co-authored-by: adevwithpurpose <adevwithpurpose@users.noreply.github.com>
100 lines
3.9 KiB
TypeScript
100 lines
3.9 KiB
TypeScript
import { test } from "node:test";
|
|
import assert from "node:assert";
|
|
import { estimateCompressionTokens } from "../../../open-sse/services/compression/stats.ts";
|
|
import { transformAnthropicMessages, transformOpenAIChatCompletions } from "omniglyph";
|
|
|
|
const CHARS_PER_TOKEN = 4;
|
|
|
|
// Corpo Claude denso o bastante para o gate de rentabilidade do omniglyph converter
|
|
// (mesmo fixture usado em omniglyph-adapter.test.ts / omniglyph-plumbing.test.ts).
|
|
const DENSE =
|
|
"X".repeat(500) +
|
|
"\n" +
|
|
Array.from(
|
|
{ length: 400 },
|
|
(_, i) => `const row_${i} = compute(${i * 17}, "${"v".repeat(80)}");`
|
|
).join("\n");
|
|
|
|
const DENSE_CLAUDE_BODY = {
|
|
model: "claude-fable-5",
|
|
max_tokens: 128,
|
|
system: DENSE,
|
|
messages: [{ role: "user", content: [{ type: "text", text: "oi" }] }],
|
|
};
|
|
|
|
test("estimateCompressionTokens é image-aware: encolhe de verdade numa página omniglyph real", async () => {
|
|
const encoded = new TextEncoder().encode(JSON.stringify(DENSE_CLAUDE_BODY));
|
|
const result = await transformAnthropicMessages({ body: encoded, model: "claude-fable-5" });
|
|
assert.ok(
|
|
result.applied,
|
|
`omniglyph deveria ter convertido o corpo denso (reason=${result.reason})`
|
|
);
|
|
const outBody = JSON.parse(new TextDecoder().decode(result.body)) as Record<string, unknown>;
|
|
assert.ok(
|
|
JSON.stringify(outBody).includes('"type":"image"'),
|
|
"saída deveria conter bloco de imagem"
|
|
);
|
|
|
|
const naiveCharEstimate = Math.ceil(JSON.stringify(outBody).length / CHARS_PER_TOKEN);
|
|
const imageAwareEstimate = estimateCompressionTokens(outBody);
|
|
const originalTextEstimate = estimateCompressionTokens(DENSE_CLAUDE_BODY);
|
|
|
|
console.log(
|
|
`naive-char=${naiveCharEstimate} image-aware=${imageAwareEstimate} original-text=${originalTextEstimate}`
|
|
);
|
|
|
|
// O estimador ciente de imagem deve ser MUITO menor que o char-count ingênuo do
|
|
// próprio base64 (prova que o base64 não é contado por char).
|
|
assert.ok(
|
|
imageAwareEstimate < naiveCharEstimate,
|
|
`esperado image-aware (${imageAwareEstimate}) < naive-char (${naiveCharEstimate})`
|
|
);
|
|
// E deve representar encolhimento real frente ao texto original (não só frente ao
|
|
// próprio char-count do PNG).
|
|
assert.ok(
|
|
imageAwareEstimate < originalTextEstimate,
|
|
`esperado image-aware (${imageAwareEstimate}) < original-text (${originalTextEstimate})`
|
|
);
|
|
});
|
|
|
|
test("regressão: corpo sem imagem estima o MESMO valor de antes (char-count puro)", () => {
|
|
const plainBody = {
|
|
model: "claude-sonnet-5",
|
|
max_tokens: 128,
|
|
system: "prompt curto",
|
|
messages: [{ role: "user", content: [{ type: "text", text: "olá, tudo bem?" }] }],
|
|
};
|
|
const expected = Math.ceil(JSON.stringify(plainBody).length / CHARS_PER_TOKEN);
|
|
assert.equal(estimateCompressionTokens(plainBody), expected);
|
|
});
|
|
|
|
test("estimateCompressionTokens contabiliza image_url PNG no wire OpenAI", async () => {
|
|
const originalBody = {
|
|
model: "gpt-5.6",
|
|
messages: [
|
|
{ role: "system", content: DENSE },
|
|
{ role: "user", content: "oi" },
|
|
],
|
|
};
|
|
const encoded = new TextEncoder().encode(JSON.stringify(originalBody));
|
|
const result = await transformOpenAIChatCompletions(encoded);
|
|
assert.equal(result.info.compressed, true);
|
|
const compressedBody = JSON.parse(new TextDecoder().decode(result.body)) as Record<
|
|
string,
|
|
unknown
|
|
>;
|
|
assert.ok(JSON.stringify(compressedBody).includes('"type":"image_url"'));
|
|
|
|
const originalEstimate = estimateCompressionTokens(originalBody);
|
|
const compressedEstimate = estimateCompressionTokens(compressedBody);
|
|
const naiveEstimate = Math.ceil(JSON.stringify(compressedBody).length / CHARS_PER_TOKEN);
|
|
assert.ok(
|
|
compressedEstimate < naiveEstimate,
|
|
`expected image-aware (${compressedEstimate}) < base64 char estimate (${naiveEstimate})`
|
|
);
|
|
assert.ok(
|
|
compressedEstimate < originalEstimate,
|
|
`expected OpenAI image compression (${compressedEstimate}) < original (${originalEstimate})`
|
|
);
|
|
});
|