diff --git a/AGENTS.md b/AGENTS.md index 01b922c..fb4e8b2 100644 --- a/AGENTS.md +++ b/AGENTS.md @@ -4,11 +4,11 @@ ## Project Overview -Конвертер `.docx`/`.doc` → `.pdf` на чистом Java: docx4j 17.3.2 → XSL-FO → форк Apache FOP, без LibreOffice/Aspose. Бинарный `.doc` (Word 97-2003) переносится мостом MS-DOC/MS-CFB (`internal/doc`) в in-memory `.docx` и идёт тем же конвейером. Java 17, только Maven. +Конвертер `.docx`/`.doc` → `.pdf` на чистом Java: docx4j 17.3.6 → XSL-FO → форк Apache FOP, без LibreOffice/Aspose. Бинарный `.doc` (Word 97-2003) переносится мостом MS-DOC/MS-CFB (`internal/doc`) в in-memory `.docx` и идёт тем же конвейером. Java 17, только Maven. | Модуль | Содержимое | |---|---| -|`wordpdf-core`|библиотека: 61 Java-файл (6 — публичный API, 16 `internal/`, 18 `internal/doc/`, 18 `internal/chart/`, 3 `fonts/`)| +|`wordpdf-core`|библиотека: 59 Java-файл (6 — публичный API, 14 `internal/`, 18 `internal/doc/`, 18 `internal/chart/`, 3 `fonts/`)| | `wordpdf-app` | REST API на Spring Boot 4.1.1: 11 классов, единственный `public` — `WordPdfApplication` | | `wordpdf-web` | SPA (React 19 + TS + Vite + Tailwind), вне Maven-реактора, отдельный образ | @@ -18,11 +18,11 @@ Порядок шагов 0–7 фиксирован (`convertToStream`), местами менять нельзя. Вход роутируется по сигнатуре: `PK\x03\x04` → docx-путь; `D0 CF 11 E0 A1 B1 1A E1` (CFB, MS-CFB §2.2) → `DocToDocx.convert` → in-memory `.docx` → тот же конвейер (предикат — `WordPdfValidator.isBinaryDoc`). Валидация — **до** `convertToStream`: `WordPdfValidator.validate(bytes, options)` (размер → подпись zip/CFB → контейнер → страницы); для `.doc` — `checkPageCountDoc` по сырым байтам. -Порядок: шрифты (`BundledFontMapper` → `BundledFonts.init` → `restrictToBundled`) и правила 1–10 (`DocxRewritePipeline.STEP`) + `OleObjectNormalizer` — до `WordprocessingMLPackage.load`; `FOSettings`/`FopFallbackFonts`/`LayoutPostRenderer` — до `setCustomXsltTemplates(VendoredXslt.TEMPLATES)`; `Docx4J.toFO(…, FLAG_EXPORT_PREFER_XSL)` — последним; `finally` → `deleteEmbeddedFontTempFiles()` + сброс имиджевых кешей общей FopFactory + `BundledFonts.restrictToBundled()` (реестр шрифтов возвращается в бандл-состояние: `load()` регистрирует встроенные шрифты документа в глобальном `PhysicalFonts`). Полная таблица шагов и подсчёт страниц — `docs/agent/pipeline.md`. +Порядок: шрифты (`BundledFontMapper` → `BundledFonts.init` → `restrictToBundled`) и правила 1–8 (`DocxRewritePipeline.STEP`) + `OleObjectNormalizer` — до `WordprocessingMLPackage.load`; `FOSettings`/`FopFallbackFonts`/`LayoutPostRenderer` — до `setCustomXsltTemplates(VendoredXslt.TEMPLATES)`; `Docx4J.toFO(…, FLAG_EXPORT_PREFER_XSL)` — последним; `finally` → `deleteEmbeddedFontTempFiles()` + сброс имиджевых кешей общей FopFactory + `BundledFonts.restrictToBundled()` (реестр шрифтов возвращается в бандл-состояние: `load()` регистрирует встроенные шрифты документа в глобальном `PhysicalFonts`). Полная таблица шагов и подсчёт страниц — `docs/agent/pipeline.md`. ## Нормализаторы (`internal/DocxNormalizer`) -Контракт: `byte[] normalize(byte[]) throws IOException`; нечего менять → вернуть **тот же массив** (`assertSame`). Порядок фиксирован: Strict→OnOff→Symbol→Field→Invisible→GlyphCoverage→TableIndent→NumberingSuffix→Hidden→Ruby. Правила 1–10 применяет `DocxRewritePipeline.STEP` одним zip-проходом (неизменённые записи копируются raw-сжатыми байтами); `OleObjectNormalizer` (правило 11) — лямбдой в `WordPdfConverter.normalizers()`. `STEP` выставляют 9 из 10 rewrite-нормализаторов (нет у `RubyNormalizer`), у `OleObjectNormalizer` её нет. Правила 1–11, guard'ы, номера секций и инвариант `mc-preprocessor.xslt` (собственный рерайт strict-URI ломать нельзя) — `docs/agent/pipeline.md`. +Контракт: `byte[] normalize(byte[]) throws IOException`; нечего менять → вернуть **тот же массив** (`assertSame`). Порядок фиксирован: Strict→OnOff→Invisible→GlyphCoverage→TableIndent→NumberingSuffix→Hidden→Ruby. Правила 1–8 применяет `DocxRewritePipeline.STEP` одним zip-проходом (неизменённые записи копируются raw-сжатыми байтами); `OleObjectNormalizer` (правило 9) — лямбдой в `WordPdfConverter.normalizers()`. `STEP` выставляют 7 из 8 rewrite-нормализаторов (нет у `RubyNormalizer`), у `OleObjectNormalizer` её нет. Правил Symbol-шрифтов и complex-полей PAGE/NUMPAGES больше нет — с docx4j 17.3.x их делает сам экспорт (#701, CR-067); пины отсутствия регрессии — `symbolFonts_bulletsAreNotHash`, `pageNumbers_recomputedNotCached`. Правила 1–9, guard'ы, номера секций и инвариант `mc-preprocessor.xslt` (собственный рерайт strict-URI ломать нельзя) — `docs/agent/pipeline.md`. ## Мост `.doc` → `.docx` (`internal/doc`) @@ -47,15 +47,16 @@ Java2D → PNG: `ChartRenderer.DPI = 300`, потолок `MAX_PIXELS = 16_777_2 ## Критические инварианты (нарушение = битый вывод, не исключение) - `docx4j.convert.out.fo.gsubFeatures=false` — static-блок `WordPdfConverter`; иначе FO невалиден → `WordLayoutFixups` молча отказывает всем фиксам → FOP падает на `docx4j-baseline`. +- `docx4j.openpackaging.load.repair=word` — static-блок `WordPdfConverter` (17.3.6, `RepairMode`): с дефолтным NONE пакеты, которые Word открывает через «восстановить» (напр. case-folded дубликаты zip-записей), отказываются грузиться — для конвертера это 500 на читаемых Word файлах. - `docx4j.fonts.discoverPhysicalFonts.enabled=false` и `discoverJarFonts.enabled=false` — static-блок: иначе `BestMatchingMapper` сканирует системные шрифты и jar'ы classpath'а, а `restrictToBundled()` всё найденное выбрасывает (~100–140 мс впустую на JVM). `discoverJarFonts("fonts-symbol")` свойством не гейтится — символ-шрифт регистрируется и снимается restrict'ом как раньше. -- Единственный XSL-FO-стилист — вендорный `xslt/docx2fo.xslt` (копия из docx4j-export-fo 17.3.2 + два AUDIT-FIX-патча: `w:rPr/w:position` → `baseline-shift`, Part 1 §17.3.2.24; AUDIT-FIX-2 — `w:moveFrom`/`w:moveTo`/`w:bdo`/`w:dir`, иначе их ловит catch-all `match="*"` и текст теряется). Дрейф-гейт `vendoredXsltTracksJarCopy`: вне AUDIT-FIX-регионов копия побайтно равна стилю из jar'а. `setCustomXsltTemplates` принимает предкомпилированный `Templates`. +- Единственный XSL-FO-стилист — вендорный `xslt/docx2fo.xslt` (копия из docx4j-export-fo 17.3.6 + два AUDIT-FIX-патча: `w:rPr/w:position` → `baseline-shift`, Part 1 §17.3.2.24; AUDIT-FIX-2 — `w:moveFrom`/`w:moveTo`/`w:bdo`/`w:dir`, иначе их ловит catch-all `match="*"` и текст теряется). Дрейф-гейт `vendoredXsltTracksJarCopy`: вне AUDIT-FIX-регионов копия побайтно равна стилю из jar'а. `setCustomXsltTemplates` принимает предкомпилированный `Templates`. - `slf4j-simple` обязателен в ядре: без SLF4J-провайдера docx4j пишет «TO HIDE THESE MESSAGES» прямо в PDF (регрессия `noLoggingWarningInPdf`); приложение исключает его — логи ведёт logback. -- FOP — форк `org.docx4j:docx4j-fo-renderer*` 2.11-docx4j.6 (транзитив от `docx4j-export-fo`, в pom не пинится; пакеты `org.apache.fop.*`). `FopFallbackFonts` берёт `w:renderer` с mime `application/pdf`, иначе первый со шрифтами. +- FOP — форк `org.docx4j:docx4j-fo-renderer*` 2.12-docx4j.1 (транзитив от `docx4j-export-fo`, в pom не пинится; пакеты `org.apache.fop.*`). `FopFallbackFonts` берёт `w:renderer` с mime `application/pdf`, иначе первый со шрифтами. - `BundledFonts.init()` идемпотентен, распаковывает TTF в `wordpdf-fonts-*` (`deleteOnExit`); `dropNonBundled()` чистит `PhysicalFonts` от всего, что вне бандла; ВСЕ синхронизированные методы `BundledFonts` (`init`/`restrictToBundled`/`font`) держат монитор `WordPdfConverter.class` (не собственный замок класса) — тот же, что сериализует конвертации, поэтому внешний вызов рядом с идущей конвертацией безопасен автоматически. Регрессия — `WordPdfConverterTest#concurrentFontMutators_conversionsUnharmed`. - `PhysicalFonts` — глобальный и мутируемый → конвертации сериализуются монитором `WordPdfConverter.class` внутри ядра (общая `FopFactory` и сброс её image-кешей — под тем же монитором); приложение держит однопоточный воркер ради 503/timeout; `warmup()` идёт тем же потоком. - Страницы в валидаторе = `max(кэш docProps/app.xml, явные разрывы, lastRenderedPageBreak+1)`; правила StAX-подсчёта — `docs/agent/pipeline.md`. -- Не чинить: `jc="distribute"`, `suff="tab"`/`lvlJc`, метрика «single», кернинг, `framePr`, `REF`/`SEQ`/`TOC`-кэш, руби-надстрочница, U+2188/U+218A — доказательства в `docs/agent/render-limitations.md`. -- Комментарии в `WordPdfConverter`/`DocxOnOffNormalizer` говорят «docx4j 11.x» — устаревшее число, фактически 17.3.2 (описанное поведение верно). +- Не чинить: `jc="distribute"` (в FOP-форке 2.12 есть `text-align-last`, но маппинг `Justification` не эмитит его и межсимвольного разноса нет), `suff="tab"`/`lvlJc`, метрика «single», кернинг, `REF`/`SEQ`/`TOC`-кэш, руби-надстрочница, U+2188/U+218A — доказательства в `docs/agent/render-limitations.md`. `framePr` починен апстримом 17.3.6 (фрейм позиционируется). +- Комментарии в `WordPdfConverter`/`DocxOnOffNormalizer` говорят «docx4j 11.x» — устаревшее число, фактически 17.3.6 (описанное поведение верно). ## Шрифты (30 TTF + 3 лицензии, SIL OFL, `wordpdf-core/src/main/resources/fonts/`) diff --git a/README.md b/README.md index 00eebc4..adf3893 100644 --- a/README.md +++ b/README.md @@ -1,6 +1,6 @@ # java-word-pdf -Конвертация **.docx/.doc → PDF** на чистом Java: `docx4j` 17.3.2 + форк +Конвертация **.docx/.doc → PDF** на чистом Java: `docx4j` 17.3.6 + форк `Apache FOP`, без LibreOffice/Aspose. Бинарный `.doc` (Word 97–2003) читается собственным мостом [MS-DOC]/[MS-CFB] и переносится в .docx в памяти — дальше идёт тем же конвейером. Шрифты упакованы в jar — конвертация не зависит от @@ -41,7 +41,7 @@ java-word-pdf/ |`ru.pjandro.wordpdf.ConversionException`|ошибки конвертации; подтипы `ValidationException` (некорректный вход) и `DrawingFoundException` (`enum Kind {CHARTS, SMARTART, OLE}`)| |`ru.pjandro.wordpdf.fonts.BundledFonts`|выгрузка TTF из jar и регистрация в docx4j| |`ru.pjandro.wordpdf.fonts.BundledFontMapper`|маппинг имён шрифтов документа → TTF| -|`ru.pjandro.wordpdf.internal.DocxRewritePipeline`|правила 1–10 нормализации XML-частей одним zip-проходом (+ `OleObjectNormalizer`, правило 11)| +|`ru.pjandro.wordpdf.internal.DocxRewritePipeline`|правила 1–8 нормализации XML-частей одним zip-проходом (+ `OleObjectNormalizer`, правило 9)| |`ru.pjandro.wordpdf.internal.doc.DocToDocx`|мост бинарного `.doc` → in-memory `.docx` (`convert`/`countPages`)| |`ru.pjandro.wordpdf.internal.FopFallbackFonts`|декларация fallback-семейства в FOP-конфиге| |`ru.pjandro.wordpdf.internal.chart.DrawingPreRenderer`|диаграммы/SmartArt → PNG до XSL-FO| @@ -294,15 +294,16 @@ Dev-режим без контейнеров: бэкенд `java -jar wordpdf-ap 1. Вход проверяется до рендера: размер → сигнатура (zip PK или CFB) → (.docx: контейнер и страницы lightweight-StAX по zip; .doc: страницы по чистому бинарному документу мостом) — `WordPdfValidator`, без зависимости от docx4j. -2. XML-части переписывает `DocxRewritePipeline` одним zip-проходом — десять +2. XML-части переписывает `DocxRewritePipeline` одним zip-проходом — восемь правил (порядок значим): strict→transitional (`w:start`/`w:end`, проценты), `on/off` → `true/false` (иначе docx4j теряет значение, и regular-раны - рендерились жирным курсивом), маркеры Symbol/Wingdings → Unicode (вместо «#»), - поля `PAGE`/`NUMPAGES` → `w:fldSimple` (пересчитываются, а не печатают кэш - из docx), невидимые символы, раны со знаками вне их шрифта (резка по покрытию - глифов), `w:jc` center/right + `w:tblInd` → абсолютный отступ таблицы, - `w:suff="space"` → пробел в номере списка, скрытые раны (`w:vanish`), руби - (надстрочница вырезается). Затем вычищаются OLE-объекты (правило 11, + рендерились жирным курсивом), невидимые символы, раны со знаками вне их + шрифта (резка по покрытию глифов), `w:jc` center/right + `w:tblInd` → + абсолютный отступ таблицы, `w:suff="space"` → пробел в номере списка, + скрытые раны (`w:vanish`), руби (надстрочница вырезается). Маркеры + Symbol/Wingdings и поля `PAGE`/`NUMPAGES` не переписываем — с docx4j 17.3.x + экспорт делает это сам (маркеры → Unicode, complex-поля → пересчёт вместо + кэша). Затем вычищаются OLE-объекты (правило 9, `OleObjectNormalizer`, картинка-плейсхолдер сохраняется). 3. Документ загружается в `WordprocessingMLPackage`, привязывается `BundledFontMapper`. @@ -326,9 +327,9 @@ Dev-режим без контейнеров: бэкенд `java -jar wordpdf-ap целиком на SIL OFL. - Поддержка таблиц/изображений — базовая (через docx4j/FOP). - Часть расхождений с Word — неустранимые невозможности FOP/docx4j - (`jc="distribute"`, `suff="tab"`, кернинг, `framePr`, кэш `REF`/`SEQ`/`TOC`, + (`jc="distribute"`, `suff="tab"`, кернинг, кэш `REF`/`SEQ`/`TOC`, надстрочница руби) — полный перечень с доказательствами: - `docs/agent/render-limitations.md`. + `docs/agent/render-limitations.md`. `w:framePr` с docx4j 17.3.6 позиционируется. - На `.doc` error-флаги диаграмм/SmartArt/OLE не срабатывают: BLIP-плейсхолдеры бинарного формата — уже растры, они вставляются картинками; EMF/WMF/PICT пропускаются с warn. diff --git a/docs/agent/doc-bridge.md b/docs/agent/doc-bridge.md index 8d327e2..7e33868 100644 --- a/docs/agent/doc-bridge.md +++ b/docs/agent/doc-bridge.md @@ -15,7 +15,7 @@ |`Sections`|PlcfSed (§2.8.26): aCP n+1 + Sed n (12 Б) + Sepx (cb + секционные sprm) → `list()` — список record'ов `Section` (CP-диапазон, геометрия секции, `continuous` из sprmSBkc, `landscape` из sprmSBOrientation 0x301D (§2.9.236: 1/2), нумерация страниц — `pgNumStart` (0 = не задан; sprmSFPgnRestart 0x3011 + sprmSPgnStart97 0x501C, restart без start клампится к 1) и `nfcPgn` (sprmSNfcPgn 0x300E, MSONFC), колонки — sprmSCcolumns 0x500B (число − 1, кап 44), sprmSFEvenlySpaced 0x3005 (Bool8, дефолт true), sprmSDxaColumns 0x900C; при неравных колонках per-column ширины/зазоры из sprmSDxaColWidth 0xF203/sprmSDxaColSpacing 0xF204 (SDxaColWidthOperand/SDxaColSpacingOperand §2.9.241/.242: iCol+dxa)); `titlePage` из sprmSFTitlePage 0x300A (Bool8)); невозрастающие aCP → `ConversionException`; финальный aCP реальные файлы пишут за ccpText (PLC покрывает весь текстовый поток) — конец последней секции клампится к ccpText; `pageWidth()`/`header()`/`footer()` — геометрия последней секции (полоса набора для правила 7), `continuousSectionEnds()` — вычитание из подсчёта страниц (последняя секция не считается)| |`FontTable`|SttbfFfn (§2.9.147): индекс ftc → имя семейства в `w:rFonts`| |`SummaryInfo`|[MS-OLEPS §2.2] PropertySet-поток `\x01SummaryInformation`; **offset'ы заголовка относительны начала PropertySet-потока** (`abs = Offset0 + offset`); PIDSI_PAGECOUNT=0x0E| -|`Headers`|Plcfhdd (§2.4.1): 6 разделителей + по 6 историй на секцию (even/odd/first × hdr/ftr); odd hdr/ftr **каждой** секции → своя часть `headerN.xml`/`footerN.xml` (нумерация независимая по типу) и `headerReference`/`footerReference` type="default" в её sectPr; **first hdr/ftr (слоты 4/5 §2.8.22)** — только когда у секции Sepx задал sprmSFTitlePage → `type="first"` (нумерация общая с first-частями; регрессия — DocToDocxFormattingTest#titlePage_emittedAfterCols, WordPdfConverterTest#docTitlePage_firstHeaderOnlyFirstPage); пустая история [x,x) → части нет, docx4j наследует колонтитук предыдущей секции; guard-¶ отрезается; PAGE/NUMPAGES/SECTIONPAGES → `w:fldSimple` (та же семантика, что `FieldNormalizer` в docx-пути)| +|`Headers`|Plcfhdd (§2.4.1): 6 разделителей + по 6 историй на секцию (even/odd/first × hdr/ftr); odd hdr/ftr **каждой** секции → своя часть `headerN.xml`/`footerN.xml` (нумерация независимая по типу) и `headerReference`/`footerReference` type="default" в её sectPr; **first hdr/ftr (слоты 4/5 §2.8.22)** — только когда у секции Sepx задал sprmSFTitlePage → `type="first"` (нумерация общая с first-частями; регрессия — DocToDocxFormattingTest#titlePage_emittedAfterCols, WordPdfConverterTest#docTitlePage_firstHeaderOnlyFirstPage); пустая история [x,x) → части нет, docx4j наследует колонтитук предыдущей секции; guard-¶ отрезается; PAGE/NUMPAGES/SECTIONPAGES → `w:fldSimple` (та же семантика, что в docx-пути, где complex-поля пересчитывает экспорт docx4j 17.3.x)| |`OfficeArt`|[MS-ODRAW] PICF @ fcDggInfo/lcbDggInfo (Table-поток), delay-поток = WordDocument; DggContainer → BStoreContainer(0xF004)/BStoreContainerDelay(0xF007)/инлайн → FBSE → BLIP: 0xF01A EMF / 0xF01B WMF / 0xF01C PICT / 0xF01D JPEG (=0xF02A) / 0xF01E PNG / 0xF01F DIB; PNG/JPEG дословно, DIB → ImageIO → PNG, EMF/WMF/PICT → пропуск + warn (EMF-рендера в Java2D нет)| |`PrcData`|§2.9.210 PrcData в Data-потоке (`[cbGrpprl:2][grpprl]`, капа cb 0x3FA2, поля `next` нет): `resolve(data, grpprl)` разворачивает grpprl абзаца, чьи свойства Word вынес за FKP-страницу PAPX, — одиночный Prl `sprmPHugePapx` (0x6646; в grpprl GrpPrlAndIstd — единственный Prl при istd=0, §2.6.2) и `sprmPTableProps` (0x646B — цепочка продолжается в указанном PrcData). Оба указателя разворачиваются на своей позиции **без обрыва** текущего массива, не-спец-спрмы сохраняются (union): spec §2.6.2 велит хвост за PTableProps игнорировать, но Word пишет в нём легаси-зеркало (в `samples/ru-table-image.doc` — единственный `sprmTDefTable`, Appendix A <9>), а `sprmTInsert` из PrcData конвертер не читает — замещение ломало бы сетку; спец-спрмов нет → **тот же массив** (по ссылке); любой брак (ptr за Data, cb вне [1, 0x3FA2], цикл A→B→A — бюджет 32 PrcData) → останов без исключения, снисходительно (образец `Styles`/`Lists`). Подключается единственной точкой — `DocxBody.buildRange` (покрывает тело, колонтитуки, TTP-ветку и обычные huge-PAPX абзацы). Регрессия — `DocToDocxFormattingTest#hugePapxRowMark_closesRowWithGridFromPrcData` | |`DocToDocx`|Оркестратор + вложенный `DocxBody`: текст → раны (CHPX+стилевой chpx-цепочка +chpx-цепочка символьного стиля по **sprmCIstd** (`Styles.charChain` — между стилевой цепочкой и прямыми, §2.4.6.5) → rPr (в т.ч. `w:highlight`/`w:shd`), прямой PAPX — после `PrcData.resolve` — +стилевая papx-цепочка (отступы через `Grpprl.Indents`, 80-варианты включительно; `sprmPChgTabsPapx`/`sprmPChgTabs` → `w:tabs`, у стилевого варианта радиус удаления из `rgdxaClose`) + sprmPIlfo/sprmPIlvl → pPr + `w:numPr` (между pageBreakBefore и tabs, CT_PPr §17.3.1.26; ilfo=0 перекрывает стилевой, ilvl=0x0C и неразрешённый numId → без numPr), base→derived→direct last-wins; флаги рана: vanish — мост фильтрует вывод рана (`w:vanish` в FO мёртв), caps/smallCaps — `Character.toUpperCase` в мосту (`w:caps`/`w:smallCaps` конвейер не читает, FOP без font-variant), rMarkIns/rMarkDel — ран оборачивается в `w:ins`/`w:del`+`w:delText` (шаблоны docx2fo рисуют правки — вид «Show Markup»), hpsPos → `w:position` (вендорный AUDIT-FIX → baseline-shift)), ¶ → ``; TAB/0x0B → `w:tab`/`w:br`, 0x0E → `w:br type="column"` (конец колонки при sprmSCcolumns), 0x0C в ране → `w:br type="page"`, 0x0C в конце абзаца — **разрыв секции**: `sectPr` соответствующей `Sections.Section` (матчинг по конечному CP) в pPr этого абзаца, внутри таблицы деградирует в `w:br type="page"`; body-level `sectPr` — последняя секция; `w:type continuous` из sprmSBkc; `w:pgSz w:orient="landscape"` со сменой w/h местами, `w:pgNumType` (`w:start` при restart, `w:fmt` только для числовых nfc — общий маппинг `Lists.numFmt`), `w:cols` (evenly → `w:num`+`w:space`, иначе per-column `w:col`; неравные/неполные ширины → деградация в одноколонную), `w:titlePg` из `Section.titlePage` (после w:cols, CT_SectPrBase §17.2.3) — `DocxBody.sectPrXml`/`appendPgNumType`/`appendCols`; pPr: `w:shd` из sprmPShd/…80 перед `w:tabs` (CT_PPr §17.3.1.26), `w:keepNext`/`w:keepLines` перед `w:pageBreakBefore` (CT_PPr §17.3.1.26); 0x1E → U+2011, 0x1F → U+00AD, 0x02/0x03/0x04 (сноски) → пропуск; U+0001/U+0008 со sprmCPicLocation → DrawingML `pic` (общий путь с картинками и OLE-fallback; 0x08 — якорь плавающей картинки §2.9.267, переносится inline-приближением: PlcfSpa не читается, позиция/обтекание теряются); field-символы в основном тексте: инструкция скрыта, кэшированный результат после разделителя видим; **табличный автомат**: абзац с 0x07 без TTP закрывает ячейку, 0x07+sprmPFTtp — конец строки (`Tables.parse` по TAP → `w:tbl`/`w:tr`/`w:tc`, сам маркер не эмитится), sprmPFInTable открывает ячейку; без корректного TDefTable строка деградирует в плоские абзацы (прежнее поведение); сетка первой строки действует на всю таблицу как `tblGrid`, ширины/объединение ячеек каждой строки — из её собственного TDefTable (горизонтальное слияние → `w:gridSpan`)| diff --git a/docs/agent/pipeline.md b/docs/agent/pipeline.md index d45a6a1..87b0fe0 100644 --- a/docs/agent/pipeline.md +++ b/docs/agent/pipeline.md @@ -6,7 +6,7 @@ |---|---|---| | 0 | `DependencyGuard.check()` | API-проба `ZipArchiveInputStream.getNextEntry()` — совместимость commons-compress ≥ 1.25.0; иначе `ConversionException` с инструкцией вместо мутного `NoSuchMethodError` внутри docx4j | | 1 | `new BundledFontMapper()` → `BundledFonts.init()` → `restrictToBundled()` | Конструктор маппера (static `BestMatchingMapper`) регистрирует в `PhysicalFonts` только symbol-шрифты из `docx4j-export-fo-fonts-symbol` (сканы системы и jar'ов отключены в static-блоке `WordPdfConverter` гейт-свойствами — всё найденное всё равно выбрасывает `restrictToBundled()`); `init()` вызывает `dropNonBundled()` **до** регистрации бандла, `restrictToBundled()` оставляет реестр = бандл + встроенные в docx. Порядок `init()` после конструктора — инвариант: `addPhysicalFont` не перезаписывает занятый ключ (иначе системный Calibri ломает em-dash-fallback) | -|2|`DocxRewritePipeline.STEP` → `OleObjectNormalizer` → `WordprocessingMLPackage.load`|Один zip-проход переписывания XML-частей (правила 1–10 — раздел «Нормализаторы: контракт и правила 1–11» в этом файле) + условная OLE-вычистка (правило 11)| +|2|`DocxRewritePipeline.STEP` → `OleObjectNormalizer` → `WordprocessingMLPackage.load`|Один zip-проход переписывания XML-частей (правила 1–8 — раздел «Нормализаторы: контракт и правила 1–9» в этом файле) + условная OLE-вычистка (правило 9)| | 3 | `pkg.setFontMapper(mapper)` | Привязка шрифтов документа к физическим TTF | | 3.5 | `DrawingPreRenderer.run(pkg, options)` | `c:chart`/`dgm:relIds` → PNG 300 dpi → `pic:pic` (docx2fo.xslt их не умеет) | | 4 | `new FOSettings(pkg)` + `FopFallbackFonts.declare(foSettings)` | В FOP-конфиг добавляются **все** бандл-семейства: FOP встраивает только задекларированные | @@ -22,24 +22,25 @@ ### Валидация входа и подсчёт страниц -Вход валидируется **до** `convertToStream`: `WordPdfValidator.validate(bytes, options)` (размер → подпись: zip `PK\x03\x04` или CFB `D0 CF 11 E0` → контейнер → страницы). Для `.doc` страницы считаются **по сырым байтам .doc, до конвертации**: `checkPageCountDoc` = `max(SummaryInfo PageCount, 1 + явные разрывы)`; явные — 0x0C в основном тексте + `sprmPFPageBreakBefore` из PAPX. Тот же метод — вход приложения. Скан выполняется ровно один раз по сырому входу, до аллокаций docx4j: правила 1–10 число учитываемых разрывов не увеличивают (правило 9 способно только убрать разрыв внутри скрытого рана — счёт по сырому входу остаётся верхней оценкой лимита). +Вход валидируется **до** `convertToStream`: `WordPdfValidator.validate(bytes, options)` (размер → подпись: zip `PK\x03\x04` или CFB `D0 CF 11 E0` → контейнер → страницы). Для `.doc` страницы считаются **по сырым байтам .doc, до конвертации**: `checkPageCountDoc` = `max(SummaryInfo PageCount, 1 + явные разрывы)`; явные — 0x0C в основном тексте + `sprmPFPageBreakBefore` из PAPX. Тот же метод — вход приложения. Скан выполняется ровно один раз по сырому входу, до аллокаций docx4j: правила 1–8 число учитываемых разрывов не увеличивают (правило 7 способно только убрать разрыв внутри скрытого рана — счёт по сырому входу остаётся верхней оценкой лимита). - Страницы в валидаторе = `max(кэш docProps/app.xml, явные разрывы, lastRenderedPageBreak+1)`; explicit = межсекционные `w:sectPr` в body + `w:br type="page"` + `pageBreakBefore` (включая таблицы и `w:sdt`). Единственный путь — lightweight (StAX по zip, secure-ридер без DTD/external entities; `WordPdfValidator` не зависит от docx4j): атрибуты — по локальному имени (`attrLocal`, не по transitional-URI: иначе в strict-документе `w:br type="page"` не засчитываются); `sectPr` внутри `pPr` не считает, последнюю body-direct секцию не считает, `continuous`-секции не считает, в колонтитуках — только `w:br type="page"`, `pageBreakBefore` — только внутри `pPr` вне `sectPr` (truthy `val`: `null|true|1|on`). На не-zip молчит — подпись проверяет вызывающий. `checkPageCount` — один стриминговый проход `ZipInputStream` без буферизации частей (хелпер `noClose` глушит `close()` сканеров): потребление O(одной части) вместо O(суммы XML-частей). -### Нормализаторы: контракт и правила 1–11 (детали) +### Нормализаторы: контракт и правила 1–9 (детали) -Контракт: `byte[] normalize(byte[]) throws IOException`; нечего менять → вернуть **тот же массив** (`assertSame` в тестах). Десять rewrite-нормализаторов цепляются в фиксированном порядке Strict→OnOff→Symbol→Field→Invisible→GlyphCoverage→TableIndent→NumberingSuffix→Hidden→Ruby; константу `STEP` (`public static final DocxNormalizer`) выставляют девять из десяти (нет только у `RubyNormalizer` — он цепочный, подключается внутри пайплайна), у `OleObjectNormalizer` STEP **нет** — он подключается лямбдой в `WordPdfConverter.normalizers()`. Правила 1–10 применяет `internal/DocxRewritePipeline` — **один zip-проход**: к каждой записи `word/*.xml` рерайты применяются последовательно (каждое правило работает только содержимым одной части — по-частная цепочка эквивалентна последовательным полным проходам); до прохода из `word/document.xml` извлекается полоса набора (`TableIndentNormalizer.bandOf`, −1 — полосы нет), и `word/headerN.xml`/`footerN.xml` дополнительно прогоняются через `TableIndentNormalizer.rewritePart` с этой полосой, и из `word/styles.xml` читается множество vanish-стилей (`HiddenTextNormalizer.vanishStyles`, цепочка `w:basedOn`) — контекст правила 9; неизменённые записи переносятся raw-копией сжатых байтов (без inflate/deflate); нигде не поменялось → тот же массив. `OleObjectNormalizer` — второй условный проход (меняет части, а не XML). Индивидуальные `normalize()` десяти нормализаторов сохранены (контракт юнит-тестов), но `WordPdfConverter` их не вызывает — его `normalizers(options)` = `DocxRewritePipeline.STEP` + лямбда OLE. Порядок правил значим: +Контракт: `byte[] normalize(byte[]) throws IOException`; нечего менять → вернуть **тот же массив** (`assertSame` в тестах). Восемь rewrite-нормализаторов цепляются в фиксированном порядке Strict→OnOff→Invisible→GlyphCoverage→TableIndent→NumberingSuffix→Hidden→Ruby; константу `STEP` (`public static final DocxNormalizer`) выставляют семь из восьми (нет только у `RubyNormalizer` — он цепочный, подключается внутри пайплайна), у `OleObjectNormalizer` STEP **нет** — он подключается лямбдой в `WordPdfConverter.normalizers()`. Правила 1–8 применяет `internal/DocxRewritePipeline` — **один zip-проход**: к каждой записи `word/*.xml` рерайты применяются последовательно (каждое правило работает только содержимым одной части — по-частная цепочка эквивалентна последовательным полным проходам); до прохода из `word/document.xml` извлекается полоса набора (`TableIndentNormalizer.bandOf`, −1 — полосы нет), и `word/headerN.xml`/`footerN.xml` дополнительно прогоняются через `TableIndentNormalizer.rewritePart` с этой полосой, и из `word/styles.xml` читается множество vanish-стилей (`HiddenTextNormalizer.vanishStyles`, цепочка `w:basedOn`) — контекст правила 7; неизменённые записи переносятся raw-копией сжатых байтов (без inflate/deflate); нигде не поменялось → тот же массив. `OleObjectNormalizer` — второй условный проход (меняет части, а не XML). Индивидуальные `normalize()` восьми нормализаторов сохранены (контракт юнит-тестов), но `WordPdfConverter` их не вызывает — его `normalizers(options)` = `DocxRewritePipeline.STEP` + лямбда OLE. Порядок правил значим: 1. `StrictOoxmlNormalizer` — strict-OOXML → transitional: `a:`-проценты и `w14:fillToRect` → тысячные ×1000, текст `wp14:pctWidth`/`pctHeight`; элементы `w:start`/`w:end` → `w:left`/`w:right` (кроме `w:lvl/w:start` в numbering.xml); значения `w:val="start"/"end"` у `w:jc` и `w:tab` правятся **всегда** (docx4j `Justification.setXslFO` знает только left/center/right/both, для END `fo:text-align` не пишет вовсе — `jc="end"` рендерился по левому краю; Part 1 §17.3.1.13: `jc val="end"` — правовыравнивание в LTR, ST_Jc §17.18.44; RTL вне контура — FOP без complex-script). Strict-ность части определяется наличием `http://purl.oclc.org` (не «transitional-URI в документе» — mixed-документ трактуется по каждой части). **Guard сосуществования форм**: атрибут `w:start`/`w:end` переименовывается только внутри открывающего тега `w:ind` (MS-OI29500 §2.1.174a — псевдонимы left/right; у `w:pgNumType` `w:start` — старт нумерации страниц, легален в transitional, Part 1 §17.13.7 — не трогается) и не переименовывается, если в том же открывающем теге уже есть `w:left`/`w:right` (дубль атрибута ломает well-formedness — регрессии `indCoexistLeftStartUntouched`, `indCoexistForms_convertsNotRejected`, `pgNumTypeStartAttrUntouched`); элементы `w:start`/`w:end` в strict-части переименовываются глобально, в transitional — только внутри `w:tcMar`/`w:tblCellMar` без одноимённого соседа (`maxOccurs=1` на left). Ничего не поменялось → `rewrite` вернул `null` → исходный массив (`StrictOoxmlNormalizerTest#transitionalCoexistReturnsOriginalArray`). 2. `DocxOnOffNormalizer` — `w:val="off"/"on"` → `"false"/"true"`; якорь по тегу, правится только атрибут `w:val`, текст между тегами не трогается. -3. `SymbolFontNormalizer` — PUA U+F000–U+F0FF (Symbol/Wingdings/Webdings) → Unicode + DejaVu Sans; переписывает ``, правит `w:lvl` в numbering.xml; 5 карт по 256 слотов (таблица `SymbolMapper` из docx4j 17.x). -4. `FieldNormalizer` — `fldChar` PAGE/NUMPAGES/SECTIONPAGES → `w:fldSimple` (кэш страниц в PDF не попадает); вложенные/битые поля пропускаются. -5. `InvisibleCharNormalizer` — вырезает из `w:t` U+0085, U+2028, U+2029, U+200E/200F, U+202A–202E, U+2060, U+FEFF (FOP делает из них переносы/пустые строки, Arimo/Tinos рисуют боксы). U+00A0/U+00AD/U+200B–U+200D **не** трогает. -6. `GlyphCoverageNormalizer` — режет раны по покрытию глифов и пишет семейство в `w:rFonts`, иначе FOP рисует «#». Покрытие — `GlyphFont` (fontbox, cmap) + BitSet-кэш, **не** docx4j `GlyphCheck` (плодит INFO-лог; `java.awt.Font` требовал fontconfig на хосте). Для serif-ран fallback ищется сначала в `SERIF_FAMILIES` (`dejavu serif`, `tinos`, `caladea`), затем в sans. -7. `TableIndentNormalizer` — свёртка `w:tblPr/w:jc` (center/right) с любым (в т.ч. отсутствующим/нулевым) `w:tblInd` в абсолютный `w:tblInd` с удалением `w:jc` (Word: tblInd — сдвиг от поля после центрирования, MS-OI29500 §2.1.155; docx4j при jc≠left игнорирует tblInd буквально — Part 1 §17.4.50, а центрированию пишет абсолютный start-indent **без** вычета cellMar, поверх которого padding-компенсация правила LayoutPostRenderer уводит текст на +padding — свёртка обязательна и при X=0): center → (W−T)/2+X, right → (W−T)+X, W — полоса набора (pgSz − pgMar left/right в transitional и `w:start`/`w:end` в strict; дефолты 11906/1440 — измеренное поведение docx4j, не ECMA-1800), T — Σ gridCol; пропускает несколько body-level `sectPr`, не-dxa `tblInd`, `tblPr` с `tblCellSpacing` без `tblInd` (нет корректной позиции вставки по CT_TblPrBase), `tblW pct`, нецелые gridCol. Кроме `rewrite`/`STEP` (document.xml, полоса из собственного sectPr) есть `rewritePart(part, xml, band)` — `word/headerN.xml`/`footerN.xml` с полосой из document.xml (в частях колонтитуков своего sectPr нет) и `bandOf(documentXml)` — экстрактор полосы (−1 — полосы нет). Регрессия — WordPdfConverterTest#tableIndentCentered_shiftedLikeWord, #headerTableIndent_centeredInHeader, #tableCenteredNoIndent_shiftedLikeWord. -8. `NumberingSuffixNormalizer` — `w:suff w:val="space"` → дописанный обычный пробел в конце следующего `w:lvlText` того же уровня (порядок CT_Lvl suff→lvlText, wml.xsd; Part 1 §17.3.1.28): docx4j разделитель не эмитит вовсе (дамп n4.fo); уже пробельный lvlText не дублируется; suff=tab — отдельный Class C-остаток (нужна per-item ширина), nothing совпадает с docx4j. Регрессия — WordPdfConverterTest#suffSpace_labelGetsSpace. -9. `HiddenTextNormalizer` — вырезание скрытых ранов (Part 1 §17.3.2.30): truthy `w:vanish` в собственном `w:rPr` ранa (обе OnOff-формы; вал опущен — default true) **или** `w:rStyle` ∈ vanish-стили из `word/styles.xml` (транзитивно по `w:basedOn`, капа цепочки 16, цикл — обрыв); ран с защищённым содержимым (`fldChar`/`instrText`/`footnoteReference`/`endnoteReference`/`drawing`/`pict`/`object`/`txbxContent`) не трогается — удаление спаренных `begin…separate…end` сломало бы поле. Word скрытое не печатает, стилист docx4j `vanish` не читает вовсе → без правила скрытое утекало в PDF. Индивидуальный `normalize()` — свой pass styles.xml. Регрессия — WordPdfConverterTest#hiddenText_notPrinted, юниты — HiddenTextNormalizerTest. -10. `RubyNormalizer` — разбор руби-разметки (Part 1 §17.3.3.18/.19/.20/.21): `w:rubyBase`/`w:rubyBaseText` разворачиваются в обычные раны, `w:rt`/`w:rubyPr`/`w:rubyAlign` вырезаются с содержимым (надстрочница — принятая деградация, ruby-разметки в FOP нет; потеря текста хуже потери аннотации). Чинится **в байтах**, а не в XSLT: схема docx4j 17.3.2 не биндит `w:rubyBase`/`w:rt` в `w:r` — unmarshaller теряет их до стилиста (в отличие от `moveFrom`/`moveTo`/`bdo`/`dir`, которых схема знает — тех ловит AUDIT-FIX-2). Регрессия — WordPdfConverterTest#rubyBase_textPrinted, юниты — RubyNormalizerTest. -11. `OleObjectNormalizer` — принимает флаг `errorOnOle`. Два этапа: дешёвый детект по центральному каталогу zip (`ZipFile`; читаются только `[Content_Types].xml` и `word/*.xml` до первого `` из `word/*.xml` не выбрасываются, а заменяются статичным представлением — картинкой-плейсхолдером (ECMA-376 §15.2.10): `w:drawing` переиспользуется дословно, `v:imagedata r:id` → inline-DrawingML на ту же image-часть (размер из `style` `v:shape`, иначе `w:dxaOrig`/`w:dyaOrig` ×635), блоки с `w:control` и без плейсхолдера удаляются. OLE-бинарники никогда не читаются. При `errorOnOle=true` вместо вычистки — `DrawingFoundException(OLE)`. Лечит оба механизма падения docx4j: JAXB-разбор бинарника под ложным XML-типом («Content is not allowed in prolog» → NPE) и NPE `chunkType is null` в VML-сериализации `w:object`. Многочастный: публичный член только `normalize(byte[], boolean)`, `rewrite`-хука нет. + +> Правил symbol-шрифтов (PUA U+F000–U+F0FF → Unicode) и complex-полей PAGE/NUMPAGES/SECTIONPAGES → `w:fldSimple` в цепочке больше нет — их удалил апгрейд docx4j до 17.3.x: экспорт сам маппит символ-маркеры и пересчитывает page-поля вместо кэша. Пины отсутствия регрессии — `WordPdfConverterTest#symbolFonts_bulletsAreNotHash`, `pageNumbers_recomputedNotCached`. + +3. `InvisibleCharNormalizer` — вырезает из `w:t` U+0085, U+2028, U+2029, U+200E/200F, U+202A–202E, U+2060, U+FEFF (FOP делает из них переносы/пустые строки, Arimo/Tinos рисуют боксы). U+00A0/U+00AD/U+200B–U+200D **не** трогает. +4. `GlyphCoverageNormalizer` — режет раны по покрытию глифов и пишет семейство в `w:rFonts`, иначе FOP рисует «#». Покрытие — `GlyphFont` (fontbox, cmap) + BitSet-кэш, **не** docx4j `GlyphCheck` (плодит INFO-лог; `java.awt.Font` требовал fontconfig на хосте). Для serif-ран fallback ищется сначала в `SERIF_FAMILIES` (`dejavu serif`, `tinos`, `caladea`), затем в sans. +5. `TableIndentNormalizer` — свёртка `w:tblPr/w:jc` (center/right) с любым (в т.ч. отсутствующим/нулевым) `w:tblInd` в абсолютный `w:tblInd` с удалением `w:jc` (Word: tblInd — сдвиг от поля после центрирования, MS-OI29500 §2.1.155; docx4j при jc≠left игнорирует tblInd буквально — Part 1 §17.4.50, а центрированию пишет абсолютный start-indent **без** вычета cellMar, поверх которого padding-компенсация правила LayoutPostRenderer уводит текст на +padding — свёртка обязательна и при X=0): center → (W−T)/2+X, right → (W−T)+X, W — полоса набора (pgSz − pgMar left/right в transitional и `w:start`/`w:end` в strict; дефолты 11906/1440 — измеренное поведение docx4j, не ECMA-1800), T — Σ gridCol; пропускает несколько body-level `sectPr`, не-dxa `tblInd`, `tblPr` с `tblCellSpacing` без `tblInd` (нет корректной позиции вставки по CT_TblPrBase), `tblW pct`, нецелые gridCol. Кроме `rewrite`/`STEP` (document.xml, полоса из собственного sectPr) есть `rewritePart(part, xml, band)` — `word/headerN.xml`/`footerN.xml` с полосой из document.xml (в частях колонтитуков своего sectPr нет) и `bandOf(documentXml)` — экстрактор полосы (−1 — полосы нет). Регрессия — WordPdfConverterTest#tableIndentCentered_shiftedLikeWord, #headerTableIndent_centeredInHeader, #tableCenteredNoIndent_shiftedLikeWord. +6. `NumberingSuffixNormalizer` — `w:suff w:val="space"` → дописанный обычный пробел в конце следующего `w:lvlText` того же уровня (порядок CT_Lvl suff→lvlText, wml.xsd; Part 1 §17.3.1.28): docx4j разделитель не эмитит вовсе (дамп n4.fo); уже пробельный lvlText не дублируется; suff=tab — отдельный Class C-остаток (нужна per-item ширина), nothing совпадает с docx4j. Регрессия — WordPdfConverterTest#suffSpace_labelGetsSpace. +7. `HiddenTextNormalizer` — вырезание скрытых ранов (Part 1 §17.3.2.30): truthy `w:vanish` в собственном `w:rPr` ранa (обе OnOff-формы; вал опущен — default true) **или** `w:rStyle` ∈ vanish-стили из `word/styles.xml` (транзитивно по `w:basedOn`, капа цепочки 16, цикл — обрыв); ран с защищённым содержимым (`fldChar`/`instrText`/`footnoteReference`/`endnoteReference`/`drawing`/`pict`/`object`/`txbxContent`) не трогается — удаление спаренных `begin…separate…end` сломало бы поле. Word скрытое не печатает, стилист docx4j `vanish` не читает вовсе → без правила скрытое утекало в PDF. Индивидуальный `normalize()` — свой pass styles.xml. Регрессия — WordPdfConverterTest#hiddenText_notPrinted, юниты — HiddenTextNormalizerTest. +8. `RubyNormalizer` — разбор руби-разметки (Part 1 §17.3.3.18/.19/.20/.21): `w:rubyBase`/`w:rubyBaseText` разворачиваются в обычные раны, `w:rt`/`w:rubyPr`/`w:rubyAlign` вырезаются с содержимым (надстрочница — принятая деградация, ruby-разметки в FOP нет; потеря текста хуже потери аннотации). Чинится **в байтах**, а не в XSLT: схема docx4j 17.3.6 не биндит `w:rubyBase`/`w:rt` в `w:r` — unmarshaller теряет их до стилиста (в отличие от `moveFrom`/`moveTo`/`bdo`/`dir`, которых схема знает — тех ловит AUDIT-FIX-2). Регрессия — WordPdfConverterTest#rubyBase_textPrinted, юниты — RubyNormalizerTest. +9. `OleObjectNormalizer` — принимает флаг `errorOnOle`. Два этапа: дешёвый детект по центральному каталогу zip (`ZipFile`; читаются только `[Content_Types].xml` и `word/*.xml` до первого `` из `word/*.xml` не выбрасываются, а заменяются статичным представлением — картинкой-плейсхолдером (ECMA-376 §15.2.10): `w:drawing` переиспользуется дословно, `v:imagedata r:id` → inline-DrawingML на ту же image-часть (размер из `style` `v:shape`, иначе `w:dxaOrig`/`w:dyaOrig` ×635), блоки с `w:control` и без плейсхолдера удаляются. OLE-бинарники никогда не читаются. При `errorOnOle=true` вместо вычистки — `DrawingFoundException(OLE)`. Лечит оба механизма падения docx4j: JAXB-разбор бинарника под ложным XML-типом («Content is not allowed in prolog» → NPE) и NPE `chunkType is null` в VML-сериализации `w:object`. Многочастный: публичный член только `normalize(byte[], boolean)`, `rewrite`-хука нет. `mc-preprocessor.xslt` docx4j (в jar `docx4j-core`) перебивает strict-namespace'ы в transitional и конвертит `pt` в twips/half-points, но ветку перевода процентов в тысячные для namespace'ных атрибутов содержит с закомментированным `` (для атрибутов без namespace — она активна), а `w:start`/`w:end` в `w:left`/`w:right` не маппит вовсе. Поэтому собственный рерайт URI ломать нельзя — он сломал бы pt-конверсию preprocessor'а (FOP получил бы «10pt»). diff --git a/docs/agent/render-limitations.md b/docs/agent/render-limitations.md index d4ec640..8029366 100644 --- a/docs/agent/render-limitations.md +++ b/docs/agent/render-limitations.md @@ -4,6 +4,6 @@ - Известный остаток эталона: U+2188/U+218A — глифов нет в OFL-шрифтах бандла, остаются `.notdef` (GNU FreeSerif GPL — не добавляем намеренно). -- Аудит раскладки по ECMA-376 Part 1 (2026-10) — известные нечинимые ограничения FOP/docx4j (Java-слой): `w:jc="distribute"` рендерится как left — межсимвольного распределения в FOP нет (ST_Jc §17.18.44: distribute — межсимвольный разнос, justify только межсловный), последняя строка блока не растягивается, свойства `text-align-last` в форке нет (в docx4j-fo-renderer отсутствуют классы TextAlign*); `w:suff="tab"` и `w:lvlJc` игнорируются (numbering-лейбл всегда через hanging-tab; suff=space чинит правило 8, suff=nothing совпадает с docx4j — разделителя нет); абзац без `w:line` рендерится natural-высотой FOP 15.44pt@11pt, явный `lineRule="auto"` — 13.4277pt, два «single» в конвертере (13.4277 — канонический single по метрикам Carlito/Calibri 2500/2048 em; обе величины считаются по метрикам шрифта); кернинг не применяется ни для одного бандл-семейства (замер: advance A→V = A→A — Carlito 6.369pt, DejaVu Sans 7.524pt@11pt): 22 TTF — GPOS-only, а legacy `kern`-таблица DejaVu Sans/Serif ключована glyph id, не совпадающими с cmap (2568/2727 пар без Unicode-маппинга, пары A→V нет) — латинский путь FOP (`TextLayoutManager`→`Font.hasKerning`) читает только legacy `kern` и такие пары отбрасывает; свойства `kerning` в форке нет, порог `w:kern` через FO не выражается. Word кернит только при явно заданном `w:kern` в иерархии стилей и при sz ≥ val (Part 1 §17.3.2.19; при отсутствии `w:kern` Office не кернит — MS-OI29500 §21.1.2.3.9a) — по умолчанию совпадает с нами, расходится только для документов с явно заданным `w:kern`. Починено веткой layout-class-c: левый padding ячейки (`LayoutPostRenderer`, шаг 4.25), `w:tblInd` при `w:jc`≠left (правило 7), `w:suff="space"` (правило 8). +- Аудит раскладки по ECMA-376 Part 1 (2026-10, реаудит на docx4j 17.3.6 + форке FOP 2.12 — 2026-11) — известные нечинимые ограничения FOP/docx4j (Java-слой): `w:jc="distribute"` рендерится как left — межсимвольного распределения в FOP нет (ST_Jc §17.18.44: distribute — межсимвольный разнос, justify только межсловный), последняя строка блока не растягивается; в форке 2.12 свойство `text-align-last` **есть** (классы `TextAlignLast*`, `Block`/`FoProperties`), но маппинг docx4j `Justification.setXslFO` для `DISTRIBUTE` не эмитит его и ничего не эмитит вовсе (значение не попадает в `fo:text-align*` — замер: край строки 184 pt при полосе до 540 pt); `w:lvlJc` игнорируется (numbering-лейбл всегда у number position: `lvlJc="right"`/`"center"` рендерятся идентично `left` — лейблы по общему левому краю; suff=space чинит правило 6, suff=nothing совпадает с docx4j — разделителя нет); абзац без `w:line` рендерится natural-высотой FOP 15.44pt@11pt, явный `lineRule="auto"` — 13.4277pt, два «single» в конвертере (13.4277 — канонический single по метрикам Carlito/Calibri 2500/2048 em; обе величины считаются по метрикам шрифта); кернинг не применяется ни для одного бандл-семейства (замер на 17.3.6/форке 2.12: dx пары = сумма advance без поправки — Carlito «Wa»/«AV», DejaVu Sans «Ta»; GPOS-only у 22 TTF, а legacy `kern`-таблица DejaVu Sans/Serif ключована glyph id, не совпадающими с cmap (2568/2727 пар без Unicode-маппинга, пары A→V нет) — латинский путь FOP (`TextLayoutManager`→`Font.hasKerning`) читает только legacy `kern` и такие пары отбрасывает; GPOS-путь в форке тоже не применяется); свойства `kerning` в форке нет, порог `w:kern` через FO не выражается. Word кернит только при явно заданном `w:kern` в иерархии стилей и при sz ≥ val (Part 1 §17.3.2.19; при отсутствии `w:kern` Office не кернит — MS-OI29500 §21.1.2.3.9a) — по умолчанию совпадает с нами, расходится только для документов с явно заданным `w:kern`. Починено веткой layout-class-c: левый padding ячейки (`LayoutPostRenderer`, шаг 4.25), `w:tblInd` при `w:jc`≠left (правило 5), `w:suff="space"` (правило 6). Починено апстримом 17.3.6: `w:framePr` (фрейм позиционируется — замер: FRAME на x=252pt = левое поле 72pt + `w:x=180pt`; до апгрейда текст шёл в общем потоке), symbol-шрифты и complex-поля PAGE/NUMPAGES (экспорт сам маппит PUA-маркеры и пересчитывает page-поля). -- Аудит .docx-путей по ECMA-376 (2026-11) — запинено синтетикой (без фикстур): сноски/концевые сноски с номерами (§17.11), внешние гиперссылки с `/URI`-аннотацией (§17.12.23), `PAGEREF` (complex и вложенный в результат `TOC`) и `DATE` подменяют кэш живым значением, `titlePg` → first/default колонтитуки (§17.13.1.35), `vMerge` restart/continue (§17.4.70), block-level `w:sdt` (§17.5.2), `wps:txbx`-текст (§17.3.3.23), OMML-формулы рисуются вектором jeuclid-fop (§22.1 — текст из PDF не извлекается, пинь пикселями), фон `w:highlight`/`w:shd` рисуется (§17.3.2.16/.29). Скрытый текст `w:vanish` не печатается (правило 9); текст руби-базы и `w:moveFrom`/`w:moveTo`/`w:bdo`/`w:dir` не теряется (правило 10 + AUDIT-FIX-2). Остаток (не чиним): `w:framePr` игнорируется — текст печатается в общем потоке, геометрия фрейма теряется (ни XSLT, ни `createBlockForPPr` не читают); `REF`/`SEQ`/литеральные записи `TOC` печатают устаревший кэш из docx (движка пересчёта нет; инстринции полей не печатаются); надстрочница руби не выводится (правило 10 печатает только базу — ruby-разметки в FOP нет); `w:ptab` без `@w:alignment`, `bar`, `list` теряются catch-all'ом; `w:bdo`/`w:dir` печатаются LTR (bidi вне контура). +- Аудит .docx-путей по ECMA-376 (2026-11) — запинено синтетикой (без фикстур): сноски/концевые сноски с номерами (§17.11), внешние гиперссылки с `/URI`-аннотацией (§17.12.23), `PAGEREF` (complex и вложенный в результат `TOC`) и `DATE` подменяют кэш живым значением, `titlePg` → first/default колонтитуки (§17.13.1.35), `vMerge` restart/continue (§17.4.70), block-level `w:sdt` (§17.5.2), `wps:txbx`-текст (§17.3.3.23), OMML-формулы рисуются вектором jeuclid-fop (§22.1 — текст из PDF не извлекается, пинь пикселями), фон `w:highlight`/`w:shd` рисуется (§17.3.2.16/.29). Скрытый текст `w:vanish` не печатается (правило 7); текст руби-базы и `w:moveFrom`/`w:moveTo`/`w:bdo`/`w:dir` не теряется (правило 8 + AUDIT-FIX-2). Остаток (не чиним): `REF`/`SEQ`/литеральные записи `TOC` печатают устаревший кэш из docx (движка пересчёта нет; инстринции полей не печатаются); надстрочница руби не выводится (правило 8 печатает только базу — ruby-разметки в FOP нет); `w:ptab` без `@w:alignment`, `bar`, `list` теряются catch-all'ом; `w:bdo`/`w:dir` печатаются LTR (bidi вне контура). diff --git a/docs/agent/repo-map.md b/docs/agent/repo-map.md index 62f665d..2dc09f5 100644 --- a/docs/agent/repo-map.md +++ b/docs/agent/repo-map.md @@ -6,7 +6,7 @@ |---|---| | `wordpdf-core/src/main/java/ru/pjandro/wordpdf/` | Публичный API: `WordPdfConverter` (`convert(byte[],String,ConvertOptions)`), `WordPdfValidator` (`checkInput`/`validate` наружу; `checkPageCount`/`checkPageCountDoc`/`isBinaryDoc` — package-private, всё без зависимости от docx4j), `ConversionException`, `ValidationException` (наследник — «вход некорректен»), `DrawingFoundException` (`enum Kind {CHARTS, SMARTART, OLE}`), `ConvertOptions` (record; дефолтов в ядре нет). Пороги защиты — производные от лимитов входа: `WordPdfValidator.maxDecompressedBytes`/`maxDecompressedXmlBytes` (`max(MIN_*×MiB, maxMb×10/4MiB + maxPages×64/32KiB)`, крышек нет), `maxZipEntries` (`max(2048, maxMb×512 + maxPages×32)`), `maxImagePixels` (`maxMb×5_000_000`); коэффициенты и полы — package-private литералы `WordPdfConverter` (`DECOMPRESS_*`, `MIN_DECOMPRESSED_*`, `IMAGE_PIXELS_PER_MAX_MB`, `ZIP_ENTRIES_*`, javac их инлайнит — валидатор не инициализирует конвертер) | | `…/wordpdf/fonts/` | `BundledFonts` (реестр/выгрузка TTF), `BundledFontMapper` (алиасы, self-map, `DISPLAY_NAMES`, `bundledFamily`), `GlyphFont` (глиф-движок fontbox) | -| `…/wordpdf/internal/` | 11 нормализаторов + `DocxRewritePipeline` (один zip-проход правил 1–10, raw-копия неизменённых записей) + `LayoutPostRenderer` (кастомный `FORenderer`, post-FO padding-компенсация таблиц, шаг 4.25) + интерфейс `DocxNormalizer` + `FopFallbackFonts` + `DependencyGuard` (проверка commons-compress, шаг 0). Классы package-private; `public` — `DocxNormalizer`, `DocxRewritePipeline` (наружу только `STEP`, `normalize` package-private), `OleObjectNormalizer`, `FopFallbackFonts` (`declare`), `LayoutPostRenderer` (`register`), `DependencyGuard` (`check`), остальные нормализаторы полностью package-private; `OleObjectNormalizer` — многочастный, публичный `normalize(byte[], boolean)`, бросает `DrawingFoundException(OLE)` | +| `…/wordpdf/internal/` | 9 нормализаторов + `DocxRewritePipeline` (один zip-проход правил 1–8, raw-копия неизменённых записей) + `LayoutPostRenderer` (кастомный `FORenderer`, post-FO padding-компенсация таблиц, шаг 4.25) + интерфейс `DocxNormalizer` + `FopFallbackFonts` + `DependencyGuard` (проверка commons-compress, шаг 0). Классы package-private; `public` — `DocxNormalizer`, `DocxRewritePipeline` (наружу только `STEP`, `normalize` package-private), `OleObjectNormalizer`, `FopFallbackFonts` (`declare`), `LayoutPostRenderer` (`register`), `DependencyGuard` (`check`), остальные нормализаторы полностью package-private; `OleObjectNormalizer` — многочастный, публичный `normalize(byte[], boolean)`, бросает `DrawingFoundException(OLE)` | | `…/wordpdf/internal/doc/` | Мост `.doc` → `.docx`: 18 классов (детали — `docs/agent/doc-bridge.md`) — `CfbReader`, `FibHeader`, `PieceTable`, `Grpprl`, `ChpxIndex`, `PapxIndex`, `Styles`, `Tables`, `Lists`, `Sections`, `FontTable`, `SummaryInfo`, `Headers`, `OfficeArt`, `PrcData`, `DocFile`, `DocxWriter`, `DocToDocx` (публичные `convert`/`countPages`; вложенный `DocxBody` — рендер текста и табличного автомата в XML) | | `…/wordpdf/internal/chart/` |18 классов Java2D-рендера диаграмм/SmartArt в PNG (public: `DrawingPreRenderer.run` и `ChartImageHandler` — второй инстанцируется из `WordPdfConverter`)| | `wordpdf-core/src/main/resources/fonts/` | 30 TTF + 3 лицензии — бинарные фикстуры, часть jar | @@ -34,7 +34,7 @@ - `wordpdf-app/src/main/resources/application.properties` — multipart 100MB (`max-file-size`/`max-request-size` + `file-size-threshold=2MB` — части крупнее 2 МБ на диск, не в память; в тон gateway `client_max_body_size 100m`), `wordpdf.convert-timeout=2m`, пустой `wordpdf.api-key`, `server.forward-headers-strategy=framework` (префикс прод-прокси для springdoc) + `springdoc.swagger-ui.persist-authorization=true`; `wordpdf.max-mb`/`max-pages` здесь намеренно нет. - `wordpdf-app/pom.xml` — `spring-boot-maven-plugin` с **явной** execution `repackage` (в 4.1.1 сам не связывается, jar останется тонким); `slf4j-simple` исключён; `spring-boot-starter-webmvc` (Boot 4: переименован из starter-web) + `spring-boot-starter-actuator` (нужен HEALTHCHECK контейнера `/actuator/health`); тест-зависимости: `spring-boot-webmvc-test` (в Boot 4 автоконфиг MockMvc вынесен из starter-test), test-jar core. - `wordpdf-core/pom.xml` — `maven-jar-plugin` execution `test-jar` (публикует фикстуры для app); JaCoCo execution `check` переопределён (LINE 0.90 + BRANCH 0.85). -- Корневой `pom.xml` — все версии зависимостей (в модулях версии не объявлять): docx4j `17.3.2`, commons-compress `1.28.0`, slf4j `2.0.20`, JUnit `6.1.3`, PDFBox/fontbox `3.0.8` (`fontbox` — compile в core: глиф-движок `GlyphFont`; `pdfbox` — test в обоих модулях; commons-logging исключён, мост — `jcl-over-slf4j`), POI `5.5.1` (test), Spring Boot `4.1.1` (BOM-import), springdoc `3.1.1`; pluginManagement: compiler `3.16.0`, surefire `3.6.0` с `-Djava.awt.headless=true`, jar `3.5.1`, PMD `3.28.0`, JaCoCo `0.8.15`; пустой дефолт `` (для `-Djacoco.skip=true`). +- Корневой `pom.xml` — все версии зависимостей (в модулях версии не объявлять): docx4j `17.3.6`, commons-compress `1.28.0`, slf4j `2.0.20`, JUnit `6.1.3`, PDFBox/fontbox `3.0.8` (`fontbox` — compile в core: глиф-движок `GlyphFont`; `pdfbox` — test в обоих модулях; commons-logging исключён, мост — `jcl-over-slf4j`), POI `5.5.1` (test), Spring Boot `4.1.1` (BOM-import), springdoc `3.1.1`; pluginManagement: compiler `3.16.0`, surefire `3.6.0` с `-Djava.awt.headless=true`, jar `3.5.1`, PMD `3.28.0`, JaCoCo `0.8.15`; пустой дефолт `` (для `-Djacoco.skip=true`). - `pmd-ruleset.xml` — ruleset PMD (см. Code Conventions). - `.ci/maven-settings.xml` — Maven-зеркало Nexus с URL из `${env.MAVEN_MIRROR_URL}` (общий файл CI-job'ов `java` и Containerfile; координаты стенда в репо не хранятся — Variable/build-arg). - `wordpdf-core/src/main/resources/slf4j-simple.properties` — без него предупреждение лезет в PDF. @@ -107,7 +107,7 @@ unzip -p ~/.m2/repository/org/docx4j/docx4j-export-fo/<версия>/docx4j-expo PMD: `failurePriority` в плагине не задан — на практике `verify` валит нарушение любой приоритетности; перечень исключённых правил в AGENTS.md не дублируется — единственный источник `pmd-ruleset.xml`. -- Нормализаторы — единый контракт `internal/DocxNormalizer` + константа `STEP`; цепочка `WordPdfConverter.normalizers()` = `DocxRewritePipeline.STEP` (правила 1–10 одним zip-проходом) + лямбда `OleObjectNormalizer`; нечего менять → **тот же массив**; package-private хук `static String rewrite(String xml)` для юнит-тестов (возвращает `null` при отсутствии изменений; есть у 10 из 11 — у многочастного `OleObjectNormalizer` нет); у `StrictOoxmlNormalizer` есть также `rewritePart(entryName, xml)`, у `TableIndentNormalizer` — `rewritePart(name, xml, band)` (per-part-логика, хуки пайплайна); правятся только части `word/*.xml`. +- Нормализаторы — единый контракт `internal/DocxNormalizer` + константа `STEP`; цепочка `WordPdfConverter.normalizers()` = `DocxRewritePipeline.STEP` (правила 1–8 одним zip-проходом) + лямбда `OleObjectNormalizer`; нечего менять → **тот же массив**; package-private хук `static String rewrite(String xml)` для юнит-тестов (возвращает `null` при отсутствии изменений; есть у 8 из 9 — у многочастного `OleObjectNormalizer` нет); у `StrictOoxmlNormalizer` есть также `rewritePart(entryName, xml)`, у `TableIndentNormalizer` — `rewritePart(name, xml, band)` (per-part-логика, хуки пайплайна); правятся только части `word/*.xml`. - Классы в `internal` — `public` (иначе родительский пакет не вызвал бы), но публичные члены наружу только `normalize`/`STEP`/`declare`/`DrawingPreRenderer.run`/`DependencyGuard.check` (`rewrite`, карты — package-private); в `wordpdf-app` всё package-private кроме `WordPdfApplication`. diff --git a/docs/agent/testing.md b/docs/agent/testing.md index 8b1e6ab..72ad428 100644 --- a/docs/agent/testing.md +++ b/docs/agent/testing.md @@ -2,7 +2,7 @@ ### Счётчики (2026-11) -- 59 тестовых классов / 898 тестов: core 53/849 (`internal/doc/` 17/225, `internal/chart/` 17/271, `WordPdfConverterTest` 77), app 6/49 (ConvertController 23, ApiKeyFilter 8, ConversionService 5, ApiExceptionHandler 5, ConvertLimits 5, ConversionTimeout 3). Обновлять при изменении набора. +- 57 тестовых классов / 881 тест: core 51/833 (`internal/doc/` 17/232, `internal/chart/` 17/277, `WordPdfConverterTest` 82), app 6/48 (ConvertController 26, ApiKeyFilter 8, ConversionService 5, ApiExceptionHandler 5, ConvertLimits 3, ConversionTimeout 1). Обновлять при изменении набора. ### Пиксели, метрики шрифтов, стенд без fontconfig diff --git a/pom.xml b/pom.xml index a1cfe86..3c6dded 100644 --- a/pom.xml +++ b/pom.xml @@ -22,8 +22,8 @@ UTF-8 - 17.3.2 - 1.28.0 2.0.20 @@ -78,7 +78,7 @@ ${docx4j.version} + docx4j 17.3.6 — 1.28.0; в Boot-BOM 4.1.1 не управляется --> org.apache.commons commons-compress diff --git a/wordpdf-core/src/main/java/ru/pjandro/wordpdf/WordPdfConverter.java b/wordpdf-core/src/main/java/ru/pjandro/wordpdf/WordPdfConverter.java index 7c3cf51..25a6b3a 100644 --- a/wordpdf-core/src/main/java/ru/pjandro/wordpdf/WordPdfConverter.java +++ b/wordpdf-core/src/main/java/ru/pjandro/wordpdf/WordPdfConverter.java @@ -77,12 +77,18 @@ public final class WordPdfConverter { // classpath'а за шрифтами — всё найденное выбрасывает // BundledFonts.restrictToBundled() перед каждой конвертацией. // Реестр обязан оставаться бандл + встроенные в docx. Свойства читает - // тот же static-блок BestMatchingMapper (docx4j-core 17.3.2); наша + // тот же static-блок BestMatchingMapper (docx4j-core 17.3.6); наша // инициализация предшествует первому new BundledFontMapper(). // discoverJarFonts("fonts-symbol") свойством не гейтится — символ- // шрифт регистрируется как раньше и снимается restrict'ом как раньше. Docx4jProperties.setProperty("docx4j.fonts.discoverPhysicalFonts.enabled", "false"); Docx4jProperties.setProperty("docx4j.fonts.discoverJarFonts.enabled", "false"); + // docx4j 17.3.6 (RepairMode, свойство docx4j.openpackaging.load.repair): + // пакеты, которые Word открывает только через «восстановить», по умолчанию + // (NONE) отказываются грузиться — для конвертера это регрессия 500 на + // «битых, но читаемых Word» файлах. Значение "word" возвращает толерантность + // уровня Word. + Docx4jProperties.setProperty("docx4j.openpackaging.load.repair", "word"); } private WordPdfConverter() { @@ -156,8 +162,8 @@ public final class WordPdfConverter { * считаются ровно раз по сырому входу, до аллокаций docx4j: для .docx — * lightweight-скан по zip, для .doc — по чистому бинарному документу до * конвертации. Повторного скана по нормализованным байтам нет: правила - * 1–10 {@code DocxRewritePipeline} число учитываемых разрывов не - * увеличивают (правило 9 способно только убрать разрыв внутри скрытого + * 1–8 {@code DocxRewritePipeline} число учитываемых разрывов не + * увеличивают (правило 7 способно только убрать разрыв внутри скрытого * рана — счёт по сырому входу остаётся верхней оценкой лимита), а скан * внутри живой JAXB-модели удваивал бы пиковую память. * @@ -435,7 +441,7 @@ public final class WordPdfConverter { } /** - * Нормализация входных байтов (цепочка {@link #normalizers}: правила 1–10 + * Нормализация входных байтов (цепочка {@link #normalizers}: правила 1–8 * одним zip-проходом {@code DocxRewritePipeline} + условная OLE-вычистка) * и {@code WordprocessingMLPackage.load} полученного transitional-байта. * Нормализация переиспользует слот {@code bytes}: каждая замена массива @@ -453,7 +459,7 @@ public final class WordPdfConverter { /** * Конвейер байтовой нормализации docx. Порядок фиксирован: сначала один * zip-проход переписывания XML-частей (внутри части порядок рерайтов - * Strict→OnOff→Symbol→Field→Invisible→GlyphCoverage→TableIndent→ + * Strict→OnOff→Invisible→GlyphCoverage→TableIndent→ * NumberingSuffix→Hidden→Ruby значим: Strict первым — дальше transitional-байт; * GlyphCoverage — по финальному тексту рана; Hidden — вырезает скрытые * раны по финальному содержимому; Ruby — разворачивает руби-разметку, @@ -463,10 +469,11 @@ public final class WordPdfConverter { */ private static List normalizers(ConvertOptions options) { return List.of( - // один zip-проход: strict→transitional, on/off, Symbol-PUA, - // поля PAGE/NUMPAGES, невидимки, покрытие глифов, tblInd при - // jc≠left, suff=space, скрытый текст (vanish) — порядок - // рерайтов внутри части фиксирован (DocxRewritePipeline) + // один zip-проход: strict→transitional, on/off, невидимки, + // покрытие глифов, tblInd при jc≠left, suff=space, скрытый + // текст (vanish) — порядок рерайтов внутри части фиксирован + // (DocxRewritePipeline); символьные шрифты и complex-поля + // PAGE/NUMPAGES с docx4j 17.3.x обрабатывает сам экспорт DocxRewritePipeline.STEP, // OLE-объекты: при выключенном errorOnOle тихо удаляем // (часть/rels/w:object), при включённом — DrawingFoundException diff --git a/wordpdf-core/src/main/java/ru/pjandro/wordpdf/internal/DocxRewritePipeline.java b/wordpdf-core/src/main/java/ru/pjandro/wordpdf/internal/DocxRewritePipeline.java index eefb4c7..032a098 100644 --- a/wordpdf-core/src/main/java/ru/pjandro/wordpdf/internal/DocxRewritePipeline.java +++ b/wordpdf-core/src/main/java/ru/pjandro/wordpdf/internal/DocxRewritePipeline.java @@ -15,21 +15,28 @@ import org.apache.commons.compress.utils.SeekableInMemoryByteChannel; /** * Единый zip-проход переписывания XML-частей (.docx) вместо отдельных * проходов нормализаторов: к каждой записи {@code word/*.xml} применяются - * все десять рерайтов в фиксированном порядке - * Strict→OnOff→Symbol→Field→Invisible→GlyphCoverage→TableIndent→NumberingSuffix→Hidden→Ruby. + * все восемь рерайтов в фиксированном порядке + * Strict→OnOff→Invisible→GlyphCoverage→TableIndent→NumberingSuffix→Hidden→Ruby. * Порядок значим: Strict первым — дальше части в transitional-виде * (TableIndent читает transitional-атрибуты {@code w:}); GlyphCoverage - * режет раны по финальному тексту рана (после Symbol/Invisible); Hidden - * последним — вырезает уже финальные раны (после Symbol/GLYPH-разбиений), + * режет раны по финальному тексту рана (после Invisible); Hidden + * последним — вырезает уже финальные раны (после GLYPH-разбиений), * а его OnOff-форма vanish читается после правила 2. Каждый * рерайт работает только содержимым одной части, поэтому по-частная * цепочка эквивалентна последовательным полным проходам. Исключения из - * «по-частности» — контексты, читаемые один раз до цикла: правило 7 + * «по-частности» — контексты, читаемые один раз до цикла: правило 5 * (TableIndent) — у header/footer-частей своей sectPr нет, ширина полосы * передаётся из document.xml (многосекционный документ — полоса - * неоднозначна, header/footer пропускаются); правило 9 (Hidden) — + * неоднозначна, header/footer пропускаются); правило 7 (Hidden) — * стилевые vanish читаются из word/styles.xml (цепочка w:basedOn). * + *

Правил Symbol (символьные шрифты → Unicode) и Field (PAGE/NUMPAGES → + * fldSimple) здесь больше нет: с docx4j 17.3.3/#701 символьные маркеры + * маппит сам экспорт, а с 17.3.5 (CR-067) {@code FieldsCombiner} сворачивает + * complex-поля в {@code w:fldSimple} и внутри {@code w:sdt}. Пины отсутствия + * регрессии — WordPdfConverterTest#symbolFonts_bulletsAreNotHash, + * #pageNumbers_recomputedNotCached. + * *

Неизменённые записи (медиа, rels, прочее) переносятся raw-копией * сжатых байтов — без inflate/deflate; прочие (редкие методы сжатия, * шифрованные) — обычный перенос. Ни одна часть не изменилась → @@ -52,7 +59,7 @@ public final class DocxRewritePipeline { public static final DocxNormalizer STEP = DocxRewritePipeline::normalize; /** - * Применяет десять рерайтов к каждой записи {@code word/*.xml} за один + * Применяет восемь рерайтов к каждой записи {@code word/*.xml} за один * проход zip. * * @param docx байты .docx (валидный zip) @@ -63,7 +70,7 @@ public final class DocxRewritePipeline { boolean changed = false; try (ZipFile zf = new ZipFile(new SeekableInMemoryByteChannel(docx)); ZipArchiveOutputStream zos = new ZipArchiveOutputStream(out)) { - // Ширина полосы набора для правила 7 (таблицы в header/footer- + // Ширина полосы набора для правила 5 (таблицы в header/footer- // частях своей sectPr не содержат): из сырого document.xml — // геометрия инвариантна к рерайтам цепочки (Strict не трогает // w:pgSz/@w:w, а pgMar-чередование left|start покрывает strict). @@ -76,7 +83,7 @@ public final class DocxRewritePipeline { new String(zf.getInputStream(docEntry).readAllBytes(), StandardCharsets.UTF_8)); } - // Стилевые vanish для правила 9 (скрытый текст): часть стилевой + // Стилевые vanish для правила 7 (скрытый текст): часть стилевой // цепочки w:basedOn вычисляется один раз до цикла. Записи нет → // пустое множество, рерайт работает по прямому vanish. Set hiddenStyles = Set.of(); @@ -101,14 +108,6 @@ public final class DocxRewritePipeline { if (next != null) { cur = next; } - next = SymbolFontNormalizer.rewrite(cur); - if (next != null) { - cur = next; - } - next = FieldNormalizer.rewrite(cur); - if (next != null) { - cur = next; - } next = InvisibleCharNormalizer.rewrite(cur); if (next != null) { cur = next; diff --git a/wordpdf-core/src/main/java/ru/pjandro/wordpdf/internal/FieldNormalizer.java b/wordpdf-core/src/main/java/ru/pjandro/wordpdf/internal/FieldNormalizer.java deleted file mode 100644 index 78a26d1..0000000 --- a/wordpdf-core/src/main/java/ru/pjandro/wordpdf/internal/FieldNormalizer.java +++ /dev/null @@ -1,226 +0,0 @@ -package ru.pjandro.wordpdf.internal; - -import java.io.ByteArrayInputStream; -import java.io.ByteArrayOutputStream; -import java.io.IOException; -import java.nio.charset.StandardCharsets; -import java.util.Locale; -import java.util.zip.ZipEntry; -import java.util.zip.ZipInputStream; -import java.util.zip.ZipOutputStream; - -/** - * Разворачивание «сложных» полей PAGE/NUMPAGES в {@code w:fldSimple} — - * до загрузки docx4j. - * - * Word записывает поле как последовательность ранов: - * {@code fldChar begin} → {@code instrText "PAGE"} → {@code fldChar separate} - * → закэшированный результат → {@code fldChar end}. Экспорт docx4j в XSL-FO - * игнорирует {@code w:instrText} внутри такого поля и печатает кэш из docx, - * поэтому в колонтитулах всех страниц стоит одно и то же число - * (в эталонном экспорте Word — «2» вместо 1, 2, 3 …). - * - * Собственно поле docx4j умеет: {@code w:fldSimple} обрабатывает - * {@code FldSimpleWriter} из docx4j-export-fo, у которого есть обработчики - * {@code PAGE} (→ {@code fo:page-number}), {@code NUMPAGES} и - * {@code SECTIONPAGES}. Поэтому переписываем поле в {@code w:fldSimple}, - * сохраняя внутри закэшированные ран — они дают оформление (шрифт, размер). - * - * Штатный {@code FieldsCombiner} docx4j делает то же самое, но не заходит - * внутрь {@code w:sdt}: нумерация страниц Word почти всегда лежит в - * контентном контроле («Page Numbers (Top of Page)»), и до поля не добирается. - * Отсюда и нормализация байтов, как в {@link DocxOnOffNormalizer}. - * - * Трогаются только поля, которые действительно есть кому рисовать - * ({@link #SUPPORTED}); остальные остаются как были. Вложенные поля не - * разбираются — если внутри {@code begin … end} встречается ещё один - * {@code begin}, поле пропускается. - */ -final class FieldNormalizer { - - /** Инструкции, для которых в docx4j-export-fo есть обработчик fldSimple. */ - private static final String[] SUPPORTED = {"PAGE", "NUMPAGES", "SECTIONPAGES"}; - - private FieldNormalizer() { - } - - /** Шаг конвейера WordPdfConverter#normalizers: этот нормализатор как DocxNormalizer. */ - static final DocxNormalizer STEP = FieldNormalizer::normalize; - - /** - * Переписывает поддерживаемые поля во всех word/*.xml частях docx. - * - * @param docx байты .docx (zip) - * @return те же или переупакованные байты - */ - static byte[] normalize(byte[] docx) throws IOException { - ByteArrayOutputStream out = new ByteArrayOutputStream(docx.length); - boolean changed = false; - try (ZipInputStream zis = new ZipInputStream(new ByteArrayInputStream(docx)); - ZipOutputStream zos = new ZipOutputStream(out)) { - ZipEntry entry; - while ((entry = zis.getNextEntry()) != null) { - byte[] data = zis.readAllBytes(); - String name = entry.getName(); - if (name.startsWith("word/") && name.endsWith(".xml")) { - String fixed = rewrite(new String(data, StandardCharsets.UTF_8)); - if (fixed != null) { - changed = true; - data = fixed.getBytes(StandardCharsets.UTF_8); - } - } - zos.putNextEntry(new ZipEntry(name)); - zos.write(data); - zos.closeEntry(); - } - } - return changed ? out.toByteArray() : docx; - } - - /** - * @return новая строка либо null, если менять нечего - */ - static String rewrite(String xml) { - if (xml.indexOf("fldCharType=\"begin\"") < 0) { - return null; - } - StringBuilder sb = new StringBuilder(xml.length()); - int pos = 0; - boolean changed = false; - while (true) { - int begin = xml.indexOf("fldCharType=\"begin\"", pos); - if (begin < 0) { - break; - } - int runStart = runStart(xml, begin); - int runEnd = xml.indexOf(RUN_CLOSE, begin); - if (runStart < 0 || runEnd < 0) { - break; - } - runEnd += RUN_CLOSE.length(); - - int end = xml.indexOf("fldCharType=\"end\"", runEnd); - int endRunEnd = end < 0 ? -1 : endRunEnd(xml, end); - int nested = xml.indexOf("fldCharType=\"begin\"", runEnd); - // поле без конца, битое или с вложенным полем — пропускаем целиком - int skipTo = endRunEnd >= 0 ? endRunEnd : runEnd; - if (endRunEnd < 0 || (nested >= 0 && nested < end)) { - sb.append(xml, pos, skipTo); - pos = skipTo; - continue; - } - - String instr = instruction(xml.substring(runStart, endRunEnd)); - if (instr.isBlank() || !isSupported(instr)) { - sb.append(xml, pos, endRunEnd); - pos = endRunEnd; - continue; - } - sb.append(xml, pos, runStart) - .append(toFldSimple(instr, cached(xml, runEnd, end))); - pos = endRunEnd; - changed = true; - } - if (!changed) { - return null; - } - return sb.append(xml, pos, xml.length()).toString(); - } - - private static final String RUN_CLOSE = ""; - - /** - * Результат поля: ран-маркер {@code separate} и всё, что идёт после него - * до рана с {@code end}. Если {@code separate} нет, кэша нет — поле - * отрисует обработчик. - */ - private static String cached(String xml, int from, int endMarker) { - int sep = xml.indexOf("fldCharType=\"separate\"", from); - int sepRunEnd = xml.indexOf(RUN_CLOSE, sep); - if (sep < 0 || sep > endMarker || sepRunEnd < 0) { - return ""; - } - sepRunEnd += RUN_CLOSE.length(); - int endRunStart = runStart(xml, endMarker); - if (endRunStart < 0 || endRunStart < sepRunEnd) { - return ""; - } - return xml.substring(sepRunEnd, endRunStart); - } - - /** Склеивает все {@code w:instrText} блока — Word дробит инструкцию на части. */ - private static String instruction(String block) { - StringBuilder instr = new StringBuilder(64); - int pos = 0; - while (true) { - int open = block.indexOf("', open); - int close = block.indexOf("", gt); - if (gt < 0 || close < 0) { - break; - } - instr.append(unescape(block.substring(gt + 1, close))); - pos = close + "".length(); - } - // не trim(): пробелы вокруг инструкции — часть записи Word - return instr.toString(); - } - - private static boolean isSupported(String instr) { - String name = instr.trim().split("[\\\\\\s]", 2)[0].toUpperCase(Locale.ROOT); - for (String s : SUPPORTED) { - if (s.equals(name)) { - return true; - } - } - return false; - } - - private static String toFldSimple(String instr, String cached) { - return "" - + cached + ""; - } - - /** Начало рана, содержащего позицию {@code idx} (раны не вложены). */ - private static int runStart(String xml, int idx) { - for (int i = xml.lastIndexOf("= 0; i = xml.lastIndexOf("= xml.length()) { - continue; - } - char next = xml.charAt(i + 4); - if (next != '>' && next != ' ') { - continue; - } - // между найденным открытием и idx не должно быть конца рана - if (xml.indexOf(RUN_CLOSE, i) > idx) { - return i; - } - } - return -1; - } - - /** Позиция сразу за {@code } рана, содержащего {@code idx}. */ - private static int endRunEnd(String xml, int idx) { - int end = xml.indexOf(RUN_CLOSE, idx); - return end < 0 ? -1 : end + RUN_CLOSE.length(); - } - - private static String escapeAttr(String value) { - return value.replace("&", "&") - .replace("<", "<") - .replace(">", ">") - .replace("\"", """); - } - - private static String unescape(String value) { - String v = value; - if (v.indexOf('&') < 0) { - return v; - } - v = v.replace("<", "<").replace(">", ">").replace(""", "\""); - return v.replace("&", "&"); - } -} diff --git a/wordpdf-core/src/main/java/ru/pjandro/wordpdf/internal/GlyphCoverageNormalizer.java b/wordpdf-core/src/main/java/ru/pjandro/wordpdf/internal/GlyphCoverageNormalizer.java index dfdda09..eaefbe0 100644 --- a/wordpdf-core/src/main/java/ru/pjandro/wordpdf/internal/GlyphCoverageNormalizer.java +++ b/wordpdf-core/src/main/java/ru/pjandro/wordpdf/internal/GlyphCoverageNormalizer.java @@ -52,7 +52,8 @@ import java.util.concurrent.ConcurrentHashMap; * честнее оставить, чем подменять случайным шрифтом. * * - * Как и {@link SymbolFontNormalizer}, правим байты zip до JAXB-разбора. + * Как и прочие рерайты {@link DocxRewritePipeline}, правим байты zip до + * JAXB-разбора. */ final class GlyphCoverageNormalizer { @@ -128,8 +129,7 @@ final class GlyphCoverageNormalizer { * Проходит блоки {@code } ... {@code } и заменяет каждый через * {@link #rewriteBlock}. Вложенные раны текстбоксов (w:r → w:drawing → * txbxContent → w:r) переписываются рекурсивно по телу внешнего блока — - * каркас внешнего рана остаётся нетронутым. Приём общий с - * {@link SymbolFontNormalizer}. + * каркас внешнего рана остаётся нетронутым. */ private static String rewriteBlocks(String xml, String tag) { String open = "<" + tag; diff --git a/wordpdf-core/src/main/java/ru/pjandro/wordpdf/internal/SymbolFontNormalizer.java b/wordpdf-core/src/main/java/ru/pjandro/wordpdf/internal/SymbolFontNormalizer.java deleted file mode 100644 index cdf26a2..0000000 --- a/wordpdf-core/src/main/java/ru/pjandro/wordpdf/internal/SymbolFontNormalizer.java +++ /dev/null @@ -1,491 +0,0 @@ -package ru.pjandro.wordpdf.internal; - -import java.io.ByteArrayInputStream; -import java.io.ByteArrayOutputStream; -import java.io.IOException; -import java.nio.charset.StandardCharsets; -import java.util.HashMap; -import java.util.Locale; -import java.util.Map; -import java.util.regex.Matcher; -import java.util.regex.Pattern; -import java.util.zip.ZipEntry; -import java.util.zip.ZipInputStream; -import java.util.zip.ZipOutputStream; - -/** - * Замена символьных шрифтов (Symbol/Wingdings/Webdings) на Unicode + - * бандл-шрифт — до загрузки docx4j. - * - * Word хранит маркеры списков и спецсимволы кодами из private use area - * (U+F0xx), а какой именно глиф покажет документ, задаёт шрифт: - * {@code } + {@code w:rFonts w:ascii="Wingdings"} - * — это «▪», а тот же код в Symbol — «♣». Экспорт docx4j в XSL-FO эти - * шрифты не знает: код уходит в fallback-семейство, глифа там нет, и FOP - * рисует {@code .notdef} — в PDF решётку «#» (регрессия: - * {@code WordPdfConverterTest#symbolFonts_bulletsAreNotHash}). - * - * Делаем то же, что Word: код из PUA заменяем его Unicode-эквивалентом, - * а имя шрифта — на fallback-семейство (в нём этих глифов достаточно). - * Таблица кодов — из {@code org.docx4j.convert.out.common.writer.SymbolMapper} - * (docx4j 17.x), отфильтрована по наличию глифа в DejaVu Sans; она же - * сверяется с эталоном Word (develop/, вне git). - * - * Обрабатываются оба места, где встречается символный шрифт: - *

    - *
  • {@code w:lvl} (numbering.xml): {@code w:lvlText/@w:val} + - * {@code w:lvl/w:rPr/w:rFonts} — маркеры списков;
  • - *
  • {@code w:r}: текст в {@code w:t} и элементы {@code w:sym} - * ({@code w:sym} имеет собственный {@code w:font}, поэтому ран с ним - * разрезается на части — иначе соседнему тексту поменялся бы шрифт).
  • - *
- * - * Как и {@link DocxOnOffNormalizer}, правим байты zip до JAXB-разбора. - */ -final class SymbolFontNormalizer { - - /** Семейство, на которое заменяются символьные шрифты (есть в jar). */ - static final String REPLACEMENT_FAMILY = "DejaVu Sans"; - - /** - * Имя шрифта (lowercase) -> таблица из 256 слотов по 4 hex-цифры: - * младший байт кода из PUA -> Unicode-код цели (0 — соответствия нет). - * Источник — SymbolMapper из docx4j 17.x; сгенерировано, см. javadoc - * класса. Коды вне U+F000–U+F0FF (обычная ASCII-часть символьного - * шрифта) не переписываются. - */ - private static final Map SYMBOL_MAPS = buildMaps(); - - /** w:rFonts с именем символьного шрифта в любом из атрибутов. */ - private static final Pattern SYMBOL_FONT_ATTR = Pattern.compile( - "w:(?:ascii|hAnsi|cs|eastAsia)=\"([^\"]+)\""); - - /** w:sym w:font="Symbol" w:char="F02D" */ - private static final Pattern SYM_ELEMENT = Pattern.compile( - "]*?/>"); - - private static final Pattern SYM_FONT = Pattern.compile("w:font=\"([^\"]+)\""); - private static final Pattern SYM_CHAR = Pattern.compile("w:char=\"([0-9A-Fa-f]{4})\""); - - private SymbolFontNormalizer() { - } - - /** Шаг конвейера WordPdfConverter#normalizers: этот нормализатор как DocxNormalizer. */ - static final DocxNormalizer STEP = SymbolFontNormalizer::normalize; - - /** - * Заменяет символьные шрифты в XML-частях docx (word/*.xml). - * - * @param docx байты .docx (zip) - * @return те же или переупакованные байты - */ - static byte[] normalize(byte[] docx) throws IOException { - ByteArrayOutputStream out = new ByteArrayOutputStream(docx.length); - boolean changed = false; - try (ZipInputStream zis = new ZipInputStream(new ByteArrayInputStream(docx)); - ZipOutputStream zos = new ZipOutputStream(out)) { - ZipEntry entry; - while ((entry = zis.getNextEntry()) != null) { - byte[] data = zis.readAllBytes(); - String name = entry.getName(); - if (name.startsWith("word/") && name.endsWith(".xml")) { - String fixed = rewrite(new String(data, StandardCharsets.UTF_8)); - if (fixed != null) { - changed = true; - data = fixed.getBytes(StandardCharsets.UTF_8); - } - } - zos.putNextEntry(new ZipEntry(name)); - zos.write(data); - zos.closeEntry(); - } - } - return changed ? out.toByteArray() : docx; - } - - /** - * Переписывает {@code w:lvl} и {@code w:r} с символьными шрифтами. - * - * @return новая строка либо null, если менять нечего - */ - static String rewrite(String xml) { - // Быстрый путь: ни кода из PUA (U+F000–U+F0FF), ни w:sym. - if (!hasPua(xml) && xml.indexOf("} ... {@code } и заменяет каждый через - * {@link #rewriteBlock}. Вложенные раны текстбоксов (w:r → w:drawing → - * txbxContent → w:r) переписываются рекурсивно по телу внешнего блока — - * каркас внешнего рана остаётся нетронутым (тот же приём, что в - * {@link GlyphCoverageNormalizer}). - */ - private static String rewriteBlocks(String xml, String tag) { - String open = "<" + tag; - String close = ""; - StringBuilder sb = new StringBuilder(xml.length()); - int pos = 0; - while (true) { - int start = indexOfOpenTag(xml, open, pos); - if (start < 0) { - break; - } - int openEnd = xml.indexOf('>', start); - int end = xml.indexOf(close, openEnd); - if (openEnd < 0 || end < 0) { - break; - } - int matching = matchingClose(xml, open, close, openEnd); - if (matching > end) { - // Внешний ран с вложенным: тело — рекурсивно, каркас внешнего не трогаем. - sb.append(xml, pos, start).append(xml, start, openEnd + 1) - .append(rewriteBlocks(xml.substring(openEnd + 1, matching), tag)) - .append(close); - pos = matching + close.length(); - continue; - } - end += close.length(); - String block = xml.substring(start, end); - sb.append(xml, pos, start).append(rewriteBlock(block)); - pos = end; - } - if (pos == 0) { - return xml; - } - return sb.append(xml, pos, xml.length()).toString(); - } - - /** Есть ли в строке символ из U+F000–U+F0FF. */ - private static boolean hasPua(String xml) { - for (int i = 0; i < xml.length(); i++) { - char c = xml.charAt(i); - if (c >= 0xF000 && c <= 0xF0FF) { - return true; - } - } - return false; - } - - /** Позиция открывающего (не самозакрывающегося) тега {@code open}. */ - private static int indexOfOpenTag(String xml, String open, int from) { - int i = xml.indexOf(open, from); - while (i >= 0) { - char next = i + open.length() < xml.length() ? xml.charAt(i + open.length()) : 0; - if (next == '>' || next == ' ' || next == '\t' || next == '\n' || next == '\r') { - int openEnd = xml.indexOf('>', i); - if (openEnd < 0) { - return -1; - } - // самозакрывающийся — блока нет - return xml.charAt(openEnd - 1) == '/' ? indexOfOpenTag(xml, open, openEnd) : i; - } - i = xml.indexOf(open, i + open.length()); - } - return -1; - } - - /** Позиция закрывающего тега, балансирующего открывающий тег на openEnd; -1 — не сбалансирован. */ - private static int matchingClose(String xml, String open, String close, int openEnd) { - int depth = 1; - int i = openEnd; - while (i < xml.length()) { - int nextOpen = indexOfOpenTag(xml, open, i); - int nextClose = xml.indexOf(close, i); - if (nextClose < 0) { - return -1; - } - if (nextOpen >= 0 && nextOpen < nextClose) { - depth++; - i = nextOpen + open.length(); - } else { - depth--; - if (depth == 0) { - return nextClose; - } - i = nextClose + close.length(); - } - } - return -1; - } - - /** Переписывает один блок {@code w:lvl} или {@code w:r}. */ - private static String rewriteBlock(String block) { - String symbolFont = symbolFontOf(block); - String map = symbolFont == null ? null : SYMBOL_MAPS.get(symbolFont.toLowerCase(Locale.ROOT)); - boolean hasSym = block.indexOf("= 0; - if (map == null && !hasSym) { - return block; - } - // w:sym имеет собственный w:font, поэтому обрабатывается и в ране - // с обычным шрифтом (например, Times New Roman + Symbol). - String result = hasSym ? replaceSymElements(block, map) : block; - if (map == null) { - return result; - } - result = mapPua(result, map); - return replaceFontNames(result); - } - - /** Имя символьного шрифта, объявленного в {@code w:rFonts} блока. */ - private static String symbolFontOf(String block) { - int rFonts = block.indexOf("', rFonts); - if (end < 0) { - return null; - } - Matcher m = SYMBOL_FONT_ATTR.matcher(block.substring(rFonts, end)); - while (m.find()) { - String name = m.group(1).toLowerCase(Locale.ROOT); - if (SYMBOL_MAPS.containsKey(name)) { - return m.group(1); - } - } - return null; - } - - /** - * Заменяет коды из U+F000–U+F0FF на Unicode по таблице {@code map}. - * Касается {@code w:t}, {@code w:lvlText/@w:val} и текста самого блока. - */ - private static String mapPua(String block, String map) { - StringBuilder sb = new StringBuilder(block.length()); - for (int i = 0; i < block.length(); i++) { - char c = block.charAt(i); - if (c >= 0xF000 && c <= 0xF0FF) { - char mapped = mapped(map, c & 0xFF); - sb.append(mapped != 0 ? mapped : c); - } else { - sb.append(c); - } - } - return sb.toString(); - } - - /** - * Разрезает ран по элементам {@code w:sym}: каждый заменяется раном с - * {@code w:t} (Unicode-глиф) и fallback-шрифтом, соседний текст - * остаётся со своим {@code w:rPr}. - */ - private static String replaceSymElements(String block, String map) { - if (!block.endsWith("")) { - return block; - } - int tagEnd = block.indexOf('>'); - String openTag = block.substring(0, tagEnd + 1); - String body = block.substring(tagEnd + 1, block.length() - "".length()); - - String rPr = ""; - if (body.startsWith("")) { - int rPrEnd = body.indexOf(""); - if (rPrEnd < 0) { - return block; - } - rPr = body.substring(0, rPrEnd + "".length()); - body = body.substring(rPrEnd + "".length()); - } - String fallbackRPr = rPr.isEmpty() - ? "" - : forceFont(rPr, REPLACEMENT_FAMILY); - - StringBuilder sb = new StringBuilder(block.length()); - int pos = 0; - Matcher m = SYM_ELEMENT.matcher(body); - while (m.find()) { - String text = body.substring(pos, m.start()); - if (!text.isEmpty()) { - sb.append(openTag).append(rPr).append(text).append(""); - } - String charHex = firstGroup(SYM_CHAR, m.group()); - String font = firstGroup(SYM_FONT, m.group()); - String fontMap = font == null ? map - : SYMBOL_MAPS.getOrDefault(font.toLowerCase(Locale.ROOT), map); - char mapped = 0; - if (charHex != null && fontMap != null) { - char code = (char) Integer.parseInt(charHex, 16); - if (code >= 0xF000 && code <= 0xF0FF) { - mapped = mapped(fontMap, code & 0xFF); - } - } - if (mapped != 0) { - sb.append(openTag).append(fallbackRPr) - .append("").append(mapped) - .append(""); - } - pos = m.end(); - } - if (pos == 0) { - return block; - } - String tail = body.substring(pos); - if (!tail.isEmpty()) { - sb.append(openTag).append(rPr).append(tail).append(""); - } - return sb.toString(); - } - - /** - * Принудительно ставит семейство в {@code w:rPr}: заменяет значения - * атрибутов {@code w:rFonts}, а если {@code w:rFonts} нет — вставляет - * его первым ребёнком (так делает Word). - */ - private static String forceFont(String rPr, String family) { - if (rPr.indexOf("", ""); - } - Matcher m = SYMBOL_FONT_ATTR.matcher(rPr); - StringBuilder sb = new StringBuilder(rPr.length()); - while (m.find()) { - m.appendReplacement(sb, Matcher.quoteReplacement( - m.group().replace(m.group(1), family))); - } - m.appendTail(sb); - return sb.toString(); - } - - /** Имена символьных шрифтов в {@code w:rFonts} -> fallback-семейство. */ - private static String replaceFontNames(String block) { - Matcher m = SYMBOL_FONT_ATTR.matcher(block); - if (!m.find()) { - return block; - } - m.reset(); - StringBuilder sb = new StringBuilder(block.length()); - while (m.find()) { - String replacement = SYMBOL_MAPS.containsKey(m.group(1).toLowerCase(Locale.ROOT)) - ? m.group().replace(m.group(1), REPLACEMENT_FAMILY) - : m.group(); - m.appendReplacement(sb, Matcher.quoteReplacement(replacement)); - } - m.appendTail(sb); - return sb.toString(); - } - - private static String firstGroup(Pattern p, String input) { - Matcher m = p.matcher(input); - return m.find() ? m.group(1) : null; - } - - /** Unicode-код цели для младшего байта кода PUA; 0 — соответствия нет. */ - private static char mapped(String map, int slot) { - int hi = Character.digit(map.charAt(slot * 4), 16) << 12 - | Character.digit(map.charAt(slot * 4 + 1), 16) << 8 - | Character.digit(map.charAt(slot * 4 + 2), 16) << 4 - | Character.digit(map.charAt(slot * 4 + 3), 16); - return (char) hi; - } - - private static Map buildMaps() { - Map m = new HashMap<>(); - m.put("symbol", MAP_SYMBOL); - m.put("wingdings", MAP_WINGDINGS); - m.put("wingdings 2", MAP_WINGDINGS_2); - m.put("wingdings 3", MAP_WINGDINGS_3); - m.put("webdings", MAP_WEBDINGS); - return Map.copyOf(m); - } - - // Symbol: 256 слотов по 4 hex-цифры, индекс = младший байт кода U+F0?? - private static final String MAP_SYMBOL = - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000002122000023220300250026220D002800292217002B002C2212002E002F" + - "0030003100320033003400350036003700380039003A003B003C003D003E003F" + - "22450391039203A70394039503A603930397039903D1039A039B039C039D039F" + - "03A0039803A103A303A403A503C203A9039E03A80396005B2234005D22A5005F" + - "000003B103B203C703B403B503C603B303B703B903D503BA03BB03BC03BD03BF" + - "03C003B803C103C303C403C503D603C903BE03C803B6007B007C007D223C0000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "000003D2203222642044221E0192266326662665266021942190219121922193" + - "00B000B12033226500D7221D2202202200F7226022612248202623D023AF21B5" + - "21352111211C21182297229522052229222A2283228722842282228622082209" + - "2220220700AE00A92122220F221A22C500AC2227222821D421D021D121D221D3" + - "25CA232900AE00A921222211239B239C239D23A123A223A323A723A823A923AA" + - "20AC232A222B232023AE2321239E239F23A023A423A523A623AB23AC23AD0000"; - - // Wingdings: 256 слотов по 4 hex-цифры, индекс = младший байт кода U+F0?? - private static final String MAP_WINGDINGS = - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000027022701000000000000000000002706000000000000000000000000" + - "000000000000000000000000231B00000000000000000000000000002707270D" + - "0000270C000000000000261C261E261D261F0000263A00002639000026200000" + - "00002708263C000027440000271E000027202721262A262F0950263826482649" + - "264A264B264C264D264E264F26502651265226530000000025CF000025A025A1" + - "0000275127522B2729EB25C627562B2523272BB9231800000000000000000000" + - "24EA246024612462246324642465246624672468246924FF2776277727782779" + - "277A277B277C277D277E277F0000000000000000000000000000000000B72022" + - "25AA26AA0000000025C925CE000025AA25FB0000272626052736273427392735" + - "2BD0231627E123112BD1272A2730000000000000000000000000000000000000" + - "0000000000002BB02BB12BB22BB32BB42BB52BB62BB700000000000000000000" + - "00000000000000000000232B23262B9827A22B992B9B2B882B8A2B892B8B0000" + - "00000000000000000000000000000000000000000000000000000000000021E6" + - "21E821E721E92B0421F32B002B012B032B02000000000000271300000000229E"; - - // Wingdings 2: 256 слотов по 4 hex-цифры, индекс = младший байт кода U+F0?? - private static final String MAP_WINGDINGS_2 = - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000027042700000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "271300002611261226122BBE2BBF29B829B80000000000000000203D00000000" + - "00000000000000000000000000000000000024EA246024612462246324642465" + - "246624672468246924FF2776277727782779277A277B277C277D277E277F0000" + - "26090000263D263E2E3F271D0000000000000000000000000000000000000000" + - "00000000000000000000202225CF26AB2B240000000000000000000029BF25FE" + - "25A025FC2B1B2B1C000000000000000025A30000000000002B292B2525C625C7" + - "000025C80000000000002B2A2B2729EB25CA000025D625D72BCA2BCB25FC2B25" + - "2B1F2BC22B232B222BC32BC40000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000027260000260527360000273700000000" + - "273900000000272F000000002BCC2BCD203B2042000000000000000000000000"; - - // Wingdings 3: 256 слотов по 4 hex-цифры, индекс = младший байт кода U+F0?? - private static final String MAP_WINGDINGS_3 = - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "00002B602B622B612B632B662B672B692B682B702B722B712B732B762B782B7B" + - "2B7D2B642B652B6A2B6C2B6B2B6D2B4D2BA02BA12BA22BA32BA42BA52BA62BA7" + - "2B902B912B922B932B802B832B7E2B7F2B842B862B852B872B8F2B8D2B8E2B8C" + - "2B6E2B6F238B23242303232523B5237D21EA2BB8000000000000000000000000" + - "0000000000000000000000002190219221912193219621972199219800000000" + - "25B225BC25B325BD25C425BA25C125B725E325E225E425E50000000000000000" + - "000025B225BC25C025B62B9C2B9E2B9D2B9F0000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000002BA82BA92BAA2BAB2BAC2BAD2BAE" + - "2BAF000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000"; - - // Webdings: 256 слотов по 4 hex-цифры, индекс = младший байт кода U+F0?? - private static final String MAP_WEBDINGS = - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "00000000000023F423F523F623F723EA23E923EE23ED23F823F923FA00000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "2B942714000025A100000000000025A000000000000000000000000026AB0000" + - "000000000000275300000000000026F30000229600000000007C000000000000" + - "000000000000000000000000000026F700000000000000000000000000000000" + - "00000000000000000000000000000000272F0000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000" + - "0000000000000000000000000000000000002601000000000000000000000000" + - "0000000000000000000000000000000024C5267F000000000000000000000000" + - "0000000000000000000000000000000000000000000000000000000000000000"; -} diff --git a/wordpdf-core/src/main/resources/xslt/docx2fo.xslt b/wordpdf-core/src/main/resources/xslt/docx2fo.xslt index 264924b..2277583 100644 --- a/wordpdf-core/src/main/resources/xslt/docx2fo.xslt +++ b/wordpdf-core/src/main/resources/xslt/docx2fo.xslt @@ -401,7 +401,10 @@ - + + - - - + + + + + + + + + 
 + @@ -867,7 +886,15 @@ - + + + + 
 + + + + + @@ -1116,7 +1143,8 @@ AbstractVisitorExporterGenerator.walkJAXBElements. @since 17.1.0 --> + select="mc:Choice[java:org.docx4j.utils.XSLTUtils.mcPrefersChoice(string(@Requires)) + or java:org.docx4j.utils.XSLTUtils.mcSelectsChoice($conversionContext, .)][1]"/> len. + // Отрезано на 44-м байте: маркер FFC0 виден сканеру (окно i+4), телеги не хватает. + byte[] jpgSofTruncated = java.util.Arrays.copyOf(jpgSkippingSegments(), 44); + // тот же поток, но SOF0 полный (10×10) — проходит как маленький растр. + byte[] jpgOk = jpgSkippingSegments(); + // мусор вместо маркера после валидного APP0-сегмента (len 6 — сам + // сканер читает окно i+4, следующий «маркер» 00 попадает в него). + ByteArrayOutputStream junk = new ByteArrayOutputStream(); + junk.writeBytes(new byte[] {(byte) 0xFF, (byte) 0xD8, (byte) 0xFF, (byte) 0xE0, 0x00, 0x06}); + junk.writeBytes(new byte[4]); + junk.writeBytes(new byte[] {0x00, 0x00, 0x00, 0x00}); + byte[][] jpgs = {jpgEmpty, jpgNoFf, jpgNoD8, jpgSofTruncated, jpgOk, junk.toByteArray()}; + for (int i = 0; i < pngs.length; i++) { + byte[] zip = zipOf("word/media/g" + i + ".png", pngs[i]); + assertDoesNotThrow(() -> WordPdfValidator.validate(zip, DEF_OPTS), "png[" + i + "]"); + } + byte[][] bmps = {bmpShort, bmpMagic}; + for (int i = 0; i < bmps.length; i++) { + byte[] zip = zipOf("word/media/g" + i + ".bmp", bmps[i]); + assertDoesNotThrow(() -> WordPdfValidator.validate(zip, DEF_OPTS), "bmp[" + i + "]"); + } + for (int i = 0; i < jpgs.length; i++) { + byte[] zip = zipOf("word/media/g" + i + ".jpg", jpgs[i]); + assertDoesNotThrow(() -> WordPdfValidator.validate(zip, DEF_OPTS), "jpg[" + i + "]"); + } + } + + /** + * JPEG-поток, проводящий сканер через все continue-ветки: двойной SOI, + * APP0 (пропуск по длине), DHT (C4 — не SOF несмотря на диапазон C0–CF), + * C8/CC (аналогично), RST0 и TEM (маркеры без телеги, i+=2), и + * завершающий полный SOF0 10×10. + */ + private static byte[] jpgSkippingSegments() { + ByteArrayOutputStream out = new ByteArrayOutputStream(); + out.writeBytes(new byte[] {(byte) 0xFF, (byte) 0xD8}); // SOI + out.writeBytes(new byte[] {(byte) 0xFF, (byte) 0xD8}); // второй SOI: i+=2 + out.writeBytes(new byte[] {(byte) 0xFF, (byte) 0xE0, 0x00, 0x12}); // APP0, len 18 + out.writeBytes(new byte[16]); + out.writeBytes(new byte[] {(byte) 0xFF, (byte) 0xC4, 0x00, 0x02}); // DHT: не SOF, пропуск + out.writeBytes(new byte[] {(byte) 0xFF, (byte) 0xC8, 0x00, 0x02}); // C8: не SOF + out.writeBytes(new byte[] {(byte) 0xFF, (byte) 0xCC, 0x00, 0x02}); // CC: не SOF + out.writeBytes(new byte[] {(byte) 0xFF, (byte) 0xD0}); // RST0: без телеги + out.writeBytes(new byte[] {(byte) 0xFF, (byte) 0x01}); // TEM: без телеги + out.writeBytes(new byte[] {(byte) 0xFF, (byte) 0xC0, 0x00, 0x11, 0x08, 0x00, 0x0A, 0x00, 0x0A}); + return out.toByteArray(); + } + + /** {@code null}-входы package-private гейтов: отказ {@link ValidationException} / false. */ + @Test + void nullGuards_rejectBeforeWork() { + assertThrows(ValidationException.class, () -> WordPdfValidator.checkPageCountDoc(null, 100)); + assertFalse(WordPdfValidator.isBinaryDoc(null)); + assertFalse(WordPdfValidator.isBinaryDoc(new byte[] {(byte) 0xD0, (byte) 0xCF, 0x11, (byte) 0xE0})); + } + + /** {@code null}-параметры публичного {@code validate}: лимиты обязаны быть заданы. */ + @Test + void validate_nullOptions_rejected() { + assertThrows(ValidationException.class, () -> WordPdfValidator.validate(new byte[8], null)); + } + @Test void validate_tooManyPages() throws Exception { byte[] bytes = docxWithPageBreaks(120); diff --git a/wordpdf-core/src/test/java/ru/pjandro/wordpdf/internal/FieldNormalizerTest.java b/wordpdf-core/src/test/java/ru/pjandro/wordpdf/internal/FieldNormalizerTest.java deleted file mode 100644 index 62a5fb7..0000000 --- a/wordpdf-core/src/test/java/ru/pjandro/wordpdf/internal/FieldNormalizerTest.java +++ /dev/null @@ -1,233 +0,0 @@ -package ru.pjandro.wordpdf.internal; - -import org.junit.jupiter.api.Test; - -import static org.junit.jupiter.api.Assertions.assertEquals; -import static org.junit.jupiter.api.Assertions.assertNull; -import static org.junit.jupiter.api.Assertions.assertTrue; - -class FieldNormalizerTest { - - /** Сложное поле Word: begin / instrText / separate / кэш / end. */ - private static String field(String instr, String cached) { - return "" - + "" + instr - + "" - + "" - + "" + cached + "" - + ""; - } - - @Test - void pageFieldBecomesFldSimple() { - String xml = "" + field(" PAGE \\* MERGEFORMAT ", "2") + ""; - String out = FieldNormalizer.rewrite(xml); - - assertTrue(out.startsWith(""), - out); - // кэш остаётся внутри — он даёт оформление (шрифт, размер) - assertTrue(out.contains("2"), out); - assertTrue(out.endsWith(""), out); - assertTrue(!out.contains("fldChar"), "fldChar не удалён: " + out); - } - - @Test - void numpagesAndSectionpagesAreSupported() { - for (String instr : new String[]{" NUMPAGES \\* ARABIC ", " SECTIONPAGES "}) { - String out = FieldNormalizer.rewrite("" + field(instr, "11") + ""); - assertTrue(out.contains(""), instr + ": " + out); - } - } - - /** Инструкцию Word дробит на несколько w:instrText — их нужно склеить. */ - @Test - void instructionSplitAcrossRuns() { - String xml = "" - + " NUM" - + "PAGES " - + "" - + "11" - + ""; - String out = FieldNormalizer.rewrite(xml); - - assertTrue(out.contains(""), out); - } - - @Test - void otherFieldsUntouched() { - String xml = "" + field(" HYPERLINK \"https://example.com\" ", "ссылка") - + ""; - assertNull(FieldNormalizer.rewrite(xml), "чужое поле переписано"); - } - - /** Вложенное поле: разбирать его не берёмся, но и ломать не должны. */ - @Test - void nestedFieldUntouched() { - String xml = "" - + "" - + "= PAGE " - + field(" PAGE ", "2") - + ""; - assertNull(FieldNormalizer.rewrite(xml), "вложенное поле переписано"); - } - - /** Соседние ран-свойства и остальной документ остаются без изменений. */ - @Test - void surroundingContentPreserved() { - String xml = "" - + "до" + field(" PAGE ", "2") - + "после"; - String out = FieldNormalizer.rewrite(xml); - - assertTrue(out.startsWith("" - + "до"), out); - assertTrue(out.endsWith("после"), out); - } - - /** Поле внутри w:sdt — так Word пишет нумерацию «Page Numbers (Top of Page)». */ - @Test - void fieldInsideSdt() { - String xml = "" - + field(" PAGE ", "2") + ""; - String out = FieldNormalizer.rewrite(xml); - - assertTrue(out.startsWith("" - + ""), out); - } - - @Test - void nothingToChangeReturnsNull() { - assertNull(FieldNormalizer.rewrite("текст")); - } - - /** Поле без separate/end — битое, пропускаем, остальное не трогаем. */ - @Test - void unterminatedFieldSkipped() { - String xml = "" - + " PAGE "; - assertNull(FieldNormalizer.rewrite(xml)); - } - - /** Кавычка и ampersand в инструкции не должны сломать атрибут. */ - @Test - void instructionEscapedIntoAttribute() { - String out = FieldNormalizer.rewrite( - "" + field(" STYLEREF \"Раздел & номер\" ", "1") + ""); - // STYLEREF не поддерживается — поле должно остаться как было - assertNull(out); - - String page = FieldNormalizer.rewrite( - "" + field(" PAGE ", "1") + ""); - assertEquals("" - + "1" - + "", page); - } - - /** Маркер begin без единого до него — поле-контейнер не найти, пропускаем. */ - @Test - void beginWithoutAnyRun_skipped() { - assertNull(FieldNormalizer.rewrite("fldCharType=\"begin\"")); - } - - /** begin после закрытого рана: ран-контейнер не найден — пропускаем. */ - @Test - void beginOutsideRun_skipped() { - assertNull(FieldNormalizer.rewrite( - "доfldCharType=\"begin\"")); - } - - /** Ран с begin не закрыт — битое поле, пропускаем. */ - @Test - void beginRunUnclosed_skipped() { - assertNull(FieldNormalizer.rewrite( - "" - + ""; - assertNull(FieldNormalizer.rewrite(xml)); - } - - /** PAGE без separate: кэша нет — fldSimple пустой, число нарисует обработчик. */ - @Test - void fieldWithoutSeparate_emptyFldSimple() { - String xml = "" - + " PAGE " - + ""; - assertEquals("", - FieldNormalizer.rewrite(xml)); - } - - /** separate другого поля после end: кэшем этого поля оно быть не может. */ - @Test - void separateAfterFieldEnd_notCapturedAsCache() { - String xml = "" - + " PAGE " - + "" - + ""; - String out = FieldNormalizer.rewrite(xml); - - assertTrue(out.startsWith(""), out); - assertTrue(out.endsWith(""), out); - } - - /** end вне рана: начало его рана не найти — кэш не берём, поле переписываем пустым. */ - @Test - void endMarkerOutsideRun_noCacheCaptured() { - String xml = "" - + " PAGE " - + "" - + "2" - + "fldCharType=\"end\"" - + "после"; - assertEquals("", - FieldNormalizer.rewrite(xml)); - } - - /** separate и end в одном ране: «кэш» лежал бы раньше маркера — не берём. */ - @Test - void separateAndEndInOneRun_noCacheCaptured() { - String xml = "" - + " PAGE " - + "" - + ""; - assertEquals("", - FieldNormalizer.rewrite(xml)); - } - - /** instrText без закрывающего тега: инструкцию не собрать — поле остаётся. */ - @Test - void unclosedInstrText_fieldSkipped() { - String xml = "" - + " PAGE " - + ""; - assertNull(FieldNormalizer.rewrite(xml)); - } - - /** Ран с атрибутами () — корректное открытие рана, поле переписывается. */ - @Test - void runWithAttributes_fieldRewritten() { - String xml = "" - + " PAGE " - + "" - + "2" - + ""; - String out = FieldNormalizer.rewrite(xml); - - assertTrue(out.startsWith(""), out); - assertTrue(out.contains("2"), "кэш потерян: " + out); - } - - /** Ран с end не закрыт — поле битое, пропускаем. */ - @Test - void endRunUnclosed_fieldSkipped() { - String xml = "" - + " PAGE " - + " ▪, Symbol F0B7 -> •, F02D -> −. */ - private static final String NUMBERING_XML = - "" - + "" - + "" - + "" - + "" - + "" - + "" - + "" - + "" - + "" - + "" - + "" - + ""; - - /** Символьный шрифт в ране + w:sym с собственным w:font. */ - private static final String DOCUMENT_XML = - "" - + "" - + "\uF0B7 хвостик" - + "" - + "до " - + " после" - + "" - + "обычный текст" - + ""; - - private static byte[] makeDocx(String documentXml, String numberingXml) throws IOException { - ByteArrayOutputStream out = new ByteArrayOutputStream(); - try (ZipOutputStream zos = new ZipOutputStream(out)) { - zos.putNextEntry(new ZipEntry("[Content_Types].xml")); - zos.write("\uF0A7".getBytes(StandardCharsets.UTF_8)); - zos.closeEntry(); - zos.putNextEntry(new ZipEntry("word/document.xml")); - zos.write(documentXml.getBytes(StandardCharsets.UTF_8)); - zos.closeEntry(); - if (numberingXml != null) { - zos.putNextEntry(new ZipEntry("word/numbering.xml")); - zos.write(numberingXml.getBytes(StandardCharsets.UTF_8)); - zos.closeEntry(); - } - } - return out.toByteArray(); - } - - private static String readEntry(byte[] zip, String name) throws IOException { - try (ZipInputStream zis = new ZipInputStream( - new java.io.ByteArrayInputStream(zip))) { - ZipEntry e; - while ((e = zis.getNextEntry()) != null) { - if (e.getName().equals(name)) { - return new String(zis.readAllBytes(), StandardCharsets.UTF_8); - } - } - } - throw new AssertionError("нет записи " + name); - } - - @Test - void listMarkersBecomeUnicode() throws Exception { - byte[] result = SymbolFontNormalizer.normalize(makeDocx("", NUMBERING_XML)); - - String numbering = readEntry(result, "word/numbering.xml"); - assertTrue(numbering.contains(""), - "Wingdings F0A7 не стал ▪: " + numbering); - assertTrue(numbering.contains(""), - "Symbol F0B7 не стал •: " + numbering); - assertTrue(numbering.contains(""), - "уровень без символьного шрифта изменён: " + numbering); - assertFalse(numbering.contains("Wingdings"), "имя шрифта не заменено: " + numbering); - assertTrue(numbering.contains("w:ascii=\"" + SymbolFontNormalizer.REPLACEMENT_FAMILY + "\""), - "fallback-семейство не проставлено: " + numbering); - } - - @Test - void symbolFontInRunIsReplaced() throws Exception { - byte[] result = SymbolFontNormalizer.normalize(makeDocx(DOCUMENT_XML, null)); - - String document = readEntry(result, "word/document.xml"); - assertTrue(document.contains("• хвостик"), - "PUA в ране не заменён: " + document); - assertFalse(document.contains("=\"Symbol\""), - "Symbol остался в w:rFonts: " + document); - assertTrue(document.contains("обычный текст"), - "чужой ран изменён: " + document); - } - - /** - * w:sym имеет собственный w:font, поэтому ран разрезается: символ - * уходит в fallback-шрифт, соседний текст сохраняет Times New Roman. - */ - @Test - void symElementSplitsRunAndKeepsNeighbourFont() throws Exception { - byte[] result = SymbolFontNormalizer.normalize(makeDocx(DOCUMENT_XML, null)); - - String document = readEntry(result, "word/document.xml"); - assertTrue(document.contains("♥"), "w:sym F0A9 не стал ♥: " + document); - assertFalse(document.contains("до "), - "текст до w:sym потерян: " + document); - assertTrue(document.contains(" после"), - "текст после w:sym потерян: " + document); - // Соседний текст остался на своём шрифте, символ — на fallback - assertTrue(document.contains("w:ascii=\"Times New Roman\""), - "шрифт соседнего текста изменён: " + document); - assertTrue(document.contains("♥"), "символ потерян: " + document); - } - - @Test - void nothingToChangeReturnsOriginalArray() throws Exception { - byte[] docx = makeDocx("обычный текст", null); - - assertSame(docx, SymbolFontNormalizer.normalize(docx)); - } - - /** Часть вне word/*.xml не трогаем (та же политика, что у DocxOnOffNormalizer). */ - @Test - void nonWordPartsNotTouched() throws Exception { - byte[] result = SymbolFontNormalizer.normalize(makeDocx("", NUMBERING_XML)); - - assertEquals("\uF0A7", readEntry(result, "[Content_Types].xml")); - } - - @Test - void rewriteWithoutMatchesIsNull() { - assertNull(SymbolFontNormalizer.rewrite("текст")); - assertNull(SymbolFontNormalizer.rewrite("нет символных шрифтов")); - } - - /** Символьный шрифт без кодов из PUA и коды из PUA без шрифта — не трогаем. */ - @Test - void fontWithoutPuaAndPuaWithoutFontUntouched() { - assertNull(SymbolFontNormalizer.rewrite( - "текст")); - assertNull(SymbolFontNormalizer.rewrite( - "\uF0A7")); - } - - /** - * Ран внутри текстбокса (вложенный w:r): внутренний ран с Wingdings - * переписывается, каркас внешнего остаётся целым. - * Регрессия — SymbolFontNormalizerTest#nestedRunInTextBox_innerNormalized. - */ - @Test - void nestedRunInTextBox_innerNormalized() { - String xml = "" - + "" - + "\uF0A7 хвостик" - + ""; - - String out = SymbolFontNormalizer.rewrite(xml); - - assertNotNull(out, "внутренний ран не переписан"); - assertTrue(out.contains("▪ хвостик"), "PUA не стал Unicode: " + out); - assertFalse(out.contains("Wingdings"), "имя шрифта не заменено: " + out); - assertTrue(out.contains("w:ascii=\"" + SymbolFontNormalizer.REPLACEMENT_FAMILY + "\""), - "нет fallback-семейства: " + out); - assertTrue(out.contains(""), - "каркас внешнего рана повреждён: " + out); - } - - /** Нет кодов из PUA, но есть w:sym — быстрый путь не отсекает, символ заменяется. */ - @Test - void symWithoutPuaStillRewritten() { - String out = SymbolFontNormalizer.rewrite( - "" - + "a"); - assertNotNull(out, "ран с w:sym без PUA пропущен"); - assertTrue(out.contains("♥"), "w:sym без w:font не взят из шрифта рана: " + out); - assertTrue(out.contains("w:ascii=\"" + SymbolFontNormalizer.REPLACEMENT_FAMILY + "\""), - "нет fallback-семейства у символа: " + out); - assertTrue(out.contains("a"), "текст до w:sym потерян: " + out); - } - - /** Битые/незакрытые конструкции не правим (контракт: null = не трогать). */ - @Test - void malformedRunsUntouched() { - // открывающий есть, закрывающего нет - assertNull(SymbolFontNormalizer.rewrite("\uF0B7")); - // открывающий тег без '>' - assertNull(SymbolFontNormalizer.rewrite("\uF0B7\uF0B7" - + "\uF0B7" - + "\uF0B7"); - assertNotNull(out, "ран с табуляцией/переносом в теге пропущен"); - assertTrue(out.contains("•"), "PUA не стал Unicode: " + out); - assertFalse(out.contains("=\"Symbol\""), "имя шрифта не заменено: " + out); - } - - /** Самозакрывающийся — не блок, поиск продолжается со следующего рана. */ - @Test - void selfClosingRunSkipped() { - String out = SymbolFontNormalizer.rewrite( - "" - + "\uF0B7"); - assertNotNull(out, "ран после не переписан"); - assertTrue(out.contains(""), "самозакрывающийся ран повреждён: " + out); - assertTrue(out.contains("•"), "PUA не стал Unicode: " + out); - } - - /** Два открывающих, один закрывающий: блок берётся до единственного . */ - @Test - void unbalancedNestedRuns_blockUpToSoleClose() { - String out = SymbolFontNormalizer.rewrite( - "" - + "\uF0B7"); - assertNotNull(out, "несбалансированный блок не переписан"); - assertTrue(out.contains("•"), "PUA не стал Unicode: " + out); - assertFalse(out.contains("=\"Symbol\""), "имя шрифта не заменено: " + out); - } - - /** Хвост после единственного без собственного рана — не трогаем. */ - @Test - void danglingTailAfterCloseUntouched() { - assertNull(SymbolFontNormalizer.rewrite("\uF0B7")); - } - - /** Коды вне U+F000–U+F0FF — обычная часть символьного шрифта, не переписываются. */ - @Test - void puaAboveBlockKept() { - assertNull(SymbolFontNormalizer.rewrite( - "\uF100")); - String out = SymbolFontNormalizer.rewrite( - "\uF0B7\uF100"); - assertNotNull(out); - assertTrue(out.contains("•\uF100"), "F0B7/F100 обработаны неверно: " + out); - } - - /** PUA-код без соответствия в таблице остаётся как был, шрифт всё равно меняется. */ - @Test - void unmappedPuaSlotKeepsCode() { - String out = SymbolFontNormalizer.rewrite( - "\uF000"); - assertNotNull(out); - assertTrue(out.contains("\uF000"), "код без маппинга потерян: " + out); - assertFalse(out.contains("=\"Symbol\""), "имя шрифта не заменено: " + out); - } - - /** w:sym в блоке w:lvl (не ран) — не разрезаем. */ - @Test - void symInLevelBlockNotSplit() { - assertNull(SymbolFontNormalizer.rewrite( - "")); - } - - /** Открытый без перед w:sym — битый ран не правим. */ - @Test - void unclosedRPrBeforeSymUntouched() { - assertNull(SymbolFontNormalizer.rewrite( - "")); - } - - /** w:sym без w:char / без w:font в ране без символьного шрифта / код вне PUA / - * слот без маппинга — элемент удаляется, соседний текст сохраняется. */ - @Test - void unresolvableSymElementDropped() { - String noChar = SymbolFontNormalizer.rewrite( - "a"); - assertNotNull(noChar); - assertFalse(noChar.contains("a"), "текст потерян: " + noChar); - - String noFontNoMap = SymbolFontNormalizer.rewrite( - "a"); - assertNotNull(noFontNoMap); - assertFalse(noFontNoMap.contains("a"); - assertNotNull(asciiChar); - assertFalse(asciiChar.contains("a"); - assertNotNull(unmappedChar); - assertFalse(unmappedChar.contains("a")); - } - - /** rPr без w:rFonts: fallback-семейство вставляется первым ребёнком. */ - @Test - void forceFontInsertsRFontsWhenAbsent() { - String out = SymbolFontNormalizer.rewrite( - "" - + ""); - assertNotNull(out); - assertTrue(out.contains(""), - "w:rFonts не вставлен в rPr: " + out); - assertTrue(out.contains("♥"), "символ потерян: " + out); - } - - /** В обработанном блоке несимвольные имена шрифтов остаются как были. */ - @Test - void nonSymbolFontAttrKept() { - String out = SymbolFontNormalizer.rewrite( - "" - + "\uF0B7"); - assertNotNull(out); - assertTrue(out.contains("w:eastAsia=\"Arial\""), "несимвольный шрифт изменён: " + out); - assertTrue(out.contains("w:ascii=\"" + SymbolFontNormalizer.REPLACEMENT_FAMILY + "\""), - "символьный шрифт не заменён: " + out); - assertTrue(out.contains("•"), "PUA не стал Unicode: " + out); - } -} diff --git a/wordpdf-core/src/test/java/ru/pjandro/wordpdf/internal/doc/ListsTest.java b/wordpdf-core/src/test/java/ru/pjandro/wordpdf/internal/doc/ListsTest.java index 3a621d9..c828be6 100644 --- a/wordpdf-core/src/test/java/ru/pjandro/wordpdf/internal/doc/ListsTest.java +++ b/wordpdf-core/src/test/java/ru/pjandro/wordpdf/internal/doc/ListsTest.java @@ -156,7 +156,7 @@ class ListsTest { assertTrue(xml.contains(""), xml); assertTrue(xml.contains(""), xml); assertTrue(xml.contains(""), - "PUA-символ дословно (чинит SymbolFontNormalizer): " + xml); + "PUA-символ дословно (маппит экспорт docx4j 17.3.x): " + xml); } @Test