IA multimodale : ce qui est réellement disponible

RAGatm Open est d’abord une plateforme de texte. Le code publié contient des extracteurs pour les images, les PDF numérisés, les dessins techniques, les maquettes et l’audio, mais la plupart sont désactivés ou incomplets dans l’édition Open. Cette page distingue chaque cas.

Cinq niveaux à ne pas confondre

Pour chaque type de contenu, le site distingue ce que le code produit réellement.

1. Texte extractible

Les chaînes de caractères présentes dans le fichier (couche texte d’un PDF, annotations d’un DXF).

2. Éléments géométriques

Lignes, polylignes, arcs… Dans l’édition Open, ils sont comptés mais jamais indexés.

3. Structure reconnue

Titres, tableaux, diapositives, calques, hiérarchie spatiale IFC : conservés comme blocs typés avec un localisateur pour les citations.

4. Compréhension sémantique

Interpréter un schéma, une légende, une vue 3D. Aucun composant de l’édition Open ne le fait.

5. Réponse RAG appuyée sur ces éléments

Possible uniquement pour les niveaux 1 et 3 ; la réponse cite alors le texte ou la structure, pas le dessin.

Vision, OCR et images

Ce que deviennent les images, les PDF numérisés et les descriptions visuelles.

Vision, OCR et images
FonctionnalitéStatutDescription et limitesDétails
Tableaux natifs (PDF, DOCX, PPTX, XLSX)Disponible par défaut

PDF : seul le type pile_head_forces est extrait en structuré (toujours actif) ; tableaux PDF génériques sous flag (off) ; DOCX linéarisés « cellule | cellule » ; PPTX en Markdown ; XLSX en chunks structurés avec locator feuille+plage.

Tableaux PDF génériques partiels et désactivés ; données de graphiques Office désactivées ; images et graphiques XLSX ignorés.

Détails
Réglage
DOCUMENT_PDF_GENERIC_TABLES_ENABLED (0), DOCUMENT_TABLE_OCR_ENABLED (0)
Activé dans Compact
Oui
Qualification
Tableaux XLSX qualifiés sur document réel selon le registre de capacités du dépôt.
Sources
DXF : extraction documentaire (texte, attributs)Disponible avec configuration

ezdxf installé ; annotations TEXT/MTEXT/DIMENSION/MULTILEADER par layout+calque et ATTRIB de blocs ; entités géométriques seulement comptées ; flag fermé par défaut.

Texte : oui ; géométrie : comptée, jamais indexée ; structure : calques et blocs ; compréhension sémantique : non ; ancrage RAG : annotations seulement.

Détails
Nécessite
DOCUMENT_DXF_ENABLED=1
Réglage
DOCUMENT_DXF_ENABLED
Activé dans Compact
Non
Qualification
Qualifié sur fichiers synthétiques selon le registre de capacités du dépôt.
Sources
OCR PDF (Tesseract local)Module optionnel

OCR des pages PDF sans texte via pytesseract + pypdfium2 (fra+eng, auto-rotation, ≤50 pages, 60 s/page) ; off dans le code et en Compact ; image Compact construite sans Tesseract (WITH_OCR=0).

Moteur unique sans repli ; texte OCR classé « autre » (jamais preuve numérique) ; sans OCR un PDF numérisé échoue (pdf_scanned_requires_ocr).

Détails
Nécessite
image backend construite avec WITH_OCR=1 (tesseract-ocr + requirements-ocr.lock) · DOCUMENT_OCR_ENABLED=1
Réglage
DOCUMENT_OCR_ENABLED, DOCUMENT_OCR_LANGUAGES, DOCUMENT_OCR_MAX_PAGES, DOCUMENT_OCR_TIMEOUT_SECONDS
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
OCR des images autonomesModule optionnel

Images JPEG/PNG/TIFF/WEBP acceptées et OCRisées systématiquement par Tesseract ; en Compact l’image est acceptée puis échoue ocr_engine_missing.

Dans Compact : échec propre, aucun texte extrait des images.

Détails
Nécessite
image construite avec WITH_OCR=1
Réglage
DOCUMENT_IMAGE_INGEST_ENABLED (1), DOCUMENT_IMAGE_FORMATS
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
OCR multilingueModule optionnel

Langues Tesseract configurables (défaut fra+eng ; image WITH_OCR installe tesseract-ocr-fra/eng).

D’autres langues exigent des paquets Tesseract supplémentaires dans une image personnalisée.

Détails
Nécessite
WITH_OCR=1
Réglage
DOCUMENT_OCR_LANGUAGES
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
Description d’images par un modèle de visionModule optionnel

Appel POST /v1/vision/analyze (tâche describe) produisant une description textuelle indexée ; off côté RAGatm et Gateway ; aucun modèle vision au registre Compact ; file ingest_visual sans consommateur en Compact.

La description est un texte, pas une extraction de valeurs ; inaccessible dans Compact (aucun modèle de vision).

Détails
Nécessite
passerelle avec AI_GATEWAY_VISION_ENABLED=1 + modèle de vision enregistré (modalité image, digest) · DOCUMENT_VISUAL_ANALYSIS_ENABLED=1 · worker --queues=ingest_visual
Réglage
DOCUMENT_VISUAL_ANALYSIS_ENABLED, DOCUMENT_VISUAL_ANALYSIS_SOURCES, AI_GATEWAY_VISION_ENABLED
Activé dans Compact
Non
Qualification
Qualifiée uniquement avec un modèle de vision hors Compact (commentaire du code de la passerelle).
Sources
Enrichissement visuel des images intégréesModule optionnel

Découverte des images intégrées PDF/DOCX/PPTX puis description Vision différée ; la découverte PDF exige PyMuPDF (AGPL, non installé) ; DOCX/PPTX jamais qualifiés contre une Gateway réelle.

Vision sur images intégrées aux PDF impossible avec l’image Open par défaut.

Détails
Nécessite
prérequis de « Description d’images par un modèle de vision » · extra PyMuPDF pour les PDF (AGPL, non inclus)
Réglage
DOCUMENT_VISUAL_ANALYSIS_SOURCES incl. pdf/docx/pptx
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
DWG via LibreDWGModule optionnel

Conversion DWG→DXF par l’exécutable GPL dwg2dxf (sous-processus) puis DxfExtractor ; option de build WITH_DWG=1 et worker ingest_dwg ; non construit en Compact.

Mêmes limites que le DXF ; exécutable GPL séparé.

Détails
Nécessite
image construite avec WITH_DWG=1 · worker --queues=ingest_dwg · DOCUMENT_DWG_ENABLED=1
Réglage
DOCUMENT_DWG_ENABLED
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
IFC / BIM : extraction sémantiqueModule optionnel

Hiérarchie spatiale, éléments, propriétés, quantités, matériaux via ifcopenshell (extra ifc, ~147 Mo) ; aucune géométrie ni coordonnée ; worker ingest_ifc requis ; non construit en Compact.

Texte et attributs : oui ; géométrie : non ; 3D : non ; sémantique : attributs du schéma seulement.

Détails
Nécessite
image construite avec WITH_IFC=1 · worker --queues=ingest_ifc · DOCUMENT_IFC_ENABLED=1
Réglage
DOCUMENT_IFC_ENABLED
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
Numérisation de courbes (expérimentation interne)
édition privée uniquement
Expérimental

Module expérimental de digitalisation de courbes exécuté en ombre ; rien n’est publié dans l’index.

Expérimentation interne dépendant d’un module absent.

Détails
Nécessite
« Extraction structurée de mise en page (module externe) »
Réglage
STRUCTURED_VISUAL_CURVE_SHADOW_ENABLED (0)
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
Vision par régions (expérimentation interne)
édition privée uniquement
Expérimental

Orchestration V2 (rendu pdfium, rognage de régions) expérimentale, allowlist vide, aucun fragment produit.

Expérimentation interne.

Détails
Réglage
VISUAL_V2_ORCHESTRATION_ENABLED (0)
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
Compréhension de graphiques, schémas et dessins techniquesNon qualifié

Les tâches table/diagram/chart/technical_drawing existent au schéma Gateway mais ne sont pas qualifiées (400 vision_task_not_qualified) ; graphiques et plans ne reçoivent au mieux qu’une description ; aucune valeur de série ni relation structurée.

Texte : via description seulement ; géométrie : non ; structure : non ; compréhension sémantique : non ; ancrage RAG : texte de description seulement.

Détails
Nécessite
« Description d’images par un modèle de vision »
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
Service local d’analyse de mise en page (rail hybride)Non qualifié

Rail hybride vers un service d’analyse de mise en page local (boucle locale), 3 pages par document au maximum ; non qualifié, absent de Compact.

Aucune limite particulière relevée.

Détails
Nécessite
service MinerU local
Réglage
DOCUMENT_MINERU_HYBRID_ENABLED (0)
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
Figures vectorielles PDFNon qualifié

Rendu des régions vectorielles d’un PDF (PyMuPDF) puis description ; drapeau et liste d’espaces autorisés ; extraction visuelle non retenue.

Nécessite PyMuPDF, absent de l’image Open.

Détails
Nécessite
extra PyMuPDF (AGPL, non inclus) · « Description d’images par un modèle de vision »
Réglage
DOCUMENT_PDF_VECTOR_REGION_RENDER_ENABLED (0)
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
Points d’API de vision de la passerelleNon activé

POST /v1/vision/analyze, GET /v1/vision/capacity, GET /health/vision existent (backend OllamaVisionBackend) ; désactivés (503 vision_not_enabled) ; semantic_extract exclu de l’édition Open.

Seule la description est qualifiée ; pas d’OCR dans la passerelle.

Détails
Nécessite
AI_GATEWAY_VISION_ENABLED=1 · modèle de vision enregistré
Réglage
AI_GATEWAY_VISION_ENABLED, AI_GATEWAY_VISION_MODEL
Activé dans Compact
Non
Qualification
Tests Open vérifiant les états 503/désactivé.
Sources
OCR des images intégrées (PDF/DOCX/PPTX)Non disponible

Aucun OCR n’est appliqué aux images intégrées dans PDF/DOCX/PPTX ; seul le texte alternatif saisi par l’auteur est lu pour les slides.

Aucune limite particulière relevée.

Détails
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
Extraction structurée de mise en page (module externe)
édition privée uniquement
Non disponible

Route d’extraction structurée (tableaux → lignes/cellules, graphiques → séries) : client présent dans RAGatm, mais route absente de la passerelle Open (404) et module non inclus.

Module d’extraction structurée externe, absent de l’édition Open.

Détails
Nécessite
moteur d’extraction structurée non livré
Réglage
STRUCTURED_VISUAL_ENABLED (0), AI_GATEWAY_STRUCTURED_EXTRACT_ENABLED (refused)
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
Géométrie, rendu 3D, légendesNon disponible

Aucun rendu graphique, aucune géométrie indexée, aucune compréhension de légendes pour les formats CAD/BIM ; les plans/schémas en image ne reçoivent qu’une description Vision (si activée).

Aucune limite particulière relevée.

Détails
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources

Formats concernés

Vision, OCR et images
FormatStatutOCRLimites
PDF scanné / image (OCR)Module optionnelnonImport accepté (PDF valide) mais ingestion en échec dans Compact (pdf_scanned_requires_ocr). Avec une image reconstruite avec OCR : Tesseract local uniquement, 50 pages maximum, 60 s par page, langues fra+eng ; reconstruction de tableaux par OCR expérimentale et non qualifiée.
Image JPEGModule optionnelnonAccepté à l’import (DOCUMENT_IMAGE_INGEST_ENABLED=1 par défaut), mais l’extraction repose uniquement sur l’OCR : dans Compact (WITH_OCR=0), l’ingestion échoue avec ocr_engine_missing. Aucune description visuelle par modèle de vision dans l’édition Open.
Image PNGModule optionnelnonAccepté à l’import (DOCUMENT_IMAGE_INGEST_ENABLED=1 par défaut), mais l’extraction repose uniquement sur l’OCR : dans Compact (WITH_OCR=0), l’ingestion échoue avec ocr_engine_missing. Aucune description visuelle par modèle de vision dans l’édition Open.
Image TIFFModule optionnelnonAccepté à l’import (DOCUMENT_IMAGE_INGEST_ENABLED=1 par défaut), mais l’extraction repose uniquement sur l’OCR : dans Compact (WITH_OCR=0), l’ingestion échoue avec ocr_engine_missing. Aucune description visuelle par modèle de vision dans l’édition Open.
Image WEBPModule optionnelnonAccepté à l’import (DOCUMENT_IMAGE_INGEST_ENABLED=1 par défaut), mais l’extraction repose uniquement sur l’OCR : dans Compact (WITH_OCR=0), l’ingestion échoue avec ocr_engine_missing. Aucune description visuelle par modèle de vision dans l’édition Open.
Image GIFNon activénonDétecté par signature mais refusé (image_unsupported_format) : absent de la liste DOCUMENT_IMAGE_FORMATS par défaut. L’ajouter à la liste exige en plus une image construite avec OCR.
Image BMPNon activénonDétecté par signature mais refusé (image_unsupported_format) : absent de la liste DOCUMENT_IMAGE_FORMATS par défaut. L’ajouter à la liste exige en plus une image construite avec OCR.

Tableaux et graphiques

Les tableaux sont extraits de plusieurs formats ; les graphiques ne sont pas reconnus.

Tableaux et graphiques
FormatStatutTableauxMise en pageLimites
PDF (couche texte)Disponible par défautpartielpartielMoteur pypdf avec repli pdfminer/pdfplumber. 500 pages et 180 s d’extraction au maximum. Tableaux : seuls les types reconnus sont extraits par défaut ; les grilles génériques nécessitent un drapeau et une liste d’espaces autorisés. Images intégrées jamais extraites dans Compact. Les PDF numérisés échouent sans OCR.
Word (.docx)Disponible par défautouipartielCorps du document uniquement : en-têtes, pieds de page, notes et zones de texte ne sont pas extraits. Tableaux linéarisés. Images intégrées ignorées. Citations sans numéro de page (format non paginé).
Excel (.xlsx)Disponible par défautouipartielIngestion documentaire uniquement : cellules rendues par fenêtres (40 lignes) avec provenance feuille/plage ; aucun calcul ni évaluation de formule. Limites : 1 000 000 cellules, 100 feuilles, 256 colonnes. Images ignorées.
PowerPoint (.pptx)Disponible par défautouipartielUne unité par diapositive (citations par numéro de diapositive). Tableaux rendus en Markdown. Images : seul le texte alternatif saisi par l’auteur est indexé, jamais d’OCR. Notes du présentateur désactivées par défaut. Limite 500 diapositives.
CSVDisponible par défautouinonSéparateurs virgule, point-virgule ou tabulation. Limites : 100 000 lignes, 256 colonnes, 10 000 caractères par cellule. Une unité « colonne : valeur » par ligne. Aucun calcul tabulaire par défaut.
Markdown (.md)Disponible par défautouipartielReconnu par l’extension .md/.markdown uniquement. Titres, listes, tableaux et blocs de code conservés comme blocs typés ; HTML en ligne neutralisé ; liens jamais suivis. Limite 2 000 000 caractères.
HTMLDisponible par défautpartielpartielTraité comme hostile : scripts, styles, iframes, SVG et formulaires supprimés ; aucune ressource externe chargée. Lignes de tableau aplaties en texte. Limite 2 000 000 caractères.

Les graphiques (courbes, diagrammes) ne sont pas reconnus : seules les données natives de graphiques Office peuvent être extraites, sous un drapeau désactivé par défaut.

Plans, dessins vectoriels, CAO et BIM

DXF, DWG, IFC : un support documentaire, pas une interprétation graphique.

Plans, dessins vectoriels, CAO et BIM
FormatStatutTexteGéométrieMétadonnéesLimites
Dessin DXF (.dxf)Disponible avec configurationouinonouiFermé par défaut (dxf_ingestion_disabled) ; la configuration Compact ne l’ouvre pas. Support documentaire : annotations (TEXT, MTEXT, cotes), attributs de blocs, calques et références déclarées. Les entités géométriques sont seulement comptées : aucune coordonnée indexée, aucun rendu, aucune interprétation du dessin.
Dessin DWG (.dwg)Module optionnelouinonouiOption de construction désactivée dans Compact (WITH_DWG=0). Conversion en DXF temporaire par LibreDWG (GPL, revue de conformité demandée par la documentation) puis même périmètre documentaire que le DXF ; versions AutoCAD 2000-2018 uniquement.
Maquette IFC (.ifc)Module optionnelouinonouiOption de construction désactivée dans Compact (WITH_IFC=0) et drapeau fermé. Extraction sémantique uniquement : hiérarchie spatiale, éléments, propriétés, quantités, matériaux ; aucune géométrie, aucun rendu. Nécessite un worker dédié.
SVG (texte brut)Non qualifiépartielnonnonAucun extracteur dédié : le fichier est classé texte brut et indexé tel quel (balises ou structure comprises). Non testé ; résultat de recherche non garanti.

Audio et transcription

Le code d’ingestion audio existe ; le moteur de transcription, non.

Audio et transcription
FonctionnalitéStatutDescription et limitesDétails
Ingestion audio et transcription via la passerelleModule optionnel

Dépôt /documents/upload-audio/ (mp3, m4a, wav, flac, ogg, webm ; ≤600 Mo ; ≤12 h), ffprobe/ffmpeg → FLAC 16 kHz par parties ≤90 min → job ASR asynchrone Gateway (asr-whisper-turbo) ; unités ≤1000 car. avec time_range.

Un seul travail ASR en cours par environnement ; taux d’erreur non mesuré ; transcription jamais preuve numérique ; pas de lecteur audio.

Détails
Nécessite
image construite avec WITH_AUDIO=1 (ffmpeg) · worker --queues=ingest_audio · passerelle avec moteur de transcription (ASR) · DOCUMENT_AUDIO_INGEST_ENABLED=1 (+ activation globale ou liste d’espaces)
Réglage
DOCUMENT_AUDIO_INGEST_ENABLED, DOCUMENT_AUDIO_GLOBAL_ENABLED, DOCUMENT_AUDIO_RAGSPACE_IDS, AUDIO_ASR_*
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
Transcription multilingueNon qualifié

Langue auto|fr|en au contrat ASR ; langues annoncées fr/en ; qualité non mesurée.

Aucune limite particulière relevée.

Détails
Nécessite
« Points d’API de transcription (ASR) de la passerelle »
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
Points d’API de transcription (ASR) de la passerelleNon activé

POST/GET/DELETE /v1/audio/transcriptions (multipart, formats json|text|srt|vtt, language auto|fr|en, diarize, jobs 202) relayés vers un backend faster-whisper externe sur 127.0.0.1:8400 non inclus ; désactivés (503 asr_unavailable).

La passerelle ne décode jamais l’audio ; le backend ASR ne fait pas partie de la distribution Open.

Détails
Nécessite
AI_GATEWAY_ASR_ENABLED=1 · moteur compatible faster-whisper fourni par l’exploitant, en boucle locale · registre asr_models
Réglage
AI_GATEWAY_ASR_ENABLED
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources
Audio en profil CompactNon activé

Audio désactivé : WITH_AUDIO=0, DOCUMENT_AUDIO_*=0, AI_GATEWAY_ASR_ENABLED=0, pas de worker ingest_audio ; la qualification E2E attend un refus du dépôt audio.

Aucune limite particulière relevée.

Détails
Activé dans Compact
Non
Qualification
La qualification Compact vérifie le refus d’un envoi audio.
Sources
Identification des locuteurs (diarisation)
édition privée uniquement
Non disponible

Demandée par RAGatm (diarize=true, ≤4 locuteurs, libellés speaker_00…) et déclarée au vocabulaire du registre Gateway ; le backend (Sortformer) n’est pas inclus.

Aucune limite particulière relevée.

Détails
Nécessite
« Points d’API de transcription (ASR) de la passerelle » avec un moteur capable de diarisation
Activé dans Compact
Non
Qualification
Aucune qualification dédiée identifiée.
Sources

Activer une capacité optionnelle

Chaque option implique une reconstruction d’image ou un composant supplémentaire, et aucune n’est couverte par la qualification Compact.

  • OCR : reconstruire l’image backend/worker avec WITH_OCR=1 (Tesseract + données fra/eng) et activer DOCUMENT_OCR_ENABLED ; 50 pages maximum, 60 s par page.
  • DXF : DOCUMENT_DXF_ENABLED=1 (analyseur ezdxf déjà inclus) ; XML et EML suivent le même principe.
  • DWG : worker dédié construit avec WITH_DWG=1 (LibreDWG, GPL : revue de conformité à la charge de l’exploitant), file ingest_dwg.
  • IFC : worker dédié construit avec WITH_IFC=1 (IfcOpenShell), file ingest_ifc.
  • Audio : worker construit avec WITH_AUDIO=1 (ffmpeg), file ingest_audio, et un service ASR compatible derrière la passerelle, non fourni.
  • Vision : aucun modèle de vision n’est déclaré dans le registre Open ; la passerelle répond vision_not_enabled.

Captures réalisées sur une instance RAGatm Open isolée (édition Open, profil Compact sur CPU, reranker désactivé pour la capture), avec les documents fictifs publiés dans le dépôt et un compte de démonstration.