Español
English
Français
Português
Deutsch
Italiano
H Company stellt NeoMME vor: Die Single-Tower-Architektur für multimodale Encoder, die Effizienz bei der visuellen Suche neu definiert
KI-generiert
1. Kontext und Kernpunkte
Die Industrie für künstliche Intelligenz wurde bisher von komplexen multimodalen Architekturen dominiert, die auf vortrainierten Vision-Towern und schweren kausalen Decodern basieren. H Company hat dieses Muster mit der Einführung von NeoMME durchbrochen, einer Familie von Single-Tower-multimodalen Encodern (260M und 800M), die mehrsprachigen Text und rohe 32x32-Bild-Patches innerhalb eines einzigen Transformers verarbeiten. Dieser vereinfachte Ansatz reduziert nicht nur die Rechenkomplexität, sondern optimiert drastisch die Kapazität zur Informationswiederherstellung.
Für Technologieführer und Systemarchitekten stellt NeoMME einen Paradigmenwechsel in Richtung extremer Effizienz dar. Mit einer Index-Kompressionskapazität von 255x und einem Durchsatz von 51,3 Seiten pro Sekunde auf einer einzelnen L40S-GPU ist diese Technologie eine direkte Lösung für Unternehmen, die visuelle Retrieval-Systeme (V-RAG) skalieren möchten, ohne die prohibitiven Infrastrukturkosten zu tragen, die mit großen Vision-Language-Modellen (VLM) verbunden sind.
2. Technische Highlights
Die zentrale Innovation von NeoMME liegt in seiner minimalistischen Architektur. Im Gegensatz zu Retrieval-Systemen vom Typ ColPali, die oft einen externen Vision-Tower benötigen, um Bild-Patches in den latenten Raum eines LLM zu projizieren, integriert NeoMME die Verarbeitung von 32x32-Bild-Patches direkt in seinen bidirektionalen Transformer. Durch den Verzicht auf den Vision-Tower und den kausalen Decoder wird das Modell von der Last der Textgenerierung befreit und konzentriert sich ausschließlich auf die hochpräzise Vektorrepräsentation.
Das Vortrainingsziel von NeoMME nutzt eine Technik der maskierten diskreten Diffusion. Dieser Ansatz ermöglicht es dem Modell, robuste Repräsentationen sowohl von Text als auch von visuellen Daten zu erlernen, ohne dass eine explizite Ausrichtung durch komplexe Projektionsschichten erforderlich ist. Indem Bild-Patches als Tokens innerhalb der Sequenz behandelt werden, erreicht das Modell eine überlegene semantische Kohärenz zwischen den Modalitäten, was eine präzisere Wiederherstellung in mehrsprachigen Umgebungen erleichtert.
In Bezug auf die Leistung sind die Ergebnisse im ViDoRe v3-Benchmark aufschlussreich. Das 260M-Modell erreicht einen nDCG@10 von 0,523, ein bemerkenswerter Wert für ein Modell dieser Größe. Diese Effizienz führt zu einer Indexierungskapazität von 51,3 Seiten pro Sekunde auf Hardware der L40S-Klasse, was es Unternehmen ermöglicht, massive Mengen visueller Dokumente mit einem Bruchteil der üblichen Energie- und Rechenkosten zu verarbeiten.
Dennoch sind die Entwickler von NeoMME transparent bezüglich der aktuellen Einschränkungen. Es gibt eine anerkannte Lücke bei der reinen Textwiederherstellung im Vergleich zu spezialisierten Sprachmodellen, was darauf hindeutet, dass NeoMME für multimodales Retrieval optimiert ist und nicht als allgemeiner Ersatz für Aufgaben der natürlichen Sprachverarbeitung (NLP) gedacht ist.| Merkmal | NeoMME (260M) | NeoMME (800M) |
|---|---|---|
| Architektur | Single-Tower (Bidirektional) | Single-Tower (Bidirektional) |
| Vision-Tower | Nein (integriert) | Nein (integriert) |
| Kausaler Decoder | Nein | Nein |
| nDCG@10 (ViDoRe v3) | 0.523 | Abschlussbericht ausstehend |
3. Auswirkungen auf den Sektor
Die Ankunft von NeoMME verändert die Ökonomie von Dokumenten-Retrieval-Systemen. Bisher mussten Unternehmen, die visuelle Retrieval-Systeme implementierten, die Kosten für die Wartung schwerer Vision-Tower und Decoder tragen, die während der Indexierungsphase oft ungenutzt blieben. NeoMME ermöglicht eine "Encoder-only"-Architektur, die operativ und in der Bereitstellung deutlich effizienter ist.
Für den Markt der Unternehmens-KI bedeutet dies, dass die Eintrittsbarriere für die Implementierung visueller Suchsysteme für komplexe Dokumente (wie Rechnungen, technische Zeichnungen oder gescannte Verträge) drastisch gesenkt wird. Die Fähigkeit, Indizes im Verhältnis 255x zu komprimieren, ermöglicht es, Vektordatenbanken, die früher Servercluster erforderten, nun auf wesentlich bescheideneren Infrastrukturen zu betreiben.
Der Wettbewerb mit Modellen wie der Claude-Familie (Claude Opus 5) oder GPT-5.6 Sol wird interessant. Während diese großen Sprachmodelle exzellent im logischen Denken sind, positioniert sich NeoMME als spezialisierte Suchmaschine, die diese Modelle speist. Es ist ein Infrastrukturwerkzeug, kein Endprodukt für den Nutzer.
Unternehmen, die bereits Llama 4 oder Modelle der Qwen 3.8-Max-Serie für ihre KI-Anwendungen nutzen, werden in NeoMME eine ideale ergänzende Komponente finden. Durch die Auslagerung des Dokumenten-Retrievals an NeoMME wird Rechenkapazität bei den Reasoning-Modellen frei, was die Gesamtbetriebskosten (TCO) der Gesamtlösung optimiert.4. Marktperspektiven
Der technische Konsens deutet darauf hin, dass der Trend zur Modellspezialisierung unvermeidlich ist. Die Ära der "Alles-in-einem"-Modelle weicht modularen Architekturen, bei denen jede Komponente für eine spezifische Aufgabe optimiert ist. NeoMME ist ein perfektes Beispiel für diese Philosophie: Durch das Entfernen dessen, was für das Retrieval nicht notwendig ist, wird die Leistung bei der Zielaufgabe maximiert.
Es wird empfohlen, dass Unternehmen NeoMME nicht als Ersatz für ihre aktuellen Sprachmodelle bewerten, sondern als Indexierungs- und Retrieval-Schicht. Die technische Strategie für Ende 2026 besteht darin, Retrieval und Generierung zu entkoppeln. Die Verwendung von NeoMME zum Auffinden relevanter Informationen und die anschließende Weitergabe dieser Fragmente an ein High-Level-Reasoning-Modell wie Claude Mythos 5 oder GPT-6 Astra ist die Referenzarchitektur für RAG-Systeme der nächsten Generation.
Ein Punkt zur Vorsicht ist der Umgang mit Sprachvielfalt. Obwohl NeoMME mehrsprachigen Text verarbeitet, legt die technische Analyse nahe, Stresstests in Sprachen mit geringer Repräsentation vor einer großflächigen Implementierung durchzuführen. Die bidirektionale Architektur ist leistungsstark, aber ihre Wirksamkeit hängt von der Qualität der Vortrainingsdaten im spezifischen Unternehmensbereich ab.
5. Roadmap und Vorhersagen
Kurzfristig erwarten wir eine schnelle Einführung von NeoMME in Sektoren mit hoher Dichte an visuellen Dokumenten, wie dem Rechts-, Finanz- und Ingenieurwesen. Die Fähigkeit, 51,3 Seiten pro Sekunde zu indexieren, ist ein Wettbewerbsvorteil, der Unternehmen anziehen wird, die massive historische Archive verwalten.
Bis Anfang 2027 werden wir wahrscheinlich eine tiefere Integration dieser diskreten Diffusionstechniken in andere Encoder-Modelle sehen. Der Wegfall vortrainierter Vision-Tower könnte zum Standard für Retrieval-Modelle werden und Vision-Modell-Anbieter dazu zwingen, ihre Architekturstrategien zu überdenken.
Wir sagen voraus, dass H Company für Edge-Umgebungen optimierte Versionen von NeoMME auf den Markt bringen wird, die den geringen Ressourcenverbrauch nutzen. Dies würde lokale visuelle Suchfunktionen auf Mobilgeräten oder lokalen Servern ermöglichen, die Abhängigkeit von der Cloud verringern und die Sicherheit von Unternehmensdaten verbessern.
6. Fazit und Bewertung
NeoMME markiert einen Wendepunkt in der Effizienz multimodaler KI. Für CTOs ist der Imperativ klar: Die Optimierung der Retrieval-Infrastruktur ist genauso kritisch wie die Wahl des Sprachmodells. Die Effizienz der Indexierung zu ignorieren, bedeutet, unnötige Betriebskosten und suboptimale Latenzzeiten in Produktionsumgebungen in Kauf zu nehmen.
Unternehmen sollten Proof-of-Concepts (PoC) mit NeoMME durchführen, um die Leistung auf ihren eigenen Datensätzen zu bewerten. Die Fähigkeit, die Indexgröße zu reduzieren und die Verarbeitungsgeschwindigkeit zu erhöhen, ist nicht nur eine technische Verbesserung; es ist ein direkter Wettbewerbsvorteil in einem Markt, in dem die wirtschaftliche Effizienz pro Token und die Latenz beim Informationszugriff die entscheidenden Faktoren für den Erfolg skalierbarer RAG-Architekturen sind.
