NVIDIAs neue KI-Suchmodelle führen globale Rankings an und senken Agent-Kosten
NVIDIA hat drei neue Embedding-Modelle veröffentlicht, die einen neuen Genauigkeitsrekord für die KI-Informationsbeschaffung setzen. Das beste Modell hilft auch KI-Agenten, Aufgaben schneller und günstiger zu erledigen.
Hauptpunkte
- NVIDIA hat am 15. Juli 2026 drei Nemotron 3 Embed-Modelle veröffentlicht, alle kostenlos kommerziell nutzbar.
- Das Flaggschiff-Modell mit 8B Parametern rangiert auf RTEB, der wichtigsten globalen Rangliste für die Messung der KI-Informationsbeschaffung, auf Platz eins.
- Das kleinere 1B-Modell senkt die Abruffehlerquoten um 27 bis 28 Prozent im Vergleich zu NVIDIAs vorherigem 1B-Modell.
- Die hardwareoptimierte 1B-Variante liefert auf NVIDIAs Blackwell-Chips bis zu doppelte Verarbeitungsgeschwindigkeit, während die Genauigkeit über 99 Prozent der Standardversion bleibt.
- Alle drei Modelle sind sofort auf Hugging Face verfügbar.
Wenn Sie einen KI-Assistenten eine Frage stellen, errät er die Antwort normalerweise nicht aus dem Gedächtnis. Er durchsucht eine Dokumentenbibliothek, zieht die relevantesten Dateien heraus und schreibt dann eine Antwort basierend auf dem Gefundenen. Dieser Suchschritt wird als Abruf (Retrieval) bezeichnet, und seine Qualität prägt alles, was danach folgt.
NVIDIA Corporation, der Chiphersteller, der auch KI-Softwaretools entwickelt, hat diese Woche eine neue Familie von Abrufmodellen namens Nemotron 3 Embed veröffentlicht. Ein Embedding-Modell konvertiert vereinfacht gesagt Wörter und Sätze in Zahlen, damit ein Computer schnell vergleichen kann, wie eng zwei Textstellen miteinander verbunden sind. Gute Embedding-Modelle finden die richtigen Dokumente schnell. Schlechte Modelle bringen Rauschen zurück, verschwenden die Zeit des KI-Agenten und treiben die Rechenkosten in die Höhe.
Das Flaggschiff-Modell Nemotron-3-Embed-8B-BF16 belegte am 15. Juli 2026 den ersten Platz auf RTEB (Retrieval Text Embedding Benchmark, dem wichtigsten öffentlichen Genauigkeitswettbewerb des Fachs) mit einer Punktzahl von 78,5 Prozent. Das ist wichtig, da RTEB den Abruf in vielen Sprachen, Dokumenttypen und Aufgaben testet, sodass eine Spitzenplatzierung dort schwer zu manipulieren ist.
Spart besseres Retrieval wirklich Geld?
Ja, und die Einsparungen können erheblich sein. NVIDIA führte ein aussagekräftiges Experiment durch: Sie verbanden ihre neuen Embedding-Modelle mit einem KI-Agenten, einem Softwareprogramm, das mehrstufige Aufgaben selbstständig ausführen kann, und maßen, wie viele Tokens – die Texteinheiten, die ein KI-Modell liest und schreibt – der Agent zum Abschluss einer Suchaufgabe benötigte. Präzisere Abrufe lieferten schneller nützliche Ergebnisse, sodass der Agent weniger wiederholte Suchen und weniger Reasoning-Schritte benötigte. Weniger Schritte bedeuten niedrigere Token-Zähler, und niedrigere Token-Zähler bedeuten niedrigere Rechnungen.
Das 8B-Modell lieferte sowohl die höchste Genauigkeit als auch die niedrigsten geschätzten Token-Kosten über drei Standard-Benchmarks hinweg. Das ist kein Kompromiss; es ist einfach ein besseres Modell, das weniger unnötige Arbeit verrichtet.
Für Organisationen, die es sich nicht leisten können, ein Modell mit 8 Milliarden Parametern in großem Maßstab auszuführen, veröffentlichte NVIDIA auch eine Version mit 1 Milliarde Parametern, Nemotron-3-Embed-1B-BF16. Sie erreicht auf RTEB 72,4 Prozent, was immer noch stark ist, und senkt die Fehlerquoten um 27 Prozent gegenüber ihrem Vorgänger. Eine dritte Variante, Nemotron-3-Embed-1B-NVFP4, verwendet ein komprimiertes Zahlenformat namens NVFP4 auf Blackwell-Hardware von NVIDIA, um mit bis zu doppelter Geschwindigkeit der Standardversion zu laufen, während sie weniger als ein Prozent Genauigkeit verliert.
Alle drei Modelle unterstützen Dokumente bis zu 32.000 Tokens Länge, bearbeiten mehrere Sprachen und funktionieren mit Code-Repositories. NVIDIA hat die Modellgewichte, Trainingsdatendetails und Fine-Tuning-Rezepte veröffentlicht, sodass Teams die Modelle an ihre eigenen Dokumente anpassen können, ohne von vorne anzufangen.
Dies sind Unternehmens-Benchmarks und NVIDIAs eigene Evaluierungen. Unabhängig durchgeführte klinische Tests gelten hier nicht, aber die RTEB-Rangliste wird unabhängig gepflegt, und die Spitzenplatzierung ist ein aussagekräftiges externes Signal. Entwickler, die die Modelle auf ihren eigenen Daten testen möchten, können sie heute herunterladen, wie zuerst von Hugging Face bemerkt, wo alle drei aufgelistet sind.
