Нові моделі AI-пошуку NVIDIA лідирують у глобальних рейтингах і знижують витрати агентів
NVIDIA випустила три нові моделі вкладення, які встановили новий рекорд точності для отримання інформації AI. Найкращий варіант також допомагає агентам AI виконувати завдання швидше і дешевше.
Ключові моменти
- NVIDIA випустила три моделі Nemotron 3 Embed 15 липня 2026 року, усі вільні для комерційного використання.
- Флагманська модель 8B посіла перше місце на RTEB, головній глобальній таблиці лідерів для вимірювання того, як добре AI знаходить релевантну інформацію.
- Менша модель 1B знизила рівні помилок вилучення на 27–28 відсотків порівняно з попередньою моделлю 1B від NVIDIA.
- Варіант оптимізований під обладнання 1B забезпечує до двох разів більшу швидкість обробки на чипах NVIDIA Blackwell, зберігаючи точність вище 99 відсотків від стандартної версії.
- Усі три моделі доступні негайно на Hugging Face.
Коли ви задаєте запитання AI-асистенту, він зазвичай не вгадує відповідь за пам'яттю. Він шукає в бібліотеці документів, витягує найбільш релевантні та складає відповідь на основі знайденого. Цей етап пошуку називається вилученням, і те, наскільки добре він працює, впливає на все подальше.
NVIDIA Corporation, виробник чипів, який також розробляє інструменти програмного забезпечення AI, цього тижня випустила нову сім'ю моделей вилучення під назвою Nemotron 3 Embed. Модель вкладення, щоб пояснити термін простою мовою, – це AI, який перетворює слова та речення на числа, щоб комп'ютер міг швидко порівнювати, наскільки тісно пов'язані два фрагменти тексту. Добрі моделі вкладення швидко знаходять правильні документи. Погані повертають шум, марнують час агента AI і збільшують витрати на обчислення.
Флагманська модель Nemotron-3-Embed-8B-BF16 посіла перше місце на RTEB (Retrieval Text Embedding Benchmark, головному публічному конкурсі точності в галузі) станом на 15 липня 2026 року з оцінкою 78,5 відсотка. Це важливо, оскільки RTEB тестує вилучення багатьма мовами, типами документів і завданнями, тому отримати високий бал там складно за допомогою вузького навчання.
Чи дійсно краще вилучення економить гроші?
Так, і заощадження можуть бути суттєвими. NVIDIA провела показовий експеримент: вони підключили свої нові моделі вкладення до AI-агента, програми, яка може виконувати багатокрокові завдання самостійно, і виміряли, скільки токенів, одиниць тексту, які модель AI читає та записує, агенту потрібно було для завершення завдання пошуку. Точніше вилучення повернуло корисні результати раніше, тому агенту потрібно було менше повторних пошуків і менше кроків міркування. Менше кроків означає нижчі підрахунки токенів, а нижчі підрахунки токенів означають менші рахунки.
Модель 8B дала як найвищу точність, так і найнижчу орієнтовну вартість токенів у трьох стандартних бенчмарках. Це не компроміс; це просто краща модель, яка робить менше непотрібної роботи.
Для організацій, які не можуть дозволити собі запускати модель з 8 мільярдами параметрів у масштабі, NVIDIA також випустила версію з 1 мільярдом параметрів Nemotron-3-Embed-1B-BF16. Вона набирає 72,4 відсотка на RTEB, що все ще хороше, і знижує рівні помилок на 27 відсотків порівняно зі своїм попередником. Третій варіант Nemotron-3-Embed-1B-NVFP4 використовує стиснений числовий формат NVFP4 на обладнанні NVIDIA Blackwell для запуску зі швидкістю до двох разів більшою ніж стандартна версія, при цьому втрачаючи менше одного відсотка точності.
Усі три моделі підтримують документи довжиною до 32 000 токенів, обробляють кілька мов і працюють з репозиторіями коду. NVIDIA опублікувала ваги моделей, деталі навчальних даних і рецепти точного налаштування, тому команди можуть адаптувати моделі до власних документів, не починаючи з нуля.
Це бенчмарки компанії та власні оцінки NVIDIA. Незалежні клінічні випробування не застосовуються тут, але таблиця лідерів RTEB ведеться незалежно, і топ-рейтинг є значущим зовнішнім сигналом. Розробники, які хочуть протестувати моделі на своїх даних, можуть завантажити їх сьогодні, як було вперше відзначено Hugging Face, де всі три перераховані.
