Baseten приєднується до Hugging Face як провайдер інференції, надаючи доступ до популярних AI-моделей більш широкому колу розробників
Розробники тепер можуть запускати моделі AI з відкритими вагами через Baseten прямо з Hugging Face Hub без надбавок до вартості та з вибором між двома варіантами біллінгу.
Ключові моменти
- Hugging Face додав Baseten до списку підтримуваних провайдерів інференції на своєму Hub моделей, оголошено в 2025 році.
- Baseten спочатку підтримує завдання діалогу та генерування тексту, включаючи моделі такі як Kimi K3 та DeepSeek V4 Flash.
- Підписники Hugging Face PRO отримують $2 щомісячних кредитів на інференцію, які можна використовувати у всіх провайдерів, включаючи Baseten.
- Розробники можуть аутентифікуватися за допомогою одного токена Hugging Face; Hugging Face автоматично маршрутизує запит до Baseten.
- Hugging Face не стягує надбавок на маршрутизовані запити, передаючи вартість провайдера за стандартними тарифами.
Hugging Face, платформа, де дослідники та компанії діляться AI-моделями, додав Baseten до списку своїх провайдерів інференції. Провайдер інференції — це сервіс, який насправді запускає AI-модель і повертає результат. До цієї зміни розробники, які хотіли використовувати моделі, розміщені на Baseten, мали налаштовувати це окремо. Тепер вони можуть зробити це прямо зі сторінки моделі Hugging Face.
Baseten — це компанія, яка розробляє інфраструктуру для AI. Подумайте про це як про платформу, яка обробляє всю роботу сервера, щоб розробник міг викликати потужну AI-модель, наприклад велику мовну модель (технологію, яка живить чат-боти як ChatGPT), кількома рядками коду замість управління комп'ютерами самостійно.
Які моделі доступні прямо зараз?
На момент запуску Baseten підтримує завдання генерування тексту та розмови на Hugging Face, включаючи моделі з відкритими вагами, тобто моделі, дизайн яких є публічно доступним. Початковий набір включає Kimi K3, DeepSeek V4 Flash та GLM-5.2. Незабаром з'являться додаткові типи моделей.
| Модель | Тип | Статус |
|---|---|---|
| Kimi K3 | LLM з відкритими вагами | Доступна зараз |
| DeepSeek V4 Flash | LLM з відкритими вагами | Доступна зараз |
| GLM-5.2 | LLM з відкритими вагами | Доступна зараз |
| Додаткові типи завдань | Текст у мовлення та інші | Розгортаються незабаром |
Як працює біллінг?
Є два варіанти. Якщо ви вказуєте свій власний API-ключ Baseten (приватний код, який ідентифікує ваш акаунт), збори переходять безпосередньо на ваш акаунт Baseten. Якщо ви замість цього аутентифікуєтесь через Hugging Face, вартість з'являється на вашому рахунку Hugging Face за стандартним тарифом провайдера. Hugging Face не додає надбавок.
Підписники Hugging Face PRO отримують $2 кредитів на інференцію щомісяця, які можна використовувати у будь-якого підтримуваного провайдера, включаючи Baseten.
Безкоштовні авторизовані користувачі Hugging Face отримують невелику квоту без оплати. Після цієї межі перехід на PRO розблоковує кредити та вищі ліміти використання.
Чи повинні звичайні користувачі звертати увагу на це?
Якщо ви розробляєте додатки або експериментуєте з AI-інструментами, це важливо: один акаунт, один токен, доступ до кількох провайдерів без жонглювання окремими API-ключами. Для людей, які просто використовують готові додатки, ця зміна невидима, але може тихо підвищити надійність, оскільки розробники тепер можуть переходити між провайдерами без переписування свого коду.
Інтеграція також працює всередині інструментів AI-агентів, програмного забезпечення, яке може виконувати багатокрокові завдання самостійно, такі як Pi, OpenCode та Hermes Agents, тому моделі, що працюють на Baseten, автоматично входять в ці робочі процеси.
Часті запитання
Чи мені потрібен акаунт Baseten, щоб спробувати це?
Ні. Ви можете аутентифікуватися за допомогою свого токена Hugging Face, і запит маршрутизується через Hugging Face. Акаунт Baseten потрібен тільки в тому випадку, якщо ви хочете використовувати свій власний API-ключ Baseten та платити безпосередньо з цього акаунту.
Чи сумісна бібліотека Hugging Face Python або JavaScript?
Так. бібліотека huggingface_hub Python версії 1.26.1 або вище та пакет @huggingface/inference для JavaScript обидва підтримують Baseten з моменту цього запуску.
