DeepSeek знизив ціни на 75%. Витрати на AI все ще зростають.
Дешевші моделі AI мали зробити AI-бізнес прибутковішим. Прихована проблема, яка називається посиленням токенів, робить навпаки.
Ключові моменти
- DeepSeek знизив ціну своєї великої мовної моделі V4-Pro на 75% у середині 2025 року, проте багато корпоративних клієнтів стверджують, що їхні рахунки за AI все ще зростають.
- Один запит користувача, обробленийым ним AI-агентом — програмним забезпеченням, яке самостійно виконує багатокрокові завдання, — може спровокувати 35 тисяч або більше оплачуваних одиниць тексту, які називаються токенами, тоді як базовий чатбот спровокував би кілька сотень.
- Один реальний запит підприємства до провідної моделі коштує від $0,10 до $0,40; при мільйоні запитів на місяць це становить шестизначний рядок видатків, навіть без інших витрат.
- Кілька постачальників корпоративного програмного забезпечення приватно повідомляють про негативні валові маржі на своїх найактивніших користувачах AI, що означає, що обслуговування цих клієнтів коштує більше, ніж вони платять.
- OpenAI нещодавно запропонував кожному стартапу в прискорювачі Y Combinator $2 мільйони безплатних кредитів API — ознака того, наскільки дорого нині створювати AI-нативний продукт з нуля.
DeepSeek, китайська лабораторія AI, на початку цього року знизила вартість своєї моделі V4-Pro на 75%. Для компаній, що розробляють AI-продукти, це мало відчуватися як підвищення заробітної плати. Для багатьох це майже нічого не змінило.
Причина полягає в тому, як насправді будуються сучасні системи AI.
Базовий чатбот простий: одне запитання від користувача, одна відповідь від моделі. AI-агент відрізняється. Це програмне забезпечення, яке розбиває один запит користувача на багато менших кроків, планує, що робити, шукає інформацію, використовує інструменти, перевіряє свою роботу, а потім написує остаточну відповідь. Користувач бачить одну відповідь. Постачальник платить за кожен крок між ними.
Цей розрив між тим, що бачить користувач, і тим, за що платить постачальник, нині називається проблемою «100x». Запит, який коштує кілька центів на чатботі, може коштувати доларів на системі агента, іноді набагато більше.
Ось конкретний приклад. Користувач набирає: «Що запитував наш топ-клієнт минулого тижня?» Просте запитання. Але типовий агент виконує сім окремих оплачуваних операцій, щоб відповісти на нього: прочитування повідомлення користувача, завантаження його інструкцій і списку інструментів, отримання відповідних записів, вибір інструменту для використання, запуск цього інструменту, підсумування результатів і вирішення питання про необхідність додаткового запитання. Разом ці кроки виставляють рахунок приблизно в 35 тисяч токенів. Токени — це невеликі фрагменти тексту, зазвичай кілька символів кожен, які моделі AI лічать і виставляють рахунок за них.
При поточних цінах на провідну модель цей один запит коштує $0,10–$0,40. На мільйон запитів на місяць, типову ціль для будь-якої функції ділового програмного забезпечення, рахунок приземляється в шістьох цифрах.
Чому це має значення для звичайних користувачів програмного забезпечення?
Це має значення, тому що стандартна модель ціноутворення для ділового програмного забезпечення розпадається під цим тиском. Більшість програмного забезпечення AI сьогодні продається на основі за посадовою особою, на місяць, що означає, що компанія платить фіксовану плату за кожного працівника, який використовує інструмент. Це добре працює, якщо витрати на користувача залишаються передбачуваними. Посилення токенів руйнує прогноз.
Активний користувач, який щодня виконує 50–100 завдань агента за планом на $40 на місяць, може коштувати постачальнику більше у обробці AI, ніж цей план збирає доходу. Постачальник втрачає гроші на своїх найкращих клієнтів. Це парадокс, який, як повідомляв VentureBeat цього тижня, тепер з'являється в реальних рахунках компаній.
Продукт Agentforce від Salesforce є найбільш громадським прикладом. З'явився розрив між тим, що показує маркетинг, і тим, що насправді поставляється клієнтам. Такий розрив з'являється, коли функція технічно можлива, але занадто дорога для доставки за ціною, яку передбачає підписка.
Віцепрезидент Nvidia Брайан Катанзаро висловився чітко: «Для моєї команди вартість обчислення значно перевищує витрати на співробітників».
Виправлення існують. Постачальники можуть спрямовувати дешеві запити на менші, дешевші моделі та економити приблизно 60% на рахунках за умовиводи. Вони можуть кешувати, тобто повторно використовувати повторні інструкції, тому модель не перечитує їх з нуля при кожному виклику. Вони можуть скоротити інформацію, передану моделі на кожному кроці. Жодна з них не екзотична. Всі вони вимагають розглядати вартість AI як пріоритет основної інженерії, а не вторинну думку.
Для користувачів ділового програмного забезпечення практичний сигнал такий: якщо функція AI, за яку платить ваша компанія, здається менш здатною, ніж обіцяла демонстрація, тиск на ціноутворення — це правдоподібне пояснення. Запитайте у свого постачальника, як вони вимірюють використання агента та чи запускає інтенсивне використання додаткові збори. Чесні люди матимуть готову відповідь.
