Ніхто не розібрався, як оцінювати штучний інтелект. Це проблема для всіх
Компанії платять за штучний інтелект за токенами — крихітні одиниці тексту, які обробляє програмне забезпечення, але ні стартапи, ні Microsoft, ні фірми, що продають послуги AI, не можуть передбачити, скільки токенів спалить завдання. Бюджети вибухають, а рахунок приходить, перш ніж хтось це помітить.
Ключові моменти
- Goldman Sachs прогнозує, що зовнішнє споживання токенів зростатиме в 24 рази між 2026 і 2030 роками, досягнувши 120 квадрильйонів токенів на місяць.
- Microsoft, за повідомленнями, обмежила використання інженерами деяких сторонніх інструментів AI для кодування через занепокоєння щодо витрат.
- Uber, за повідомленнями, витратив весь річний бюджет токенів AI для кодування протягом кількох місяців у 2025 році.
- Токен — це невелика математична частина тексту, яку читає і пише модель AI; кожне запитання, яке ви задаєте, і кожна відповідь, яку ви отримуєте, коштує токенів.
- Інсайдери галузі говорять, що стандартна модель ціноутворення для послуг AI-агентів ще не з'явилася.
Користування ChatGPT, Claude або Google Gemini безкоштовно здається отриманням чогось за нічого. В певному сенсі це так. Microsoft, Google, Anthropic та їхні колеги вклали сотні мільярдів доларів у створення великих мовних моделей — технології, що лежить в основі цих чат-ботів, які живлять безплатні версії. Вони хочуть повернути ці гроші. Платні плани існують, а преміум-функції заблоковані за ними. Але складніша проблема ціноутворення лежить глибше, і вона спотикає бізнес будь-якого розміру.
Що таке токен і чому це коштує грошей?
Токен — це базова одиниця, з якою працює модель AI. Думайте про це як про невелику фрагмент слова або фрази, яку модель перетворює на математику, обробляє, а потім перетворює назад у читаний текст. Кожен запит, який ви вводите, розбивається на токени. Кожна відповідь, яку надсилає модель, також коштує токенів.
Ціни на токени різко впали в останні роки. Це звучить як хороша новина, і частково вона така. Але підвох, як повідомляв BBC Technology, полягає в тому, що використання зростало відповідно. Goldman Sachs прогнозує, що споживання токенів досягне 120 квадрильйонів на місяць до 2030 року — у 24 рази більше, ніж у 2026 році, в основному через AI-агентів, програмні програми, які виконують багатоступінчасті завдання автоматично, а не просто відповідають на одне запитання.
Більше агентів означає більше токенів. Більше токенів означає більші рахунки. А рахунки приходять, перш ніж більшість компаній взагалі знають, що їх викликало.
Чому це так важко контролювати?
Коротка відповідь: вихід AI непередбачуваний. Поставте те саме запитання двічі, і ви можете отримати два різних відповіді двох різних довжин, спалюючи дві різні кількості токенів. Вбудуйте цю непередбачуваність у продукт, який використовують тисячі клієнтів, і витрати можуть швидко зростати.
Вілл Вентерс, доцент цифрової інноваційної діяльності в Лондонській школі економіки, висловлюється ясно: «Це недетермінований результат, тому це недетермінована цінність».
Менші компанії іноді обходять це, тихо використовуючи плани з фіксованою платою від великих платформ AI. Олівер Кінг-Сміт, засновник інженерної фірми smartR AI, говорить, що постачальники, напевно, це не люблять, і це не може продовжуватися. Як тільки акціонери почнуть тиснути на прибутки, він передбачає, що платформи «почнуть затягувати гайки».
Навіть великі організації потрапляють в заду. Microsoft, за повідомленнями, обмежила використання своїми інженерами певних сторонніх інструментів кодування. Uber, за повідомленнями, витратив свій річний бюджет токенів AI для кодування протягом кількох місяців.
Що буде далі?
На даний момент ніхто не має чистої відповіді. Білл Петерсон, старший директор з маркетингу продуктів у Sumo Logic, програмної фірми, яка наразі тестує послуги безпеки AI, каже, що розмови про ціноутворення з клієнтами тривають. До опцій на столі входять підвищення ціни в цілому, стягнення за результатом або продаж пакетів інцидентів. Але будь-яка структура, яку компанія вибере сьогодні, може бути скасована в той момент, коли постачальник AI змінює власні ставки.
«Ви переходите до змінного ціноутворення, яке змінюється кожні кілька місяців», — говорить Петерсон. «Клієнтам це не подобається. Ніхто не будує бюджет таким чином».
Для звичайних користувачів негайний ризик обмежений: безплатні та плани з фіксованою ставкою служать ліміту. Для малих компаній, які починають вбудовувати AI у свої власні продукти або робочі процеси, практична порада від людей, які живуть цією проблемою, проста. Будьте точні зі своїми запитами, як ви писали б детальний список покупок, а не просто «купіть їжі». Виберіть найменшу модель AI, яка насправді виконує вашу задачу. І встановіть сповіщення про витрати, перш ніж вам це знадобиться.
Поширені запитання
Чи раптово мій безплатний обліковий запис ChatGPT або Gemini почне коштувати дорожче?
Безплатні версії наразі субсидуються великими платформами, які конкурують за користувачів. Вони можуть з часом обмежити функції, але жоден великий постачальник не оголосив про плани повністю припинити безплатний доступ.
Що малий бізнес може зробити прямо зараз, щоб контролювати витрати на AI?
Почніть зі спостереження за використанням щомісячно, як ви робили б з рахунком хмарного сховища. Напишіть детальні запити, щоб AI не витрачав токени на здогадування про те, чого ви хочете. Де можливо, протестуйте дешевшою або меншою моделлю, перш ніж взяти на себе більш дорогу.
