Стартап Міри Мурті випустив першу модель ШІ. Він хоче, щоб компанії володіли своїм ШІ, а не орендували його.

Ключові моменти

• Thinking Machines Lab випустила Inkling у середу, свою першу загальнодоступну модель ШІ, приблизно дев'ять місяців після того, як компанія почала розробку.
• Inkling має 975 мільярдів загальних параметрів (міра складності моделі), але використовує лише близько 41 мільярда для будь-якого окремого завдання, що робить її швидшою та дешевшою в експлуатації, ніж її розмір припускає.
• Модель має відкриту архітектуру, що означає: будь-яка компанія або розробник можуть безплатно завантажити та модифікувати її, на відміну від ChatGPT або Claude.
• Спільне дослідження, опубліковане наприкінці червня, показало, що користувацька модель, побудована за допомогою подібних методів з відкритою архітектурою, набрала 84,7% на тестах фінансового мислення приблизно за одну чотирнадцяту частину вартості експлуатації найкращих власницьких моделей ШІ.
• Thinking Machines планує заробляти через Tinker, свою платну платформу для навчання та адаптації моделі, а не з самої моделі.

Міра Мурті багато років працювала головним технологом OpenAI. Тепер вона робить ставку проти того, що продає OpenAI.

Thinking Machines Lab, стартап, заснований Мурті після виходу з OpenAI, випустив свою першу модель ШІ у середу. Її називають Inkling, і вона працює по-іншому, ніж головні продукти ШІ, про які чув більшість людей.

ChatGPT, Claude та Google Gemini — це закриті системи. Ви платите за їх використання. Компанія, яка їх створила, зберігає повний контроль. Inkling має відкриту архітектуру, що означає: будь-яка компанія або розробник можуть завантажити повну модель і переробити її відповідно до своїх потреб без будь-яких витрат від Thinking Machines.

У цьому й полягає вся концепція. Компанія вважає, що ШІ, навчений на власних даних та знаннях компанії, перевершить універсальну модель, яку великі лабораторії продають всім.

Докази, що підтримують цей аргумент, справді цікаві. Bridgewater Associates, найбільший у світі хедж-фонд, працював з дослідниками над подальшим навчанням існуючої моделі ШІ з відкритим кодом на власних фінансових знаннях Bridgewater. Ця користувацька модель набрала 84,7% на тестах фінансового мислення, перевершивши найкращі власницькі продукти ШІ, при цьому вартість експлуатації була приблизно в чотирнадцять разів нижчою. Результати походять із дослідження, яке обидві компанії опублікували спільно наприкінці червня, а не від незалежного рецензента, тому ставтеся до цього з відповідним скептицизмом.

Генеральний директор Microsoft Сатья Наделла висловив подібну думку в публікації в блозі у неділю. Компанії, які використовують закриті продукти ШІ, платять двічі: один раз у вигляді плати за підписку і знову, передаючи бізнес-знання, вбудовані у всі їхні запити та виправлення, знання, які можуть повернутися в майбутні версії моделі, якою вони не володіють.

Отже, чи дійсно Inkling хороша?

Thinking Machines ясно говорить, що Inkling — це не найпотужніша модель ШІ, доступна на сьогодні, ні закрита, ні відкрита. Замість цього вона прагне стійкої, збалансованої роботи за нижчою вартістю. Компанія говорить, що Inkling використовує третину етапів обробки конкуруючої моделі Nvidia для досягнення тієї самої оцінки на тестах кодування. Вона також може сигналізувати про невизначеність замість здогадок, і користувачі можуть регулювати її обдумування вгору чи вниз залежно від того, потрібна їм ретельна відповідь або швидка.

Inkling величезна під капотом. Вона навчалася на 45 трильйонах токенів — частин текстових, зображень, аудіо та відеоданих, з яких вчаться системи ШІ. Але завдяки своїй архітектурі (конструкція з кількома експертами, де для кожного завдання активується лише частина моделі) вона залишається практичною у використанні.

Thinking Machines була обережною в одному: Inkling частково навчалася на основі результатів інших моделей ШІ з відкритою архітектурою, загальної практики, називаної дистиляцією. Компанія каже, що її наступна модель повністю відмовиться від цього підходу.

Звідки Thinking Machines отримує гроші? Не від завантаження моделі. Дохід надходить від Tinker, її платної платформи, яка допомагає компаніям налаштовувати та розміщувати власні користувацькі версії Inkling.

Це чесна оцінка ситуації. Якщо у вашій організації є справжні, конкретні знання, закриті в голівках вашого персоналу та в ваших попередніх роботах, користувацька модель ШІ, навчена на основі цих знань, може перевершити універсальну за частку вартості. Шлях до цього тепер став трохи коротшим.