Apple розмовляє зі стартапом, який стискає величезний ШІ в iPhone

Ключові моменти

• PrismML, стартап, створений на базі Caltech і підтриманий Khosla Ventures, у вівторок публічно випустила стиснену модель ШІ, яка поміщається на iPhone 15 або новіші.
• Стартап стверджує, що зменшив модель Qwen від Alibaba з приблизно 54 ГБ до менш ніж 4 ГБ — більш ніж 13-разове скорочення розміру.
• Apple веде попередні переговори з PrismML щодо оцінки технології для використання на своїх пристроях, сказав генеральний директор PrismML Бабак Хасібі каналу CNBC.
• PrismML залучила раунд посівного фінансування розміром $16,25 млн у березні 2025 року.
• Стиснені моделі використовують на 10–15 разів менше пам'яті та генерують відповіді на 6–8 разів швидше, ніж стандартні версії, за словами компанії.

Стартап із Силіконової долини стверджує, що знайшов спосіб стиснути потужну модель ШІ, такий тип програмного забезпечення, який керує чат-ботами на кшталт ChatGPT, до розміру, достатньо малого для повністю автономного запуску на iPhone. І Apple, схоже, зацікавлена.

PrismML, компанія, виділена з Каліфорнійського технологічного інституту, у вівторок публічно випустила стиснені версії відкритої моделі Qwen від Alibaba. Qwen зазвичай займає близько 54 гігабайтів сховища. PrismML стверджує, що скоротила це до менше ніж 4 гігабайти, зберігаючи при цьому всі 27 мільярдів його внутрішніх точок даних, також названих параметрами, неушкодженими.

Генеральний директор Бабак Хасібі розповів каналу CNBC, що Apple та інші невизначені компанії активно тестують моделі стартапу, вимірюючи швидкість, енергоспоживання та загальну продуктивність на реальних пристроях. Він назвав обговорення з Apple дуже ранніми, але сказав, що «справи просуваються добре».

Релиз вийшов за день до того, як Apple відкрила публічну бета-версію iOS 27, яка дає власникам iPhone перший широкий огляд давно очікуваного переробки Siri від компанії.

Чому важливо, щоб ШІ працював на вашому телефоні?

Запуск ШІ безпосередньо на пристрої замість отправлення вашого запиту на далекий сервер і очікування повернення відповіді є швидшим і зберігає ваші дані на телефоні. Це особливо важливо, коли інформація особиста: медичні записи, розписання прийму ліків, фотографії. Це також означає, що певні функції працюють без будь-якого інтернет-з'єднання.

Apple вже обробляє деякі завдання локально, включаючи переклад і базове резюмування. Більш складні запити відправляються в хмару. Компанія хоче змінити цей баланс.

Трюк PrismML полягає у радикальному спрощенні того, як значення зберігаються всередині моделі. Стандартна модель зберігає кожне значення, використовуючи 16 можливих станів, як дуже точна вимірювальна шкала. PrismML стискає кожне значення всього до одного або трьох можливих станів. Подумайте про це як про перехід від точної лінійки до простого вимикача. Це різко скорочує використання пам'яті.

Компанія стверджує, що компромісом є невелике зниження точності. Відтворення фактів слабшає в першу чергу. Навички, як-от міркування та математика, тримаються краще.

Аналітики привітали концепцію, але закликали до обережності. Тарун Патхак із Counterpoint Research сказав, що справжній тест — це продуктивність на мільйонах реальних запитів на тисячах різних комбінацій пристроїв. Філ Солис з IDC вказав на час автономної роботи як на найбільше відкрите питання: модель, використовувана постійно у фоні, може розрядити телефон, навіть якщо для неї потрібно менше пам'яті.

Для звичайних користувачів iPhone наразі нічого не змінюється. Це ділові переговори, а не оновлення програмного забезпечення. Але якщо Apple і PrismML дійдуть до угоди, майбутні поліпшення Siri могли б надходити швидше, працювати в офлайні і обробляти більш чутливу інформацію, не відправляючи її за межі вашої кишені.

PrismML випускає дві бесплатні версії стиснутої моделі, сумісні з iPhone, MacBook та ПК з Windows на базі Nvidia. Модель Gemma від Google буде наступною в конвеєрі компанії.