Новый способ создания более умного ИИ: что означают исследования Apple Flow Matching для вас

Ключевые моменты

• Apple ML Research опубликовала новые результаты по методике Categorical Flow Matching, которая может ускорить генерацию текста в ИИ.
• Современные ИИ-чатботы строят предложения по одному слову; этот подход пытается генерировать текст больше как изображения — всё сразу.
• Более быстрая генерация текста со временем может привести к более дешёвым и оперативным инструментам ИИ для обычных пользователей.
• Исследование остаётся академическим, но указывает на серьёзное стремление переосмыслить базовую архитектуру языкового ИИ.

Большинство ИИ-чатботов, включая те, которые вы используете для написания писем или резюмирования заметок, работают по принципу предсказания следующего слова, потом следующего, потом следующего. Это похоже на печать одним пальцем. Эффективно, но не единственный способ.

Apple ML Research исследовала альтернативный подход, позаимствованный из ИИ для генерации изображений. Это называется flow matching — метод, при котором модель начинает со случайного шума и постепенно преобразует его в готовый результат, вместо того чтобы строить текст слева направо по одному токену. Кстати, токен — это просто базовый блок текста, который обрабатывает ИИ, примерно слово или часть слова.

Итак, что здесь действительно новое?

Новое исследование масштабирует конкретную версию этой идеи под названием Categorical Flow Maps, или CFM. Слово «категориальный» просто означает, что система работает с определёнными выборами, такими как слова из словаря, а не с размытыми непрерывными числами, с которыми работают модели изображений. Заставить flow matching аккуратно работать со словами была настоящая техническая задача, и эта работа показывает, что это можно делать в большом масштабе.

Подумайте о таком аналогии. Старый текстовый ИИ — это как повар, который читает рецепт построчно и не может заглянуть вперёд. Flow matching больше похож на скульптора, который начинает с грубого блока и совершенствует всё сразу. Скульптор потенциально может закончить быстрее.

Что это означает для обычных инструментов ИИ?

Пока вы не заметите ничего существенного в своих приложениях завтра. Это исследование, а не запуск продукта. Но последствия реальные. Более быстрая генерация текста означает более низкие вычислительные затраты, а более низкие затраты обычно приводят к более дешёвым или щедрым бесплатным уровням в инструментах ИИ, которые используют миллионы людей каждый день, от помощников при написании до ботов обслуживания клиентов.

Исследование также указывает на что-то под названием «tilting» — способ направить выходные данные ИИ в сторону предпочитаемого стиля или тона более эффективно. Для владельца малого бизнеса, использующего ИИ для написания писем клиентам, это в конце концов может означать более быстрые результаты, более соответствующие бренду, с меньшим количеством переговоров с подсказками.

Одно практическое замечание: поскольку это исследование от Apple, оно может внедриться в функции ИИ на устройстве, где скорость имеет огромное значение, так как ваш телефон не может полагаться на огромный центр обработки данных.

Часто задаваемые вопросы

Это заменит ИИ в стиле ChatGPT?

Не в ближайшее время. Исследование показывает многообещающие результаты в масштабе, но авторегрессивные модели, тип слово-за-словом, питающий большинство чатботов сегодня, имеют за спиной годы совершенствования. Flow matching — серьёзный конкурент, но не замена.

Мои приложения ИИ будут быстрее благодаря этому?

Возможно, со временем. Если flow matching подтвердит себя в боевых условиях, компании, создающие инструменты ИИ, могли бы принять его, чтобы сократить время отклика и затраты на серверы, часть из которых может передаться пользователям в виде лучших бесплатных уровней или более быстрых ответов.

Apple планирует выпустить это в продукте?

Apple не объявила о каком-либо продукте, связанном с этим исследованием. Академические статьи от исследовательского подразделения компании часто незаметно внедряются в будущие функции, поэтому следите за тем, что может появиться в обновлениях ИИ iOS или macOS в ближайшее время.