TabFM компании Google учится делать прогнозы на основе данных, на которых она никогда не обучалась

Ключевые моменты

• Google Research опубликовала TabFM в 2025 году — фундаментальную модель, которая делает прогнозы на совершенно новых наборах данных без обучения на каждом конкретном наборе.
• TabFM сравнялась или превзошла тщательно настроенные традиционные модели на 51 общедоступном наборе данных для 38 задач классификации и 13 задач регрессии.
• Модель была полностью обучена на сотнях миллионов синтетических, компьютерных наборов данных, поэтому она никогда не использовала реальные данные клиентов или организаций.
• Инференс — этап, на котором модель фактически делает прогноз, требует больше ресурсов и медленнее, чем традиционные подходы, что команды должны учитывать при планировании.
• Исследователь Google Вэйхао Конг рассказал VentureBeat, что главная ценность модели — скорость: высококачественные прогнозы без необходимости в отдельной команде специалистов по данным.

Большинство деловых данных в мире хранится в электронных таблицах, базах данных и финансовых реестрах. Чтобы заставить модель ИИ делать полезные прогнозы на основе таких данных — предсказывать отток клиентов или выявлять мошеннические транзакции, — всегда требовалось много предварительной работы.

Сегодня команда Google Research опубликовала новый подход под названием TabFM. Название расшифровывается как Tabular Foundation Model, то есть универсальная система ИИ, созданная для работы с данными в виде строк и столбцов, как в обычной электронной таблице.

Главное утверждение: TabFM может предсказывать результаты на наборе данных, который она никогда раньше не видела, без какого-либо специального обучения. Вы предоставляете ей исторические записи и новые строки, которые хотите понять, и она возвращает прогноз за один шаг.

Почему это сложнее, чем кажется?

Традиционное машинное обучение, на которое компании полагались долгие годы, требует от специалиста создания уникального конвейера для каждого нового набора данных. Это означает очистку беспорядочных данных, преобразование категорий в числа, запуск десятков тестовых конфигураций, чтобы найти оптимальные параметры, и затем мониторинг модели после запуска, потому что реальные данные постоянно меняются. Это медленно, дорого и требует постоянного внимания.

Вы можете подумать: почему бы не попросить существующую большую языковую модель — технологию, лежащую в основе чатботов вроде ChatGPT и Claude, — прочитать электронную таблицу напрямую? Ответ в том, что языковые модели были созданы для текста, а не для таблиц. Таблица среднего размера с несколькими тысячами строк быстро заполняет их память. Числа искажаются, потому что модель разбивает их на странные фрагменты. И когда двумерная таблица преобразуется в одну строку текста, модель начинает терять связь между тем, какое число относится к какому столбцу.

«Вот почему сегодня гораздо эффективнее использовать LLM для написания кода, который обрабатывает инженерию признаков, чем просить LLM прочитать таблицу напрямую», — сказал Конг.

TabFM обходит эту проблему, сохраняя структуру таблицы на протяжении всего процесса. Она использует перекрестное внимание — технику, при которой модель проверяет, как каждое значение связано с другими, одновременно по строкам и столбцам. Затем она сжимает каждую строку в компактное резюме перед окончательным прогнозом. Архитектура опирается на две предыдущие исследовательские модели: TabPFN, разработанную компанией Prior Labs, которая доказала концепцию, но испытывала трудности с большими таблицами, и TabICL из национального французского научно-исследовательского института в области информатики, которая добавила эффективное сжатие для работы с более крупными наборами данных.

Модель никогда не обучалась на реальных деловых данных. Google создала её полностью на основе сотен миллионов компьютерных синтетических наборов данных, что означает, что никакие приватные записи клиентов не использовались.

На TabArena — стандартном наборе для оценки, охватывающем 51 разнообразный реальный набор данных, прогнозы TabFM без предварительного обучения сравнялись или превзошли тщательно настроенные традиционные модели. Google осторожно отмечает, что это не означает, что TabFM побеждает в каждом сравнении со специализированной моделью, созданной и оптимизированной для одной конкретной задачи.

Здесь есть реальный компромисс. Традиционные модели создаются долго, но работают быстро и дёшево. TabFM переворачивает это соотношение. Нет фазы обучения, но каждый прогноз требует от модели перечитывания всех исторических записей в качестве контекста. Это требует больших вычислительных ресурсов. Для приложений, которым нужен ответ за одиночные миллисекунды, таких как проверка мошенничества в реальном времени в платёжном терминале, задержка может быть проблемой сегодня.

Для небольшой команды, которой нужна рабочая базовая модель к следующей неделе, а не к следующему кварталу, расчёты выглядят совсем по-другому.