TabFM de Google apprend à prédire à partir de données sur lesquelles il n'a jamais été entraîné

Points clés

• Google Research a publié TabFM en 2025, un modèle fondationnel qui fait des prédictions sur des ensembles de données entièrement nouveaux sans aucun entraînement par ensemble de données.
• TabFM a égalé ou surpassé les modèles traditionnels fortement ajustés sur 51 ensembles de données d'évaluation publiques couvrant 38 tâches de classification et 13 tâches de régression.
• Le modèle a été entraîné entièrement sur des centaines de millions d'ensembles de données synthétiques générés par ordinateur, il n'a donc jamais ingéré de données réelles de clients ou d'entreprises.
• L'inférence, l'étape où le modèle fait réellement une prédiction, est plus lourde et plus lente que les approches traditionnelles, ce que les équipes doivent prévoir.
• Weihao Kong, chercheur chez Google, a déclaré à VentureBeat que la valeur principale du modèle est la rapidité : des prédictions de haute qualité sans équipe de science des données dédiée.

La plupart des données commerciales du monde vivent dans des feuilles de calcul, des bases de données et des registres financiers. Faire en sorte qu'un modèle d'IA fasse des prédictions utiles à partir de ce type de données, qu'il s'agisse de prévoir les résiliations de clients ou de détecter les transactions frauduleuses, a toujours nécessité beaucoup de travail manuel au préalable.

Aujourd'hui, une équipe de Google Research a publié une nouvelle approche appelée TabFM. Le nom signifie Tabular Foundation Model, c'est-à-dire un système d'IA polyvalent conçu pour gérer le type de données en lignes et colonnes que vous trouveriez dans n'importe quelle feuille de calcul.

L'affirmation clé : TabFM peut prédire des résultats sur un ensemble de données qu'il n'a jamais vu auparavant, sans aucun entraînement personnalisé. Vous lui transmettez vos enregistrements historiques et les nouvelles lignes que vous voulez comprendre, et il retourne une prédiction en une seule étape.

Pourquoi c'est plus difficile que cela ne le paraît ?

L'apprentissage automatique traditionnel, celui sur lequel les entreprises se sont appuyées pendant des années, exige qu'un spécialiste construise un pipeline sur mesure pour chaque nouvel ensemble de données. Cela signifie nettoyer les données désordonnées, encoder les catégories sous forme de nombres, exécuter des dizaines de configurations de test pour trouver les meilleurs paramètres, puis surveiller le modèle après le lancement parce que les données du monde réel continuent de changer. C'est lent, coûteux et nécessite une attention continue.

Vous pourriez vous demander : pourquoi ne pas simplement demander à un grand modèle de langage existant, la technologie derrière les chatbots comme ChatGPT et Claude, de lire directement la feuille de calcul ? La réponse est que les modèles de langage ont été construits pour le texte, pas pour les grilles. Un tableau de taille moyenne avec quelques milliers de lignes remplit rapidement leur mémoire. Les nombres se déforment parce que le modèle les divise en fragments bizarres. Et une fois qu'une grille bidimensionnelle est aplatie en une seule ligne de texte, le modèle commence à perdre de vue quel nombre appartient à quelle colonne.

« C'est pourquoi, aujourd'hui, il est beaucoup plus efficace d'utiliser un LLM pour écrire le code qui gère l'ingénierie des caractéristiques que de demander au LLM de lire le tableau lui-même », a déclaré Kong.

TabFM contourne cela en gardant la structure de grille du tableau intacte tout au long du processus. Il alterne l'attention, une technique où le modèle vérifie comment chaque valeur se rapporte aux autres, à la fois sur les lignes et les colonnes à la fois. Il compresse ensuite chaque ligne en un résumé compact avant de faire sa prédiction finale. La conception s'inspire de deux modèles de recherche antérieurs : TabPFN, développé par Prior Labs, qui a prouvé le concept mais a eu du mal avec les grands tableaux, et TabICL, de l'institut national français de recherche numérique, qui a ajouté une compression efficace pour gérer les ensembles de données plus volumineux.

Le modèle n'a jamais été entraîné sur de véritables données commerciales. Google l'a construit entièrement sur des centaines de millions d'ensembles de données synthétiques générés par ordinateur, ce qui signifie qu'aucun enregistrement client privé n'a été utilisé.

Sur TabArena, une suite d'évaluation standard couvrant 51 ensembles de données diversifiés du monde réel, les prédictions zéro-shot de TabFM, c'est-à-dire des prédictions faites sans entraînement préalable sur ces données, ont égalé ou surpassé les modèles traditionnels fortement ajustés. Google tient à noter que cela ne signifie pas que TabFM gagne tous les affrontements directs contre un modèle spécialisé construit et optimisé pour une tâche spécifique.

Il y a un véritable compromis. Les modèles traditionnels sont lents à construire mais rapides et bon marché à exécuter. TabFM renverse cela. Il n'y a pas de phase d'entraînement, mais chaque prédiction exige que le modèle relise tous vos enregistrements historiques comme contexte. C'est intensif en calcul. Pour les applications qui nécessitent une réponse en quelques millisecondes, comme une vérification de fraude en temps réel à un terminal de paiement, la latence peut être un problème aujourd'hui.

Pour une petite équipe qui a besoin d'un modèle de base fonctionnel la semaine prochaine plutôt que le trimestre prochain, le calcul semble très différent.