Googles TabFM lernt, Vorhersagen aus Daten zu treffen, auf denen es nie trainiert wurde

Wichtigste Punkte

• Google Research veröffentlichte 2025 TabFM, ein Foundation Model, das Vorhersagen zu brandneuen Datensätzen macht, ohne dass ein datensatzspezifisches Training erforderlich ist.
• TabFM entsprach oder übertraf stark optimierte traditionelle Modelle bei 51 öffentlichen Benchmark-Datensätzen über 38 Klassifizierungs- und 13 Regressionsaufgaben.
• Das Modell wurde ausschließlich auf Hunderten von Millionen synthetischer, computergestützter Datensätze trainiert, sodass es niemals echte Kunden- oder Geschäftsdaten verarbeitete.
• Die Inferenz, also der Schritt, in dem das Modell tatsächlich eine Vorhersage trifft, ist speicher- und zeitintensiver als traditionelle Ansätze, was Teams berücksichtigen müssen.
• Der Google-Forscher Weihao Kong sagte gegenüber VentureBeat, dass der Hauptvorteil des Modells die Geschwindigkeit ist: hochwertige Vorhersagen ohne ein dediziertes Data-Science-Team.

Der Großteil der Geschäftsdaten der Welt ist in Tabellenkalkulationen, Datenbanken und Finanzbüchern gespeichert. Ein KI-Modell dazu zu bringen, nützliche Vorhersagen aus dieser Art von Daten zu treffen – sei es bei der Vorhersage von Kundenabgängen oder bei der Erkennung betrügerischer Transaktionen – erforderte immer viel manuelle Vorarbeit.

Heute veröffentlichte ein Team von Google Research einen neuen Ansatz namens TabFM. Die Abkürzung steht für Tabular Foundation Model, also ein allgemeines KI-System, das für die Art von Zeilen- und Spaltendaten ausgelegt ist, die Sie in jeder Tabellenkalkulation finden würden.

Die Kernaussage: TabFM kann Ergebnisse bei einem Datensatz vorhersagen, den es noch nie gesehen hat, ohne benutzerdefiniertes Training. Man übergibt ihm die historischen Datensätze und die neuen Zeilen, die man verstehen möchte, und es liefert die Vorhersage in einem Schritt.

Warum ist das schwieriger als es klingt?

Traditionelles Machine Learning, auf das sich Unternehmen jahrelang verlassen haben, erfordert einen Spezialisten, der für jeden neuen Datensatz eine maßgeschneiderte Pipeline aufbaut. Das bedeutet das Bereinigen ungeordneter Daten, das Kodieren von Kategorien als Zahlen, das Durchführen von Dutzenden von Testkonfigurationen, um die besten Einstellungen zu finden, und die Überwachung des Modells nach dem Start, da sich echte Daten ständig ändern. Das ist zeitaufwändig, teuer und erfordert ständige Aufmerksamkeit.

Man könnte sich fragen: Warum nicht einfach ein bestehendes großes Sprachmodell, die Technologie hinter Chatbots wie ChatGPT und Claude, bitten, die Tabellenkalkulation direkt zu lesen? Die Antwort ist, dass Sprachmodelle für Text entwickelt wurden, nicht für Gitter. Eine mittelgroße Tabelle mit einigen Tausend Zeilen füllt ihren Arbeitsspeicher schnell auf. Zahlen werden beschädigt, da das Modell sie in seltsame Fragmente aufteilt. Und sobald ein zweidimensionales Gitter in eine einzelne Textzeile umgewandelt wird, beginnt das Modell zu verlieren, welche Zahl zu welcher Spalte gehört.

„Deshalb ist es heute viel effektiver, ein LLM zu nutzen, um den Code zu schreiben, der das Feature Engineering handhabt, als das LLM zu bitten, die Tabelle selbst zu lesen", sagte Kong.

TabFM umgeht dies, indem es die Gitterstruktur der Tabelle während des gesamten Prozesses intakt hält. Es wechselt die Aufmerksamkeit, eine Technik, bei der das Modell prüft, wie sich jeder Wert zu anderen verhält, gleichzeitig über Zeilen und Spalten hinweg. Es komprimiert dann jede Zeile zu einer kompakten Zusammenfassung, bevor es eine endgültige Vorhersage trifft. Das Design basiert auf zwei früheren Forschungsmodellen: TabPFN, entwickelt von Prior Labs, das das Konzept bewies, aber bei großen Tabellen Schwierigkeiten hatte, und TabICL von Frankreichs nationalem digitalen Forschungsinstitut, das effiziente Komprimierung hinzufügte, um größere Datensätze zu bewältigen.

Das Modell trainierte nie auf echten Geschäftsdaten. Google baute es vollständig auf Hunderten von Millionen computergestützter, synthetischer Datensätze auf, was bedeutet, dass keine privaten Kundendatensätze verwendet wurden.

Bei TabArena, einer Standard-Evaluierungssuite mit 51 vielfältigen Echtdaten-Datensätzen, entsprachen oder übertrafen TabFMs Zero-Shot-Vorhersagen, also Vorhersagen ohne vorheriges Training auf diesen Daten, stark optimierte traditionelle Modelle. Google vermerkt sorgfältig, dass dies nicht bedeutet, dass TabFM jeden direkten Vergleich gegen ein Spezialmodell gewinnt, das für eine bestimmte Aufgabe entwickelt und optimiert wurde.

Es gibt einen echten Kompromiss. Traditionelle Modelle sind langsam zu bauen, aber schnell und kostengünstig im Betrieb. TabFM dreht das um. Es gibt keine Trainingsphase, aber jede Vorhersage erfordert, dass das Modell alle Ihre historischen Datensätze als Kontext erneut liest. Das ist rechnerisch aufwändig. Für Anwendungen, die eine Antwort in einstelligen Millisekunden benötigen, wie eine Echtzeitbetrugsprüfung an einem Zahlungsterminal, kann die Latenz heute ein Problem sein.

Für ein kleines Team, das ein funktionierendes Baseline-Modell nächste Woche und nicht nächstes Quartal benötigt, sieht die Rechnung ganz anders aus.