Per molti anni il machine learning applicato ai dati tabellari ha seguito uno schema consolidato: ogni nuovo dataset richiede l’addestramento di un modello dedicato, la ricerca dei migliori iperparametri e un lavoro di feature engineering per ottenere prestazioni competitive. Con TabFM, Google propone un approccio diverso, trasferendo nel mondo dei dati strutturati il concetto di foundation model già affermato nei modelli linguistici.
TabFM è stato progettato per affrontare attività di classificazione e regressione direttamente su tabelle mai viste in precedenza, senza effettuare un addestramento specifico per ogni nuovo dataset. Invece di costruire un modello personalizzato, il sistema utilizza il paradigma dell’in-context learning: l’intero insieme di dati disponibile viene fornito come contesto durante l’inferenza e il modello ricava da questo le relazioni necessarie per produrre le previsioni in un unico passaggio computazionale.
Il punto di maggiore interesse tecnico riguarda proprio il modo in cui TabFM interpreta una tabella. A differenza del testo, una tabella è una struttura bidimensionale nella quale righe e colonne possono essere riordinate senza alterarne il significato. Per gestire questa caratteristica, Google ha sviluppato un’architettura ibrida che combina meccanismi di attenzione alternata tra righe e colonne con una fase di compressione delle informazioni di ogni record in rappresentazioni dense, sulle quali opera successivamente un Transformer dedicato all’in-context learning. Questa soluzione nasce dall’integrazione di idee già introdotte da modelli come TabPFN e TabICL, con l’obiettivo di mantenere elevata la capacità predittiva contenendo il costo computazionale anche su dataset di dimensioni significative.
Un altro elemento distintivo riguarda l’addestramento del modello stesso. La scarsità di dataset tabellari pubblici sufficientemente grandi e diversificati rappresenta da tempo un limite per questo settore, soprattutto perché molte basi dati aziendali sono proprietarie o contengono informazioni sensibili. Per superare questo problema, TabFM è stato addestrato utilizzando centinaia di milioni di dataset sintetici generati tramite modelli causali strutturali, creando così un’ampia varietà di scenari senza ricorrere a dati reali.
Secondo i benchmark pubblicati da Google, il modello ottiene risultati competitivi nel sistema di valutazione TabArena, che comprende decine di dataset di classificazione e regressione, mostrando prestazioni in molti casi superiori a modelli supervisionati tradizionali accuratamente ottimizzati. È disponibile anche una variante ensemble che combina più strategie di rappresentazione e calibrazione per incrementare ulteriormente l’accuratezza delle previsioni. Come per ogni nuova architettura, sarà comunque importante verificare il comportamento del modello su dataset reali e workflow produttivi indipendenti dai benchmark ufficiali.
L’impatto pratico potrebbe essere significativo soprattutto nei contesti enterprise. Se questo approccio confermerà le prestazioni anche su dati aziendali eterogenei, molte attività oggi dedicate alla preparazione e all’ottimizzazione dei modelli potranno essere notevolmente semplificate. In prospettiva, Google prevede inoltre l’integrazione di TabFM in BigQuery attraverso il comando AI.PREDICT, consentendo di eseguire classificazione e regressione direttamente mediante query SQL senza sviluppare pipeline di addestramento dedicate.
Con TabFM emerge quindi una nuova direzione per il machine learning tabellare: spostare il valore dall’addestramento ripetuto di modelli specifici verso foundation model già pre-addestrati, capaci di adattarsi dinamicamente a nuovi dataset durante l’inferenza. Se questa impostazione dimostrerà la stessa efficacia anche negli scenari produttivi più complessi, potrebbe modificare in modo sostanziale il modo in cui vengono sviluppati e distribuiti i sistemi predittivi basati su dati strutturati.