OpenAI ha ritirato il proprio sostegno al Caltech Mathathon, un evento organizzato al California Institute of Technology e dedicato all’utilizzo dei large language model nella ricerca matematica. La decisione è stata annunciata da Dan Roberts, responsabile della ricerca di OpenAI, dopo le proteste sollevate da numerosi matematici sul modo in cui l’iniziativa avrebbe incoraggiato l’impiego massiccio di modelli AI per produrre risultati in tempi molto brevi. Roberts ha spiegato che OpenAI intende confrontarsi più strettamente con la comunità matematica per comprendere come integrare queste tecnologie nella ricerca e come comunicarne correttamente gli effetti.
Le critiche sono state formalizzate attraverso una lettera aperta firmata da circa cento matematici, tra cui Terence Tao dell’UCLA e Timothy Gowers dell’Università di Cambridge, entrambi vincitori della Medaglia Fields. I firmatari hanno contestato la diffusione di quella che definiscono “slop mathematics”, cioè risultati matematici prodotti dall’intelligenza artificiale in grandi quantità ma non adeguatamente verificati. La preoccupazione riguarda soprattutto un modello di ricerca nel quale enormi quantità di token e capacità computazionale vengono impiegate per ottenere rapidamente possibili soluzioni, lasciando poi alla comunità scientifica il lavoro più lento e complesso di controllare dimostrazioni, calcoli, errori e originalità dei risultati.
Il Caltech Mathathon era nato su iniziativa di studenti universitari del Caltech come competizione dedicata alla risoluzione di problemi matematici attraverso LLM. Anthropic e OpenAI avevano promesso complessivamente circa 2 milioni di dollari in crediti AI destinati ai partecipanti. Diversi ricercatori ed ex docenti del Caltech hanno però sostenuto che una competizione basata sull’impiego intensivo di token per pochi giorni potesse creare incentivi sbagliati, premiando la produzione rapida di risultati invece della verifica rigorosa che normalmente accompagna la ricerca matematica.
La controversia arriva mentre le principali aziende AI stanno attribuendo ai propri modelli capacità sempre più avanzate nella risoluzione di problemi matematici aperti. OpenAI ha affermato che una versione interna di Astra è riuscita a produrre risultati su dieci problemi di lunga durata, compresi problemi matematici ancora irrisolti. Anthropic ha invece riportato risultati ottenuti con una versione non pubblica di Claude nella ricerca collegata all’ipotesi di Riemann, sostenendo di aver migliorato dal 41,6% al 67,2% un limite inferiore relativo alla proporzione degli zeri della funzione zeta di Riemann che soddisfano una determinata proprietà. Queste dichiarazioni hanno intensificato il dibattito sulla necessità di distinguere tra la produzione automatica di nuovi argomenti matematici e la loro effettiva validazione scientifica.
Il rapido progresso dei modelli ha alimentato anche discussioni più ampie sul ruolo futuro dei matematici. Durante un incontro privato organizzato da OpenAI nella propria sede di San Francisco e al quale hanno partecipato oltre quaranta matematici, Daniel Litt dell’Università di Toronto ha presentato uno scenario definito “The End of Mathematics”. L’ipotesi discussa era quella di sistemi AI capaci di produrre autonomamente un volume molto elevato di risultati matematici avanzati, fino a ridurre progressivamente il ruolo della ricerca umana. All’interno della comunità è emersa anche la possibilità che la matematica possa essere una delle prime discipline scientifiche profondamente trasformate dall’automazione dei processi di ricerca.
Alle discussioni sulla qualità dei risultati si aggiungono quelle relative alla provenienza delle informazioni utilizzate dai modelli. Un recente caso ha riguardato un risultato annunciato da OpenAI sulle equazioni di Navier-Stokes e le successive accuse secondo cui una sessione di Codex avrebbe potuto utilizzare materiale proveniente da una bozza di ricerca non pubblica di Tristan Buckmaster della New York University e di ricercatori Anthropic. OpenAI ha respinto l’accusa di appropriazione del lavoro, pur riconoscendo che non è possibile escludere completamente che dati anonimizzati raccolti durante l’utilizzo dei prodotti possano aver contribuito indirettamente al miglioramento dei modelli.
La questione centrale sollevata dai matematici riguarda quindi il rapporto tra generazione e verifica. Un sistema AI può produrre rapidamente numerosi calcoli, ipotesi e possibili dimostrazioni, ma ciascun risultato deve essere controllato prima di poter essere considerato un contributo scientifico affidabile. Se il volume dei contenuti generati cresce molto più rapidamente della capacità dei ricercatori di verificarli, il rischio è trasferire sulla comunità accademica il costo della validazione di enormi quantità di materiale potenzialmente errato o già noto.
Gli organizzatori del Caltech Mathathon hanno spiegato che l’obiettivo dell’iniziativa era stimolare l’interesse dei giovani verso la matematica attraverso strumenti moderni. Il ritiro di OpenAI evidenzia però quanto il tema sia diventato sensibile: l’impiego dei modelli generativi nella ricerca matematica non riguarda più soltanto le prestazioni dei sistemi, ma anche i criteri con cui vengono valutati i risultati, il carico di verifica imposto ai ricercatori e gli incentivi creati da competizioni basate sulla disponibilità di grandi quantità di potenza computazionale.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)