L’ex ricercatore AI di Google, Jakob Uszkoreit, è stato uno degli otto coautori dell’articolo fondamentale del 2017 intitolato “L’attenzione è tutto ciò di cui hai bisogno”, il quale ha introdotto l’architettura Transformers. Questa architettura ha poi fornito il fondamento per ChatGPT e la maggior parte degli altri modelli linguistici di grandi dimensioni (LLM). In una recente intervista con VentureBeat, Uszkoreit ha condiviso che il suo passaggio al settore biotech, in particolare come co-fondatore di Inceptive, non è stata una sorpresa.
Uszkoreit ha affermato che, nonostante gli interessi comuni, il gruppo di ricercatori noto come “Brain pack” di Google, del quale faceva parte, ha intrapreso direzioni diverse dopo aver lasciato Google. Questo, secondo lui, è la ragione per cui il gruppo rimane incredibilmente efficace. Altri membri di questo gruppo, come Aidan Gomez (CEO di Coerente), Noam Shazeer (CEO di Character AI) e Llion Jones di Sakana, hanno perseguito diverse strade professionali.
Inceptive, con sede a Palo Alto e fondata nel 2021 da Uszkoreit e Rhiju Das dell’Università di Stanford, si concentra sulla creazione di “software biologico” utilizzando l’architettura Transformers. La società ha sviluppato una piattaforma software AI che progetta molecole uniche fatte di mRNA, un approccio utilizzato con successo da Pfizer e BioNTech per sviluppare i loro vaccini COVID-19. In pratica, Inceptive progetta mRNA utilizzando reti neurali, sottopone le molecole a test e le concede in licenza ad aziende farmaceutiche per gli studi clinici.
Uszkoreit ha spiegato che la sua passione per la biologia è stata alimentata da tre eventi che si sono verificati rapidamente alla fine del 2020: i risultati positivi dei vaccini mRNA COVID, la dimostrazione di AlphaFold 2 di DeepMind e l’arrivo di sua figlia. Questi eventi hanno convinto Uszkoreit che l’uso di modelli ispirati a Transformer nell’ambito della biologia molecolare era il futuro.
Nonostante la crescente attenzione sull’uso dell’intelligenza artificiale nello sviluppo di farmaci, Uszkoreit non è preoccupato dalla concorrenza, ritenendo che ci sia ancora molto spazio per l’innovazione. Tuttavia, ritiene che Inceptive si distingua per la complessità delle sfide che affronta, poiché si occupa di interdisciplinarietà tra biologia e apprendimento profondo.
Per Uszkoreit, il successo deriverà dalla capacità di superare i limiti di entrambe queste discipline contemporaneamente. Inclusive sta anche ideando nuovi metodi di raccolta dati, incluso l’uso di robot, persone, modelli e reti neurali per generare molecole sintetiche di mRNA.
In conclusione, Uszkoreit sottolinea che il lavoro di Inceptive rappresenta un esempio dell’ampio potenziale dell’intelligenza artificiale generativa in diverse applicazioni, dall’elaborazione del linguaggio alla previsione della struttura delle proteine e alla creazione di molecole di mRNA. L’importante è riconoscere che i progressi in una di queste aree possono avere impatti positivi in molte altre, creando un’opportunità di progresso che coinvolge tutti.
Nonostante siano passati solo sei anni dalla pubblicazione dell’articolo sui Transformers, Uszkoreit e gli altri sette coautori rimangono in contatto, condividendo idee e supportandosi reciprocamente. La diversità dei loro interessi, afferma Uszkoreit, ha contribuito al successo dell’articolo, poiché hanno dovuto lavorare insieme per affrontare complesse sfide multidisciplinari.