All’inizio di questa settimana, due leader chiave del team di superallineamento di OpenAI – Ilya Sutskever, ex capo scienziato, e Jan Leike, un ricercatore – hanno annunciato le loro dimissioni dalla società quasi contemporaneamente. Questo è stato significativo non solo perché entrambi avevano una lunga storia con OpenAI (Sutskever era uno dei co-fondatori), ma anche per il lavoro su cui si concentravano: il superallineamento, che riguarda lo sviluppo di sistemi per controllare l’intelligenza artificiale superiore all’uomo.
Dopo le dimissioni dei due leader, sembra che il team di superallineamento sia stato sciolto, secondo quanto riportato da un nuovo articolo di Wired, dove lavora come caporedattore la moglie di un autore.
Oggi, Leike ha pubblicato una serie di messaggi critici su X, il suo account personale, riguardanti OpenAI e la sua leadership. Ha accusato la società di trascurare la sicurezza a vantaggio della creazione di prodotti impressionanti. Ha dichiarato: “Negli ultimi anni, la sicurezza è stata messa in secondo piano rispetto alla creazione di prodotti impressionanti”.
Leike, che è entrato in OpenAI all’inizio del 2021, ha anche espresso pubblicamente disaccordo con la leadership, incluso il CEO Sam Altman e il presidente Greg Brockman, sostenendo di aver raggiunto un punto di rottura riguardo alle priorità aziendali.
Ha sottolineato l’importanza di guidare e controllare in modo più intelligente i sistemi di intelligenza artificiale rispetto a noi stessi.
Nonostante un impegno precedente da parte di OpenAI nel dedicare una parte significativa delle sue risorse computazionali al superallineamento, Leike ha affermato che la sua squadra ha incontrato difficoltà nell’avanzare nella ricerca, con problemi legati alla disponibilità di calcolo.
Questo potrebbe rappresentare una sfida significativa per OpenAI, dato il prossimo lancio del nuovo modello GPT-4 e dell’app ChatGPT per Mac annunciati all’inizio della settimana, così come il rapporto con il grande investitore Microsoft, che si prepara per la conferenza Build la prossima settimana.