Jan Reike, ex leader del “Super Alignment Team” di OpenAI, si è recentemente unito ad Anthropic, un concorrente di OpenAI. Reike, insieme al co-fondatore e capo scienziato di OpenAI Ilya Sutskever, si è dimesso dalla sua posizione per concentrarsi sul lavoro sulla sicurezza dell’intelligenza artificiale (IA) presso Anthropic.
Secondo Bloomberg, Reike ha annunciato tramite Twitter che Anthropic avrebbe avviato una ricerca sulla sicurezza dell’IA, con un focus su aspetti come la supervisione scalabile, l’ordinamento automatico e la generalizzazione debole-forte. I risultati di questa ricerca saranno direttamente riportati a Jared Kaplan, il Direttore scientifico di Anthropic.
In passato, OpenAI aveva sciolto il suo team “Super Alignment” dopo solo un anno di attività. Questo team era stato formato per ricercare tecnologie che permettessero all’IA di operare in modo non dannoso, ma si era scontrato con il CEO Sam Altman. Questo conflitto alla fine ha portato alla rimozione di Altman e al recente scioglimento del team. Anche altri membri correlati hanno abbandonato l’azienda.
Jan Leike, un ex membro di DeepMind che faceva parte del team di OpenAI, ha espresso delusione riguardo alle difficoltà incontrate durante la ricerca, citando la mancanza di supporto e la trascuratezza della cultura e dei processi legati alla sicurezza.