Ieri non è stato solo Ilya Sutskever, ex capo scienziato e co-fondatore di OpenAI, a lasciare l’azienda. Poco dopo, il collega Jan Leike, co-responsabile del team di “superallineamento” di OpenAI, ha annunciato la sua partenza con un semplice messaggio di dimissioni sul suo account X.
Leike si è unito ad OpenAI all’inizio del 2021, esprimendo entusiasmo per il lavoro svolto dall’azienda sulla modellazione delle ricompense e l’allineamento di GPT-3. La sua partenza segna un’altra significativa perdita per OpenAI, che ha visto ora due dei suoi leader principali lasciare l’azienda.
La partenza dei due co-leader del team di superallineamento ha sollevato domande sulla stabilità e la direzione futura di OpenAI. La società, impegnata nello sviluppo di modelli di intelligenza artificiale sempre più potenti, è stata fortemente investita nell’allineamento dei modelli per garantire che siano sicuri e responsabili.
L’allineamento dei modelli di intelligenza artificiale è un compito cruciale per evitare comportamenti indesiderati o dannosi. Il team di superallineamento di OpenAI è stato incaricato di sviluppare tecniche avanzate per raggiungere questo obiettivo.
La partenza di Sutskever e Leike ha sollevato domande sulla continuità e la priorità del lavoro di allineamento in OpenAI. La società ha dichiarato in passato di dedicare risorse significative a questo sforzo, ma ora potrebbe essere necessario rivalutare le risorse e la strategia in assenza dei suoi principali leader.
OpenAI è stata finora un pioniere nel campo dell’intelligenza artificiale, ma il futuro del suo lavoro di allineamento potrebbe essere influenzato dalle recenti partenze. Resta da vedere come l’azienda affronterà questa sfida e quali saranno le implicazioni per il suo impegno nell’ambito della sicurezza e della responsabilità dell’intelligenza artificiale.