OpenAI ha istituito un nuovo comitato per la sicurezza e la protezione, guidato da Sam Altman insieme ai direttori del consiglio di amministrazione di OpenAI: Bret Taylor, Adam D’Angelo e Nicole Seligman. Questo comitato si occupa di consigliare il consiglio su questioni di sicurezza e protezione per i progetti OpenAI.
Tra i membri del comitato ci sono esperti tecnici e politici come Aleksander Madry, Lilian Weng, John Schulman, Matt Knight e Jakub Pachocki, nonché ex funzionari della sicurezza informatica come Rob Joyce e Jon Carlin.
L’annuncio è avvenuto contemporaneamente alla conferma della lavorazione del prossimo modello di punta di OpenAI, con Altman che ha suggerito questa possibilità anche all’evento Microsoft Build 2024.
Inizialmente, il compito del Comitato per la sicurezza e la protezione sarà di valutare e sviluppare processi e misure di sicurezza per OpenAI nei prossimi 90 giorni. Successivamente, condividerà le raccomandazioni con il Consiglio per una revisione e un annuncio pubblico.
C’è stata speculazione sul rilascio imminente di GPT-5, probabilmente durante l’estate, ma potrebbe essere ritardato a causa delle elezioni americane previste per novembre. Si dice che GPT-5 abbia qualità superiori e funzioni multimodali fin dall’inizio, supportando testo, immagini, audio e video, integrando anche il modello di generazione di testo in video, Sora.
L’annuncio del comitato per la sicurezza e la protezione potrebbe essere una misura preventiva, considerando il recente abbandono del team di allineamento sulla sicurezza dopo le dimissioni di Ilya e Jan Leike. La reazione degli utenti all’annuncio è stata varia, con alcuni critici nei confronti dell’azienda.