OpenAI sta rafforzando il proprio team dedicato alla sicurezza avanzata dell’intelligenza artificiale con una posizione di ricerca che prevede una retribuzione fino a 445.000 dollari annui. Il ruolo è focalizzato sullo studio della “recursive self-improvement”, cioè lo scenario in cui sistemi AI sufficientemente avanzati possano iniziare a migliorare autonomamente le proprie capacità senza intervento umano diretto.
La posizione rientra all’interno del team “Preparedness” di OpenAI, la divisione incaricata di analizzare rischi emergenti collegati ai modelli frontier. Secondo quanto riportato nella job description, il lavoro consiste nello studiare problemi che “potrebbero esistere in futuro, ma potrebbero non esistere ancora oggi”, con particolare attenzione all’automazione della ricerca tecnica, all’interpretabilità dei modelli e ai possibili comportamenti pericolosi sviluppati autonomamente dai sistemi AI.
Uno degli aspetti più discussi della posizione riguarda proprio il focus sulla recursive self-improvement. In ambito AI, il concetto descrive un sistema capace non solo di eseguire compiti cognitivi avanzati, ma anche di contribuire direttamente al miglioramento delle proprie architetture, pipeline di training o strategie di reasoning. Questo tipo di dinamica viene considerato da molti ricercatori uno dei potenziali punti di transizione verso sistemi molto più autonomi e difficili da controllare.
OpenAI sta già lavorando su modelli in grado di automatizzare attività di ricerca e sviluppo software sempre più complesse. Sam Altman ha più volte dichiarato che l’azienda punta alla creazione di un “automated AI researcher” entro il 2028, cioè un sistema capace di contribuire direttamente alla ricerca scientifica e al miglioramento dei modelli AI stessi. La nuova posizione sembra inserirsi proprio in questo contesto strategico.
La job description evidenzia inoltre la necessità di sviluppare sistemi di difesa contro data poisoning, tecniche di interpretabilità del reasoning dei modelli e strumenti per monitorare l’automazione del lavoro tecnico. Questo suggerisce che OpenAI considera sempre più importante la capacità di osservare e verificare i processi interni dei modelli avanzati, soprattutto man mano che gli agenti AI acquisiscono maggiore autonomia operativa.
Particolarmente insolita è stata anche la formulazione utilizzata nella descrizione del ruolo, dove viene richiesto che il candidato sia “tasteful and strategic”. L’espressione ha attirato attenzione perché lascia intendere che il lavoro richieda non solo competenze tecniche avanzate, ma anche capacità di valutazione prudente e gestione di scenari altamente sensibili dal punto di vista scientifico, politico e regolatorio.
La cifra offerta riflette inoltre la crescente competizione tra laboratori AI per attrarre ricercatori specializzati in alignment e AI safety. Frontier lab come OpenAI, Anthropic e Google DeepMind stanno investendo sempre più risorse nella ricerca sulla sicurezza avanzata, soprattutto ora che i modelli linguistici stanno evolvendo in agenti capaci di utilizzare strumenti, eseguire codice, iterare autonomamente e gestire workflow complessi.
Il caso mostra anche un cambiamento importante nella narrativa del settore. Concetti che fino a pochi anni fa venivano considerati prevalentemente teorici, come la recursive self-improvement o l’automazione della ricerca AI da parte di sistemi AI stessi, stanno progressivamente entrando nei piani operativi concreti dei principali laboratori di frontiera.