OpenAI ha recentemente pubblicato una “system card” per la sua funzionalità Deep Research, delineando i rischi associati e le misure di sicurezza implementate. Deep Research è una funzione avanzata progettata per condurre ricerche multi-step su Internet, affrontando compiti complessi attraverso l’analisi e la sintesi di informazioni da varie fonti.
Secondo il Preparedness Framework di OpenAI, un sistema classificato a “rischio medio” è idoneo al deployment ma richiede un monitoraggio attento per mitigare potenziali rischi e preoccupazioni. Questa classificazione implica che, pur offrendo capacità avanzate, il sistema potrebbe essere soggetto a usi impropri se non gestito con attenzione.
La valutazione di Deep Research ha evidenziato diverse aree chiave di attenzione:
- Cybersecurity: La capacità di Deep Research di risolvere sfide di sicurezza informatica, come i “capture the flag” (CTF), rappresenta un avanzamento significativo nelle capacità dual-use, richiedendo ulteriori valutazioni e mitigazioni.
- Contenuti Non Consentiti: Il sistema ha mostrato una forte resistenza nel generare contenuti non consentiti, performando meglio rispetto ai modelli precedenti come GPT-4o e o1. Tuttavia, in scenari più complessi, modelli come o3-mini e o1-mini hanno dimostrato prestazioni superiori.
- Persuasione: Nonostante le sue capacità, Deep Research è considerato inadatto per scopi di persuasione di massa a causa dell’elevato consumo di risorse computazionali, della latenza e dei limiti di utilizzo.
Per affrontare le potenziali vulnerabilità, OpenAI ha collaborato con esperti esterni in sicurezza per testare e migliorare le difese di Deep Research. Le misure adottate includono la riduzione a zero del tasso di successo degli attacchi di “prompt injection” nella maggior parte dei casi e l’implementazione di salvaguardie per prevenire l’uso improprio del sistema in ambiti come la pianificazione di minacce biologiche.
In parallelo alla pubblicazione della valutazione del rischio, OpenAI ha annunciato l’estensione dell’accesso a Deep Research a tutti gli utenti dei piani ChatGPT Plus, Team, Education ed Enterprise. In precedenza, questa funzionalità era riservata agli abbonati al piano Pro da 200 dollari al mese. Questa espansione mira a rendere le capacità avanzate di Deep Research più accessibili, mantenendo al contempo un monitoraggio rigoroso per garantire un utilizzo sicuro e responsabile.