Immagine AI

OpenAI ha avviato la prima fase di un programma di valutazione esterna dei propri modelli di intelligenza artificiale, coinvolgendo Goodfire, Apollo Research, METR e Transluce in attività di ricerca condotte attraverso l’accesso alle infrastrutture interne dell’azienda. Il programma, denominato Embedded Assessments, prevede la possibilità di analizzare modelli non ancora distribuiti pubblicamente, checkpoint di addestramento, dati sperimentali, componenti software e sistemi di monitoraggio utilizzati durante lo sviluppo. L’iniziativa coincide con l’emergere di indiscrezioni relative a una possibile acquisizione di Goodfire da parte di OpenAI, per un valore superiore a 5 miliardi di dollari, rispetto alla valutazione di 1,25 miliardi di dollari attribuita alla società durante il finanziamento del febbraio 2026. L’operazione societaria non si è concretizzata, mentre la collaborazione scientifica è stata ufficialmente confermata.

Goodfire, fondata nel 2024, sviluppa tecnologie di interpretabilità meccanicistica, una disciplina che studia le operazioni interne delle reti neurali attraverso l’analisi delle attivazioni, delle rappresentazioni e dei circuiti computazionali responsabili della produzione delle risposte. A differenza delle tecniche di monitoraggio basate sulle catene di ragionamento esplicite, comunemente denominate Chain-of-Thought (CoT), l’interpretabilità meccanicistica non considera esclusivamente le informazioni testuali prodotte dal modello, ma cerca di individuare i processi numerici attraverso i quali vengono determinate le sue risposte. Goodfire ha sviluppato anche Silico, un agente di ricerca in grado di assistere gli specialisti nella progettazione e nell’esecuzione di esperimenti di interpretabilità, applicabili a differenti modelli e dataset. Nell’ambito della collaborazione con OpenAI, i ricercatori utilizzeranno queste tecnologie per esaminare i processi di addestramento e individuare comportamenti anomali potenzialmente rilevanti per l’allineamento dei modelli.

Apollo Research concentrerà invece le proprie attività sull’individuazione di comportamenti attraverso i quali un modello potrebbe operare in contrasto con gli obiettivi stabiliti dai suoi sviluppatori, verificando l’efficacia delle misure di rilevamento. METR esaminerà i comportamenti non allineati nell’ambito della più estesa sessione di reinforcement learning condotta fino a oggi da OpenAI, utilizzando le informazioni disponibili sui checkpoint, sulle traiettorie di esecuzione e sui registri di monitoraggio. Transluce analizzerà la qualità e la copertura delle valutazioni di allineamento effettuate dopo l’addestramento, con una possibile estensione delle attività prevista per l’inizio del 2027. Le condizioni di accesso alle risorse saranno definite in funzione delle singole sperimentazioni e, per le informazioni maggiormente sensibili, le attività potranno essere condotte congiuntamente agli specialisti interni di OpenAI.

L’interesse per l’interpretabilità meccanicistica si inserisce anche nel dibattito scientifico relativo alla specializzazione funzionale dei neuroni artificiali. Nick Cammarata, ricercatore di Goodfire, ha recentemente presentato risultati secondo i quali circa il 90% dei neuroni analizzati nel modello Qwen3-32B svolgerebbe prevalentemente una funzione riconoscibile. L’interpretazione di questi risultati rimane oggetto di discussione, poiché l’identificazione della funzione di singole unità neurali non comporta necessariamente la comprensione delle interazioni responsabili del comportamento complessivo del modello. Anche per questo motivo, il nuovo programma di valutazione affianca l’analisi dei meccanismi interni alle sperimentazioni comportamentali e alla verifica dei sistemi di sicurezza, senza considerare una singola metodologia sufficiente a dimostrare l’affidabilità delle architetture AI.

Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)

Di Fantasy