GLM-5.3, il nuovo modello open-weight di Z.ai, avrebbe individuato una vulnerabilità potenzialmente grave all’interno di Cursor durante l’esecuzione di un complesso compito di reverse engineering. A comunicarlo è stato Lou, Developer Advocate di Z.ai, che il 14 agosto ha spiegato di avere sottoposto il modello a un’attività avanzata di analisi del software e di avere ottenuto come risultato l’identificazione di un problema di sicurezza nella piattaforma di coding basata sull’intelligenza artificiale. La vulnerabilità è stata segnalata privatamente al team di Cursor, che sta collaborando con Z.ai per predisporre una correzione. I dettagli tecnici non sono stati ancora divulgati, proprio per evitare che il problema possa essere sfruttato prima che gli utenti siano adeguatamente protetti.
Il caso è significativo perché GLM-5.3 non si è limitato alla generazione o al debugging di codice, ma ha analizzato il comportamento di un software esistente attraverso tecniche di reverse engineering fino a individuare una possibile debolezza di sicurezza. Non sono ancora disponibili informazioni sulla natura precisa della vulnerabilità, sul componente di Cursor coinvolto o sulle condizioni necessarie per sfruttarla, per cui non è possibile stabilire pubblicamente quale tipo di impatto avrebbe potuto avere. Z.ai ha però definito il problema come potenzialmente serio e ha scelto una procedura di responsible disclosure, comunicandolo direttamente al fornitore prima di rendere pubblici i dettagli.
L’episodio arriva poco dopo il lancio di GLM-5.3, per il quale Z.ai aveva evidenziato un miglioramento particolarmente rapido delle capacità di cybersecurity ottenuto attraverso il post-training. L’azienda aveva spiegato che il modello non era più in grado soltanto di individuare singole vulnerabilità, ma mostrava una capacità superiore nel collegare più passaggi di un possibile percorso di attacco e nel ragionare su sequenze operative più articolate. L’individuazione del problema in Cursor rappresenterebbe quindi un primo esempio di utilizzo di queste capacità al di fuori dei benchmark controllati, applicate direttamente all’analisi di un prodotto software commerciale.
La particolarità del caso deriva anche dal fatto che Cursor è a sua volta una piattaforma che utilizza modelli di intelligenza artificiale per assistere e automatizzare attività di sviluppo software. GLM-5.3 è stato quindi impiegato per analizzare un sistema di coding basato sull’AI e avrebbe individuato al suo interno una vulnerabilità che non era stata precedentemente resa pubblica. Il risultato mostra come i modelli di nuova generazione possano essere impiegati non soltanto come strumenti di sviluppo, ma anche come componenti di attività di vulnerability research, code auditing e analisi automatizzata di software complessi.
Le stesse capacità introducono però un problema di dual use. Un modello in grado di esaminare applicazioni reali, ricostruirne il funzionamento attraverso reverse engineering e identificare vulnerabilità può essere utilizzato da ricercatori e sviluppatori per individuare problemi prima che vengano sfruttati, ma le medesime funzioni possono essere applicate alla ricerca automatizzata di falle da parte di soggetti malevoli. In questo caso Z.ai ha utilizzato il risultato seguendo una procedura di divulgazione privata e collaborando con Cursor alla correzione, rinviando la pubblicazione delle informazioni tecniche fino alla disponibilità di protezioni adeguate.
Proprio l’evoluzione delle capacità cyber di GLM-5.3 aveva già spinto Z.ai a rivedere i tempi previsti per la distribuzione completa del modello come open weight. L’azienda aveva dichiarato di voler effettuare ulteriori valutazioni di sicurezza e attività di hardening prima di pubblicare i pesi, spiegando che le capacità di cybersecurity erano progredite più rapidamente del previsto. L’individuazione della vulnerabilità in Cursor rafforza questa cautela, perché indica che le funzioni osservate nei test possono essere applicate anche a software realmente utilizzati e non soltanto a esercizi predisposti per misurare le capacità del modello.
Per il momento Z.ai e Cursor non hanno reso pubblica la vulnerabilità né una tempistica precisa per la divulgazione tecnica. Le informazioni dovrebbero essere fornite soltanto dopo il completamento della correzione e quando gli utenti saranno considerati sufficientemente protetti, consentendo successivamente di valutare con maggiore precisione quale componente sia stato coinvolto, quale sia stata la catena di ragionamento o di analisi utilizzata dal modello e fino a che punto GLM-5.3 sia riuscito autonomamente a ricostruire e validare il problema individuato.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)