Apple ha introdotto un limite al numero di vulnerabilità che i ricercatori di sicurezza possono segnalare contemporaneamente attraverso il portale interno dedicato. Una volta raggiunta la soglia prevista, l’utente deve attendere 30 giorni prima di presentare nuovi report, salvo ottenere un’autorizzazione specifica per aumentare il limite. La società ha collegato il cambiamento alla rapida crescita delle segnalazioni prodotte con strumenti di intelligenza artificiale generativa, che stanno permettendo di individuare più velocemente problemi reali ma anche di inviare grandi quantità di analisi errate, incomplete o scarsamente verificate.
Apple ha spiegato di avere modificato il numero di nuovi report che un ricercatore può mantenere aperti nello stesso momento proprio a causa dell’aumento delle segnalazioni generate con l’AI. La nuova regola non dovrebbe impedire la comunicazione immediata delle vulnerabilità più importanti, perché i ricercatori possono richiedere un’estensione del limite quando ritengono di avere individuato un problema critico. Il sistema è quindi pensato per ridurre il sovraccarico prodotto dalle segnalazioni di bassa qualità, mantenendo un canale prioritario per i difetti che potrebbero esporre i dispositivi e i sistemi operativi a rischi rilevanti.
Il caso che ha reso evidente l’impatto della nuova politica riguarda Bynario, una startup di sicurezza informatica con sede a Milano e composta da sette dipendenti. L’azienda ha dichiarato di avere utilizzato ChatGPT per analizzare la versione più recente di macOS e di avere individuato più di 50 vulnerabilità nell’arco di tre settimane. Tra i problemi scoperti figurava anche una catena di exploit per l’escalation dei privilegi, classificata al massimo livello di rischio perché potenzialmente in grado di consentire a un aggressore di assumere il controllo completo dei privilegi di sistema. Bynario non sarebbe però riuscita a comunicare immediatamente ad Apple tutte le vulnerabilità individuate, perché aveva già raggiunto il limite previsto per le segnalazioni aperte. L’amministratore delegato Alfredo Pesoli ha descritto una situazione nella quale i produttori di software e i responsabili della manutenzione vengono sommersi dalla quantità di problemi scoperti e comunicati mediante strumenti di intelligenza artificiale. Apple ha successivamente confermato di essere entrata in contatto con la società italiana e di avere avviato l’esame delle vulnerabilità segnalate.
L’utilizzo dell’AI sta modificando in modo sostanziale il processo di ricerca delle vulnerabilità. I professionisti esperti possono servirsi dei modelli per analizzare il codice, formulare ipotesi, individuare comportamenti anomali e accelerare verifiche che in precedenza richiedevano molto più tempo. Gli stessi strumenti possono però essere impiegati anche da persone con competenze limitate per generare automaticamente report basati su semplici supposizioni, risultati non riproducibili o interpretazioni sbagliate del funzionamento di un sistema. Il problema per i team di sicurezza non consiste quindi soltanto nell’esaminare un numero maggiore di segnalazioni, ma nel distinguere rapidamente quelle realmente sfruttabili da quelle prive di fondamento.
Apple utilizza a sua volta strumenti di intelligenza artificiale per migliorare la sicurezza dei propri prodotti. Negli aggiornamenti dei sistemi operativi distribuiti nella stessa settimana, l’azienda ha riconosciuto ufficialmente il contributo delle tecnologie di Anthropic e OpenAI alla scoperta di diverse vulnerabilità. Il pacchetto conteneva un numero di correzioni circa cinque volte superiore rispetto a un normale aggiornamento software, mostrando come l’AI stia aumentando non soltanto la capacità di individuare falle nei sistemi, ma anche la quantità di interventi che i produttori devono verificare, sviluppare e distribuire.
La stessa capacità di analisi può essere utilizzata per trovare nuovi metodi di attacco. Apple aveva introdotto la funzione Memory Integrity Enforcement per contrastare gli attacchi basati sulla corruzione della memoria, presentandola come uno dei più importanti rafforzamenti della protezione della memoria mai realizzati per un sistema operativo destinato ai consumatori. Circa otto mesi dopo, alcuni ricercatori hanno impiegato Mythos di Anthropic per individuare la prima tecnica capace di aggirare questa protezione attraverso un attacco di corruzione della memoria. Le vulnerabilità individuate da Bynario seguono invece un percorso diverso, perché non dipendono dalla corruzione della memoria ma da difetti logici. In questi casi l’attacco induce un software considerato affidabile a eseguire operazioni legittime in un ordine diverso da quello previsto, fino a ottenere privilegi superiori a quelli autorizzati. Secondo Pesoli, un codice di attacco basato su una vulnerabilità di questo livello potrebbe essere venduto nel mercato clandestino per una cifra compresa tra 100.000 e 200.000 dollari.
Il valore economico attribuito alle vulnerabilità più pericolose è evidente anche nel programma bug bounty di Apple. La società ha introdotto un premio massimo di 5 milioni di dollari per chi scopre e documenta i problemi di sicurezza più gravi. Un sistema di ricompense di questa portata attira ricercatori indipendenti e società specializzate, ma l’aumento della produttività ottenuto mediante l’AI rischia di moltiplicare contemporaneamente sia le segnalazioni valide sia quelle prive dei requisiti tecnici necessari per essere verificate e premiate. Secondo Leif Pilling, responsabile della threat intelligence di Sophos, l’intelligenza artificiale sta producendo un doppio effetto sui programmi bug bounty. Da un lato facilita l’invio di segnalazioni speculative da parte di ricercatori inesperti, dall’altro permette ai professionisti di scoprire vulnerabilità critiche con una velocità molto superiore rispetto al passato. La principale difficoltà per le aziende si sta quindi spostando dalla semplice scoperta dei difetti alla capacità di verificare, classificare e correggere le vulnerabilità con ritmi vicini a quelli delle macchine che le hanno individuate.