L’uso sempre più diffuso di strumenti di generazione automatica del codice sta creando un problema crescente nelle comunità open source: la produzione di contributi apparentemente validi, ma privi della qualità tecnica necessaria per essere integrati in progetti mantenuti da sviluppatori reali. Il fenomeno viene spesso definito “AI slop” e riguarda pull request, segnalazioni di bug, patch, documentazione e commenti generati con modelli linguistici senza una reale comprensione del codice sottostante.
Il punto critico non è l’uso dell’intelligenza artificiale come supporto allo sviluppo, ma il modo in cui molti contributi vengono inviati. Un modello può generare codice sintatticamente corretto, coerente nello stile e in alcuni casi persino funzionante nei test più semplici, ma questo non significa che la modifica sia adatta all’architettura del progetto. Nei repository open source, ogni proposta deve essere letta, verificata, discussa, testata e spesso riscritta. Quando il contributore non comprende davvero ciò che ha inviato, tutto il costo tecnico viene trasferito sui maintainer.
Questo squilibrio cambia la natura stessa della collaborazione open source. In passato una pull request imperfetta poteva comunque essere utile, perché apriva un confronto tra sviluppatori e contribuiva alla crescita di nuovi collaboratori. Con il codice generato automaticamente, invece, il processo rischia di diventare sterile: il maintainer spiega un problema, il contributore rigenera una nuova versione con l’AI, e il ciclo si ripete senza un reale apprendimento. Il risultato è un aumento del rumore operativo, non della produttività.
Il problema riguarda anche la sicurezza. Segnalazioni di vulnerabilità generate in modo automatico possono sembrare credibili, usare terminologia tecnica corretta e descrivere scenari plausibili, ma rivelarsi infondate dopo un controllo manuale. Per i team che gestiscono librerie, framework e componenti critici, distinguere un report valido da un falso positivo richiede tempo, attenzione e competenze. Se il volume di segnalazioni artificiali cresce troppo, il rischio è che le vulnerabilità reali vengano sommerse da contenuti inutili.
Per questo alcuni progetti stanno introducendo regole più severe sull’uso dell’AI nei contributi esterni. Le nuove policy non puntano necessariamente a vietare ogni forma di assistenza automatica, ma chiedono trasparenza, responsabilità e capacità di spiegare il codice proposto. Un contributo generato o assistito dall’AI deve essere revisionato dal suo autore, testato in modo concreto e accompagnato da una comprensione reale delle modifiche introdotte.
L’AI può accelerare molte attività di sviluppo, ma nell’open source la velocità di produzione non coincide con il valore del contributo. Il vero limite non è generare codice, bensì mantenerlo nel tempo, integrarlo in un’architettura esistente, correggerlo quando emergono problemi e garantirne la qualità per migliaia o milioni di utenti. Senza questa responsabilità, l’automazione rischia di trasformarsi da strumento di supporto a nuova forma di debito tecnico distribuito.