L’intelligenza artificiale responsabile in agricoltura richiede una comprensione sistemica dei rischi e delle esternalità
Una analisi del rischio sulla rivista Nature Machine Intelligence che avverte dell’uso dell’IA in agricoltura
L’agricoltura globale è pronta a trarre vantaggio dal rapido progresso e dalla diffusione delle tecnologie di intelligenza artificiale (AI). L’intelligenza artificiale in agricoltura potrebbe migliorare la gestione delle colture e la produttività agricola attraverso la fenotipizzazione delle piante, la diagnosi rapida delle malattie delle piante, l’applicazione efficiente di prodotti chimici per l’agricoltura e l’assistenza ai coltivatori con consigli agronomici rilevanti per la posizione. Tuttavia, le ramificazioni dei modelli di apprendimento automatico (ML), dei sistemi esperti e delle macchine autonome per le aziende agricole, gli agricoltori e la sicurezza alimentare sono poco conosciute e sottovalutate. Qui, consideriamo i fattori di rischio sistemici dell’IA in agricoltura. Vale a dire, esaminiamo i rischi relativi all’interoperabilità, all’affidabilità e alla pertinenza dei dati agricoli, alle conseguenze socio-ecologiche non intenzionali risultanti dai modelli ML ottimizzati per le rese, e problemi di sicurezza e protezione associati all’implementazione di piattaforme ML su vasta scala. In risposta, suggeriamo misure di mitigazione del rischio, tra cui l’invito di antropologi rurali ed ecologisti applicati al processo di progettazione tecnologica, l’applicazione di quadri per l’innovazione responsabile e incentrata sull’uomo, la creazione di cooperative di dati per una migliore trasparenza dei dati e diritti di proprietà e l’implementazione iniziale dell’agricoltura L’IA nelle sandbox digitali.
Principale
Per più di un secolo, l’innovazione tecnologica è stata la via principale per aumentare la produttività agricola. Nuove varietà vegetali e formulazioni chimiche per la gestione dei nutrienti e il controllo dei parassiti hanno migliorato la produttività e la redditività dell’azienda. Con circa 2 miliardi di persone affette da insicurezza alimentare, inclusi circa 690 milioni di persone malnutrite e 340 milioni di bambini che soffrono di carenze di micronutrienti 1 , le tecnologie avanzate, come l’IA e il suo sottoinsieme, ML, promettono ulteriori sostanziali benefici per l’intensificazione agricola e la sicurezza alimentare e nutrizionale 2. Il ML può supportare, e in diversi casi consentire, la fenotipizzazione rapida delle piante, il monitoraggio dei terreni agricoli, la valutazione in situ della composizione del suolo, la diagnosi e la sorveglianza delle malattie, la facilitazione dell’automazione e il raggruppamento di applicazioni agrochimiche, le previsioni meteorologiche, la previsione della resa, i sistemi di supporto alle decisioni (DSS) con consulenza agronomica in tempo reale e nuove modalità di gestione e tracciabilità post-raccolta.
Tuttavia, la modernizzazione tecnologica in agricoltura ha anche contribuito al degrado ecologico, compresa la contaminazione dell’acqua e del suolo, e l’erosione del suolo, che in ultima analisi potrebbe minare la sicurezza alimentare 3 , 4 , 5 . Inoltre, l’assegnazione di priorità a un numero limitato di varietà vegetali ha comportato la perdita di oltre il 75% della diversità genetica delle colture 6 .
In alcuni casi, l’industrializzazione agricola ha aumentato la sofferenza umana, anche attraverso l’esposizione a sostanze chimiche dannose 7 , e lo sfruttamento sociale 8 . In altri casi, la meccanizzazione nell’agricoltura è andata di pari passo con il consolidamento fondiario 9 , poiché i proprietari di appezzamenti piccoli e frammentati spesso non disponevano dei mezzi per investire in macchinari avanzati e competere con i grandi proprietari terrieri che sfruttavano le economie di scala. L’aumento delle dimensioni delle aziende agricole e della meccanizzazione ha comportato notevoli benefici per l’efficienza del lavoro, la produzione agricola e la redditività 10 , 11 , ma ha anche comportato lo sfollamento del lavoro, la perdita di salari e cambiamenti dannosi per i paesaggi e le comunità rurali 12 , 13.
Questi non sono fallimenti della tecnologia in quanto tali, ma piuttosto fallimenti nell’anticipare e rendere conto degli impatti della tecnologia. Una valutazione completa del rischio e quadri di governance tecnologica possono aiutare a evitare future insidie e l’esacerbazione delle attuali difficoltà nella diffusione rapida e diffusa dell’IA agricola.
Per anticipare i problemi e far avanzare le azioni di mitigazione, in questa prospettiva analizziamo innanzitutto i rischi sistemici nella gestione dei dati, nella progettazione di IA e ML e nell’implementazione di sistemi su larga scala. Nell’ambito della gestione dei dati, prestiamo particolare attenzione ai problemi di reperibilità, accessibilità e interoperabilità dei dati. All’interno della progettazione di IA e ML, mettiamo in evidenza le dinamiche attraverso le quali i modelli possono compromettere gli ecosistemi e influenzare negativamente l’identità, l’agenzia e i diritti di proprietà dei piccoli proprietari. Quando consideriamo l’implementazione su larga scala, identifichiamo i rischi che potrebbero lasciare i coltivatori e le catene di approvvigionamento agroalimentari aperte a incidenti a cascata e attacchi informatici. Sulla base di questa analisi, delineiamo una serie di proposte per mitigare i rischi previsti, basandoci su quadri di ricerca e innovazione responsabili, cooperative di dati, e spazi ibridi cyber-fisici per l’implementazione a basso rischio di tecnologie sperimentali. Evidenziamo i principali vantaggi di questi approcci e tecniche e come potrebbero essere adattati all’IA in agricoltura.
Rischi dell’IA per aziende agricole, agricoltori e sicurezza alimentare
Lo studio dei rischi dell’IA è relativamente nuovo e le preoccupazioni associate a pregiudizi, disuguaglianza, privacy, sicurezza o protezione giocano in modo diverso in diversi domini. Nell’agricoltura globale, un sistema critico per la sicurezza di grande importanza per lo sviluppo umano, consideriamo tre tipi di rischi: (1) i rischi relativi ai dati, inclusi l’acquisizione, l’accesso, la qualità e la fiducia; (2) i rischi che emergono dall’ottimizzazione ristretta dei modelli e dall’adozione ineguale della tecnologia durante la progettazione e la prima implementazione dei sistemi di riciclaggio; e (3) rischi associati alla diffusione su vasta scala di piattaforme di riciclaggio.
Rischi relativi all’acquisizione, all’accesso, alla qualità e alla fiducia dei dati
I dati agricoli spaziano dalla scala molecolare a quella paesaggistica e spaziano dall’agronomia e la coltivazione delle piante al telerilevamento e alla finanza agricola. Gli istituti di ricerca agricola nazionali e internazionali raccolgono abbondanti quantità di dati, che in linea di principio potrebbero supportare i modelli ML. Tuttavia, questi dati troppo spesso non sono rilevabili, interpretabili o riutilizzabili.
CGIAR, un consorzio globale di istituti di ricerca agricola, negli ultimi anni ha sposato i principi dei dati FAIR (trovabili, accessibili, interoperabili e riutilizzabili). Sebbene vi siano progressi nell’aumentare la reperibilità attraverso la standardizzazione, l’interoperabilità sintattica e semantica rimane elusiva a causa della mancanza di formati di dati comuni e protocolli di struttura, nonché di standard disordinati o inutilizzati.
L’affidabilità e la pertinenza dei dati agricoli sono ulteriori preoccupazioni. L’attenzione decennale sulle colture di base come grano, riso e mais ha superato gli sforzi di ricerca riguardanti colture di importanza cruciale per i produttori più poveri e gli agricoltori di sussistenza, tra cui la quinoa, la manioca e il sorgo 14 .
Allo stesso modo, le persone e le pratiche al centro dei sistemi agricoli indigeni sono spesso sottorappresentate nei dati, nonostante il loro contributo alla sicurezza alimentare locale e alla diversificazione alimentare 15 , 16 . Ad esempio, i set di dati agricoli tipici non hanno considerato sufficientemente le tecniche di policoltura, come l’agricoltura forestale e il silvopascolo. Queste tecniche producono una vasta gamma di prodotti alimentari, foraggi e tessuti, aumentando al contempo la fertilità del suolo, controllando i parassiti e mantenendo l’agrobiodiversità 17 .
Dati parziali, distorti o irrilevanti possono comportare un DSS agricolo scadente, erodendo così la fiducia dei piccoli proprietari e degli agricoltori indigeni nei servizi di estensione digitale e nei sistemi esperti, compromettendo infine la sicurezza alimentare.
Rischi da ottimizzazione ristretta e adozione ineguale
Durante l’ottimizzazione della resa, le tecnologie agricole del passato hanno contribuito a nuovi complessi di parassiti, alla perdita di biodiversità e all’inquinamento 3 , 4 . Questi rischi sono ampiamente noti, ma possono essere difficili da evitare se l’agricoltura viene ulteriormente intensificata attraverso l’IA e la resa è prioritaria rispetto all’integrità ecologica.
Sistemi esperti e macchine autonome potrebbero migliorare le condizioni di lavoro degli agricoltori, sollevandoli da compiti manuali e di routine 18 . Tuttavia, senza una progettazione tecnologica deliberata e inclusiva, le disuguaglianze socioeconomiche che attualmente pervadono l’agricoltura globale, comprese le discriminazioni di genere, di classe ed etniche 19 , 20 , e il lavoro minorile 21 rimarranno esterne ai modelli di riciclaggio applicati in agricoltura. Questa non è una preoccupazione minore; oltre 98 milioni di bambini lavorano nell’agricoltura, nella pesca, nella silvicoltura e nell’allevamento, con un’intensità che li priva della loro infanzia e delle opportunità di sviluppo 22. I sistemi esperti agronomici che rimangono agnostici rispetto agli input di lavoro agricolo, in particolare le comunità svantaggiate e i bambini occupati, ignoreranno e quindi potrebbero sostenere il loro sfruttamento.
Inoltre, è particolarmente probabile che i piccoli agricoltori che coltivano 475 dei circa 570 milioni di fattorie in tutto il mondo e nutrono grandi andane del cosiddetto Global South 23 siano esclusi dai benefici legati all’IA. L’emarginazione, gli scarsi tassi di penetrazione di Internet 24 e il divario digitale 25 potrebbero impedire ai piccoli proprietari di sfruttare tali tecnologie avanzate, ampliando il divario tra gli agricoltori commerciali e gli agricoltori di sussistenza.
È probabile che la diffusione dell’IA susciti anche preoccupazioni sui potenziali effetti sul lavoro, sull’identità, sui diritti di agenzia e sui diritti di proprietà degli agricoltori, compresa la proprietà intellettuale 26 . In tali circostanze, vi è chiaramente il rischio che grandi e piccoli agricoltori traggano profitto ineguale e che i piccoli proprietari vengano bloccati in sistemi proprietari che non comprendono appieno 27 .
Rischi derivanti dall’implementazione di IA e ML su larga scala
L’adozione e l’uso di precedenti ondate successive di tecnologie per l’intensificazione agricola tendevano a essere guidati da aziende agricole commerciali più grandi con più capitale da investire e capacità di raccogliere guadagni marginali di produttività su aree più ampie 28 . Ciò aumenta la probabilità che gli agricoltori commerciali possano essere i primi a raccogliere i vantaggi della produttività guidata dall’intelligenza artificiale, con il potenziale di ampliare il divario tra grandi agricoltori e piccoli proprietari.
Parallelamente, poiché l’IA diventa indispensabile per l’agricoltura di precisione, possiamo aspettarci una crescente dipendenza degli agricoltori commerciali da un numero limitato di piattaforme ML facilmente accessibili, come TensorFlow e PyTorch. In queste condizioni, gli agricoltori porteranno ingenti coltivazioni, pascoli e campi di fieno sotto l’influenza di alcune comuni piattaforme di riciclaggio, creando di conseguenza punti di guasto centralizzati, dove attacchi deliberati potrebbero causare danni sproporzionati.
In particolare, queste dinamiche rischiano di espandere la vulnerabilità delle filiere agroalimentari agli attacchi informatici, inclusi ransomware e attacchi denial-of-service, nonché alle interferenze con i macchinari azionati dall’intelligenza artificiale, come trattori a guida autonoma e mietitrebbia, sciami di robot per le colture ispezione e atomizzatori autonomi 29 . L’attacco informatico del 2021 a JBS 30 , il più grande trasformatore di carne del mondo, prefigura i potenziali rischi derivanti dall’introduzione delle tecnologie digitali nelle filiere agroalimentari. Un attacco ransomware del 2021 alla NEW Cooperative, che fornisce mangimi a 11 milioni di animali da fattoria negli Stati Uniti 31 , sottolinea ulteriormente questo panorama emergente della criminalità informatica.
La rapida diffusione di macchine intelligenti in sistemi multicomponente e multiagente, come l’agricoltura, può esacerbare anche rischi accidentali e non intenzionali 32 . Ad esempio, se le monocolture, in cui un singolo genotipo di una specie vegetale viene coltivato su terreni estesi, vengono irrigate, fertilizzate e ispezionate dalle stesse suite di algoritmi, un errore del modello o sensori mal calibrati possono portare a una fertilizzazione eccessiva e alla degradazione del microbioma del suolo, a rischio di insuccesso delle colture su larga scala.
Inoltre, è stato dimostrato che errori di sistema a cascata imprevisti si verificano quando le interazioni tra agenti intelligenti, in particolare nei sistemi ibridi uomo-macchina 32 , avvengono più velocemente di quanto gli esseri umani siano in grado di rispondere 33 . Man mano che gli strumenti digitali iniziano a permeare tutti gli aspetti dell’agricoltura e delle filiere agroalimentari, il rischio di tali “flash crash” del tipo visto in altri domini potrebbe aumentare.
Meccanismi di governance
Gestione dei dati, proprietà e cooperative
Identifichiamo la necessità di strutture di dati FAIR e standard migliorati per la trasparenza, i diritti di proprietà e la supervisione, in tutte le fasi della catena del valore dei dati agricoli, inclusa la generazione, l’acquisizione, l’archiviazione e l’analisi dei dati.
In particolare, gli agricoltori che condividono le informazioni sul tipo di suolo, la composizione e la disponibilità di nutrienti, la fenologia della superficie terrestre, la scelta delle colture, la quantità di fertilizzante utilizzato, le rotazioni delle colture, i registri storici della resa delle colture e la resa effettiva dovrebbero tutti seguire i requisiti di condivisione dei dati a scienza aperta, specificando il repository e set di dati. È probabile che affrontare i problemi di proprietà democratizzando l’accesso e l’uso dei dati tramite archivi conformi agli standard sia un aspetto fondamentale di questo approccio, consentendo uno sviluppo scientifico e tecnologico più aperto e multi-stakeholder 34. In questo contesto, gli strumenti di gestione dei dati che facilitano i data lake agricoli sono essenziali poiché l’agricoltura globale è alle prese con un diluvio di dati provenienti da più fonti di vario tipo. Questi strumenti devono proteggere i diritti di proprietà degli agricoltori, garantire che i dati siano affidabili, determinare come i dati possono essere utilizzati e consentire un’efficace data mining. L’uso di standard industriali come ontologie e vocabolari controllati nei data lake dovrebbe supportare il data mining tra discipline, eterogeneità e fonti che differiscono per modalità, granularità, struttura e scala 35 .
Ad esempio, la piattaforma CGIAR per i big data in agricoltura fornisce strumenti e flussi di lavoro 36 per generare dati FAIR con il supporto di diverse comunità di pratica mediate dalla piattaforma e compreso lo sviluppo e l’uso di ontologie per migliorare l’interoperabilità semantica.
Le cooperative di dati, o piattaforme possedute e controllate dai loro membri, sono un modello recente e una potenziale risposta alla necessità di una governance più trasparente e democratica dei dati delle aziende agricole e degli agricoltori. Diversi esempi negli Stati Uniti includono l’Ag Data Coalition (ADC) e la Grower Information Services Cooperative (GiSC). Alcune cooperative di dati come ADC offrono soluzioni di repository di dati sicure in cui gli agricoltori possono archiviare i propri dati e decidere con quali agenzie o enti di ricerca condividerli. Altri, come GiSC, offrono “pool di dati” con risorse di dati condivise e servizi di analisi per fornire ai colleghi una visione migliore delle loro pratiche agricole.
Approcci simili sono in fase di sperimentazione nelle economie emergenti. Ad esempio, Digital Green sta sviluppando FarmStack, una piattaforma di condivisione dei dati e uno standard di condivisione dei dati peer-to-peer per gli agricoltori indiani, con offerte come quelle di ADC. Yara e IBM stanno collaborando per consentire agli agricoltori di condividere i dati in modo sicuro e determinare chi utilizza i dati e come 37 .
Una sfida chiave emerge dalla tensione tra un accesso democratizzato ai dati e la monetizzazione dei dati. Da un lato, se i sistemi di riciclaggio traggono profitto dai dati forniti dagli agricoltori, gli agricoltori dovrebbero essere equamente compensati per la generazione di questi dati. Inoltre, la monetizzazione dovrebbe incentivare i coltivatori a condividere dati più numerosi e meglio strutturati. D’altra parte, vari sistemi di intelligenza artificiale offrono vantaggi senza guadagni finanziari e sarebbero limitati se il costo di accesso ai dati fosse proibitivo.
Un’opzione da considerare è una struttura di licenza che distingua tra uso commerciale e non commerciale dei dati. Un’altra alternativa è condividere i dati solo tra i gruppi che trarranno tutti vantaggio dalla condivisione, come i piccoli proprietari nei sistemi di policoltura. Le cooperative di dati potrebbero fornire una struttura di governance per esplorare diverse opzioni e prendere decisioni in linea con i migliori interessi degli agricoltori.
Innovazione responsabile
I rischi sopra delineati enfatizzano la necessità di sviluppare sistemi e servizi di IA agricola con sensibilità al contesto, tenendo in considerazione le potenziali ramificazioni sociali ed ecologiche e ponendo il proprietario dei dati al centro o vicino al centro degli sforzi di progettazione. La tabella 1 adatta un approccio responsabile di ricerca e innovazione 38 all’IA agricola e suggerisce interventi nei settori pubblico e privato per garantire uno sviluppo anticipatorio, riflessivo, inclusivo e reattivo.
Tabella 1 Elenco di approcci e tecniche per un’IA responsabile in agricoltura
Tavolo a grandezza naturale
Ad esempio, la progettazione preventiva dell’IA agricola comporterebbe la considerazione e la valutazione di problemi di sicurezza al di là della privacy dei dati. Questi potrebbero includere l’uso insostenibile di input chimici o lo sfruttamento eccessivo degli agroecosistemi. Lo sviluppo dell’IA riflessiva dovrebbe incoraggiare le collaborazioni deliberative di antropologi rurali, ecologisti applicati, esperti di etica e scienziati dei dati nella co-creazione di nuovi modelli di ML che salvaguardino la biodiversità e siano sensibili al contesto, assicurando che i principi etici dell’IA siano tradotti nella pratica 39 .
La progettazione inclusiva, partecipativa e incentrata sull’uomo dovrebbe valorizzare i paradigmi agricoli diversi dall’agricoltura industriale, compresi i sistemi di conoscenza indigeni. I quadri e le sedi della società civile che danno voce alle comunità vulnerabili ed emarginate e diffondono le loro preoccupazioni possono sostenere questi obiettivi.
Implementazione graduale e consapevole del rischio in sandbox digitali
Suggeriamo che l’implementazione iniziale dell’IA per scopi agricoli avvenga in spazi cyber-fisici ibridi a basso rischio, che chiamiamo “sandbox digitali”, dove più parti interessate possono essere coinvolte nella prototipazione rapida e supervisionata e nella sperimentazione di nuove tecniche di ML, e tecnologie associate. In tale spazio cyber-fisico, modelli e macchine potrebbero essere valutati in circostanze locali e strettamente monitorate. Questo modello non è del tutto nuovo. Ha la precedenza, ad esempio, nei quadri biotecnologici che disciplinano e applicano i protocolli di biosicurezza nella ricerca genetica, genomica e sugli organismi geneticamente modificati 40 .
Le sandbox digitali che segnalano i possibili fallimenti delle tecnologie nascenti assicurerebbero che le pratiche sperimentali come la diagnosi e il controllo autonomi di parassiti e agenti patogeni siano precisi, sicuri e ben protetti. Allo stesso tempo, rendere anonimi i dati relativi ai tentativi di implementazione falliti e condividerli con le comunità di IA agricola consentirà di apprendere le lezioni e accelerare innovazioni sicure.
Il progetto Hands Free Hectare ( https://www.handsfreehectare.com/ ) presso la Harper Adams University nel Regno Unito, dove vengono testati e convalidati interventi di agricoltura di precisione autonoma, è un esempio di tale spazio cyber-fisico in un contesto europeo; l’AI Lab presso la Makerere University ( https://air.ug/ ) a Kampala, in Uganda, dove ML anticipa la diffusione delle malattie delle piante, dimostra come funziona l’approccio in un contesto africano.
Questo approccio ha diversi vantaggi accessori. Ad esempio, le sandbox digitali che operano in partnership di scienza aperta che collegano istituzioni pubbliche, private e senza scopo di lucro possono creare il contesto per la prototipazione di applicazioni di intelligenza artificiale in modo sicuro. Possono anche aiutare a informare le regole e i regolamenti per l’implementazione responsabile delle applicazioni. Mentre la rigidità normativa può impedire la prototipazione di nuove tecniche di riciclaggio, le agenzie governative potrebbero concedere speciali esenzioni provvisorie a spazi di sperimentazione e apprendimento come sandbox digitali prima di sviluppare quadri normativi mirati e personalizzati. Inoltre, gli approcci multi-stakeholder alla sperimentazione e all’apprendimento, come i sandbox digitali, possono creare opportunità per applicare i principi dell’innovazione responsabile nella progettazione tecnologica.
Conclusione
Un’ampia diffusione dell’IA in agricoltura è preziosa e prevedibile. Tuttavia, la storia della modernizzazione tecnologica in agricoltura suggerisce fortemente che concentrarsi sull’aumento della produttività comporta potenziali rischi, tra cui l’intensificarsi delle disuguaglianze e del degrado ecologico. L’IA agricola deve evitare le insidie delle tecnologie precedenti e navigare con attenzione e migliorare le loro difficoltà implementando valutazioni del rischio complete e protocolli di governance preventiva.
Dalla raccolta e cura dei dati allo sviluppo e alla diffusione, i principi generali di un’IA responsabile e partecipativa dovrebbero essere adattati alle sfide distinte che l’agricoltura deve affrontare, su scala locale e globale. In caso contrario, si può ignorare e quindi perpetuare i fattori che determinano l’insicurezza nutrizionale, lo sfruttamento del lavoro e l’esaurimento delle risorse ambientali.
Nonostante i precedenti passi falsi, la modernizzazione tecnologica in agricoltura ha ottenuto molto. Anche i successi passati dovrebbero informare e ispirare l’uso di sistemi esperti in agricoltura e macchine intelligenti. Di conseguenza, è essenziale che venga praticato un approccio equilibrato nei confronti dell’innovazione e che le valutazioni del rischio e le procedure di ricerca e sviluppo responsabili non soffochino l’innovazione in un sistema così fondamentale per il benessere umano.
Infine, il panorama emergente del rischio qui discusso è applicabile anche ai sistemi agricoli che forniscono prodotti non alimentari; un approccio simile dovrebbe pertanto essere considerato nella produzione di fibre, combustibili, pasta di cellulosa, carta, oli, resine, cosmetici, gomma e plastica.
