L’uso dei chatbot di intelligenza artificiale per cercare informazioni sulla salute è ormai diventato un comportamento diffuso. Secondo i dati citati dalla Harvard Gazette, circa il 68% degli adulti ha utilizzato almeno una volta un motore di ricerca per ottenere indicazioni mediche, mentre il 32% si è rivolto direttamente a chatbot basati su intelligenza artificiale. Adam Rodman, medico internista, ricercatore sull’IA e docente alla Harvard Medical School presso il Beth Israel Deaconess Medical Center, ha proposto un criterio pratico per distinguere le domande che possono essere rivolte con relativa sicurezza a un modello linguistico da quelle per le quali è necessario mantenere il medico direttamente al centro della decisione. Il sistema utilizza tre livelli, verde, giallo e rosso, determinati soprattutto dalla quantità di contesto clinico necessaria per formulare una risposta affidabile.
Nel livello verde rientrano le domande generali sulla salute nelle quali la qualità dell’informazione dipende poco dalla situazione individuale del paziente. Un chatbot può essere utilizzato, per esempio, per spiegare che cosa sia l’ipertensione, come funzioni il diabete, quali siano gli effetti collaterali più comuni di un farmaco oppure per organizzare informazioni già fornite da un medico. Rodman cita anche richieste più operative, come la costruzione di un possibile piano alimentare per una persona diabetica sulla base delle indicazioni già ricevute dal proprio medico e delle proprie preferenze alimentari, oppure la preparazione di un programma iniziale di esercizio fisico. In questi casi il modello viene impiegato soprattutto per raccogliere, ordinare e rendere comprensibili informazioni disponibili, senza dover ricostruire autonomamente una diagnosi o scegliere una terapia.
La fascia gialla riguarda invece richieste nelle quali il chatbot può essere utile, ma il medico deve rimanere all’interno del processo. È il caso della preparazione a una visita, della comprensione di ciò che è stato discusso durante un consulto o dell’interpretazione preliminare di un referto che il paziente non riesce a comprendere completamente. Dopo una visita, per esempio, è possibile rimuovere dal documento sanitario i dati identificativi e utilizzare il testo come base per chiedere spiegazioni su termini medici, esami prescritti o passaggi del percorso diagnostico. In questo tipo di utilizzo diventa però essenziale fornire al sistema una quantità sufficiente di informazioni cliniche pertinenti, perché una risposta prodotta senza il necessario contesto può risultare formalmente plausibile ma non appropriata alla situazione reale.
Il modo in cui viene formulata la domanda rappresenta infatti uno degli elementi più critici. I modelli linguistici possono modificare la propria risposta sulla base delle informazioni fornite dall’utente, del modo in cui una domanda viene posta e delle ipotesi già incorporate nella richiesta. Rodman sottolinea che l’interazione con il modello può quindi influenzarne significativamente il risultato e che una formulazione poco chiara, incompleta o orientata verso una determinata conclusione può ridurre la qualità dell’informazione ottenuta. Alcuni studi sperimentali hanno mostrato che modelli capaci di riconoscere correttamente condizioni mediche quando vengono valutati su casi strutturati possono ottenere risultati sensibilmente peggiori quando devono interagire direttamente con persone reali, proprio perché il dialogo introduce ambiguità, informazioni incomplete e dinamiche psicologiche che non sono presenti nei test standardizzati.
Il livello rosso comprende invece le decisioni strettamente terapeutiche e tutte le richieste che dipendono in maniera rilevante dall’intera storia clinica del paziente. Chiedere a un chatbot se il farmaco prescritto sia quello corretto, se una terapia debba essere modificata, perché un medico abbia scelto un principio attivo invece di un altro oppure come gestire direttamente una determinata patologia rientra in questa categoria. La scelta di una terapia dipende infatti da elementi che possono comprendere visita clinica, precedenti diagnosi, risultati degli esami, altri farmaci assunti, controindicazioni, caratteristiche individuali e obiettivi terapeutici. Un modello linguistico normalmente non dispone dell’intero quadro e non è stato progettato per sostituire questa valutazione clinica complessiva.
Uno dei problemi che accompagna l’utilizzo dei sistemi di intelligenza artificiale in ambito sanitario è inoltre la cosiddetta cybercondria, fenomeno già osservato negli anni della ricerca medica attraverso i motori di ricerca. Un sintomo comune può portare l’utente verso informazioni relative a condizioni progressivamente più gravi, aumentando ansia e percezione del rischio. Con i chatbot il meccanismo può diventare ancora più delicato perché la risposta non viene presentata come un semplice elenco di pagine da consultare, ma sotto forma di testo coerente, conversazionale e spesso espresso con elevata sicurezza linguistica. L’utente può inoltre instaurare con il sistema una forma di interazione continuativa e porre domande successive sempre più specifiche, aumentando il rischio che ipotesi iniziali non corrette vengano progressivamente rafforzate.
Questo aspetto è legato anche alla tendenza dei modelli linguistici ad adattarsi alle aspettative percepite dell’interlocutore. Se una persona formula ripetutamente domande partendo da una determinata convinzione, il sistema può produrre risposte che finiscono per assecondare quella linea interpretativa invece di correggerla con sufficiente decisione. I principali sistemi integrano oggi meccanismi di sicurezza progettati per riconoscere richieste sanitarie potenzialmente urgenti e suggerire di rivolgersi a un medico o ai servizi di emergenza, ma questi strumenti non eliminano completamente il problema della qualità del dialogo e della corretta interpretazione del contesto.
Rodman distingue anche l’affidabilità teorica dei modelli dalla loro efficacia nell’utilizzo reale. I sistemi di ultima generazione, soprattutto quelli dotati di capacità di ragionamento più avanzate, possono ottenere prestazioni elevate nel riconoscimento di condizioni mediche all’interno di casi clinici ben definiti. Questo risultato non significa però che lo stesso livello di accuratezza venga mantenuto quando il modello deve ricostruire il problema partendo dal racconto spontaneo di un utente. Sintomi descritti in modo incompleto, informazioni omesse, terminologia imprecisa e domande orientate possono modificare significativamente il risultato.
Un ulteriore elemento riguarda la riservatezza dei dati sanitari. Dal punto di vista tecnico, condividere informazioni con un sistema di IA non viene considerato intrinsecamente più rischioso rispetto all’inserimento degli stessi dati in un motore di ricerca, ma il comportamento degli utenti rende il problema più rilevante. Le persone tendono infatti a fornire a un chatbot quantità di informazioni personali molto maggiori rispetto a quelle normalmente inserite in una ricerca tradizionale. Questo può includere sintomi, diagnosi, terapie, risultati di esami e parti di documentazione sanitaria. Per questa ragione, quando si utilizzano documenti clinici all’interno di un modello linguistico, è opportuno rimuovere almeno le informazioni direttamente identificative e valutare con attenzione quali dati sia realmente necessario condividere.
Il criterio proposto da Rodman identifica quindi nell’intelligenza artificiale soprattutto uno strumento di supporto informativo. I chatbot possono essere utilizzati per comprendere meglio concetti medici, preparare domande da rivolgere durante una visita, organizzare informazioni o chiarire quanto già discusso con un professionista sanitario. Quando invece la richiesta riguarda una diagnosi individuale, la scelta tra differenti terapie o la modifica di un trattamento, la quantità di informazioni cliniche necessarie supera normalmente ciò che un chatbot può ricostruire attraverso una conversazione. In questa distinzione tra informazione generale, supporto alla comprensione e decisione clinica si trova il confine principale tra gli utilizzi considerati a basso rischio e quelli per i quali il sistema non dovrebbe sostituire il giudizio medico.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)