I chatbot stanno cambiando il modo in cui le persone percepiscono e conoscono il mondo. Questa trasformazione si manifesta in molti ambiti della vita, ma forse uno dei più sensibili e preoccupanti è il crescente uso degli strumenti di AI generativa (GenAI) in ambito sanitario. Accanto ai numerosi chatbot AI disponibili gratuitamente, alcune aziende tecnologiche che operano anche nel mercato sanitario si rivolgono oggi ai consumatori attraverso diversi strumenti, sfruttando spesso le potenzialità dell’AI. Recente, infatti, è il rilascio di servizi come Copilot Health, ChatGPT Health e Amazon’s HealthAI, modelli che aiutano gli utenti a interpretare la propria documentazione medica e a porre domande su sintomi, risultati di laboratorio e opzioni terapeutiche. Pensare che uno strumento AI possa assumere il ruolo del proprio medico comporta però una serie di rischi. Il rischio non consiste solo nel fatto che gli utenti ricevano consigli errati, ma anche nel fatto che possano condividere informazioni personali estremamente sensibili con sistemi le cui misure di protezione della privacy, policy di condivisione dei dati e obblighi legali potrebbero differire da quelle a cui un medico o un ospedale sono obbligati a rispettare, oltre al fatto che i loro dati potrebbero essere esposti a terzi non autorizzati. Secondo un’organizzazione statunitense per la sicurezza dei pazienti, l’uso improprio dei chatbot basati sull’AI rappresenta oggi il principale pericolo nel settore delle tecnologie sanitarie.
Dalla teoria alla pratica
Il motivo per cui gli sviluppatori stanno entrando in questo settore è evidente: i chatbot sono diventati uno strumento estremamente popolare anche in ambito medico-sanitario. Secondo Microsoft, le persone “parlano” attraverso i loro dispositivi mobili e condividono informazioni relative alla propria salute e a quella dei propri cari più che di qualsiasi altro argomento. I chatbot sono disponibili 24 ore su 24, 7 giorni su 7, con una risposta per tutto, espressa in tono rassicurante in modo da poter tranquillizzare i pazienti in ansia. In un momento in cui i sistemi sanitari nazionali sono sottoposti a pressioni crescenti, molte persone potrebbero cercare una valutazione preliminare dei propri sintomi con l’aiuto dell’AI prima di rivolgersi a un medico. L’idea di poter effettuare un triage da casa, evitando tempi d’attesa e possibili costi contribuisce a rendere questa scelta sempre più diffusa.
Questa tendenza solleva però già diverse preoccupazioni. La prima riguarda il rischio di basare le proprie scelte o comportamenti su consigli totalmente errati. Uno studio dell’Università di Oxford, pubblicato a febbraio su Nature Medicine, ha rilevato che spesso gli utenti non sanno quali informazioni condividere con i LLM (Large Language Model), mentre gli stessi LLM possono fornire risposte molto diverse, anche di fronte a domande formulate con minime variazioni. Lo studio evidenzia inoltre come vengano spesso fornite risposte corrette ed errate allo stesso tempo, rendendo difficile per gli utenti la distinzione tra le due. Alcuni esperti evidenziano che nonostante il grande entusiasmo, l’AI non è ancora pronta a ricoprire il delicato ruolo del medico. I pazienti devono essere consapevoli che chiedere a un LLM informazioni sui propri sintomi può essere pericoloso, portando a diagnosi errate e al mancato riconoscimento dei casi in cui è necessario un intervento urgente.
Mettere in luce i rischi per la privacy
Esistono poi rischi non strettamente legati alla salute, ma altrettanto rilevanti sul piano della privacy e della sicurezza. Condividere informazioni mediche sensibili con un chatbot pubblico può significare consentirne l’utilizzo per migliorare e addestrare il modello, con il rischio che quei dati restino come traccia digitale o, in alcuni casi, possano riemergere nelle risposte di altri utenti. Anche se involontariamente, è noto che i modelli di GenAI possano esporre accidentalmente i dati inseriti dagli utenti.
Le policy variano da fornitore a fornitore. Alcuni servizi sfruttano i dati degli utenti per perfezionare i propri modelli, salvo esplicita opposizione, mentre altri dichiarano di non utilizzare le informazioni sanitarie a tale scopo. Per questo è importante conoscere il servizio prima di caricare al suo interno dati sensibili. Il pericolo risiede proprio nel fatto che queste informazioni sanitarie, una volta condivise, possono diventare una traccia digitale permanente.
Inoltre, sebbene la maggior parte dei principali chatbot che erogano consigli in materia sanitaria prometta di non utilizzare i dati per l’addestramento, bisogna tener conto che questa è solo una parte del quadro sulla privacy e che i servizi potrebbero non rispettare le stesse policy di sicurezza quando si tratta di gestire la condivisione dei dati con terze parti. In tal caso, le informazioni mediche personali potrebbero finire nelle mani di un aggregatore di dati o essere condivise con inserzionisti pubblicitari, direttamente o tramite uno di questi aggregatori, anche se spesso anonimizzate prima dell’utilizzo. Resta comunque necessario prestare attenzione: i dati sanitari sono particolarmente sensibili e l’anonimizzazione non elimina sempre ogni rischio.
Quando il rischio di violazione si moltiplica
Il problema principale del passaggio di dati sensibili attraverso molte organizzazioni è l’aumento delle possibilità che essi vengano esposti a criminali informatici e truffatori. Alcuni legislatori statunitensi affermano di aver individuato una serie di violazioni subite da società di data broker che avrebbe causato perdite per 21 miliardi di dollari. I dati sanitari sono particolarmente preziosi per i criminali perché mantengono il loro valore nel tempo, non possono essere facilmente sostituiti o riemessi, possono includere informazioni assicurative utili per presentare richieste fraudolente o ricevere prestazioni mediche a nome della vittima e possono persino essere usati per richiedere riscatti. Più aziende conservano questi dati, maggiori sono le opportunità per gli hacker di comprometterle e sottrarli. La criticità principale risiede nel fatto che molti strumenti di AI per la salute, essendo classificati come servizi consumer e non enterprise, non sono regolati dall’HIPAA o da altre norme applicabili al mercato business e potrebbero quindi non essere soggetti agli stessi rigorosi standard di protezione dei dati normalmente attesi in ambito sanitario.
Consigli per i pazienti
Come si può quindi ridurre al minimo l’esposizione ai rischi della GenAI sanitaria? Per prima cosa, quando si è preoccupati per un qualsiasi sintomo medico, il consiglio è quello di evitare di porre domande ai bot generalisti, rivolgendosi piuttosto al proprio medico di fiducia. Se il quesito non risulta essere così grave e si vuole provare a raccogliere qualche informazione preliminare, allora è sempre meglio rivolgersi a chatbot progettati specificamente per rispondere a domande in ambito sanitario. Inoltre, si consiglia di verificare sempre che il servizio selezionato spieghi quali siano le modalità di gestione dei dati, informi l’utente in caso di utilizzo di prompt per l’addestramento, dichiari l’eventuale condivisione delle informazioni con terze parti e se questo sia eventualmente coperto dall’HIPAA o da un regime equivalente di tutela della privacy. È poi importante non fidarsi ciecamente dell’output fornito, a meno che questo non sia collegato direttamente a una fonte verificabile. Anche in quel caso però, non bisogna considerare le risposte come delle verità assolute. Resta fondamentale il confronto diretto con un medico professionista.
Per salvaguardare la propria privacy, invece, è consigliabile seguire alcuni semplici accorgimenti, come il non condividere o caricare documenti medici, risultati di laboratorio o altri documenti sensibili su uno strumento di AI se non si è certi di aver compreso prima come questo intenda gestire i dati; evitare di inserire nomi, indirizzi, dettagli assicurativi o altri elementi che permettano l’identificazione; assicurarsi di disattivare le funzioni di addestramento e di cronologia della chat; condividere solo le informazioni minime necessarie e dare sempre per scontato che ciò che si andrà a scrivere potrà essere conservato o esposto.
In definitiva, i chatbot AI possono essere utili per preparare domande da rivolgere al medico su una specifica condizione o per chiarire termini medici poco familiari. Tuttavia, c’è una grande differenza tra usare l’AI per prepararsi a una visita piuttosto che considerarla un sostituto delle cure mediche: una risposta formulata con sicurezza non deve essere trattata come una diagnosi, né deve portare a ignorare sintomi urgenti solo perché una macchina appare rassicurante.