C'è una differenza fondamentale tra due tipi di intelligenza artificiale che a prima vista sembrano uguali all'utente non esperto: entrambi rispondono alle domande in linguaggio naturale, entrambi sembrano fiduciosi nelle loro risposte ed entrambi producono testi coerenti e ben scritti. Ma sono radicalmente diversi in ciò che fanno internamente, nel modo in cui sono stati formati e nel tipo di fiducia che meritano in un contesto clinico.
Il primo tipo sono i sistemi di IA medico-clinica: algoritmi appositamente addestrati con dati clinici convalidati, valutati in rigorosi studi clinici, integrati nei flussi di lavoro ospedalieri con supervisione medica permanente e soggetti a rigorose normative sanitarie prima di essere autorizzati. Esistono più di 900 algoritmi con approvazione FDA e più di 200 con autorizzazione EMA. Rilevano il cancro nelle immagini mediche. Prevedono la sepsi con ore di anticipo. Identificano le interazioni farmacologiche pericolose prima che il medico confermi la prescrizione.
Il secondo tipo sono modelli linguistici generativi generici: ChatGPT, Claude, Gemini, Copilot. Sono stati progettati per produrre testo coerente e utile da grandi volumi di informazioni. Sono straordinariamente capaci di svolgere molti compiti. Ma nel contesto medico hanno limiti critici che li rendono inadeguati a prendere decisioni diagnostiche: non verificano la veridicità delle informazioni che generano, quando commettono errori lo fanno in un modo convincente e difficile da rilevare, e non conoscono la storia clinica specifica del paziente che li interroga.
Il problema dell'eccessiva sicurezza
Lo studio Cigna International Health ha rilevato che il 44% degli spagnoli considera positivo l'impatto dell'intelligenza artificiale sull'assistenza sanitaria. Si tratta di un numero ragionevole che riflette una sana apertura alla tecnologia. Il problema sorge quando quell’atteggiamento positivo si traduce nel fidarsi delle risposte di un chatbot generativo come se fossero l’equivalente di una visita medica. I medici di Osakidetza, il sistema sanitario basco, hanno pubblicato un avviso specifico su questo rischio nel maggio 2026, sottolineando che alcune persone interpretano le risposte di questi strumenti come diagnosi conclusive e agiscono di conseguenza senza consultare un operatore sanitario.
AI medica e chatbot generativo: le differenze che contano
- IA medica clinica: addestrata con dati clinici convalidati, valutata in studi clinici, supervisionata da medici
- Chatbot generativo: addestrato per produrre testo coerente, non per diagnosi mediche
- AI clinica: iperspecializzata in un'area, regolamentata prima dell'uso
- Chatbot: generalista, non validato per la diagnosi, può "allucinare" con apparente sicurezza
- Uso corretto dei chatbot in sanità: comprendere diagnosi già stabilite, preparare domande per la consultazione
- Uso inappropriato: diagnosi di nuovi sintomi, decisioni terapeutiche, interpretazione del test
Automedicazione guidata dalla ricerca digitale
Questa tendenza non riguarda solo i chatbot basati sull'intelligenza artificiale: la ricerca di sintomi su Internet genera da anni un modello di automedicazione che gli esperti considerano preoccupante. La differenza che l’IA generativa introduce è quantitativa e qualitativa: quantitativa perché l’accessibilità e la qualità apparente delle risposte aumenta enormemente il numero di persone che le utilizzano; qualitativo perché le risposte di un sofisticato chatbot sono incomparabilmente più convincenti di un risultato di ricerca di Google.
L'uso corretto di questi strumenti in ambito sanitario esiste e ha un valore reale. Un chatbot generativo può essere utile per comprendere le informazioni già fornite da un medico, per tradurre termini clinici complessi in un linguaggio più accessibile, per preparare domande pertinenti prima di una visita o per indicazioni generali sulle abitudini sanitarie. Ciò che non può fare, e ciò che alcuni utenti si aspettano, è sostituire la valutazione di un professionista che conosce la storia del paziente, che può eseguire un esame fisico e che ha la formazione necessaria per interpretare l'insieme dei sintomi nel contesto specifico di quella persona.
Condividi questo articolo
