Il existe une différence fondamentale entre deux types d'intelligence artificielle qui se ressemblent en apparence pour l'utilisateur profane : les deux répondent aux questions en langage naturel, tous deux semblent confiants dans leurs réponses et tous deux produisent un texte cohérent et bien écrit. Mais ils sont radicalement différents dans ce qu'ils font en interne, dans la manière dont ils ont été formés et dans le type de confiance qu'ils méritent dans un contexte clinique.
Le premier type concerne les systèmes d'IA médicale clinique : des algorithmes spécifiquement entraînés avec des données cliniques validées, évalués dans le cadre d'essais cliniques rigoureux, intégrés dans les flux de travail hospitaliers avec une surveillance médicale permanente et soumis à une réglementation sanitaire stricte avant d'être autorisés. Il existe plus de 900 algorithmes approuvés par la FDA et plus de 200 avec l’autorisation de l’EMA. Ils détectent le cancer dans les images médicales. Ils prédisent la septicémie des heures à l’avance. Ils identifient les interactions médicamenteuses dangereuses avant que le médecin ne confirme la prescription.
Le deuxième type concerne les modèles de langage génératifs à usage général : ChatGPT, Claude, Gemini, Copilot. Ils ont été conçus pour produire un texte cohérent et utile à partir de grands volumes d’informations. Ils sont extraordinairement capables d’accomplir de nombreuses tâches. Mais dans le contexte médical, ils ont des limitations critiques qui les rendent inaptes à prendre des décisions diagnostiques : ils ne vérifient pas la véracité des informations qu'ils génèrent, lorsqu'ils commettent des erreurs, ils le font d'une manière convaincante et difficile à détecter, et ils ne connaissent pas l'histoire clinique spécifique du patient qui les demande.
Le problème de l'excès de confiance
L'étude Cigna International Health a révélé que 44 % des Espagnols considèrent l'impact de l'IA sur les soins de santé comme positif. C'est un chiffre raisonnable qui reflète une saine ouverture à la technologie. Le problème se pose lorsque cette attitude positive se traduit par une confiance dans les réponses d’un chatbot génératif comme si elles étaient l’équivalent d’une consultation médicale. Les médecins d'Osakidetza, le système de santé basque, ont publié en mai 2026 un avertissement spécifique sur ce risque, soulignant que certaines personnes interprètent les réponses de ces outils comme des diagnostics concluants et agissent en conséquence sans consulter un professionnel de la santé.
IA médicale vs chatbot génératif — Les différences qui comptent
- IA médicale clinique : formée à partir de données cliniques validées, évaluée dans le cadre d'essais, supervisée par des médecins
- Chatbot génératif : formé pour produire un texte cohérent, pas pour un diagnostic médical
- IA clinique : hyper-spécialisée dans un domaine, réglementée avant utilisation
- Chatbot : généraliste, non validé pour le diagnostic, peut "halluciner" avec une apparente sécurité
- Bon usage des chatbots en santé : comprendre les diagnostics déjà établis, préparer les questions de consultation
- Utilisation inappropriée : diagnostic de nouveaux symptômes, décisions concernant les médicaments, interprétation des tests
L'automédication pilotée par la recherche numérique
Cette tendance n'est pas seulement un problème avec les chatbots IA : la recherche de symptômes sur Internet génère depuis des années un modèle d'automédication que les experts jugent inquiétant. La différence qu’introduit l’IA générative est quantitative et qualitative : quantitative parce que l’accessibilité et la qualité apparente des réponses augmentent massivement le nombre de personnes qui les utilisent ; qualitative car les réponses d'un chatbot sophistiqué sont incomparablement plus convaincantes qu'un résultat de recherche Google.
L'utilisation correcte de ces outils en santé existe et a une réelle valeur. Un chatbot génératif peut être utile pour comprendre les informations déjà fournies par un médecin, pour traduire des termes cliniques complexes dans un langage plus accessible, pour préparer des questions pertinentes avant une consultation ou pour des conseils généraux sur les habitudes de santé. Ce qu'il ne peut pas faire - et ce que certains utilisateurs attendent de lui - c'est remplacer l'évaluation d'un professionnel qui connaît les antécédents du patient, qui peut effectuer un examen physique et qui a la formation nécessaire pour interpréter l'ensemble des symptômes dans le contexte spécifique de cette personne.
Étiquettes
Partager cet article
