Experts humains dans l'évaluation clinique de l'intelligence artificielle : un rôle irremplaçable dans la gouvernance mondiale de la santé

Quand l'IA évalue l'IA : le fossé de confiance dans les scénarios cliniques

Les systèmes de santé mondiaux sont confrontés à une double pression : pénurie de ressources et augmentation de la demande. L'intelligence artificielle est considérée comme un outil clé pour améliorer l'efficacité et étendre la couverture. Cependant, une étude récente publiée dans *npj Digital Medicine* met en garde : dans l'évaluation de la qualité des résultats de l'IA clinique, se fier entièrement aux systèmes d'évaluation automatisés pourrait négliger des problèmes locaux cruciaux.

L'équipe de recherche a comparé les évaluations des experts humains avec celles du « LLM-as-a-Judge » (grand modèle de langage en tant que juge) et a constaté que, bien que les systèmes d'IA fournissent des notations cohérentes et peu coûteuses, les cliniciens locaux ont néanmoins signalé des préoccupations importantes que l'évaluation automatisée avait manquées. Cette découverte pointe directement vers une contradiction centrale dans les stratégies mondiales de santé numérique : comment préserver la capacité de jugement contextuel des experts humains tout en déployant l'IA à grande échelle.

La valeur des connaissances locales dans la santé numérique

Pour les pays du Sud, ce résultat est particulièrement important. De nombreux pays à revenu faible ou intermédiaire utilisent l'IA pour pallier le manque de médecins, mais les données d'entraînement proviennent souvent d'environnements à revenus élevés, ce qui peut entraîner des biais de diagnostic. L'étude montre que les experts cliniques locaux sont capables d'identifier des problèmes subtils liés aux modes de prévalence des maladies, aux habitudes culturelles et aux limitations infrastructurelles — éléments qui dépassent souvent le champ d'entraînement des modèles génériques.

Par exemple, en Afrique subsaharienne, un système de diagnostic du paludisme assisté par IA pourrait devoir prendre en compte les risques d'infections multiples chez les patients, la disponibilité des médicaments et la capacité de détection des laboratoires locaux. L'évaluation automatisée pourrait se concentrer uniquement sur la précision algorithmique, tandis que les experts humains peuvent identifier le fossé d'applicabilité du système dans les flux de travail cliniques réels.

Perspective ESG : équité sociale et responsabilité de gouvernance

En examinant le cadre ESG (Environnement, Social et Gouvernance), cette étude met en lumière trois enjeux :

• Social (S) : Le déploiement de l'IA devrait améliorer l'équité en santé, et non l'affaiblir. Si les systèmes d'évaluation ignorent les voix locales, les groupes marginalisés pourraient se voir imposer des solutions d'IA inappropriées.
• Gouvernance (G) : Il est crucial d'établir un cadre de régulation transparent et responsable pour l'IA. L'étude recommande d'intégrer continuellement une relecture humaine dans le cycle de vie des systèmes d'IA, en particulier dans les décisions cliniques à haut risque.
• Environnement (E) : Bien que l'IA ait une empreinte carbone, des diagnostics efficaces et précis peuvent réduire le gaspillage de ressources lié aux examens superflus, contribuant ainsi aux objectifs de développement durable.

Implications pour la gouvernance mondiale

L'Organisation mondiale de la santé a déjà publié des *Lignes directrices sur l'éthique et la gouvernance de l'intelligence artificielle*, soulignant le principe de « l'humain dans la boucle ». Cette étude apporte un soutien empirique à ce principe : lorsque les experts humains et l'IA participent ensemble à l'évaluation, il est possible d'exploiter l'avantage d'échelle de l'IA tout en préservant la profondeur du jugement clinique.

Les organisations internationales de coopération devraient promouvoir l'établissement de normes d'« évaluation hybride » : 1. Développer des outils d'évaluation localisés pour les environnements à faibles ressources ; 2. Financer la collecte de données pour la formation et l'évaluation de l'IA dans les pays du Sud ; 3. Intégrer la relecture humaine dans les indicateurs de performance des projets de financement du développement.## Conclusion : Itération technologique et collaboration homme-machine

Le potentiel de l’IA dans le domaine de la santé est indéniable, mais le progrès technique ne doit pas se faire au détriment des connaissances locales. Cette étude rappelle aux décideurs politiques, aux développeurs et aux bailleurs de fonds : tout en poursuivant l’efficacité, il est indispensable d’investir dans le renforcement des capacités humaines et les mécanismes de régulation. La véritable voie pour atteindre l’objectif de développement durable n° 3 (Bonne santé et bien-être) est de faire en sorte que l’intelligence artificielle et l’intelligence humaine soient complémentaires, et non substituables.