Déformation des citations générées par l’IA : la crise de confiance dans les publications biomédicales devient un enjeu de gouvernance mondiale de la recherche

La distorsion des citations générées par l’IA : la crise de confiance de l’édition biomédicale, désormais un enjeu de gouvernance mondiale de la recherche

Un audit qui semble relever de l’édition scientifique interne met au jour un problème de développement mondial bien plus large : lorsque l’IA générative entre dans le processus de rédaction des articles, l’« expansion à faible coût » de la production de connaissances et la « perte à haut risque » de la qualité des preuves commencent à se produire simultanément. Selon une communication publiée dans *The Lancet* et des articles connexes, une équipe de recherche a audité environ 2,5 millions d’articles biomédicaux de la base de données en libre accès PubMed Central, sur la période du 1er janvier 2023 au 18 février 2026, et a finalement identifié 4 046 citations falsifiées dans 97,1 millions de références vérifiées, concernant 2 810 articles.

Il ne s’agit pas d’une question marginale réservée aux discussions du monde de l’édition. Elle touche à la fiabilité des preuves médicales, à la robustesse des revues systématiques, à la crédibilité des recommandations cliniques, ainsi qu’à la manière dont les institutions de recherche du Sud global utilisent, sous des contraintes de ressources, des systèmes de connaissances amplifiés par les plateformes numériques. Plus important encore, elle rappelle aux décideurs publics que l’IA n’apporte pas seulement un gain de productivité : elle reconfigure aussi les logiques de fond de l’intégrité scientifique, de la vérification des connaissances et de la coopération internationale.

De « l’outil de rédaction » à une source de contamination des preuves

L’IA générative a d’abord été perçue par de nombreux chercheurs comme un outil d’assistance visant à améliorer l’efficacité : aide à la reformulation, à l’organisation de la bibliographie, à la génération de plans. Cependant, cet audit montre que lorsque l’IA est intégrée sans garde-fous dans le flux de travail de la rédaction académique, la distorsion des citations peut rapidement passer d’erreurs isolées à un risque systémique.

L’équipe de recherche a utilisé un processus de vérification automatisé, croisant des bases de données comme PubMed, Crossref, OpenAlex et Google Scholar, tout en s’appuyant sur un grand modèle de langage pour filtrer les entrées suspectes. Cette méthode a en elle-même une portée concrète : à l’échelle de millions d’articles, la vérification manuelle traditionnelle est pratiquement impossible, et la combinaison d’outils automatisés et de revues humaines est devenue une voie réaliste pour la gouvernance de la recherche à grande échelle.

Mais le problème apparaît aussi de ce fait : dès lors que les mécanismes de contrôle des citations prennent du retard, l’IA générative peut injecter en masse dans le système de connaissances des contenus qui « ressemblent à des preuves ». Pour le domaine médical, cette distorsion est particulièrement dangereuse, car les recommandations cliniques, l’évaluation des médicaments et la recherche en santé publique reposent sur une base documentaire traçable et vérifiable. Une citation erronée n’est pas seulement une imperfection de forme : elle peut influencer des recommandations thérapeutiques, des décisions politiques et l’allocation des ressources.

Pourquoi il ne s’agit pas seulement d’une question d’intégrité scientifique, mais aussi d’un enjeu de développement mondial

Dans une perspective de développement mondial, l’intégrité scientifique n’est pas une affaire confinée à la tour d’ivoire : elle fait partie des capacités publiques. Pour les pays à revenu élevé, des citations erronées signifient surtout une atteinte à la réputation académique ; pour les pays à revenu faible et intermédiaire, elles peuvent aussi signifier un gaspillage de ressources de recherche limitées, une contamination des bases de décision politiques et l’absorption, par le système de santé, de preuves peu fiables.

La Banque mondiale, le PNUD et les institutions multilatérales de développement soulignent depuis plusieurs années que les « capacités institutionnelles » et les « capacités en matière de données » sont des déterminants majeurs des résultats du développement.La Banque mondiale, le PNUD et les agences multilatérales de développement soulignent depuis plusieurs années que la « capacité institutionnelle » et la « capacité en matière de données » sont des déterminants essentiels des résultats du développement. Aujourd’hui, cette capacité ne se limite plus à la gestion budgétaire ou aux systèmes statistiques ; elle englobe également le système de production du savoir lui-même : les articles sont-ils vérifiables, les recherches sont-elles reproductibles, les citations sont-elles traçables, les bases de données sont-elles auditables ?

Cela est fortement مرتبط avec la dimension de « gouvernance » dans l’ESG. Par le passé, l’ESG servait surtout à la publication d’informations des entreprises, à la gestion des chaînes d’approvisionnement et à l’évaluation des marchés de capitaux ; aujourd’hui, les enjeux de gouvernance liés aux contenus générés par l’IA commencent aussi à entrer dans le champ de responsabilité des institutions de recherche, des éditeurs et des plateformes. Si les organismes de publication académique ne peuvent pas mettre en place des mécanismes plus robustes de vérification des références, cela revient à laisser une lacune systémique de gouvernance dans la chaîne d’approvisionnement du savoir.

La hausse des citations fabriquées reflète les pressions structurelles sur l’écosystème de la recherche

Les audits montrent que l’incidence des citations fabriquées est passée d’environ 4 pour 10 000 articles en 2023 à environ 57 pour 10 000 au début de 2026, soit une augmentation de plus de 12 fois. Bien que le taux individuel puisse sembler faible, dans un contexte de millions d’articles et de chaînes de transformation des connaissances à plusieurs niveaux, son effet cumulé ne peut être ignoré.

Cette hausse n’est pas seulement un problème technique ; elle est aussi liée à la structure des incitations de la recherche. À l’échelle mondiale, le nombre d’articles, le facteur d’impact des revues, le taux de succès des demandes de projets et le classement des institutions continuent d’alimenter fortement un modèle de « production rapide ». Pour certains chercheurs, les outils d’écriture assistés par l’IA offrent une incitation à réduire les coûts et à augmenter la production ; pour les usines à articles, ils peuvent devenir un accélérateur de production en masse d’une « apparence académique ».

Le problème est que, lorsque la pression de publication et la facilité technologique augmentent simultanément, sans que la capacité de vérification des systèmes d’évaluation par les pairs, d’édition et d’indexation ne s’améliore au même rythme, l’écosystème de la recherche finit par produire une externalité typique de « qualité ». C’est aussi pourquoi ce phénomène mérite d’être compris dans un cadre de gouvernance mondiale : il ne reflète pas une erreur ponctuelle, mais une inadéquation entre mécanismes d’incitation, technologies de plateforme et régulation institutionnelle.

Ce que cela signifie pour les pays en développement

Pour de nombreuses universités, hôpitaux et institutions de recherche des pays en développement, le double effet de l’IA générative est encore plus complexe. D’une part, elle abaisse les barrières linguistiques et aide les chercheurs non anglophones à entrer plus rapidement dans le système international de publication ; d’autre part, elle accroît la dépendance à l’égard des bases de données externes, des outils commerciaux et des modèles opaques.

Si la capacité de vérification des références est insuffisante, les chercheurs locaux sont plus susceptibles de se retrouver pris dans une concurrence pour la visibilité, au détriment de la qualité des preuves. Plus concrètement, les systèmes de santé, la vulgarisation agricole, l’adaptation au climat et les réformes de l’éducation dans les pays en développement reposent souvent sur la littérature internationale et des réseaux de connaissances externes. Si ces réseaux sont contaminés par un grand nombre de citations fabriquées ou introuvables, le coût de la décision s’en trouve silencieusement augmenté.

C’est là une nouvelle manifestation de la fracture numérique : auparavant, l’écart se mesurait en couverture réseau et en accessibilité des équipements ; aujourd’hui, il se mesure aussi à la capacité de qui peut utiliser des outils de vérification de haute qualité, de qui peut financer l’audit des données, et de qui peut participer à l’élaboration des règles.

Pourquoi les éditeurs, les plateformes d’indexation et les organisations internationales doivent tous intervenirLes recommandations de la correspondance du *Lancet* et des institutions connexes invitent les éditeurs à effectuer des vérifications des références dès la phase de soumission, à ajouter des métadonnées signalant les références suspectes dans les services d’indexation, et à créer des catégories dédiées pour suivre les citations falsifiées. Ces propositions ne sont pas exagérées ; elles représentent au contraire le minimum de gouvernance requis pour l’infrastructure académique à l’ère de l’IA.

La raison est simple : l’édition académique n’est plus un processus interne à une seule institution, mais un réseau mondial du savoir, transversal entre plateformes, bases de données et langues. Une fois que PubMed, Crossref, OpenAlex, Google Scholar et autres systèmes deviennent de facto des portes d’entrée vers la connaissance, ils assument un rôle comparable à celui d’une infrastructure publique. Une infrastructure publique ne peut pas se contenter de la couverture ; elle doit aussi garantir la vérifiabilité.

Les organisations internationales peuvent également jouer un rôle ici. De même que le domaine climatique a besoin d’un système MRV (mesure, déclaration et vérification), la gouvernance de la recherche a elle aussi besoin d’un cadre de vérification similaire. À l’avenir, la transparence de la déclaration de l’usage de l’IA dans l’écriture, l’identification de l’authenticité des citations, la détection des usines à articles et les alertes interconnectées entre bases de données pourraient progressivement former des standards interinstitutionnels. Ce sera un nouveau front de la coopération internationale.

Dans la perspective ESG, la « gouvernance » est en train d’être redéfinie

Dans le contexte ESG, l’édition académique et les institutions de recherche ne sont généralement pas considérées comme des actifs ESG traditionnels. Mais si l’on considère la production de connaissances comme une infrastructure sociale, on constate que la qualité de sa gouvernance influence directement la médecine, l’éducation, les politiques publiques et les décisions d’investissement.

Pour les investisseurs, le « risque de gouvernance » à l’ère de l’IA ne se limite plus à l’indépendance du conseil d’administration ou à la communication financière ; il inclut aussi les sources de données, l’usage des modèles et la vérification des contenus. Pour les universités et les organismes de recherche, la véritable compétitivité ne réside pas seulement dans le nombre d’articles, mais dans l’intégrité de la chaîne de preuves. Pour les éditeurs et les plateformes de bases de données, la valeur centrale de demain ne sera pas uniquement l’ampleur des contenus indexés, mais la capacité à gérer la crédibilité.

Cela signifie que le système d’évaluation ESG lui-même pourrait évoluer : avec l’intervention de l’IA dans la production de contenus, les indicateurs de gouvernance devront couvrir la transparence des algorithmes, la traçabilité des sources, les mécanismes de correction des erreurs et la responsabilité des plateformes. Autrement dit, la dimension de gouvernance passera de la « conformité interne de l’entreprise » à la « conformité de l’écosystème du savoir ».

La clé de l’avenir n’est pas d’interdire l’IA, mais de reconstruire les mécanismes de vérification

La réponse à ce type de problème n’est pas un simple retour à l’« ère sans IA ». L’IA générative a une réelle valeur dans le soutien linguistique, la recherche documentaire et l’assistance à la recherche, en particulier pour les communautés scientifiques non anglophones. Le véritable défi est de savoir comment, tout en améliorant l’efficacité, reconstruire les mécanismes de vérification des preuves et de traçabilité des responsabilités.

Dans les prochaines années, l’important n’est pas de savoir si l’IA entrera dans la recherche, mais trois choses :

1. si les éditeurs feront de la vérification des références une étape préalable au dépôt ; 2. si les plateformes d’indexation établiront une signalisation unifiée des citations falsifiées ; 3. si les institutions de recherche intégreront la déclaration de l’usage de l’IA et l’audit des citations dans leurs dispositifs d’intégrité scientifique.

Si ces mécanismes ne peuvent pas être mis en place, l’IA continuera de stimuler la croissance de la production scientifique, mais la crédibilité du système de connaissances sera progressivement diluée. Pour la médecine et la santé publique, ce n’est pas un coût acceptable.## Conclusion : la crédibilité du savoir devient une nouvelle capacité de développement

Les études sur le développement mondial se sont longtemps davantage concentrées sur les financements, les infrastructures, l’éducation et la santé ; elles doivent désormais intégrer la « crédibilité du savoir » dans le même cadre. Car, à une époque hautement numérisée, modélisée et automatisée, les politiques publiques, les soins de santé, l’éducation et l’investissement dépendent de plus en plus de flux d’informations vérifiables.

Cet audit consacré aux articles biomédicaux montre que, à l’ère de l’IA, l’une des ressources les plus rares n’est peut-être pas la capacité de génération de contenu, mais la capacité de vérification du contenu. Pour les pays du Sud global, ce point est particulièrement important : s’il est impossible de mettre en place une infrastructure de connaissance fiable, la numérisation ne conduira pas nécessairement à un développement plus équitable ; elle risque au contraire d’amplifier les inégalités existantes.

À long terme, ce qui détermine réellement la compétitivité d’un système de recherche, ce n’est pas la vitesse d’écriture, mais la confiance que l’on peut accorder aux preuves.