La distorsión de las citas generadas por IA: la crisis de confianza en la publicación biomédica se está desbordando y convirtiendo en un tema de gobernanza científica global

Distorsión de citas generadas por IA: la crisis de confianza en la publicación biomédica se desborda hacia un tema de gobernanza científica global

Una auditoría que, en apariencia, pertenece al ámbito interno de la edición académica, está revelando un problema de desarrollo global más amplio: cuando la IA generativa entra en el proceso de redacción de artículos, la “expansión de bajo costo” de la producción de conocimiento y la “pérdida de alto riesgo” en la calidad de la evidencia empiezan a producirse al mismo tiempo. Según una comunicación en *The Lancet* y reportes relacionados, el equipo de investigación auditó unos 2,5 millones de artículos biomédicos en la base de datos de acceso abierto PubMed Central, cubriendo el período del 1 de enero de 2023 al 18 de febrero de 2026, y finalmente identificó 4046 citas falsificadas en 97,1 millones de referencias verificadas, distribuidas en 2810 artículos.

No se trata de un asunto marginal para discutir solo dentro del mundo editorial. Afecta a si la evidencia médica es confiable, si las revisiones sistemáticas son sólidas y si las guías clínicas son fiables; también afecta a cómo las instituciones de investigación del Sur Global usan sistemas de conocimiento amplificados por plataformas digitales bajo condiciones de recursos limitados. Más importante aún, recuerda a los responsables de políticas que la IA no solo trae mejoras de productividad, sino que también reconfigura la lógica subyacente de la integridad científica, la validación del conocimiento y la cooperación internacional.

De “herramienta de escritura” a “fuente de contaminación de la evidencia”

La IA generativa fue vista inicialmente por muchos investigadores como una herramienta auxiliar para mejorar la eficiencia: ayudar a pulir el lenguaje, organizar la bibliografía y generar esquemas. Sin embargo, esta auditoría muestra que, cuando la IA se incrusta sin restricciones en el proceso de escritura académica, la distorsión de las citas puede pasar rápidamente de errores aislados a un riesgo a gran escala.

El equipo de investigación utilizó un proceso automatizado de verificación, comparando de forma cruzada bases de datos como PubMed, Crossref, OpenAlex y Google Scholar, y apoyándose en grandes modelos de lenguaje para filtrar entradas sospechosas. Este método tiene, en sí mismo, un significado práctico: a escala de millones de artículos, la verificación manual tradicional es casi inviable, y la combinación de automatización y revisión humana se ha convertido en una vía realista para la gobernanza científica a gran escala.

Pero aquí también emerge el problema: una vez que el mecanismo de verificación de citas queda rezagado, la IA generativa puede inyectar en masa contenidos que “parecen evidencia” dentro del sistema de conocimiento. Para el campo biomédico, esta distorsión es especialmente peligrosa, porque las guías clínicas, la evaluación de fármacos y la investigación en salud pública dependen de una base documental trazable y verificable. Una cita errónea no es solo un defecto de formato; puede afectar recomendaciones de tratamiento, decisiones de política pública y asignación de recursos.

Por qué esto no es solo un problema de integridad científica, sino también de desarrollo global

Desde la perspectiva del desarrollo global, la integridad científica no es un asunto interno de la torre de marfil, sino parte de la capacidad pública. Para los países de altos ingresos, las citas erróneas implican principalmente un daño a la reputación académica; para los países de ingresos bajos y medios, también pueden significar desperdicio de fondos de investigación limitados, contaminación de la base para la formulación de políticas y absorción por parte del sistema de salud de evidencia no fiable.El Banco Mundial, el PNUD y los organismos multilaterales de desarrollo han venido subrayando en los últimos años que la “capacidad institucional” y la “capacidad de datos” son factores determinantes importantes de los resultados del desarrollo. Hoy, esa capacidad ya no se limita a la gestión fiscal o a los sistemas estadísticos, sino que también incluye el propio sistema de producción de conocimiento: si los artículos pueden verificarse, si la investigación puede reproducirse, si las citas pueden rastrearse y si las bases de datos pueden auditarse.

Esto está altamente relacionado con la dimensión de “gobernanza” dentro de ESG. En el pasado, ESG se utilizaba más para la divulgación corporativa, la gestión de cadenas de suministro y la evaluación de los mercados de capitales; ahora, los problemas de gobernanza en torno al contenido generado por IA también han comenzado a entrar en el ámbito de responsabilidad de las instituciones de investigación, las editoriales y las empresas de plataformas. Si las instituciones académicas de publicación no pueden establecer mecanismos más sólidos de verificación de referencias, equivaldrá a dejar una brecha sistémica de gobernanza en la cadena de suministro del conocimiento.

El aumento de las citas falsificadas refleja la presión estructural del ecosistema de investigación

Las auditorías muestran que la incidencia de citas falsificadas pasó de aproximadamente 4 por cada 10.000 artículos en 2023 a unas 57 por cada 10.000 a comienzos de 2026, un aumento de más de 12 veces. Aunque la proporción individual parezca baja, en un volumen de millones de artículos y en una cadena de transformación del conocimiento de múltiples niveles, su efecto acumulativo no puede ignorarse.

Este aumento no es solo un problema técnico; también está relacionado con la estructura de incentivos de la investigación. A escala mundial, el número de artículos, el factor de impacto de las revistas, la tasa de éxito en solicitudes de proyectos y el ranking institucional siguen impulsando con fuerza el modelo de “producción rápida”. Para algunos investigadores, las herramientas de escritura con IA ofrecen un incentivo para reducir costos y aumentar la producción; para las fábricas de artículos, pueden convertirse en un acelerador de la producción masiva de una “apariencia académica”.

El problema es que, cuando la presión por publicar y la facilidad tecnológica aumentan al mismo tiempo, y la capacidad de verificación de los sistemas de revisión por pares, edición e indexación no se actualiza en paralelo, el ecosistema de investigación genera una típica “externalidad de calidad”. Por eso este fenómeno merece ser comprendido dentro del marco de la gobernanza global: no refleja un error puntual, sino una falta de correspondencia entre los mecanismos de incentivo, la tecnología de las plataformas y la supervisión institucional.

Qué significa para los países en desarrollo

Para muchas universidades, hospitales e instituciones de investigación de los países en desarrollo, el doble efecto de la IA generativa es aún más complejo. Por un lado, reduce las barreras lingüísticas y ayuda a los investigadores no angloparlantes a integrarse más rápidamente en el sistema internacional de publicación; por otro, también amplía la dependencia de bases de datos externas, herramientas comerciales y modelos opacos.

Si la capacidad de verificación de las referencias es insuficiente, los académicos locales tienen más probabilidades de quedar atrapados en la “competencia por visibilidad” en medio de una publicación rápida, descuidando la calidad de la evidencia. Más realista aún: los sistemas sanitarios, la extensión agrícola, la adaptación climática y la reforma educativa de los países en desarrollo suelen depender de la literatura internacional y de redes de conocimiento externas. Una vez que estas redes se contaminan con una gran cantidad de citas falsificadas o no rastreables, los costos de decisión aumentan de forma silenciosa.

Esta es también una nueva manifestación de la brecha digital: antes, la brecha se reflejaba en la cobertura de red y en la disponibilidad de dispositivos; ahora, también se refleja en quién puede usar herramientas de verificación de alta calidad, quién puede costear auditorías de datos y quién puede participar en la formulación de normas.

Por qué deben intervenir las editoriales, las plataformas de indexación y las organizaciones internacionales《The Lancet》通信 y las instituciones relacionadas recomiendan que las editoriales realicen verificaciones de citas en la fase de envío de manuscritos, que los servicios de indexación añadan marcas de metadatos a las referencias sospechosas y que se establezcan categorías específicas para rastrear citas falsificadas. Estas recomendaciones no son exageradas; al contrario, representan el mínimo requisito de gobernanza para la infraestructura académica en la era de la IA.

La razón es muy directa: la publicación académica ya no es un proceso interno de una sola institución, sino una red global de conocimiento que cruza plataformas, bases de datos e idiomas. Una vez que sistemas como PubMed, Crossref, OpenAlex y Google Scholar se convierten de facto en puertas de entrada al conocimiento, asumen un papel similar al de una infraestructura pública. La infraestructura pública no solo debe buscar cobertura; también debe buscar verificabilidad.

Las organizaciones internacionales también pueden desempeñar un papel aquí. Así como el ámbito climático necesita un sistema MRV (monitoreo, reporte y verificación), la gobernanza científica también necesita un marco de verificación similar. En el futuro, la divulgación transparente del uso de IA en la redacción, la identificación de la autenticidad de las citas, la detección de fábricas de artículos y las alertas coordinadas entre bases de datos podrían ir formando gradualmente estándares interinstitucionales. Este será un nuevo frente de la cooperación internacional.

La “gobernanza” desde la perspectiva ESG se está redefiniendo

En el contexto ESG, la publicación académica y las instituciones de investigación normalmente no se consideran activos ESG tradicionales. Pero si la producción de conocimiento se considera una infraestructura social, se verá que la calidad de su gobernanza afecta directamente a la medicina, la educación, las políticas públicas y las decisiones de inversión.

Para los inversores, el “riesgo de gobernanza” en la era de la IA ya no incluye solo la independencia del consejo de administración o la divulgación financiera, sino también las fuentes de datos, el uso de modelos y la verificación de contenidos. Para las universidades y los institutos de investigación, la verdadera competitividad no es solo la cantidad de publicaciones, sino la integridad de la cadena de evidencia. Para las editoriales y las plataformas de bases de datos, el valor central del futuro tampoco será solo la escala de la recopilación, sino la capacidad de gestionar la credibilidad.

Esto significa que el propio sistema de evaluación ESG también podría evolucionar: a medida que la IA interviene en la producción de contenidos, los indicadores de gobernanza deberán abarcar la transparencia algorítmica, la trazabilidad de las fuentes, los mecanismos de corrección de errores y la responsabilidad de la plataforma. En otras palabras, la dimensión de gobernanza se ampliará de “cumplimiento interno corporativo” a “cumplimiento del ecosistema del conocimiento”.

La clave del futuro no está en prohibir la IA, sino en reconstruir los mecanismos de verificación

La respuesta a este tipo de problemas no es simplemente volver a la “era sin IA”. La IA generativa sí tiene valor en el apoyo lingüístico, la recuperación de información y la asistencia a la investigación, especialmente para comunidades científicas no anglófonas, a las que brinda una ayuda real. El verdadero desafío es cómo reconstruir, al mismo tiempo que se mejora la eficiencia, los mecanismos de verificación de evidencias y de trazabilidad de responsabilidades.

En los próximos años, lo que merece atención no es si la IA entrará o no en la investigación, sino tres cosas:

1. Si las editoriales trasladarán la verificación de referencias a la fase de envío; 2. Si las plataformas de indexación establecerán una identificación unificada para las citas falsificadas; 3. Si las instituciones de investigación incorporarán la divulgación del uso de IA y la auditoría de citas en su sistema de integridad científica.

Si estos mecanismos no pueden establecerse, la IA seguirá impulsando el crecimiento de la producción científica, pero la credibilidad del sistema de conocimiento se diluirá continuamente. Para la medicina y la salud pública, ese no es un costo aceptable.## Conclusión: la credibilidad del conocimiento está convirtiéndose en una nueva capacidad de desarrollo

La investigación sobre desarrollo global se ha centrado tradicionalmente más en la financiación, la infraestructura, la educación y la salud; hoy debe incorporar la “credibilidad del conocimiento” en ese mismo marco. Porque, en una era altamente digitalizada, modelizada y automatizada, las políticas, la atención médica, la educación y la inversión dependen cada vez más de flujos de información verificables.

Esta auditoría de artículos biomédicos demuestra que, en la era de la IA, uno de los recursos más escasos puede no ser la capacidad de generar contenido, sino la capacidad de verificarlo. Para los países del Sur Global, esto es especialmente importante: si no se puede establecer una infraestructura de conocimiento fiable, la digitalización no necesariamente traerá un desarrollo más equitativo; por el contrario, podría amplificar las desigualdades existentes.

A largo plazo, lo que realmente determina la competitividad de un sistema de investigación no es qué tan rápido se escribe, sino si la evidencia puede ser confiable.