Expertos humanos en la evaluación clínica de la inteligencia artificial: un papel insustituible en la gobernanza sanitaria global

Cuando la IA evalúa a la IA: la brecha de confianza en entornos clínicos

Los sistemas de salud globales enfrentan la doble presión de la escasez de recursos y el aumento de la demanda, y la inteligencia artificial se considera una herramienta clave para mejorar la eficiencia y ampliar la cobertura. Sin embargo, un estudio reciente publicado en *npj Digital Medicine* advierte que, en la evaluación de la calidad de los resultados de la IA clínica, depender completamente de sistemas de evaluación automatizados puede pasar por alto problemas locales críticos.

El equipo de investigación comparó el desempeño de la evaluación de expertos humanos con el de "LLM-as-a-Judge" (modelo de lenguaje grande como juez) y descubrió que, aunque los sistemas de IA pueden proporcionar calificaciones consistentes y de bajo costo, los médicos locales aún señalaron preocupaciones importantes que la evaluación automatizada pasó por alto. Este hallazgo apunta directamente a una contradicción central en las estrategias globales de salud digital: cómo mantener la capacidad de juicio contextual de los expertos humanos mientras se implementa la IA a escala.

El valor del conocimiento local en la salud digital

Para los países del Sur Global, este resultado es particularmente importante. Muchos países de ingresos bajos y medios están utilizando la IA para compensar la escasez de médicos, pero los datos de entrenamiento provienen principalmente de entornos de altos ingresos, lo que puede generar sesgos en el diagnóstico. El estudio muestra que los expertos clínicos locales pueden identificar problemas sutiles relacionados con los patrones de prevalencia de enfermedades, hábitos culturales y limitaciones de infraestructura, que a menudo están fuera del alcance del entrenamiento de los modelos generales.

Por ejemplo, en el África subsahariana, un sistema de diagnóstico de malaria asistido por IA podría necesitar considerar el riesgo de múltiples infecciones del paciente, la disponibilidad de medicamentos y la capacidad de prueba de los laboratorios locales. La evaluación automatizada puede centrarse solo en la precisión del algoritmo, mientras que los expertos humanos pueden señalar las brechas de aplicabilidad del sistema en el flujo de trabajo clínico real.

Perspectiva ESG: equidad social y responsabilidad de gobernanza

Desde el marco ESG (ambiental, social y de gobernanza), este estudio destaca tres aspectos:

• Social (S): La implementación de la IA debe mejorar, no debilitar, la equidad en salud. Si los sistemas de evaluación ignoran las voces locales, los grupos marginados podrían verse obligados a aceptar soluciones de IA inadecuadas.
• Gobernanza (G): Es fundamental establecer un marco regulatorio de IA transparente y responsable. El estudio recomienda incorporar continuamente la revisión humana en el ciclo de vida de los sistemas de IA, especialmente en decisiones clínicas de alto riesgo.
• Ambiental (E): Aunque la IA tiene una huella de carbono, los diagnósticos eficientes y precisos pueden reducir el desperdicio de recursos causado por exámenes excesivos, contribuyendo en última instancia a los objetivos de desarrollo sostenible.

Implicaciones para la gobernanza global

La Organización Mundial de la Salud ha publicado las *Directrices sobre ética y gobernanza de la inteligencia artificial*, enfatizando el principio de "humano en el ciclo". Este estudio proporciona apoyo empírico para este principio: cuando los expertos humanos y la IA participan juntos en la evaluación, se puede aprovechar la ventaja de escala de la IA y al mismo tiempo preservar la profundidad del juicio clínico.

Las organizaciones de cooperación internacional deben impulsar el establecimiento de estándares de "evaluación mixta": 1. Desarrollar kits de herramientas de evaluación localizados para entornos de bajos recursos; 2. Financiar la participación de los países del Sur Global en la recopilación de datos para el entrenamiento y evaluación de IA; 3. Incluir la revisión humana en los indicadores de desempeño de los proyectos de financiamiento para el desarrollo.## Conclusión: iteración tecnológica y colaboración humano-máquina

El potencial de la IA en el ámbito de la salud es indudable, pero el avance tecnológico no debe darse a expensas del conocimiento local. Este estudio recuerda a los formuladores de políticas, desarrolladores y financiadores: que, al buscar la eficiencia, se debe invertir en la creación de capacidades humanas y en mecanismos de supervisión. El verdadero camino para alcanzar el Objetivo de Desarrollo Sostenible 3 (Salud y Bienestar) es hacer que la inteligencia artificial y la inteligencia humana se complementen mutuamente, en lugar de reemplazarse.