>

"¿Conocías el concepto “human in the loop”? "

Mg. Marina Rojo

Si las nuevas generaciones aprenden primero a validar respuestas algorítmicas antes que a construir un razonamiento propio, el desafío de la inteligencia artificial en salud deja de ser tecnológico y pasa a ser profundamente formativo.

 

El concepto de human in the loop se instaló en el vocabulario de la inteligencia artificial y la salud digital como una garantía frente a la automatización creciente de tareas clínicas. Siempre habrá un humano que revise, valide y, en última instancia, decida; la IA no va a reemplazarnos, pero cambia nuestro papel. Es una respuesta tranquilizadora, pero ¿cómo formamos nuevos profesionales cuando la IA esté completamente integrada en el proceso clínico?

Recientemente, sistemas de IA comenzaron a integrarse en flujos de trabajo clínicos concretos como la lectura de imágenes diagnósticas, algoritmos de triage y pronósticos, sugerencias de diagnóstico diferencial y prescripción asistida. Algunos de estos sistemas tienen un desempeño comparable o superior al de profesionales experimentados en tareas específicas. Estos profesionales supervisan los outputs, validan o corrigen esos productos y experimentan un cambio en su proceso de trabajo. La supervisión funciona porque el juicio clínico ya está formado en quienes ocupan ese lugar. La pregunta relevante es cómo se forma ese juicio cuando la IA ya está haciendo varias de las tareas con las que históricamente se aprendía. Por ejemplo: un residente que construye su lista de diagnósticos diferenciales a partir de una sugerencia algorítmica, en lugar de elaborarla desde cero, está aprendiendo a validar un razonamiento ajeno antes de haber desarrollado el propio. Claro que no se trata de “un peor médico”, es un médico formado bajo condiciones diferentes.

 

Tenemos evidencia
Benner, en su trabajo de 1984, mostró que la competencia clínica no se transmite con reglas ni protocolos: se construye por etapas, a través de la exposición a situaciones reales con consecuencias reales. 

Tanner, revisando casi doscientos estudios en 2006, llegó a la conclusión de que el juicio clínico depende más de lo que el profesional trae a la situación que de los datos objetivos frente a él. 

Una revisión narrativa de 2026 en el International Journal of Medical Informatics lo confirma desde el otro lado: los sistemas de IA pueden mejorar la precisión diagnóstica y reducir errores, pero su implementación exitosa depende de profesionales capaces de evaluar críticamente sus outputs, identificar sus limitaciones y decidir cuándo confiar en ellos. 

Nosta ofrece una clave para entender por qué esto va más allá de un problema curricular. La inteligencia humana se formó precisamente por la presencia de restricciones: la escasez, el costo del error, la irreversibilidad de ciertas decisiones. Sin esas presiones, la cognición no desaparece pero cambia de naturaleza. Agregar un módulo de IA al plan de estudios no recrea esas condiciones porque las condiciones que forman el juicio clínico son las de la práctica, no las del aula.

Desde la economía, el paper "The Economic Implications of Artificial General Intelligence" de Christian Catalini y colaboradores del MIT nombra este fenómeno con precisión: el Missing Junior Loop. Los trabajadores jóvenes aprenden haciendo las tareas que los seniors supervisan. Si la IA toma esas tareas antes de que el junior desarrolle el criterio necesario, el sistema pierde su mecanismo de formación de verificadores. Brynjolfsson et al. muestran que entre 2022 y 2025 los trabajadores de 22 a 25 años en empleos con alta exposición a IA experimentaron una caída del 16% en el empleo, mientras que los trabajadores mayores en los mismos roles crecieron. En medicina, ese missing junior loop tiene un nombre muy concreto: la residencia, una instancia formativa fundamental que los jóvenes profesionales eligen cada vez menos. 

 

Las personas tenemos que estar a la altura

Cuanto más complejo es el algoritmo o más opaco, más sofisticado tiene que ser el criterio del profesional que lo supervisa. ¿Cómo adquirimos ese criterio? Practicando medicina en condiciones que hoy están siendo modificadas por la misma IA que se quiere supervisar.

Esto no significa que la automatización de ciertas tareas sea un error. Significa que la formación médica tiene que hacerse una pregunta que todavía no se está haciendo con la urgencia necesaria: ¿qué tareas son formativas y no pueden delegarse, aunque técnicamente sea posible hacerlo?

El marco DECODE, desarrollado para organizar las competencias digitales en educación médica, propone una respuesta para evaluar críticamente los outputs de los sistemas digitales, entender sus limitaciones y tomar decisiones informadas sobre cuándo confiar en ellos y cuándo no. Eso es una competencia, y como toda competencia, requiere condiciones de aprendizaje específicas.

Para quienes trabajan en gestión sanitaria, la pregunta es análoga. ¿Cómo tomar decisiones en este nuevo entorno? Este gesto requiere saber qué preguntas hacerle a un sistema, entender qué sesgos pueden estar codificados en sus outputs y mantener la capacidad de cuestionar una recomendación aunque venga respaldada por miles de datos. Eso también es juicio. Y también se forma, o se atrofia, según las condiciones en que se trabaja.

El human in the loop es una buena idea. Pero solo funciona si el humano en ese loop fue formado para estar ahí.

 

Marina Rojo

Médica, magíster en Salud Pública y en Sistemas de Información en Salud. Coordina el +LAB, Programa de Innovación en Tecnología en Salud de la Facultad de Medicina de la UBA donde dirige la Diplomatura en Salud Digital.