Hay un hallazgo que debería estar pegado en la pared de cualquiera que construya IA para clínica. En un benchmark publicado este año con 5,543 preguntas médicas, un modelo grande alucinó en 19.7% de sus respuestas. El dato relevante no es ese. Es el otro: 98.8% de las respuestas recibieron la máxima calificación de plausibilidad por parte de clínicos.
Es decir, una de cada cinco respuestas era incorrecta, y prácticamente todas se leían bien.
Esa es la razón de fondo por la que KORA no prescribe.
El error de la IA clínica no se ve como un error
Estamos entrenados para detectar errores que se ven mal: una dosis absurda, una interacción obvia, una nota inconsistente. Los modelos de lenguaje no producen ese tipo de error. Producen texto internamente coherente, con la estructura correcta, en el registro correcto, que resulta ser falso.
Un segundo estudio lo muestra desde otro ángulo. Investigadores inyectaron un elemento falso en 300 viñetas clínicas validadas por médicos y las pasaron por seis modelos: 5,400 salidas. Las tasas de alucinación fueron de 50% a 82%. Con instrucciones específicas de mitigación, el promedio bajó de 66% a 44%.
Bajó. No desapareció. Y "44% con mitigación" no es un número con el que se pueda escribir una receta.
La carga que sí es real
Nada de lo anterior significa que la IA no sirva en la consulta. Significa que hay que ponerla donde el error tiene revisión.
El problema que sí existe está medido desde hace años. Un estudio en Annals of Family Medicine midió, con registros de eventos del expediente, cuánto tiempo pasan los médicos de primer nivel en el sistema: 355 minutos al día —casi seis horas—, de los cuales 86 minutos ocurren fuera del horario de consulta, el llamado pajama time. La documentación se lleva 84 minutos diarios y las tareas clericales 44.2% del tiempo total dentro del expediente.
Eso es lo que la IA puede quitar. Y el efecto, cuando se despliega bien, es grande: The Permanente Medical Group reportó en NEJM Catalyst un despliegue de escribas ambientales con 7,260 médicos y 2.5 millones de encuentros en 63 semanas, con 15,791 horas de documentación ahorradas —casi 2,000 jornadas de ocho horas—. 84% de los médicos reportó un efecto positivo en la comunicación con el paciente.
La diferencia entre ese resultado y un desastre no está en el modelo. Está en qué se le pidió hacer.
Cómo está diseñada KORA
KORA es el asistente clínico de KONTROL IA. Tres decisiones de diseño la definen, y las tres son restricciones, no funciones.
Primera: emite sugerencias, no órdenes. KORA verifica alergias, interacciones y dosis, y emite exactamente una sugerencia estructurada por turno. La sugerencia aparece junto a la decisión del médico, no en su lugar. Nada llega al expediente ni a una receta sin que un médico lo firme.
Segunda: siempre muestra la base. Cada sugerencia va acompañada de aquello sobre lo que se construyó —la alergia registrada, el medicamento activo, la guía consultada—. No es transparencia decorativa: es el requisito que permite revisar. Un médico que no puede ver por qué el sistema dijo algo no está supervisando, está obedeciendo.
Tercera: cuando el médico la contradice, gana el médico —y queda registrado. Si un médico decide prescribir a pesar de una alerta de alergia, puede hacerlo con un botón explícito, y esa anulación se escribe en la bitácora de auditoría. Ese registro no está ahí para vigilar al médico. Está ahí porque es la única forma de saber, seis meses después, si nuestras alertas son útiles o si son ruido que todo el mundo aprendió a ignorar.
La decisión regulatoria es la misma que la clínica
Aquí conviene ser explícito, porque en el sector se usa mucho la ambigüedad como estrategia comercial: KORA no está clasificada como software como dispositivo médico, y ese es un diseño deliberado, no un vacío.
La guía final de la FDA de 2022 sobre soporte a la decisión clínica aplica cuatro criterios de la sección 520(o)(1)(E) del FD&C Act. El cuarto excluye del concepto de dispositivo al software que permite al profesional de la salud "revisar de forma independiente la base de las recomendaciones", de modo que no se pretenda que el profesional dependa principalmente de ellas.
Eso describe exactamente la arquitectura de arriba. En México, COFEPRIS regula el software con función médica bajo el artículo 262 de la Ley General de Salud y el Reglamento de Insumos para la Salud; una norma específica de software como dispositivo médico se publicó como proyecto en abril de 2024 y sigue su proceso.
Lo que quiero subrayar es que no elegimos la arquitectura para esquivar la regulación. La arquitectura es la respuesta correcta al hallazgo del primer párrafo —que el error de un modelo es indistinguible de su acierto para quien solo lee la salida— y resulta, además, ser la que la regulación describe. Cuando la decisión de seguridad y la decisión regulatoria coinciden, normalmente es señal de que la regulación entendió el problema.
Dónde queda el médico
En el mismo lugar de siempre: decidiendo.
Lo que cambia es de qué se ocupa mientras decide. Si el sistema estructura la nota, verifica la alergia contra el cuadro de medicamentos activos y deja la sugerencia con su justificación a la vista, el médico deja de gastar atención en transcribir y la gasta en el paciente.
Ese es todo el objetivo. No un médico artificial: un médico con menos fricción y una segunda lectura que nunca se cansa —y que se equivoca lo suficiente como para que valga la pena revisarla.
Fuentes: ClinIQLink benchmark, arXiv 2603.09986 (2026) · Hallucination rates under injected false premises, medRxiv 2025.03.18.25324184 · Arndt et al., Ann Fam Med 2017;15(5):419-426 · The Permanente Medical Group, NEJM Catalyst 2025, vía AMA · FDA Clinical Decision Support Software, guía final 2022