¿Debe una IA médica demostrar competencia antes de actuar?
¿Cómo sabemos que una inteligencia artificial está preparada para intervenir en la atención de un paciente? Hasta ahora, buena parte de la discusión se ha concentrado en exactitud, sensibilidad, especificidad o capacidad para responder preguntas médicas. Sin embargo, una IA generativa puede recibir solicitudes abiertas, combinar texto, imágenes y datos clínicos, producir respuestas diferentes ante situaciones similares y, en algunos casos, ejecutar tareas mediante herramientas externas.
El 18 de agosto de 2026, la Administración de Alimentos y Medicamentos de Estados Unidos —FDA— publicó un documento de discusión sobre posibles formas de regular dispositivos médicos que incorporan inteligencia artificial generativa. Entre las ideas sometidas a consulta aparece una evaluación basada en competencias, inspirada parcialmente en la manera de valorar a los médicos antes de permitirles ejercer determinadas funciones.
La comparación es sugerente: si exigimos a un profesional demostrar conocimientos, razonamiento, comunicación y seguridad, ¿deberíamos pedir algo equivalente a una IA médica? La respuesta inicial parece afirmativa. Pero aprobar una prueba no basta. Una inteligencia artificial no posee la formación, la responsabilidad moral ni la relación con el paciente que caracterizan al médico. Evaluarla exige determinar qué puede hacer, en qué condiciones, con qué límites y quién responde cuando falla.
Idea central: una IA médica no debería considerarse competente porque responde correctamente un conjunto de preguntas. Debe demostrar desempeño seguro en una función clínica definida, con pacientes diversos, dentro del entorno real y durante todo su ciclo de vida.
Por qué una IA generativa no es un software convencional
Un programa tradicional ejecuta reglas relativamente delimitadas. Si recibe una entrada prevista, produce una salida determinada. Aunque puede contener errores, su espacio de funcionamiento suele ser más fácil de describir y comprobar.
La inteligencia artificial generativa introduce otras características. Puede aceptar preguntas abiertas, integrar distintas modalidades de información y generar textos, imágenes, audio u otros contenidos. Dos solicitudes similares no siempre producen respuestas idénticas. Además, el resultado puede cambiar después de modificar el modelo fundacional, las instrucciones internas, la información recuperada, las barreras de seguridad o la interfaz.
La FDA señala en su documento de discusión que estos dispositivos pueden ofrecer respuestas personalizadas y adaptarse a entradas nuevas, pero también producir confabulaciones o afirmaciones falsas que parecen auténticas. La dependencia de modelos fundacionales desarrollados por terceros puede dificultar conocer los datos de entrenamiento, atribuir un error y anticipar los efectos de una actualización.
Esto plantea un problema regulatorio: no es razonable probar por adelantado todas las preguntas, combinaciones de datos y situaciones que el sistema podría encontrar. Una evaluación estática puede medir una versión concreta en un momento determinado, pero no garantiza que el mismo comportamiento se conserve después.
¿Qué significa competencia en una IA médica?
En medicina, la competencia no se reduce a recordar información. Incluye aplicar conocimiento, reconocer límites, comunicarse, actuar con seguridad y adaptar decisiones al contexto. El profesional debe saber cuándo puede resolver un problema y cuándo necesita consultar, derivar o abstenerse.
Trasladar esta idea a una IA obliga a definir primero la función evaluada. No existe una competencia médica universal. Un sistema puede ser adecuado para resumir documentos y no para recomendar tratamientos; puede interpretar una imagen dentro de una especialidad y fallar al integrar antecedentes clínicos; puede funcionar bien con adultos y no estar validado en niños.
Por tanto, declarar que una IA es “competente en medicina” sería demasiado amplio. La afirmación debería adoptar una forma más precisa:
Este sistema ha demostrado competencia suficiente para realizar esta función, en esta población, con estos datos, dentro de este contexto clínico y bajo este nivel de supervisión.
La competencia no pertenece al algoritmo de manera aislada. Surge de la relación entre modelo, dispositivo, finalidad, usuarios, población, entorno e institución.
El marco de riesgo que estudia la FDA
El documento de la FDA propone para discusión una matriz de dos ejes. Uno representa la actividad realizada por el dispositivo; el otro, la gravedad de las consecuencias que tendría confiar en una salida incorrecta.
No presenta el mismo riesgo una herramienta que organiza información para revisión que un sistema que recomienda escalar una atención, modifica un tratamiento o ejecuta una acción. Tampoco es equivalente un error fácilmente reversible a otro que puede retrasar una intervención urgente.
| Actividad del sistema |
| Debe establecerse si la IA informa, resume, analiza, recomienda, prioriza, comunica, escala la atención o ejecuta acciones mediante otras herramientas. |
| Consecuencia del error |
| Debe valorarse qué daño produciría confiar en una respuesta equivocada, cuánto tiempo existiría para corregirla y si una revisión humana podría identificar el error. |
| Dependencia clínica |
| El riesgo aumenta cuando el resultado se utiliza como fundamento principal de la decisión y disminuye cuando existe información alternativa accesible y una revisión humana efectiva. |
Este enfoque evita clasificar una tecnología como segura o peligrosa en abstracto. La misma arquitectura puede representar riesgos diferentes según su uso. Un modelo generativo empleado para redactar una carta y otro integrado en un sistema de triaje no deberían cumplir requisitos idénticos.
El planteamiento también conecta con la entrada sobre IA, diagnóstico y nueva medicalización: un error no consiste únicamente en omitir una enfermedad. También puede producir sobrealerta, pruebas innecesarias y clasificación excesiva de personas sanas como pacientes de riesgo.
¿Cómo sería un examen para una IA médica?
La FDA explora una evaluación previa basada en competencias que combinaría pruebas no clínicas con confirmación clínica. Entre los dominios considerados se encuentran conocimiento clínico, capacidad analítica, comportamiento seguro, comunicación y generalización.
Conocimiento clínico
El sistema debería utilizar información científicamente válida y actualizada dentro de su finalidad. Pero recordar guías o responder preguntas de examen no demuestra que pueda aplicarlas correctamente a un paciente concreto.
Capacidad analítica
Debe integrar datos relevantes, reconocer contradicciones y distinguir información importante de aquella que no modifica la decisión. La evaluación tendría que incluir casos incompletos, ambiguos y cercanos a los límites de uso.
Comportamiento seguro
Una IA competente necesita abstenerse cuando carece de información, reconocer incertidumbre y derivar la decisión cuando el riesgo supera su capacidad. Producir siempre una respuesta puede parecer útil, pero en medicina la abstención prudente también constituye una competencia.
Comunicación
La respuesta debe ser comprensible, proporcional y adecuada para quien la recibe. Un texto técnicamente correcto puede causar daño si comunica certeza injustificada, omite una urgencia o no diferencia información educativa de una indicación clínica.
Generalización
El rendimiento debe comprobarse en poblaciones, instituciones, equipos y condiciones distintas de aquellas utilizadas durante el desarrollo. Un promedio global puede ocultar fallos sistemáticos en grupos poco representados.
Estas dimensiones son valiosas, pero no convierten a la IA en médico. Evalúan comportamientos observables de un dispositivo, no conciencia, prudencia moral ni compromiso con una persona.
Aprobar el examen no es suficiente
Un examen ofrece una muestra limitada del desempeño. Puede no representar las variaciones de lenguaje, documentación incompleta, presión temporal, enfermedades múltiples o diferencias culturales que aparecen en la práctica.
También existe el riesgo de enseñar al sistema a superar una prueba específica sin mejorar su comportamiento general. Si los casos de evaluación se vuelven predecibles o contaminan los datos de entrenamiento, la calificación puede sobrestimar la competencia real.
Una evaluación rigurosa debería incluir:
- casos no utilizados durante el desarrollo;
- pacientes representativos de la población de uso;
- situaciones frecuentes y casos poco comunes pero peligrosos;
- datos incompletos, contradictorios o de baja calidad;
- pruebas de resistencia frente a instrucciones engañosas;
- evaluación de incertidumbre y capacidad de abstención;
- comparación con la práctica clínica apropiada, no solo con otro modelo;
- resultados importantes para pacientes y no únicamente métricas técnicas.
La prueba más importante no es si la IA parece inteligente. Es si mejora una función definida sin introducir daños desproporcionados.
El problema de comparar la IA con el médico
Inspirarse en la formación médica puede ayudar a construir evaluaciones más completas. Sin embargo, la analogía tiene límites.
El médico no es solamente un procesador de información. Ha recibido formación clínica, pertenece a una profesión regulada, responde ante normas éticas y jurídicas, puede explicar sus razones y participa personalmente en las consecuencias de sus decisiones.
Una IA no asume responsabilidad moral ni legal. Si produce una recomendación perjudicial, la responsabilidad debe permanecer en personas e instituciones: desarrolladores, fabricantes, sistemas de salud, profesionales y autoridades, según sus funciones.
Por ello, la expresión “competencia de la IA” debe utilizarse con cuidado. Puede describir un nivel demostrado de desempeño, pero no otorgar autoridad profesional ni desplazar la responsabilidad hacia la máquina.
Una IA puede demostrar capacidad funcional. No puede convertirse por ese hecho en sujeto responsable del acto médico.
Esta distinción continúa el principio planteado en Magnifica Humanitas y la regulación de la persona: el perfil y el algoritmo pueden ayudar a comprender y anticipar, pero la relación clínica debe conservar la autoridad para reconocer a la persona concreta.
La supervisión humana también debe demostrar competencia
Incluir a un médico en el circuito no garantiza automáticamente seguridad. El profesional necesita comprender qué función cumple el sistema, cuáles son sus límites y cuándo debe cuestionarlo.
La supervisión falla cuando el médico recibe una conclusión sin información suficiente, carece de tiempo para verificarla o no posee autoridad para apartarse de ella. También falla cuando la institución convierte la recomendación algorítmica en una conducta por defecto y exige justificar cualquier desacuerdo.
La implementación debería evaluar conjuntamente tres competencias:
| Competencia del sistema: capacidad demostrada para la función prevista. |
| Competencia del profesional: capacidad para interpretar, verificar y corregir la salida. |
| Competencia de la institución: gobernanza, recursos, seguimiento, documentación y respuesta frente a incidentes. |
La seguridad no reside en uno de estos componentes por separado, sino en su interacción.
¿Qué cambia con la IA agéntica?
Los sistemas agénticos pueden planificar tareas de varios pasos, utilizar herramientas externas y ejecutar acciones. En medicina, la distancia entre recomendar y actuar resulta decisiva.
Un sistema podría, por ejemplo, recopilar datos, redactar una orden, programar un control y comunicar instrucciones. Aunque cada paso parezca pequeño, la secuencia completa puede producir una intervención con consecuencias reales.
Cuanta mayor autonomía operativa tenga la IA, más importantes serán:
- los límites explícitos de actuación;
- la autorización humana antes de pasos críticos;
- el registro de cada acción y fuente utilizada;
- la posibilidad de detener o revertir el proceso;
- la vigilancia de interacciones inesperadas entre herramientas;
- la identificación inequívoca de la persona responsable.
No debería suponerse que un sistema capaz de completar muchos pasos comprende mejor al paciente. Puede ejecutar una secuencia compleja y, al mismo tiempo, partir de una interpretación equivocada.
Vigilancia durante todo el ciclo de vida
La aprobación inicial no resuelve el problema porque el sistema y su entorno pueden cambiar. Una actualización del modelo, una nueva población, modificaciones en la documentación clínica o diferencias entre instituciones pueden alterar el rendimiento.
La FDA estudia complementar la evidencia previa a la comercialización con vigilancia posterior proporcional al riesgo. Esta debería detectar degradación del desempeño, cambios en las entradas y salidas, nuevos tipos de error y diferencias entre grupos.
La vigilancia necesita indicadores clínicos, no solo técnicos. Debe preguntar si aumentaron los retrasos, las sobrealertas, los procedimientos innecesarios, las desigualdades o la carga de trabajo. También debe recoger desacuerdos de profesionales y experiencias de pacientes.
El sistema debería ser retirado, limitado o reevaluado cuando cambie de manera relevante. En otras palabras, la competencia no puede concederse de una vez y para siempre.
Una evaluación centrada en la persona
El 20 de agosto, la FDA publicó además consideraciones sobre medidas derivadas de tecnologías digitales para investigación clínica. Su mensaje central resulta aplicable a la IA: el desarrollo no debe comenzar por el sensor o el algoritmo, sino por el aspecto de la salud que importa comprender.
De forma equivalente, la evaluación de una IA médica no debería comenzar preguntando cuánto puede hacer. Debería comenzar con cuatro cuestiones:
- ¿Qué necesidad real de pacientes o profesionales intenta resolver?
- ¿Qué beneficio clínicamente significativo se espera obtener?
- ¿Qué daños pueden aparecer y quién los soportará?
- ¿Existe una alternativa más simple, transparente o segura?
La tecnología más sofisticada no es necesariamente la mejor intervención. Una IA competente para una tarea irrelevante sigue sin aportar valor. Una herramienta precisa que debilita la comunicación o desplaza el juicio clínico también puede empeorar la atención.
Conclusión
La propuesta de evaluar la IA generativa mediante competencias reconoce una dificultad real: los sistemas abiertos, variables y adaptables no pueden valorarse únicamente como software estático. Examinar conocimiento, razonamiento, seguridad, comunicación y generalización constituye un avance frente a pruebas limitadas de exactitud.
Pero aprobar un examen no convierte a una IA en médico ni demuestra que sea segura en cualquier entorno. La competencia debe estar vinculada a una función, una población, un contexto, un nivel de supervisión y una versión determinada del sistema.
Además, la evaluación debe continuar después de la implementación. El sistema puede cambiar, los usuarios pueden depender excesivamente de sus respuestas y los errores pueden distribuirse de forma desigual.
La pregunta final no es si la IA puede parecer tan competente como un profesional. Es si su incorporación fortalece la capacidad de cuidar, deliberar y responder por las decisiones. Una medicina centrada en la persona necesita algoritmos evaluables, profesionales capaces de cuestionarlos e instituciones que no deleguen en la tecnología su propia responsabilidad.
Preguntas frecuentes
¿La FDA ya aprobó un nuevo sistema para regular la IA generativa?
No. El documento publicado el 18 de agosto de 2026 es una propuesta para discusión y solicitud de comentarios. No constituye una guía definitiva ni modifica por sí mismo la regulación vigente.
¿Qué es una evaluación basada en competencias?
Es una evaluación orientada a demostrar que un sistema puede realizar de manera segura una función definida. Puede incluir conocimiento clínico, análisis, comunicación, comportamiento seguro y generalización.
¿Superar un examen médico demuestra que una IA puede atender pacientes?
No. Un examen mide una muestra limitada del rendimiento. Se necesitan confirmación clínica, pruebas en poblaciones representativas, supervisión y vigilancia continua en el entorno real.
¿Qué es una IA agéntica?
Es un sistema capaz de planificar y ejecutar tareas de varios pasos, utilizar herramientas externas o realizar acciones. Su mayor autonomía operativa exige límites, registros, puntos de autorización humana y posibilidad de detener el proceso.
¿Quién responde cuando falla una IA médica?
La responsabilidad no puede atribuirse a la máquina. Debe distribuirse claramente entre fabricantes, desarrolladores, instituciones, profesionales y autoridades según sus decisiones y obligaciones.
Este contenido tiene fines educativos y de divulgación. No sustituye asesoramiento médico, jurídico o regulatorio.
Fuentes y lecturas recomendadas
- U.S. Food and Drug Administration. Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback. 18 de agosto de 2026.
- U.S. Food and Drug Administration. FDA Weighs in on the Development and Use of Digitally Derived Measures for Clinical Investigations. 20 de agosto de 2026.
- World Health Organization. Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models. 2025.
- International Medical Device Regulators Forum. Artificial Intelligence/Machine Learning-enabled Medical Devices.
- Patel B, Blumenthal D. A Novel Approach to Overseeing the Clinical Application of Generative AI. JAMA Health Forum. 2026;7(3):e256947. DOI: 10.1001/jamahealthforum.2025.6947.