Tema 5.3 — Economía de la IA en Salud — Guía de Economía de la Salud

Por qué esto importa en economía de la salud

La inteligencia artificial (IA) ha pasado de la demostración al despliegue en los sistemas de salud de todo el mundo, y el dinero ya la sigue: se pide a pagadores, ministerios y grupos proveedores que compren algoritmos de diagnóstico, herramientas de triaje y sistemas de apoyo a la decisión con la promesa de que reducen el coste o mejoran los resultados. La promesa suele ser real, pero la evidencia que la respalda es a menudo más escasa que la de un fármaco o un dispositivo, y la economía se comporta de forma distinta. Un directivo ocupado que aplica los reflejos de una compra estándar —precio fijo, rendimiento fijo, evaluación puntual— pondrá precio erróneo a estas tecnologías de maneras que solo salen a la luz después, como facturas de mantenimiento, conflictos laborales o un escándalo de equidad.

Lo que está en juego son los intereses habituales de la economía de la salud, agudizados. El dinero público se gasta en herramientas cuyo beneficio depende de cómo las usan realmente los clínicos, no de cómo rinden en un estudio publicado. La seguridad depende de un rendimiento que puede degradarse silenciosamente a medida que cambian la población y la práctica. Y la equidad queda expuesta de una manera nueva y específica: un algoritmo entrenado con una población puede desatender sistemáticamente a otra, convirtiendo una decisión de compra en una decisión distributiva. A mediados de la década de 2020, reguladores como la Administración de Alimentos y Medicamentos de Estados Unidos (FDA) y la Unión Europea han empezado a construir marcos para estos productos, pero la práctica de reembolso y evaluación va por detrás de la tecnología, dejando a quienes deciden que improvisen.

Este tema trata de esa brecha. No vuelve a enseñar la evaluación económica —la maquinaria de coste-efectividad está en el Tema 2.1 — Evaluación Económica, y la modelización de la incertidumbre en el Tema 2.2 — Modelización—, ni vuelve a cubrir las herramientas digitales generales, como las aplicaciones y la telesalud, que corresponden al Tema 5.2 — Economía de la Salud Digital. Aborda la economía específica de la IA: evaluar herramientas que aprenden, valorar la sustitución o la aumentación del trabajo clínico, y tratar el sesgo algorítmico como un coste que recae sobre personas reales (los propios conceptos de equidad están en el Tema 3.4 — Equidad).

Conceptos fundamentales

La inteligencia artificial en la atención sanitaria se refiere al uso de sistemas computacionales —los más relevantes económicamente son los construidos con aprendizaje automático, donde los modelos se entrenan con datos en lugar de programarse explícitamente— para realizar tareas que de otro modo requerirían juicio clínico. Las dos familias que más importan económicamente son el diagnóstico por IA (un algoritmo que lee una imagen, una muestra o una señal y devuelve un hallazgo) y el sistema de apoyo a la decisión clínica (una herramienta que recomienda, clasifica o señala algo a un decisor humano). Ambos suelen regularse como software médico —software destinado a un fin médico—, que la FDA y otros denominan "software como dispositivo médico".

El primer concepto que reconfigura la economía es que un producto de IA a menudo no es fijo. Un dispositivo convencional rinde igual el día en que se retira que el día en que se instaló; un modelo que aprende puede cambiar, ya sea porque el proveedor lo reentrena o porque el mundo a su alrededor se desplaza. El desplazamiento de concepto —y el problema relacionado del desplazamiento del conjunto de datos, en el que la población que el modelo encuentra en servicio diverge de la población con la que fue entrenado— significa que el rendimiento puede degradarse silenciosamente. Una tecnología que debe supervisarse, revalidarse y reentrenarse periódicamente conlleva un flujo de costes y riesgos continuos que una evaluación puntual pasará por alto.

El segundo concepto es la economía laboral de la automatización. La IA puede sustituir el trabajo clínico (reemplazando una tarea que hacía un humano) o aumentarlo (haciendo a un humano más rápido o mejor). La distinción es económica, no retórica: la sustitución promete ahorros de plantilla pero los concentra, redistribuye el trabajo y puede desprofesionalizar una profesión; la aumentación promete ganancias de calidad o de rendimiento, pero a menudo añade coste en lugar de eliminarlo. Cuál de las dos está comprando realmente determina de dónde procede el valor, y si el caso de negocio descansa en ahorros convertibles en efectivo que quizá nunca se materialicen si el tiempo liberado simplemente se reabsorbe.

El tercer concepto es el sesgo de automatización: la tendencia humana a confiar en exceso en el resultado de una máquina, aceptando una recomendación errónea porque proviene de un ordenador. Esto importa para la evaluación porque la efectividad real de una herramienta de apoyo a la decisión depende del equipo humano-máquina, no solo del algoritmo. Una herramienta precisa de forma aislada pero que induce sesgo de automatización, o que se ignora por fatiga de alertas, no aportará el beneficio que su modelo predice.

El cuarto concepto es el sesgo algorítmico como coste de equidad. Cuando un modelo rinde peor para un subgrupo —porque ese grupo estaba infrarrepresentado en los datos de entrenamiento, o porque se usó como etiqueta un indicador sustitutivo sesgado—, puede negar sistemáticamente a ese grupo el beneficio que reciben otros, o exponerlo a un daño. En términos económicos, esto es una pérdida distributiva que una cifra titular de efectividad media oculta por completo; una herramienta puede ser coste-efectiva en promedio mientras empeora la situación de los peor situados. Nombrar y medir esa pérdida es esencial para evaluar la IA con honestidad (la maquinaria de medición de la equidad está en el Tema 3.4 — Equidad).

El marco de evaluación sigue siendo la evaluación de tecnologías sanitarias (ETS) —la valoración sistemática de los costes, los beneficios y las consecuencias más amplias de una tecnología—, pero la IA la pone a prueba. Organismos como el Instituto Nacional para la Excelencia en Salud y Atención (NICE) de Inglaterra, el IQWiG de Alemania y el CDA-AMC de Canadá están adaptando sus métodos a tecnologías que se actualizan, y la Ley de Inteligencia Artificial de la UE (aprobada en 2024) clasifica como de alto riesgo a muchos sistemas médicos de IA, añadiendo una capa de coste de cumplimiento que el caso de negocio debe soportar.

Buenas prácticas

Decida primero si está comprando sustitución o aumentación, porque el valor procede de lugares distintos. Un caso de sustitución descansa en ahorros convertibles en efectivo —menos horas de lectura, sesiones cerradas, personal redistribuido— que solo cuentan si la capacidad liberada se elimina o se reutiliza de verdad, y no se reabsorbe calladamente. Un caso de aumentación descansa en mejores resultados o mayor rendimiento, normalmente con coste añadido. Declare cuál de los dos afirma, y exija al caso de negocio la evidencia que respalde esa afirmación concreta, no una mezcla de ambas.
Cuente el coste de todo el ciclo de vida, no de la licencia. El precio de compra de un algoritmo médico suele ser la partida más pequeña. Añada la integración con los sistemas clínicos, la formación de los clínicos, la supervisión humana que ahora exige el flujo de trabajo, la supervisión continua del rendimiento, la revalidación y el reentrenamiento periódicos, la investigación de incidentes, y la carga de cumplimiento de regímenes como la Ley de IA de la UE. Una herramienta que parece barata frente al salario de un radiólogo puede parecer cara una vez que su coste total real de propiedad está sobre el papel.
Evalúe el equipo humano-máquina, no el algoritmo. La sensibilidad y la especificidad de un modelo por sí solo son datos de entrada, no la respuesta. Lo que determina el valor real es cómo actúan los clínicos ante sus resultados: si confían en exceso en él (sesgo de automatización), lo ignoran (fatiga de alertas) o lo incorporan bien a su juicio. Exija evidencia obtenida del flujo de trabajo y de la plantilla previstos, y trate una precisión in silico impresionante que nunca se ha probado en servicio como una afirmación no demostrada.
Trate el sesgo algorítmico como un coste medible, no como una nota de cumplimiento al pie. Exija que el rendimiento se comunique desglosado por los grupos que realmente contiene su población —edad, sexo, etnia, tono de piel, comorbilidad, idioma, nivel socioeconómico—, no solo de forma agregada. Una herramienta que mejora los resultados medios mientras amplía una brecha entre grupos tiene un coste de equidad que pertenece a la evaluación; hágalo visible y sopéselo, porque una media que oculta a un subgrupo perjudicado no es suficiente para un servicio público (véase el Tema 3.4 — Equidad).
Ponga precio al mantenimiento de una tecnología que aprende, y contrátelo. Como el rendimiento puede desplazarse, presupueste la supervisión y la revalidación continuas como un coste corriente desde el primer día, e incorpore las obligaciones de mantenimiento al contrato. Establezca antes de la compra quién responde cuando el modelo se degrada, con qué frecuencia se revalidará y qué desencadena su retirada, de modo que la pregunta de "quién vigila el modelo" quede resuelta por diseño y no se descubra tras un incidente.
Exija un plan de gestión del cambio para los modelos que se actualizan. Una tecnología que cambia después de la compra rompe el supuesto de que la evaluación es un suceso puntual. Prefiera acuerdos en los que el alcance de los cambios futuros esté especificado y gobernado de antemano —el enfoque que subyace al "plan predeterminado de control de cambios" de la FDA para software adaptativo—, de modo que sepa qué puede alterar el proveedor sin nueva aprobación y qué exigiría una evaluación nueva. Comprar un derecho ilimitado a cambiar el modelo es comprar un riesgo sin precio.
Exija un comparador real y prevéngase del salto de la precisión al resultado. La pregunta relevante rara vez es "¿es precisa la IA?", sino "¿supera a la práctica actual en resultados y coste?", y una mayor precisión diagnóstica no se convierte automáticamente en mejor salud o menor gasto. Más hallazgos pueden significar más seguimiento, más sobrediagnóstico y más coste sin beneficio. Exija evidencia que vincule la herramienta a resultados posteriores y al uso neto de recursos frente al estándar de atención real, no frente a un rival de paja (los estándares de inferencia causal están en el Tema 2.3 — Econometría de la Salud).
Ajuste el rigor de la evaluación a lo que está en juego y a la reversibilidad de la decisión. Una herramienta de aumentación de bajo riesgo que un clínico puede anular fácilmente justifica una evaluación más ligera que un diagnóstico autónomo que determina a quién se convoca de nuevo. Escale la evidencia que exige —y la supervisión a la que se compromete— según las consecuencias de que la herramienta se equivoque y la dificultad de deshacerlo, en lugar de aplicar una misma plantilla a todo (esto es disciplina de priorización; véase el Tema 3.3 — Racionamiento).
Modele con honestidad la fuerza laboral contrafactual. Si el caso depende de ahorros de personal, sea explícito sobre qué haría ese personal en su ausencia y si el ahorro es real. En un sistema con escasez de personal, el tiempo clínico "liberado" suele ser reabsorbido por la demanda insatisfecha, así que el beneficio es más atención prestada, no dinero ahorrado: una ganancia genuina, pero distinta, que cambia quién en su organización debería firmar el caso de negocio.
Localice la evidencia antes de confiar en ella. Un modelo validado en un país, un pagador o una mezcla de pacientes puede rendir de forma distinta en el suyo porque la población, la prevalencia de la enfermedad, el equipo de imagen o las prácticas de codificación difieren. Exija validación con datos representativos de su propia población antes del despliegue, y trate las cifras destacadas de un proveedor procedentes de otro lugar como una hipótesis por comprobar localmente, no como un resultado del que fiarse.
Planifique la salida en el momento de la entrada. Las herramientas que aprenden fallan, se desplazan, pierden su estatus regulatorio o quedan superadas, y los servicios clínicos deben seguir funcionando cuando eso ocurre. Antes del despliegue, confirme que el personal conserva las competencias y la capacidad para trabajar sin la herramienta, que los datos y los flujos de trabajo no están tan entrelazados con un único proveedor que marcharse resulte prohibitivo, y que una retirada no dañará por sí misma a los pacientes: la desprofesionalización es un coste lento que solo aparece cuando se intenta detenerla.
Mantenga la evaluación de la IA dentro de su ETS y gobernanza existentes, ampliadas, no en un carril rápido aparte. La presión por tratar la IA como algo especial puede convertirse en una excusa para saltarse el escrutinio que se aplica a cualquier otra tecnología sanitaria. Encauce estas decisiones a través de la misma evaluación económica, seguridad y gobernanza de equidad que usa en cualquier otro lugar, añadiendo las preguntas específicas de la IA sobre desplazamiento, sesgo y factores humanos, en lugar de sustituir la disciplina por el entusiasmo del proveedor.

Preguntas para debatir con su equipo

¿Estamos comprando esta herramienta para sustituir el trabajo clínico o para mejorarlo, y nuestro caso de negocio corresponde honestamente a esa respuesta? Esta pregunta obliga a una elección que la mayoría de los casos de negocio difuminan, reclamando a la vez ahorros de plantilla y ganancias de calidad sin demostrar ninguno de los dos. Si la afirmación es de sustitución, presione sobre si el ahorro es convertible en efectivo: ¿se cerrarán realmente puestos, o el tiempo liberado será absorbido por la lista de espera, de modo que el beneficio real sea "más atención" en lugar de "menos coste"? Si la afirmación es de aumentación, presione sobre si la calidad añadida justifica el coste añadido, porque la aumentación casi siempre incrementa el gasto. La respuesta honesta nombra una fuente de valor primaria, declara quién en la organización responde de materializarla, y admite qué ahorros son especulativos. Un equipo que no puede decir con claridad qué está comprando no está listo para comprar.
¿A quién podría desatender este algoritmo, y lo notaríamos antes de que causara daño? El sesgo algorítmico rara vez es visible en el resultado titular; se esconde dentro de una media que parece buena. Pregunte qué grupos de su población estaban poco representados o ausentes en los datos de entrenamiento, si la etiqueta que aprendió el modelo es un indicador justo o uno sesgado, y si dispone de los datos desglosados con suficiente finura para detectar una brecha por etnia, sexo, tono de piel, idioma o privación. La tensión es que recoger y supervisar el rendimiento por subgrupo cuesta dinero y esfuerzo que un despliegue bajo presión querrá saltarse. Una respuesta honesta especifica los subgrupos que va a supervisar, el umbral a partir del cual una brecha desencadena una acción, y una admisión franca de los grupos que actualmente no puede ver, porque un daño de equidad que no puede medir es uno que descubrirá por las quejas.
¿Cuál es nuestro plan para el día en que este modelo se degrade, cambie o deba desconectarse? A diferencia de un dispositivo convencional, una tecnología que aprende puede desplazarse silenciosamente, ser reentrenada por su proveedor, perder su estatus regulatorio o simplemente fallar, y el servicio debe continuar. Debata quién responde de vigilar el rendimiento en servicio, con qué frecuencia se revalida el modelo, y qué desencadenante observable le haría retirarlo. Examine si sus clínicos seguirían siendo competentes para trabajar sin él tras dos años de dependencia, y si sus datos y flujos de trabajo están tan entrelazados con un único proveedor que marcharse resulta inasumible. La respuesta honesta es un responsable designado, una cadencia de supervisión, un desencadenante de retirada y una capacidad de respaldo conservada, no la esperanza de que el proveedor mantendrá las cosas funcionando.
¿Hemos costeado todo el ciclo de vida de esta herramienta, o solo su precio de compra? La licencia suele ser la partida más pequeña de un presupuesto de IA médica, y sin embargo es la cifra que domina el caso de negocio que llega al consejo. Presione al equipo para que nombre todos los costes posteriores que crea la herramienta: integración con los sistemas clínicos, formación del personal, la supervisión humana permanente que ahora exige el flujo de trabajo, la supervisión continua del rendimiento, la revalidación y el reentrenamiento periódicos, la investigación de incidentes, y la carga de cumplimiento de regímenes como la Ley de IA de la UE. La tensión es que muchos de estos costes son recurrentes y difusos, así que recaen sobre presupuestos operativos a los que nunca se consultó, mientras el ahorro se contabiliza de forma centralizada y por adelantado. Una respuesta honesta compara el coste total de propiedad a lo largo de la vida realista de la herramienta con el beneficio, nombra qué presupuestos soportan cada partida recurrente, y resiste el instinto del proveedor de comparar una cuota de licencia con el salario de un clínico como si nada más cambiara.
¿Estamos comprando el algoritmo, o la forma en que nuestros clínicos realmente lo usarán? La sensibilidad y la especificidad de un modelo por sí solo describen la herramienta en el banco de pruebas, no el equipo humano-máquina que prestará la atención, y en esa brecha es donde desaparecen calladamente los beneficios modelados. Debata si es probable que sus clínicos confíen en exceso en el resultado (sesgo de automatización), lo ignoren en medio de un aluvión de alertas (fatiga de alertas), o lo integren con sensatez en su juicio, y qué en su flujo de trabajo, formación y cultura empuja hacia cada extremo. El punto incómodo es que el mismo algoritmo puede ayudar en un servicio y perjudicar en otro solo por cómo se comporta la gente a su alrededor, así que la evidencia del despliegue de otro es una hipótesis sobre el suyo, no un resultado. Una respuesta honesta exige evidencia obtenida del flujo de trabajo y la plantilla previstos, planifica el trabajo de factores humanos y gestión del cambio como parte de la compra, y trata una precisión in silico impresionante que nunca se ha probado en servicio como una afirmación no demostrada.
¿Esta herramienta supera realmente a la práctica actual en resultados y coste, frente a un comparador real? La pregunta seductora es "¿es precisa la IA?"; la pregunta relevante para la decisión es "¿hace mejor que lo que hacemos ahora, en lo que importa, una vez que se cuenta todo?". Examine si la comparación se hace frente a su estándar de atención genuino o frente a un rival de paja debilitado, y si se ha demostrado que una mayor precisión diagnóstica se traduce en mejor salud en lugar de simplemente más hallazgos, más seguimiento, más sobrediagnóstico y más coste. La tensión es que la precisión es fácil de demostrar y barata de vender, mientras que la evidencia de resultados posteriores y de uso neto de recursos es lenta, cara y a menudo inexistente, así que hay presión para aceptar la primera como sustituto de la segunda. Una respuesta honesta nombra el comparador real, exige evidencia que vincule la herramienta a resultados posteriores y al uso neto de recursos, y está dispuesta a decir "aún no demostrado" cuando no se ha probado la cadena que va de la precisión al beneficio (los estándares de inferencia causal están en el Tema 2.3 — Econometría de la Salud).

En la práctica: un ejemplo de economía de la salud

La Autoridad Sanitaria de Prairie, un servicio de salud regional ficticio de pagador único en el oeste de Canadá, está considerando un sistema de IA para cribar la retinopatía diabética, una causa principal de ceguera prevenible en personas con diabetes. Hoy, las fotografías retinianas de las clínicas comunitarias las lee un pequeño grupo de oftalmólogos y evaluadores formados, y la región no da abasto: las comunidades rurales e indígenas en particular se enfrentan a largas esperas, y algunos pacientes se pierden antes de que sus imágenes lleguen a leerse. Un proveedor ofrece un algoritmo que lee las imágenes automáticamente, remitiendo a un humano solo los casos positivos o no evaluables. El discurso principal promete un ahorro de plantilla y resultados más rápidos.

Los economistas de la salud de la autoridad empiezan por fijar qué se está comprando. El proveedor lo plantea como sustitución —el algoritmo reemplaza el tiempo de los evaluadores—, pero en un sistema con una lista de espera de cribado, la capacidad de evaluación liberada será absorbida por el rezago sin examinar, no convertida en ahorro. El beneficio real, concluyen, es la aumentación de capacidad: más personas cribadas, antes, especialmente en comunidades desatendidas, con una reducción plausible de la ceguera prevenible a largo plazo. Ese replanteamiento cambia todo el caso. El ahorro no es una partida en el presupuesto salarial; es ganancia en salud y ganancia en equidad, y debe valorarse como tal, usando la maquinaria de coste por año de vida ajustado por calidad del Tema 2.1 — Evaluación Económica en lugar de una simple resta de plantilla.

A continuación, interrogan directamente la dimensión de equidad. El modelo se entrenó en gran parte con imágenes retinianas de poblaciones urbanas de otro país; su precisión publicada es sólida en conjunto, pero no se ha probado con los pacientes indígenas y rurales de la autoridad, cuya prevalencia de diabetes es alta y cuyas imágenes a menudo se toman con cámaras más antiguas y en condiciones de luz variable. El equipo se niega a aceptar las cifras destacadas del proveedor como transferibles. Encargan una validación local con una muestra representativa y exigen que el rendimiento se comunique por comunidad, tipo de cámara y calidad de imagen, porque una herramienta que rinde peor precisamente donde la necesidad es mayor convertiría un programa de cribado pensado para reducir la desigualdad en uno que la ampliara, un coste de sesgo algorítmico que superaría con creces la cuota de licencia, tanto en daño como en reputación.

El costeo de todo el ciclo de vida sorprende al director financiero. Más allá de la licencia, el caso debe incluir la integración con los sistemas de imagen, la formación del personal de clínica, un arreglo permanente para la relectura humana de las imágenes no evaluables y, de forma crítica, la supervisión continua del desplazamiento de concepto a medida que cambian las cámaras, las poblaciones y el tratamiento de la diabetes a lo largo de los años. El equipo incorpora al contrato las obligaciones de mantenimiento y revalidación, especifica un alcance predeterminado para las actualizaciones del modelo, y nombra un responsable clínico designado para el rendimiento en servicio. También insisten en un respaldo: se conserva suficiente capacidad humana de evaluación para que la retirada de la herramienta no deje ciego al servicio.

La autoridad aprueba un despliegue por fases: primero la validación local, después una implantación supervisada que comienza en las comunidades de mayor necesidad, con paneles de rendimiento por subgrupo revisados trimestralmente y un umbral de precisión pactado de antemano que desencadena investigación o retirada. La economía se juzga favorable —la herramienta amplía una capacidad especializada escasa hacia personas que antes quedaban fuera—, pero la evaluación deja claro que el valor depende de la supervisión y las salvaguardas de equidad, no del algoritmo por sí solo. La lección que se lleva el consejo es que una compra de IA es un compromiso continuo, no una compra puntual, y que la cuestión de equidad no fue una nota al pie, sino el centro del caso.

Cuatro perspectivas sectoriales

Startup

Una startup de IA en salud suele tener una evidencia sólida de precisión algorítmica y una evidencia débil de valor económico o efecto en el mundo real, y su supervivencia depende de una vía de reembolso que quizá aún no exista. La tentación es vender la precisión como si fuera un resultado, e infravalorar el mantenimiento, la supervisión y el trabajo de equidad que los compradores acabarán exigiendo. Los fundadores que diseñan para la evaluabilidad desde el principio —especificando de antemano el rendimiento por subgrupo, incorporando la supervisión y validando con poblaciones representativas— construyen algo que un pagador puede comprar de verdad. El discurso creíble no es el mejor área bajo la curva en un banco de pruebas; es una afirmación defendible sobre resultados, coste y quién se beneficia, comprobada en un flujo de trabajo real.

Pequeña empresa

Un proveedor pequeño pero asentado —una consulta de radiología, una clínica de un único centro, un laboratorio especializado o un fabricante de software de nicho— compra IA como una decisión de negocio asentada y no como una apuesta por la supervivencia, y su restricción es la inversa a la de una startup: capacidad limitada para evaluar, integrar y supervisar una herramienta que aprende, no producto limitado. Un comprador así rara vez cuenta con un equipo de ciencia de datos que ejecute una validación local o una función de gobernanza que vigile el desplazamiento, por lo que está inusualmente expuesto a las cifras destacadas de un proveedor y a los costes recurrentes —supervisión, revalidación, cumplimiento— que sobreviven a la venta. La postura sensata es apoyarse en la garantía compartida o externa donde exista —la evaluación de un colegio profesional, un veredicto de ETS nacional, un acuerdo de compra agrupada— en lugar de intentar un escrutinio que no puede costear en solitario. Su riesgo distintivo es la dependencia y la desprofesionalización silenciosas: una consulta pequeña que reconfigura su flujo de trabajo en torno a una única herramienta puede descubrir que marcharse, o trabajar sin ella, ya no es asumible, así que conservar un respaldo y leer las condiciones de salida del contrato importan aquí más que el precio de la licencia.

Gran empresa

Un gran grupo hospitalario o una aseguradora compra IA como una cartera y convive con la realidad operativa que los proveedores minimizan: la integración, la adopción por los clínicos, la fatiga de alertas, la supervisión a gran escala, y el riesgo de desprofesionalización de depender de herramientas en muchos centros. A esta escala, la pregunta de sustitución frente a aumentación es una cuestión de estrategia de plantilla con consecuencias de relaciones laborales, y un despliegue de "ahorro de mano de obra" mal ejecutado puede costar más en conflictos y repetición de trabajo de lo que jamás ahorró. Las grandes empresas son también donde el sesgo algorítmico se convierte en un pasivo sistémico y no en un caso aislado, así que las más maduras construyen una gobernanza permanente —registros de modelos, paneles de rendimiento, calendarios de revalidación— y tratan la supervisión de la IA como una función permanente, no como un proyecto.

Gobierno

Un ministerio o un pagador nacional fija las reglas con las que juegan los demás, mediante la regulación, los métodos de ETS y el diseño del reembolso, y carga con los fallos que el mercado no pondrá en precio: el sesgo que recae sobre grupos protegidos, el desplazamiento que perjudica la seguridad, y las consecuencias para la fuerza laboral de la automatización en todo un sistema. Sus palancas son las más amplias: clasificar la IA médica por riesgo (como hace la Ley de IA de la UE), exigir validación representativa y supervisión poscomercialización, y decidir si y cómo se pagan las tecnologías que aprenden. Su disciplina también debe ser la más amplia, porque un carril rápido que deja pasar la IA con las afirmaciones de precisión del proveedor, o una norma de reembolso que paga por volumen de lecturas algorítmicas, propagará un error a todos los proveedores a la vez. La tarea distintiva del gobierno es hacer que la evaluación, la equidad y la supervisión sean las condiciones de entrada por defecto, y no complementos opcionales (la maquinaria de política está en el Tema 3.2 — Política de Salud).

Modos de fallo habituales

Vender la precisión como resultado. Tratar una cifra alta de precisión diagnóstica como prueba de beneficio en salud o en coste. Solución: exija evidencia que vincule la herramienta a resultados posteriores y al uso neto de recursos frente a la práctica real actual.
Contabilizar ahorros que nunca se hacen efectivos. Reclamar ahorros de plantilla que se reabsorben calladamente por la demanda insatisfecha. Solución: declare si los puestos realmente se cierran; si el tiempo liberado se reutiliza, valore el caso como más atención prestada, no como dinero ahorrado.
Ignorar al humano en el circuito. Evaluar el algoritmo en solitario y pasar por alto el sesgo de automatización y la fatiga de alertas. Solución: evalúe el equipo humano-máquina en el flujo de trabajo y la plantilla previstos.
Promediar un daño de equidad hasta que desaparece. Comunicar solo el rendimiento agregado y pasar por alto un subgrupo al que la herramienta desatiende. Solución: exija y supervise el rendimiento desglosado por los grupos que contiene su población, con un umbral de acción.
Evaluación puntual de una herramienta que aprende. Tratar un modelo adaptativo como un dispositivo fijo y no revalidarlo nunca. Solución: presupueste y contrate la supervisión continua, la revalidación y un plan de control de cambios.
Dependencia y desprofesionalización por negligencia. Volverse tan dependiente de una herramienta y un proveedor que la retirada resulta imposible y el personal ya no puede trabajar sin ella. Solución: conserve la capacidad de respaldo y planifique la salida en el momento de la entrada.
Un carril rápido especial para la IA. Saltarse el escrutinio normal de ETS, seguridad y equidad porque la tecnología resulta excitante. Solución: encauce la IA a través de la gobernanza existente, ampliada con preguntas sobre desplazamiento, sesgo y factores humanos.

Modelo de madurez

Dimensión	Iniciar	Desarrollar	Estandarizar	Gestionar	Orquestar
Caso de valor	Comprado según la precisión algorítmica y las afirmaciones del proveedor	Sustitución frente a aumentación nombrada; se recopilan algunos datos de coste	Coste de todo el ciclo de vida y un comparador real evaluados mediante ETS como estándar	Valor rastreado en servicio frente a resultados y coste neto, con las desviaciones abordadas	Valor reevaluado y reequilibrado continuamente en toda la cartera, con desinversión en herramientas que dejan de rentar
Equidad	Solo se observa el rendimiento agregado; el sesgo no se examina	Se reconoce el riesgo por subgrupo; comprobaciones puntuales	Validación representativa e informe por subgrupo exigidos antes del despliegue	Rendimiento por subgrupo supervisado en vivo con umbrales de acción y publicación	Resultados de equidad gestionados entre herramientas y comunidades, con los resultados retroalimentando la compra y el diseño
Mantenimiento de la herramienta que aprende	Evaluada una vez y olvidada; el desplazamiento no se supervisa	Se debate la supervisión pero no se dota de recursos	Supervisión, revalidación y control de cambios presupuestados y contratados	Detección automatizada del desplazamiento, actualizaciones prefijadas y desencadenantes de retirada en vigor	Mantenimiento orquestado en todo el parque y los proveedores, con supervisión compartida y ciclos de revalidación coordinados
Fuerza laboral	Se asumen ahorros de mano de obra; no se consulta al personal	Se mapean los efectos de sustitución; se planifica la formación	Fuerza laboral contrafactual modelada; desprofesionalización y respaldo abordados	Aumentación diseñada con el personal; ganancias de capacidad y competencias gestionadas activamente	Estrategia de fuerza laboral e IA planificadas juntas en todos los servicios, con competencias y funciones evolucionando de forma deliberada con el tiempo
Gobernanza	Sin supervisión específica de IA	Aprobaciones caso por caso	IA integrada en la ETS, la seguridad y la gobernanza de equidad establecidas	Registro de modelos y función de supervisión permanente con auditoría continua	Gobernanza extendida a socios y cadena de suministro, dando forma a estándares y rendición de cuentas más allá de la organización

Lista de comprobación

Declare explícitamente si la herramienta sustituye o aumenta el trabajo clínico, y ajuste el caso de negocio a esa afirmación.
Cueste el ciclo de vida completo —integración, formación, supervisión, seguimiento, revalidación, reentrenamiento y cumplimiento—, no solo la licencia.
Exija evidencia del flujo de trabajo humano-máquina previsto, no solo precisión algorítmica aislada.
Exija que el rendimiento se comunique por los subgrupos que contiene su población, con un umbral de acción para cualquier brecha de equidad.
Valide el modelo con datos representativos de su propia población antes del despliegue.
Confirme un comparador real y evidencia de que la precisión se traduce en resultados y en uso neto de recursos.
Presupueste y contrate la supervisión continua, la revalidación y un plan predeterminado de control de cambios.
Nombre un responsable de rendición de cuentas para el rendimiento en servicio y un desencadenante para investigación o retirada.
Modele con honestidad la fuerza laboral contrafactual, incluido si los ahorros son convertibles en efectivo o se reabsorben.
Conserve la capacidad de respaldo y planifique la salida, previniéndose de la desprofesionalización y la dependencia del proveedor.
Encauce la decisión a través de la ETS, la seguridad y la gobernanza de equidad existentes, ampliadas con preguntas específicas de IA.

Key sources

WHO, Ethics and Governance of Artificial Intelligence for Health — World Health Organization guidance on AI in health, including equity and governance principles.
U.S. Food and Drug Administration — guidance on Software as a Medical Device (SaMD) and predetermined change control plans for adaptive AI/ML-enabled devices.
European Union — Artificial Intelligence Act (2024), classifying many medical AI systems as high-risk.
NICE — Evidence Standards Framework for Digital Health Technologies, and evolving methods for evaluating AI and data-driven technologies (as of the mid-2020s).
OECD — Health at a Glance and OECD work on AI in health systems, for cross-country context.
ISPOR — good-practice guidance on the economic evaluation of health technologies, applied to AI-enabled care.

References

Artificial intelligence in healthcare — Wikipedia — https://en.wikipedia.org/wiki/Artificial_intelligence_in_healthcare
Machine learning — Wikipedia — https://en.wikipedia.org/wiki/Machine_learning
Clinical decision support system — Wikipedia — https://en.wikipedia.org/wiki/Clinical_decision_support_system
Medical software — Wikipedia — https://en.wikipedia.org/wiki/Medical_software
Concept drift — Wikipedia — https://en.wikipedia.org/wiki/Concept_drift
Automation — Wikipedia — https://en.wikipedia.org/wiki/Automation
Deskilling — Wikipedia — https://en.wikipedia.org/wiki/Deskilling
Automation bias — Wikipedia — https://en.wikipedia.org/wiki/Automation_bias
Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
Health technology assessment — Wikipedia — https://en.wikipedia.org/wiki/Health_technology_assessment
Artificial Intelligence Act — Wikipedia — https://en.wikipedia.org/wiki/Artificial_Intelligence_Act
Diabetic retinopathy — Wikipedia — https://en.wikipedia.org/wiki/Diabetic_retinopathy
World Health Organization — Ethics and Governance of Artificial Intelligence for Health — https://www.who.int/publications/i/item/9789240029200
U.S. Food and Drug Administration — Artificial Intelligence and Machine Learning in Software as a Medical Device — https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-software-medical-device
NICE — Evidence Standards Framework for Digital Health Technologies — https://www.nice.org.uk/corporate/ecd7