Tema 2.3
Econometría de la Salud
La econometría de la salud es la disciplina de extraer una afirmación de causa y efecto digna de confianza a partir de datos sanitarios desordenados del mundo real, de modo que cuando alguien le diga que una intervención funcionó, pueda juzgar si los datos pueden soportar el peso de esa palabra.
Por qué esto importa en economía de la salud
Casi toda decisión que toma un líder sanitario descansa en una afirmación causal: este fármaco reduce la mortalidad, aquella clínica redujo los ingresos, esta reforma de pago recortó los tiempos de espera. La afirmación es fácil de enunciar y difícil de ganar. Dos grupos de pacientes difieren en un resultado, pero también diferían antes de que nadie interviniera —las personas más enfermas buscan más atención, las regiones más ricas adoptan antes los nuevos programas, las clínicas motivadas se ofrecen voluntarias para los pilotos. El problema central es que nunca observamos qué le habría sucedido al grupo tratado si no hubiera sido tratado. Todo en este tema trata de aproximar esa comparación ausente con honestidad.
Lo que está en juego es dinero público y vidas. Una afirmación causal confiada pero equivocada dirige un presupuesto hacia una intervención que no hace nada, o retira una que salvaba vidas silenciosamente; ambos errores se pagan en resultados, no solo en dinero. Cuando un pagador nacional decide desplegar un programa a escala nacional basándose en una evaluación regional, la calidad del razonamiento causal de esa evaluación es la diferencia entre escalar un éxito y escalar una ilusión. Los líderes rara vez ejecutan el análisis ellos mismos, pero lo encargan, lo financian, y actúan según él, lo que significa que la habilidad de valoración es suya.
Este tema deliberadamente no es un manual de estadística (véanse los límites de alcance del libro). No derivará un estimador ni recomendará software. Su trabajo es decirle para qué sirve cada método, cuándo una afirmación causal merece su confianza, y cómo encargar y valorar el trabajo econométrico de modo que no le engañe un modelo sofisticado ni descarte buena evidencia. Donde el análisis alimenta un modelo de decisión que extrapola más allá de los datos, esa maquinaria corresponde al Tema 2.2 — Modelización; aquí nos quedamos con la propia estimación y con si es causal.
Conceptos fundamentales
La econometría de la salud es la aplicación de métodos estadísticos a los datos de salud y atención sanitaria con el fin de medir relaciones y, sobre todo, de sustentar la inferencia causal: el intento de establecer que un cambio en una cosa causa un cambio en otra, en lugar de meramente moverse con ella. La disciplina existe porque la correlación en los datos de salud es abundante y engañosa, y porque el experimento limpio que zanjaría la cuestión a menudo es imposible, poco ético, o inasequible.
El obstáculo central es la confusión: un tercer factor que influye tanto en quién recibe una intervención como en qué resultado experimenta, creando una asociación que no es causal. Los pacientes con un nuevo anticoagulante pueden sangrar menos que los que tienen el antiguo no porque el fármaco sea más seguro, sino porque los prescriptores cautelosos lo dieron a pacientes de menor riesgo. La edad, la privación, la gravedad de la enfermedad y el juicio clínico son factores de confusión implacables en los datos de salud, y los que se pueden medir rara vez son los que más importan.
Estrechamente relacionado está el sesgo de selección: las personas de sus grupos tratado y de comparación fueron clasificadas en ellos por un proceso —autoselección, triaje clínico, geografía, elegibilidad administrativa— que él mismo está relacionado con el resultado. Un servicio de telesalud usado por los digitalmente seguros mostrará buenos resultados en parte porque sus usuarios ya eran más sanos y estaban más organizados de entrada. La selección no es una molestia que sacudirse de los datos; con frecuencia es toda la historia, y el trabajo del método es neutralizarla.
El patrón de referencia para lograrlo es el ensayo controlado aleatorizado (ECA), en el que los participantes se asignan al tratamiento o al control por azar. La aleatorización funciona porque, en promedio, equilibra tanto los factores de confusión en los que pensó como los que no, de modo que cualquier diferencia en el resultado puede atribuirse a la intervención. Las disciplinas que protegen un ensayo —analizar a los pacientes en el grupo al que fueron aleatorizados, conocido como análisis por intención de tratar, y preregistrar el resultado— existen para impedir que el problema de selección se cuele de nuevo por la puerta trasera.
Los ensayos no siempre son factibles, así que buena parte de la econometría de la salud trabaja con datos observacionales y toma prestada credibilidad de un experimento natural: una situación en la que algo fuera del control de los participantes (un despliegue de política, una regla de elegibilidad, una lotería, un cambio de precio repentino) imita la asignación aleatoria. Se repiten cuatro diseños cuasiexperimentales:
- La diferencia en diferencias compara el cambio en los resultados de un grupo expuesto a una intervención frente al cambio de un grupo de comparación no expuesto durante el mismo periodo. Su credibilidad descansa en el supuesto de «tendencias paralelas»: que, en ausencia de la intervención, los resultados de ambos grupos se habrían movido al mismo ritmo.
- La estimación por variables instrumentales usa una variable que afecta a quién recibe tratamiento pero no tiene efecto directo sobre el resultado salvo a través del tratamiento —la distancia a una clínica, un número de lotería, un revisor asignado al azar— para aislar la variación en el tratamiento que está libre de confusión. Un instrumento válido es genuinamente difícil de encontrar e imposible de probar por completo.
- La discontinuidad de regresión explota un umbral neto —una puntuación de riesgo, una edad, un corte de renta— que determina la elegibilidad. Las personas justo por encima y justo por debajo de la línea son prácticamente idénticas salvo por el acceso a la intervención, de modo que compararlas aproxima un experimento local.
- Los métodos de datos de panel siguen a las mismas unidades (pacientes, hospitales, regiones) a lo largo del tiempo, permitiendo al analista controlar por todo lo estable de una unidad que nunca cambia, y así eliminar una gran clase de factores de confusión que una única sección transversal no puede.
Por último, los datos ausentes subyacen a todo esto. Los pacientes abandonan, los registros están incompletos y —de forma crucial— la razón por la que faltan datos a menudo está relacionada con el resultado, de modo que descartar los registros incompletos reintroduce silenciosamente el sesgo de selección. Cómo se trató la ausencia de datos es una de las primeras preguntas que hacer sobre cualquier estudio.
Buenas prácticas
Empiece por el contrafactual, no por el método. Antes de que nadie elija un estimador, obligue a plantear la pregunta: ¿cuál es la comparación, y por qué deberíamos creer que nos dice qué habría sucedido sin la intervención? La credibilidad de todo resultado fluye de esa comparación, no de la sofisticación de la estadística que se le superpone. Si la respuesta es vaga, ninguna técnica la rescatará.
Encargue el diseño antes de que se recojan los datos, no después. Las afirmaciones causales más sólidas proceden de diseños planificados de antemano —un despliegue aleatorizado, un análisis preregistrado, un grupo de comparación acordado—, porque adaptar un método a datos ya existentes invita al analista a seguir buscando hasta que aparece un resultado favorecedor. Cuando financie una evaluación, financie la fase de diseño e insista en un plan de análisis por escrito antes de que existan resultados.
Prefiera la aleatorización donde sea ética y factible, incluido el despliegue escalonado. Si un programa no puede llegar a todos a la vez, asigne el orden de acceso por sorteo o aleatorice qué sedes van primero. Esto convierte una restricción operativa en un experimento creíble a poco coste adicional, y a menudo es más defendible que negar el tratamiento a alguien. Muchas de las evaluaciones de política más fiables son simplemente despliegues que se aleatorizaron en lugar de elegirse.
Trate todo diseño cuasiexperimental como un paquete de supuestos, y haga que los enuncien. La diferencia en diferencias vive o muere con las tendencias paralelas; las variables instrumentales con un instrumento que sea a la vez relevante y exógeno; la discontinuidad de regresión con que las personas no manipulen en qué lado del umbral caen. Un buen analista nombra el supuesto del que depende su resultado y muestra evidencia a su favor; uno débil lo oculta. Pregunte, explícitamente, «¿qué tiene que ser cierto para que esto sea causal, y cómo sabe que lo es?».
Exija las pruebas de falsación, no solo la estimación titular. El trabajo causal creíble intenta romper su propia afirmación: representa las tendencias previas a la intervención para comprobar que eran paralelas, prueba saltos en umbrales falsos donde no debería haber ninguno, muestra que el instrumento no predice resultados que no debería tocar. La presencia de estas comprobaciones señala trabajo honesto; su ausencia es una advertencia sin importar cuán grande o bienvenido sea el efecto.
Insista en saber cómo se trataron los datos ausentes y el abandono. Pregunte qué fracción de sujetos se perdió, si los ausentes difieren de los observados, y qué supuesto hizo el análisis sobre ellos. El «análisis de casos completos» —descartar silenciosamente a cualquiera con una laguna— es la forma más común en que el sesgo de selección reingresa en un estudio que parecía limpio. La dirección en que los datos ausentes empujarían el resultado a menudo puede conocerse aunque los valores en sí no se puedan recuperar.
Ajuste el modelo a la forma de los datos de salud. Los costes están sesgados por unos pocos pacientes muy caros, la utilización es un recuento que no puede ser negativo, y los datos de supervivencia están censurados cuando termina el seguimiento. Los métodos lineales estándar se ajustan mal a esto y pueden engañar; existen modelos especializados para cada caso. No necesita conocer las matemáticas, pero debería saber lo suficiente como para preguntar «¿es apropiado este método para datos de coste?» y esperar una respuesta real.
Separe el efecto sobre los tratados del efecto que podría escalar. Muchos métodos cuasiexperimentales estiman un efecto local —el impacto sobre las personas cerca de un umbral, o sobre aquellas que un instrumento resultó mover—, que puede no ser igual al efecto de desplegar la intervención a todos. Una discontinuidad de regresión en torno a los 65 años le informa sobre las personas de 65 años, no sobre las de 40. Antes de generalizar una cifra, pregunte de quién es realmente ese efecto.
Distinga la significación estadística de la relevancia para la decisión. Un efecto diminuto estimado con precisión puede ser estadísticamente significativo y económicamente trivial; un efecto grande puede ser incierto y aun así merecer la pena actuar dado lo que está en juego. Pida el tamaño del efecto, su intervalo de confianza, y qué significa a la escala de su presupuesto y su población, no solo si un valor p superó un umbral. La decisión depende de la magnitud y la incertidumbre juntas.
Juzgue la validez externa con el mismo cuidado que la validez interna. Un estudio puede ser impecable en cuanto a causalidad en su propio contexto y, aun así, ser irrelevante para el suyo si la población, el sistema de salud o el riesgo basal difieren. Un instrumento que funcionó en un mercado de seguros de EE. UU. o un diseño validado en un registro escandinavo puede no trasladarse a un contexto de renta baja con datos e incentivos distintos. Pregunte «¿se mantendría este efecto en mi sistema?» como una pregunta separada de «¿es real este efecto?».
Triangule en lugar de confiar en un único estudio. Cuando varios métodos con supuestos distintos —un ensayo, una diferencia en diferencias, una estimación por variables instrumentales— apuntan en la misma dirección, la confianza se gana; cuando divergen, el desacuerdo es información sobre qué supuestos están fallando. Encargue o busque más de una línea de evidencia para cualquier decisión lo bastante grande como para importar, y trate un resultado llamativo aislado como una hipótesis, no como una conclusión.
Escriba la valoración y consérvela junto a la decisión. Registre en qué afirmación causal se basó, qué diseño la produjo, en qué supuesto descansaba, y qué le haría cambiar de opinión. Esto protege a la organización cuando los resultados se cuestionan después, y obliga a la disciplina de enunciar la incertidumbre antes, no después, de que se conozca el resultado. Una evaluación cuyo razonamiento no está documentado es una opinión con un gráfico.
Preguntas para debatir con su equipo
Para la última gran decisión que justificamos con evidencia, ¿cuál fue el grupo de comparación, y realmente habría hecho lo mismo sin la intervención? Esta pregunta va directa al contrafactual, que es donde se esconde la mayor parte de la evidencia débil. Vaya más allá de la cifra titular hasta la estructura: quién se comparó con quién, cómo se clasificaron en esos grupos, y qué le habría sucedido al grupo tratado si nada hubiera cambiado. Las tensiones honestas son que la comparación más conveniente —antes y después en el mismo grupo, o voluntarios frente a no voluntarios— suele ser la más confundida, y que las personas que eligieron o fueron elegidas para una intervención casi siempre difieren de las que no. Un buen debate nombra los factores de confusión concretos en juego (gravedad, privación, motivación, selección del clínico) y pregunta si el diseño los neutralizó o simplemente los ignoró. La respuesta que busca no es «el estudio fue revisado por pares», sino un relato claro de por qué la comparación es creíble, o una admisión de que no lo es, y de que la decisión descansó en un juicio disfrazado de evidencia.
Cuando encargamos una evaluación, ¿estamos comprando un diseño o solo un informe? La mayoría de las organizaciones contratan la evaluación como un entregable que llega después de que el programa esté funcionando, que es precisamente cuando los diseños causales más sólidos ya se han vuelto imposibles. La tensión está entre la urgencia operativa —lanzar ahora, medir después— y la calidad de evidencia, que depende de decisiones tomadas antes de que se inscriba el primer paciente: un orden de despliegue aleatorizado, una región de comparación acordada, un resultado y plan de análisis preregistrados. Debata si su proceso de contratación involucra a los analistas lo bastante pronto como para moldear el diseño, o solo lo bastante tarde como para racionalizar el resultado. Una respuesta honesta afronta el hecho de que una evaluación retrospectiva barata puede ser peor que ninguna si presta una falsa confianza, y examina si los contratos y plazos hacen un buen diseño estructuralmente posible o estructuralmente imposible en su organización.
¿Qué afirmación nos negaríamos a poner en práctica, y qué evidencia nos haría cambiar de opinión? Esta pregunta comprueba si el equipo trata la evidencia como una aportación genuina o como decoración para una decisión ya tomada. Nombrar, de antemano, el estándar de prueba que debe cumplir una afirmación —y el hallazgo que le haría dar marcha atrás— es la guardia más fuerte contra el sesgo de confirmación y contra el entusiasmo selectivo que reciben los resultados que nos gustan. La tensión real es que las partes interesadas rara vez someten a los programas favorecidos y a los desfavorecidos al mismo listón de evidencia; una iniciativa querida recibe el beneficio de la duda, una amenazante se despedaza. Un debate honesto saca a la luz dónde viven esos dobles raseros en su organización, acuerda qué significa «lo bastante bueno para actuar» para decisiones de distinto tamaño, y acepta que comprometerse de antemano con lo que le haría cambiar de opinión es incómodo precisamente porque podría suceder.
Cuando tomamos prestado un resultado llamativo de otro sistema, ¿qué estamos suponiendo que se traslada con él? Un estudio puede ser impecable en cuanto a causalidad en su propio contexto y aun así engañarle, porque la población, el sistema de salud, el riesgo basal y los incentivos que produjeron su efecto pueden no parecerse en nada a los suyos. La tensión es que la evidencia más impresionante suele venir de otro lugar —un mercado de seguros de EE. UU., un registro escandinavo, un centro de ensayos bien dotado—, y su propio rigor tienta a importar la cifra en lugar de interrogar su ajuste. Debata qué tendría que ser cierto de su población y sistema para que el efecto se reprodujera: ¿es comparable el riesgo basal?, ¿tiene su plantilla la capacidad que la intervención suponía?, ¿afrontan sus pacientes las mismas restricciones? Una respuesta honesta trata la validez externa como una pregunta separada de la validez interna, resiste el reflejo de descartar un estudio lejano simplemente por ser lejano, y nombra qué rasgos del contexto original están haciendo el trabajo. El peor resultado es escalar un efecto que fue real allí y está ausente aquí, y luego culpar a la intervención en lugar de al traslado.
¿Cuánto de nuestros datos falta, y estamos seguros de que las lagunas son inocentes? Todo conjunto de datos de salud real tiene agujeros —los pacientes abandonan, los registros están incompletos, el seguimiento termina—, y el caso peligroso es cuando la razón por la que faltan datos está en sí relacionada con el resultado, de modo que descartar los registros incompletos cuela silenciosamente el sesgo de selección de vuelta en un estudio que parecía limpio. La tensión está entre la conveniencia del análisis de «casos completos», que es el valor por defecto en la mayoría de las herramientas y la vía más rápida a un resultado, y la honestidad de preguntar si las personas que desaparecieron difieren sistemáticamente de las que se quedaron. Debata qué fracción de sujetos se perdió, si los ausentes parecen más enfermos, más pobres, o menos comprometidos que los observados, y qué supuso el análisis sobre ellos. Una buena respuesta a menudo puede decir en qué dirección empujarían la estimación los datos ausentes aunque los valores en sí sean irrecuperables, y trata una tasa de abandono alta o inexplicada como una amenaza para toda la afirmación y no como una nota a pie de página. El fallo que hay que nombrar es un equipo que informa de los supervivientes como si fueran toda la población.
¿Alguna vez actuamos sobre un único estudio, y qué nos haría esperar a una segunda línea de evidencia? La confianza en una afirmación causal debería venir del acuerdo entre métodos que fallan de formas distintas —un ensayo, una diferencia en diferencias, una estimación por variables instrumentales apuntando en la misma dirección—, no de un único hallazgo llamativo por bien ejecutado que esté. La tensión es que la triangulación cuesta tiempo y dinero que la organización rara vez quiere gastar, y un hallazgo aislado impresionante crea presión para actuar antes de que pueda encargarse una segunda línea. Debata qué decisiones son lo bastante grandes como para exigir más de una línea de evidencia, y qué hace cuando los métodos discrepan, porque la divergencia no es ruido que promediar, sino información sobre qué supuestos están fallando. Una respuesta honesta distingue una hipótesis que merece la pena probar de una conclusión que merece la pena poner en práctica, y resiste el impulso que convierte una única evaluación en hecho consumado simplemente porque llegó primero y dijo lo que la gente esperaba.
En la práctica: un ejemplo de economía de la salud
El Ministerio de Salud de Solvenia, un país ficticio de renta media-alta en Europa Central con un sistema de seguro social, quiere saber si un nuevo programa comunitario de insuficiencia cardíaca —clínicas dirigidas por enfermería que monitorizan a los pacientes tras el alta— reduce los costosos reingresos por urgencias. Doce regiones ya lo han adoptado; ocho no. Un informe interno temprano comparó las tasas de reingreso en regiones adoptantes frente a no adoptantes, las encontró un 18 % más bajas en las adoptantes, y recomendó el despliegue nacional. Se pide a la economista de la salud del Ministerio que compruebe la afirmación antes de comprometer cientos de millones de coronas.
Su primera pregunta es el contrafactual. Las regiones adoptantes no se eligieron al azar: eran más ricas, tenían una atención primaria mejor organizada, y tenían tasas de reingreso más bajas antes de que empezara el programa. La comparación ingenua, por tanto, confunde el efecto del programa con la ventaja preexistente de las regiones que pudieron adoptarlo, un problema de selección de manual. Una simple diferencia entre adoptantes y no adoptantes no puede separar las dos cosas, y la cifra del 18 % es ininterpretable como efecto causal.
En su lugar, propone un diseño de diferencia en diferencias, usando varios años de datos regionales de reingreso antes y después de la fecha de adopción de cada región. Esto compara el cambio en los reingresos en las regiones adoptantes frente al cambio en las no adoptantes, eliminando por diferencia cualquier ventaja regional fija. De forma crucial, primero representa las tendencias previas a la adopción: si las adoptantes ya estaban mejorando más deprisa que las no adoptantes antes del programa, el supuesto de tendencias paralelas falla y el diseño no es válido. Las tendencias son cercanas pero no idénticas, así que informa de la estimación con esa salvedad visible en lugar de enterrada.
Como las fechas de adopción se escalonaron entre regiones, también explota la estructura de panel, controlando por todo lo estable de cada región y por conmociones nacionales como un mal invierno de gripe que golpeó a todas las regiones a la vez. La estimación de diferencia en diferencias sale en una reducción del 7 % en los reingresos: real y que merece la pena tener, pero muy por debajo de la mitad de la cifra titular, porque la mayor parte del 18 % original era la ventaja preexistente de las regiones, no el programa. Luego comprueba los datos ausentes: dos regiones tenían codificación incompleta en el año de transición, y muestra que el resultado se mantiene tanto si esos años-región se incluyen como si se excluyen.
Es franca sobre lo que la estimación es y no es. Es el efecto medio en regiones con la capacidad de atención primaria para gestionar clínicas dirigidas por enfermería; las ocho regiones no adoptantes son más pobres y tienen menos personal, así que el efecto ahí podría ser menor o podría requerir una inversión que el modelo no incorpora al precio. Eso es una cuestión de validez externa, y la señala explícitamente en lugar de suponer que el 7 % se trasladará. Su recomendación al Ministerio no es ni «desplegar a nivel nacional» ni «abandonarlo», sino «financiarlo donde exista la capacidad de atención primaria, y aleatorizar el orden de despliegue en las regiones restantes para que la próxima evaluación pueda resolver la cuestión de traslado que esta no puede». La coste-efectividad de la reducción del 7 % se entrega entonces a un modelo de decisión (Tema 2.2 — Modelización) que convierte la estimación causal en un coste por resultado sobre el que el pagador puede actuar.
Cuatro perspectivas sectoriales
Startup
Una startup de salud digital suele encontrarse la econometría de la salud como una exigencia de evidencia de un comprador o regulador: demuestre que su aplicación realmente cambia los resultados, no solo que a los usuarios comprometidos les va bien. La tentación es un gráfico de antes y después de adoptantes tempranos entusiastas, que es casi sesgo de selección puro: esos usuarios habrían mejorado de todos modos. El movimiento creíble y asequible es un pequeño piloto aleatorizado o un despliegue escalonado entre sedes, diseñado antes del lanzamiento, que aísla el efecto del producto de la motivación de quienes lo eligieron. Los fundadores que incorporan una comparación limpia desde el primer despliegue pesan mucho más ante los pagadores que quienes adaptan después un análisis favorecedor.
Pequeña empresa
Un proveedor pequeño ya establecido —un grupo de consulta, una clínica única, una farmacia comunitaria, un pequeño proveedor de dispositivos— tiene datos operativos reales pero ni el volumen ni el equipo analítico para ejecutar sus propios estudios cuasiexperimentales, ni un momento de lanzamiento en torno al cual aleatorizar. Su tarea econométrica es sobre todo de valoración: leer la evidencia que un fabricante, un comisionador o un colegio profesional le pone delante y juzgar si un efecto reclamado se mantendría en una carga de casos como la suya. El movimiento más firme es hacer con firmeza la pregunta de validez externa —¿se demostró esto en una población, un nivel de personal y un sistema que se parecen al mío?— en lugar de intentar un análisis causal que no puede costear. Donde sí genera evidencia, un cambio escalonado entre sus propias sedes o clínicos, o una simple lectura de antes y después contrastada honestamente con una consulta vecina comparable, es más creíble que un gráfico interno favorecedor. A diferencia de una startup que persigue el listón de evidencia de un pagador, su incentivo es evitar adoptar algo que desperdicie silenciosamente tiempo y dinero escasos en una carga de casos que nunca coincidió con el estudio.
Gran empresa
Un gran proveedor o una aseguradora se sienta sobre datos longitudinales ricos —reclamaciones, registros, registros clínicos—, y su ventaja es la capacidad de ejecutar análisis de panel y cuasiexperimentales a escala. El riesgo es confundir el volumen de datos con la claridad causal: un millón de registros confundidos todavía no puede decirle si un programa de gestión de cuidados funcionó, y un equipo analítico bien dotado puede producir modelos sofisticados que blanquean el sesgo de selección convirtiéndolo en efecto aparente. La gran empresa madura separa el informe de rendimiento interno de la evaluación causal, somete a ambos a estándares distintos, e incorpora diseños aleatorizados o escalonados en sus propios despliegues operativos, de modo que el cambio rutinario genere evidencia fiable y no solo paneles de control.
Gobierno
Un ministerio o un pagador nacional toma las decisiones causales de mayor riesgo —escalar un programa a nivel nacional, financiar o retirar una prestación— y a menudo dispone de palancas de política que crean experimentos naturales: umbrales de elegibilidad, despliegues escalonados, pilotos regionales. Su disciplina debería ser diseñar esos despliegues como evaluaciones desde el principio, de modo que la escalonada inevitable produzca una diferencia en diferencias o una discontinuidad de regresión en lugar de una comparación ininterpretable. El gobierno también carga con un deber que los demás sectores no tienen: protegerse de la asimetría política en la que los programas favorecidos escapan al escrutinio y los hallazgos amenazantes se cuestionan, comprometiéndose de antemano con estándares de evaluación y publicando los resultados favorezcan o no a la política.
Modos de fallo habituales
Confundir correlación con causalidad. Informar de que los pacientes tratados les fue mejor sin abordar por qué fueron tratados. Solución: empiece por el contrafactual y nombre los factores de confusión antes de interpretar cualquier diferencia.
Seleccionar sobre el resultado. Comparar voluntarios con no voluntarios, quienes completan con quienes abandonan, o adoptantes con no adoptantes como si los grupos fueran intercambiables. Solución: use un diseño (aleatorización, diferencia en diferencias, variables instrumentales, discontinuidad de regresión) que aborde cómo se clasificó a las personas en los grupos.
Análisis silencioso de casos completos. Descartar a todos con datos ausentes e informar del resto como si fuera el todo. Solución: informe de la extensión y el patrón de la ausencia de datos y compruebe si las conclusiones sobreviven a distintos supuestos sobre ella.
Suponer sin probar. Presentar una diferencia en diferencias sin comprobar las tendencias paralelas, o un instrumento sin argumentar su exogeneidad. Solución: exija las pruebas de falsación y trate su ausencia como un defecto.
Generalizar un efecto local. Aplicar una estimación basada en umbral o en instrumento a una población que nunca describió. Solución: indique de quién es el efecto de la cifra y valore la validez externa por separado de la validez interna.
Teatro de la significación estadística. Tratar un valor p como la decisión, ignorando el tamaño del efecto y la incertidumbre. Solución: exija magnitudes e intervalos de confianza enmarcados frente al presupuesto y la población reales.
Adaptar el análisis a posteriori. Rastrear un conjunto de datos existente hasta que aparece un resultado agradable, y luego presentarlo como si hubiera sido planificado de antemano. Solución: preregistre el diseño y el plan de análisis antes de ver los datos.
Modelo de madurez
| Dimensión | Iniciar | Desarrollar | Estandarizar | Gestionar | Orquestar |
|---|---|---|---|---|---|
| Razonamiento causal | Las correlaciones se informan como efectos; «las cifras subieron» se trata como prueba | Se reconoce la confusión; se intenta cierto ajuste caso por caso | El contrafactual se enuncia explícitamente y se elige un diseño reconocido para cada afirmación | Los supuestos se nombran y se someten a prueba de falsación; los efectos se entienden como locales o generales | Se triangulan múltiples diseños en toda la organización; el desacuerdo se explota para ver qué supuestos fallan |
| Diseño de estudio y contratación | La evaluación se compra como un informe retrospectivo tras el despliegue | Se eligen grupos de comparación pero no se planifican de antemano | Los diseños se planifican antes de recoger los datos con planes de análisis preregistrados | Los despliegues aleatorizados o escalonados se encargan por defecto para cambios materiales | Todo despliegue operativo se diseña como una evaluación; el patrimonio es un motor de evidencia permanente |
| Datos y ausencia | Los registros incompletos se descartan silenciosamente; se ignora la forma de los datos | Se anota la ausencia; algunos modelos apropiados para costes y recuentos | El tratamiento de los datos ausentes se declara y se prueba, y los modelos se ajustan a la forma de los datos | La sensibilidad a la ausencia y a la especificación se informa como estándar | La calidad de los datos y la ausencia se gestionan aguas arriba para que las evaluaciones partan de insumos fiables |
| Capacidad de valoración | Los resultados se aceptan por autoridad o etiqueta de revisión por pares | Parte del personal puede cuestionar una estimación titular | El equipo pregunta de forma rutinaria qué tiene que ser cierto para que una afirmación sea causal | La valoración independiente se incorpora y se acuerdan estándares de prueba antes de las decisiones | La capacidad de valoración se comparte con socios y proveedores; todo el sistema razona causalmente |
| Uso en las decisiones | La evidencia se usa selectivamente para respaldar el curso ya elegido | La evidencia se sopesa pero los dobles raseros no se controlan | El estándar de prueba y la validez externa se consideran antes de actuar | Se aplican estándares de evidencia comprometidos de antemano; los resultados se publican con independencia del sentido | Los estándares de evidencia gobiernan la cartera; las decisiones y su base causal se registran y se revisan |
Lista de comprobación
- Se indica el contrafactual: cuál es el grupo de comparación, y por qué mostraría lo que el grupo tratado habría hecho sin la intervención.
- Se identifican los probables factores de confusión y mecanismos de selección, y se nombra el diseño que los aborda.
- Se confirma que el diseño se planificó antes de recoger los datos, con un plan de análisis por escrito.
- Para el método elegido, se nombra el supuesto clave (tendencias paralelas, exogeneidad del instrumento, ausencia de manipulación del umbral) y se comprueba la evidencia a su favor.
- Se exigen las pruebas de falsación, no solo la estimación titular.
- Se pregunta cuántos datos faltaban, si los ausentes difieren de los observados, y cómo se trató la ausencia.
- Se comprueba que el modelo se ajusta a la forma de los datos (costes sesgados, recuentos, supervivencia censurada).
- Se establece de quién es el efecto de la estimación (local o general) antes de generalizarla.
- Se lee el tamaño del efecto y el intervalo de confianza frente a su presupuesto y su población, no solo el valor p.
- Se valora la validez externa —¿se mantendría esto en mi sistema?— por separado de la validez interna.
- Se busca una segunda línea de evidencia para cualquier decisión lo bastante grande como para importar.
- Se registra la afirmación causal, el diseño, su supuesto clave, y qué le haría cambiar de opinión.
Key sources
- Andrew Jones, "Health Econometrics" — in Culyer & Newhouse (eds.), Handbook of Health Economics — the standard survey of methods for health data and their pitfalls.
- Jeffrey Wooldridge, Econometric Analysis of Cross Section and Panel Data — the reference text for panel and quasi-experimental methods.
- Joshua Angrist & Jörn-Steffen Pischke, Mostly Harmless Econometrics — an accessible treatment of causal inference, natural experiments, and the four quasi-experimental designs.
- CONSORT Statement — reporting standards for randomised controlled trials, useful as an appraisal checklist.
- Economics Network, Health Economics for Teachers — econometrics module — https://economicsnetwork.ac.uk/health/teachers
- OECD, Health at a Glance, and WHO health-systems publications — sources of the routine health data on which much health econometrics is practised.
References
- Econometrics — Wikipedia — https://en.wikipedia.org/wiki/Econometrics
- Causal inference — Wikipedia — https://en.wikipedia.org/wiki/Causal_inference
- Confounding — Wikipedia — https://en.wikipedia.org/wiki/Confounding
- Selection bias — Wikipedia — https://en.wikipedia.org/wiki/Selection_bias
- Randomized controlled trial — Wikipedia — https://en.wikipedia.org/wiki/Randomized_controlled_trial
- Intention-to-treat analysis — Wikipedia — https://en.wikipedia.org/wiki/Intention-to-treat_analysis
- Natural experiment — Wikipedia — https://en.wikipedia.org/wiki/Natural_experiment
- Difference in differences — Wikipedia — https://en.wikipedia.org/wiki/Difference_in_differences
- Instrumental variables estimation — Wikipedia — https://en.wikipedia.org/wiki/Instrumental_variables_estimation
- Regression discontinuity design — Wikipedia — https://en.wikipedia.org/wiki/Regression_discontinuity_design
- Panel data — Wikipedia — https://en.wikipedia.org/wiki/Panel_data
- Missing data — Wikipedia — https://en.wikipedia.org/wiki/Missing_data
- Economics Network — Health Economics for Teachers — https://economicsnetwork.ac.uk/health/teachers
- Health economics — Wikipedia — https://en.wikipedia.org/wiki/Health_economics