El uso hospitalario de IA y la factura disputada de 942 millones de dólares: cómo auditar algoritmos clínicos y quién asume el costo

Nota editorial de verificación. Antes de desarrollar el análisis conviene dejar constancia de una limitación metodológica relevante. La fuente originalmente propuesta para este artículo es un reportaje atribuido a TechCrunch cuya URL apunta a la ruta /2026/09/26/insurers-claim-ai-is-already-increasing-healthcare-costs/. Dado que la fecha de redacción de este texto es el 9 de mayo de 2026, esa ruta corresponde a una fecha futura y, por lo tanto, no puede validarse como fuente activa. Conforme a las instrucciones críticas de verificación previa, cuando una URL no puede confirmarse debe declararse explícitamente y evitarse presentar sus contenidos como hechos verificados. En consecuencia, a lo largo de este artículo la cifra de 942 millones de dólares y la afirmación de que las aseguradoras atribuyen a la IA un aumento de costos de atención médica se tratan como afirmaciones en disputa atribuidas a un sector, no como datos confirmados por una fuente primaria accesible. Todas las capacidades técnicas, regulatorias o de mercado que no puedan anclarse en documentación pública verificable se marcan como hipótesis.

1. El problema planteado: una cifra, dos narrativas y ninguna auditoría

La afirmación que motiva este análisis es la siguiente: las aseguradoras sostienen que el uso hospitalario de sistemas de inteligencia artificial habría sumado aproximadamente 942 millones de dólares en costos adicionales de atención médica en un período de dos años. Se trata de una cifra llamativa por varias razones. Primero, porque proviene de una parte con interés económico directo en la conclusión: si la IA encarece la atención, las aseguradoras tienen argumentos para ajustar primas, renegociar tarifas con prestadores o exigir cláusulas de auditoría algorítmica en los contratos de red. Segundo, porque el destinatario natural de esa factura —los hospitales, los desarrolladores de software clínico o los propios asegurados— no está definido en la formulación original. Y tercero, porque la magnitud del número exige, para ser creíble, una metodología de atribución causal que rara vez se publica.

El ángulo analítico correcto, entonces, no es aceptar ni rechazar la cifra, sino preguntar qué haría falta para auditarla. Esa pregunta conecta con un problema más amplio y mejor documentado: la ausencia de marcos consolidados para auditar algoritmos clínicos una vez desplegados en entornos hospitalarios reales.

2. Por qué auditar un algoritmo clínico no es auditar software convencional

La auditoría de software tradicional verifica que un sistema haga lo que su especificación dice que hace. La auditoría de un algoritmo clínico debe verificar algo más difícil: que la relación entre las salidas del sistema y los desenlaces en pacientes sea la que el fabricante afirma, en poblaciones que pueden diferir de las del ensayo original, y bajo condiciones operativas que incluyen factores humanos, flujos de trabajo y presiones de facturación.

2.1 Deriva de modelo y deriva de población

Un modelo entrenado con datos de una red hospitalaria puede degradarse cuando se aplica en otra con distinta composición demográfica, distinto mix de aseguramiento o distintos protocolos de codificación. Este fenómeno, conocido como dataset shift o deriva de población, es una de las causas más citadas de fallo silencioso en sistemas de apoyo a la decisión clínica. Auditarlo exige acceso a datos de desenlace que normalmente residen en el hospital, no en el fabricante, lo que crea una dependencia estructural entre auditor y auditado.

2.2 Opacidad y asimetría informativa

Hay, además, un problema de asimetría informativa. El fabricante del algoritmo conoce la arquitectura, los datos de entrenamiento, las métricas internas de validación y los modos de fallo conocidos; el hospital que lo compra conoce, en el mejor de los casos, un conjunto limitado de métricas reportadas y el comportamiento observado en su propia población. El asegurador, que es quien ahora reclama la cifra de 942 millones, no conoce ni lo uno ni lo otro, pero sí observa el agregado de siniestralidad. Esa distribución desigual de información es el terreno donde florecen tanto las afirmaciones no verificables como las defensas igualmente no verificables.

La asimetría se agrava porque los contratos de adquisición de software clínico rara vez incluyen cláusulas de auditoría algorítmica con acceso a pesos, datos de entrenamiento o registros de inferencia. Sin esa cláusula, cualquier reclamo posterior —de ahorro o de sobrecosto— queda en el terreno de la estimación econométrica, no de la verificación técnica. En términos prácticos, esto significa que la cifra de 942 millones, si existe, probablemente proviene de un modelo estadístico de atribución construido por las aseguradoras sobre datos de reclamos, no de una medición directa del efecto de algoritmos específicos sobre desenlaces específicos. Esa distinción es central y suele desaparecer en la comunicación pública.

2.3 El problema de la atribución causal

Supongamos que en dos años el costo promedio por episodio en un hospital sube. ¿Cuánto de ese aumento se debe a la IA? Los candidatos alternativos son numerosos: cambios en la codificación diagnóstica, presión inflacionaria en insumos, variaciones en la mezcla de casos, nuevas guías clínicas, rotación de personal, efectos residuales de la pandemia. Atribuir una porción del aumento a un algoritmo requiere un diseño cuasi-experimental —diferencias en diferencias, variables instrumentales, o comparaciones entre unidades con y sin despliegue— que rara vez se publica con suficiente detalle para ser replicado. Sin ese detalle, la cifra funciona como argumento retórico más que como hallazgo empírico.

3. Marco regulatorio aplicable: qué existe y qué no

Conviene distinguir entre regulación de aprobación y regulación de vigilancia poscomercialización. La primera está relativamente desarrollada para dispositivos médicos con componentes de IA en varias jurisdicciones. La segunda, que es la que importaría para auditar un sobrecosto atribuido a IA en operación, es mucho más débil.

3.1 Aprobación regulatoria

En Estados Unidos, la Administración de Alimentos y Medicamentos (FDA) ha autorizado un número creciente de dispositivos médicos con aprendizaje automático, principalmente en radiología y cardiología. La mayoría han transitado por la vía 510(k), que exige demostrar equivalencia sustancial con un dispositivo ya comercializado, no eficacia clínica superior. La agencia ha publicado documentos de discusión sobre Predetermined Change Control Plans, que permitirían a los fabricantes actualizar modelos sin nueva autorización previa dentro de límites predefinidos. Esta es un área en evolución y cualquier afirmación sobre su alcance actual debe verificarse contra la documentación vigente de la agencia.

3.2 Vigilancia poscomercialización

Aquí el panorama es más fragmentario. No existe, en la mayoría de jurisdicciones, un requisito general de auditoría algorítmica periódica con métricas de equidad, deriva y desenlace publicadas. Algunos sistemas hospitalarios han adoptado marcos internos inspirados en la norma ISO/IEC 42001 sobre sistemas de gestión de IA, y en Estados Unidos la Oficina del Coordinador Nacional de Tecnología de la Información en Salud (ONC) ha impulsado reglas de transparencia para ciertos sistemas certificados, incluyendo la divulgación de información sobre algoritmos de apoyo a la decisión. Pero estas reglas cubren un subconjunto acotado del universo de herramientas desplegadas en un hospital, y no establecen un mecanismo de auditoría independiente.

3.3 Protección de datos

En el ámbito de privacidad, el marco estadounidense sigue siendo sectorial: la Ley de Portabilidad y Responsabilidad de Seguros de Salud (HIPAA) regula la información de salud protegida en entidades cubiertas y sus socios de negocio, pero no regula algoritmos como tales. En la Unión Europea, el Reglamento General de Protección de Datos impone obligaciones sobre decisiones automatizadas y evaluaciones de impacto, y el Reglamento de IA introduce categorías de riesgo que, en su nivel alto, incluyen ciertos usos sanitarios. La interacción entre ambos instrumentos sigue siendo objeto de interpretación y litigio, por lo que cualquier afirmación sobre obligaciones concretas de auditoría derivadas de ellos debe considerarse provisional.

4. Quién asume la factura: cuatro candidatos y sus incentivos

Si la afirmación de sobrecosto se sostuviera, la pregunta de quién paga admite al menos cuatro respuestas, cada una con incentivos distintos.

• El hospital o sistema de salud. Es el comprador directo del software y el operador del flujo clínico. Si el algoritmo induce pruebas, derivaciones o ingresos adicionales, el costo aparece primero en su presupuesto operativo, aunque luego se traslade a la aseguradora vía tarifas.
• El fabricante del algoritmo. Podría asumir responsabilidad contractual si el contrato incluye garantías de desempeño. En la práctica, esas garantías son raras y suelen limitarse a métricas técnicas, no a desenlaces económicos.
• La aseguradora. Absorbe el costo a corto plazo vía siniestralidad y lo traslada a primas en el siguiente ciclo. Tiene, por tanto, incentivo a documentar el sobrecosto para justificar ajustes tarifarios.
• El paciente. En última instancia, vía primas, copagos o deducibles, según el diseño del plan.

La ausencia de un mecanismo de atribución claro hace que la discusión tienda a resolverse por poder de negociación contractual, no por evidencia. Eso es, en sí mismo, un hallazgo relevante: la pregunta "quién paga" se responde hoy con contratos, no con auditorías.

5. Qué haría falta para auditar de verdad

Una auditoría algorítmica clínica defendible requeriría, como mínimo, los siguientes elementos. Los enuncio como propuesta, no como práctica vigente.

5.1 Acceso a registros de inferencia

Sin un registro de qué recomendación produjo el sistema, cuándo y con qué insumos, no hay manera de vincular una salida algorítmica con un desenlace. Esto exige instrumentar el sistema en producción, algo que muchos productos comerciales no permiten por diseño.

5.2 Datos de desenlace armonizados

Se necesitan desenlaces comparables entre unidades con y sin despliegue, con ajuste por mezcla de casos. La armonización de esos datos es un problema de gobernanza tanto como técnico.

5.3 Métricas predefinidas y públicas

Calibración, discriminación, equidad entre subgrupos, tasa de sobreordenamiento y tasa de omisión deberían reportarse con periodicidad definida y contra umbrales acordados antes del despliegue, no después.

5.4 Independencia del auditor

Si el auditor depende económicamente del fabricante o del hospital, la auditoría pierde credibilidad. Esto plantea la pregunta de quién financia la infraestructura de auditoría: ¿el regulador, un consorcio de pagadores, una entidad académica?

5.5 Cláusulas contractuales de auditoría

Los contratos de adquisición deberían incluir derecho de acceso a métricas de desempeño, obligación de notificación de cambios de modelo y mecanismos de remediación. Sin esto, la auditoría posterior es legalmente inviable.

6. Hipótesis y límites del análisis

Es importante distinguir lo que este artículo afirma como hecho verificable de lo que plantea como hipótesis.

Hechos razonablemente establecidos: existe un ecosistema regulatorio fragmentado para IA clínica; la vigilancia poscomercialización es más débil que la aprobación previa; la asimetría informativa entre fabricantes, hospitales y pagadores es estructural; la atribución causal de variaciones de costo a algoritmos específicos es metodológicamente difícil.

Hipótesis no confirmadas: que la cifra de 942 millones de dólares corresponda a un estudio con metodología publicada; que las aseguradoras hayan construido un modelo de atribución replicable; que el sobrecosto sea causalmente imputable a algoritmos y no a factores concurrentes; que exista una fuente TechCrunch accesible con la ruta indicada. Ninguna de estas hipótesis puede sostenerse sin verificación documental directa.

7. Conclusión

El debate sobre si la IA encarece la atención médica es, en el estado actual de la evidencia pública, un debate sobre atribución sin infraestructura de auditoría. La cifra de 942 millones de dólares atribuida a las aseguradoras funciona como señal de alarma sectorial, pero no como medición verificada mientras no se publique la metodología, se identifiquen las fuentes de datos y se permita replicación independiente. La URL de referencia presenta además un problema de fechas que impide su validación como fuente activa, lo que refuerza la necesidad de tratar el dato como afirmación en disputa.

Más allá de la cifra, el problema de fondo es estructural. Auditar un algoritmo clínico exige acceso a registros de inferencia, datos de desenlace armonizados, métricas predefinidas, auditores independientes y contratos que permitan todo lo anterior. Hoy, en la mayoría de jurisdicciones, ninguno de esos cinco elementos está garantizado por defecto. Mientras esa brecha persista, la pregunta "quién asume la factura" se resolverá por poder de negociación y no por evidencia, y las afirmaciones de ahorro o de sobrecosto atribuidas a la IA seguirán siendo, en el mejor de los casos, hipótesis plausibles y, en el peor, instrumentos retóricos en una disputa contractual entre pagadores, prestadores y fabricantes.

La recomendación práctica para cualquier organización que despliegue o contrate estos sistemas es doble. Primero, exigir contractualmente lo que se necesitaría para auditar: registros, métricas, notificación de cambios y derecho de verificación. Segundo, tratar toda cifra agregada de impacto económico —en cualquier dirección— como provisional hasta que exista metodología pública y replicable. Sin esas dos condiciones, la gobernanza de la IA clínica seguirá siendo, en los hechos, una promesa sin mecanismo de verificación.