Algoritmo clínico entrenado con datos homogéneos: resultados con consecuencias
Un informe publicado por Civio y difundido por el proyecto Salud Negra expone que el algoritmo Quantus Skin, diseñado para evaluar el riesgo de cáncer de piel, no identifica correctamente una parte significativa de los melanomas cuando se probó con una muestra que no reflejaba diversidad étnica. Según los datos citados, el sistema pasó por alto uno de cada tres melanomas reales en las pruebas realizadas.
La herramienta recibió cerca de 1,6 millones de euros de la Autonomía vasca. Durante su desarrollo, Quantus Skin fue entrenada con imágenes tomadas principalmente en hospitales occidentales donde predominan pacientes de piel clara. Su validación final se realizó con 513 pacientes de un hospital madrileño, todos ellos blancos, lo que limita la capacidad del algoritmo para reconocer manifestaciones del melanoma en otros fototipos.
El conjunto de datos incluye imágenes «de varones y de mujeres caucásicas», y evita explícitamente pronunciarse sobre minorías étnicas porque, dice, la herramienta «la utiliza el País Vasco».
Cuando la «limitación» encubre exclusión
El análisis denuncia que la decisión de excluir o no buscar imágenes representativas de poblaciones negras y de piel más oscura no es una mera dificultad técnica, sino una elección con impacto clínico. El lenguaje formal —hablar de «limitaciones» del estudio o de la herramienta— tapa que, en la práctica, se está dejando fuera a grupos que pueden recibir diagnósticos tardíos o incorrectos.
Un especialista sevillano consultado en el reportaje admitió que su equipo descartó del entrenamiento los casos de melanoma acral lentiginoso, subtipo que es más frecuente en personas negras y que, sin tratamiento oportuno, tiene un pronóstico grave. El motivo expuesto fue que reunir suficientes casos en su hospital llevaría «50 años». Esa respuesta se interpreta en el reportaje como una resignación administrativa frente a la falta de representatividad.
Implicaciones para la salud pública y la compra de tecnología
La información plantea preguntas clave sobre las prácticas de adquisición de tecnología sanitaria y sobre los criterios de validación clínica de algoritmos. Si una herramienta diagnóstica se valida con poblaciones homogéneas, su uso en ambientes diversos puede aumentar las desigualdades en salud. El problema no se resuelve con advertencias técnicas: determina quién recibe un diagnóstico a tiempo y quién no.
- Entrenamiento con imágenes mayoritariamente de pacientes de piel clara.
- Validación final solo con 513 pacientes, todos blancos.
- Resultado: el algoritmo omite aproximadamente 1 de cada 3 melanomas reales.
Datos clave
| Concepto | Valor |
|---|---|
| Financiación | 1,6 millones de euros |
| Muestra usada en validación | 513 pacientes (todos blancos) |
| Tasa de omisión de melanomas | 1 de cada 3 |
Qué significa para la práctica clínica
Los hallazgos subrayan que las herramientas basadas en inteligencia artificial requieren procesos de desarrollo y validación que contemplen la diversidad demográfica de la población a la que se servirán. El uso de eufemismos como «limitación» para describir la ausencia de datos representativos minimiza una cuestión ética y sanitaria: el riesgo de aumentar disparidades en diagnóstico y atención.
Activistas y proyectos como Salud Negra advierten que, si no se corrigen estas prácticas, las tecnologías de apoyo diagnóstico pueden reproducir y amplificar desigualdades ya existentes en los sistemas de salud. El caso de Quantus Skin funciona como ejemplo de por qué la composición de los conjuntos de datos y la transparencia sobre sus límites deben ser exigencias en la compra y despliegue de soluciones clínicas.
El debate ahora se centra en qué mecanismos públicos y regulatorios deben implantarse para garantizar que los algoritmos médicos sean evaluados con criterios de equidad y seguridad, y que las inversiones en tecnología sanitaria no pongan en riesgo a sectores de la población por su origen étnico o tono de piel.
