Qué hay detrás del supuesto robot radiólogo.

Para entender bien qué significa esta noticia, tal vez convenga abundar en el modo en el que se ha presentado. Lo que se ha contado es que Oxipit es la empresa que ha desarrollado un sistema llamado ChestLink, basado en inteligencia artificial aplicada al análisis de imágenes radiológicas torácicas, que es capaz de determinar de manera totalmente autónoma si esas imágenes muestran alguna anormalidad. 

Pero se cuenta también que ChestLink actuaría como un sistema de cribado, de manera que en caso de que no se compruebe nada raro, “se generaría un informe médico (sic) en el que se explica que todo está correcto”.Si en las imágenes se apreciara alguna anormalidad, estas se remitirían a un “radiólogo humano para que las analice con detenimiento”.

El relato periodístico ya alberga algunas incorrecciones. La primera de ellas es atribuir a un programa de ordenador la posibilidad de emitir un informe que se califica como de médico. 

Realmente, lo que la máquina puede hacer es generar un reporte de cómo ha comparado la imagen que se le ha presentado con el producto del aprendizaje de sus sistemas de inteligencia artificial, que podrá ser mejor o peor, con mayor o menor sensibilidad y especificidad, igual que cualquier otra prueba diagnóstica. Imaginemos una máquina que haga análisis clínicos. Es capaz de elaborar unas determinaciones, incluso generar un informe en el que se expongan cuáles de ellas están dentro o fuera de los niveles normales para una determinada condición de edad o sexo. Pero nadie diría que cuando un analizador de una muestra de sangre “escupe” su informe, este puede ser considerado un informe médico.

Otro aspecto relevante del relato de la noticia es cómo describe el trabajo del sistema de análisis informatizado, como si pudiera operar de manera libre y autónoma, y situado en un punto de la cadena asistencial en pie de igualdad con los médicos radiólogos. En realidad, aunque un sistema de este tipo pudiera demostrar una enorme efectividad -que pueden llegar a ser superior a la del ojo humano, como se ha comprobado en algunos estudios- las actuales normas legales y la jurisprudencia no aceptan que pueda sustituir a la responsabilidad profesional indelegable ante un diagnóstico.

Es verdad que las capacidades de la inteligencia artificial ha tratado de compararse conlas capacidades humanas. La idea de que las máquinas pueden acabar realizando todas las actividades que hace un humano es siempre interesante, y ha sido tratada no sólo por la literatura y la ficción, sino que también constituye un capítulo importante en el análisis de las aportaciones de la ciencia de los datos en medicina. 

Algoritmos que ayudan porque son enseñados por el humano.

Lo que está fuera de duda es que en el campo clínico hay enormes posibilidades, que llegan de la conjunción entre la gran cantidad de datos que se producen en las organizaciones sanitarias, y la creciente posibilidad de analizarlos masivamente mediante técnicas de aprendizaje profundo, las que dan lugar a los sistemas de inteligencia artificial.

Precisamente los algoritmos han mostrado un rendimiento particularmente útil cuando se aplican al análisis de la imagen médica, esto es, cuando se les entrenan para detectar anormalidades en radiografías, por ejemplo. Este tipo de aprendizajes consisten en que puedan trabajarse bases de datos con el mayor número posible de imágenes, pero también aportando al sistema de entrenamiento la indicación de qué radiografía es normal y cuál no lo es. En efecto, son los humanos los que enseñan a las máquinas, y no al revés.

En el campo de la imagen médica es más sencillo desarrollar modelos de inteligencia artificial por una razón fundamental, y es porque las tecnologías que se pueden usar ya se han probado en otros campos. Todos hemos comprobado que nuestro teléfono móvil puede crear álbumes con carpetas en los que agrupa personas o paisajes sin que nosotros tengamos que decir qué foto corresponde a una u otra. Lo hace porque un sistema inteligente es capaz de ver por nosotros. Esta misma base tecnológica es la que se puede usar para detectar anormalidades en una placa de tórax. En cambio, elaborar un algoritmo que sepa leer la evolución de una serie analítica es algo más complejo, porque no tiene tantos precedentes en las tecnologías de consumo. De ahí que áreas como la radiología, la oftalmología o la dermatología se puedan beneficiar mucho de este tipo de apoyos tecnológicos al diagnóstico.

Pero pesar de los enormes avances que hay en este campo, los estudios de implantación que se han analizado en la literatura coinciden en la idea de que el mayor valor de las tecnologías basadas en inteligencia artificial reside en los efectos sinérgicos que puede tener la interacción entre las máquinas y los seres humanos. De hecho, hay enormes beneficios que pueden obtenerse de la reestructuración de los circuitos asistenciales, ahí donde se pueda aplicar un modelo de análisis automatizado. Un buen ejemplo de ello es el campo del diagnóstico de la retinopatía diabética mediante el análisis de la retinografía digital, donde se pueden crear modelos de cribado que faciliten que el especialista se concentre en los casos más dudosos, y sea siempre el responsable final de un posible diagnóstico.

Otros aspectos que están implicados en estas cuestiones se refieren al derecho que tiene el paciente a conocer qué medios se han usado para establecer un diagnóstico, lo que plantea si tienen derecho a recibir explicaciones adecuadas e inteligibles sobre la lógica utilizada en el proceso de decisiones que haya ejecutado un sistema de inteligencia artificial, o sobre los procesos que condujeron a determinados resultados, sobre todo de los que se deriven decisiones de priorización asistencial.

Volviendo a la información sobre ese supuesto robot informático que de manera autónoma es capaz de evaluar clínicamente una radiografía de tórax, realmente estamos ante un caso de exageración. Leyendo en detalle, se dice que “la Unión Europea les ha concedido un certificado que les permite implementar esta tecnología en los centros clínicos, lo que la convierte en la primera inteligencia artificial que puede hacer diagnósticos radiológicos sin intervención humana”. En realidad, a lo que se refiere es a un marcado CE, que simplemente indica que se cumple con determinadas prescripciones de seguridad. Todo lo demás es, más bien, una estrategia publicitaria. Bastaría hacer una pregunta a la empresa: ¿está dispuesta a asumir cualquier responsabilidad sobre un diagnóstico erróneo, en descargo de la responsabilidad del médico?

Está fuera de toda duda lo positivo que llegaría a ser para el futuro de la medicina que pudiera beneficiarse de los procesos de automatización que han transformado muchos otros sectores, como el pilotaje de aeronaves en términos de seguridad aérea o reducción de los accidentes, pero esto no quiere decir que deje de ser imprescindible la labor del piloto.

La confianza que deposita la sociedad en el sistema sanitario tiene un elemento fundamental, que es el personal sanitario que lo integra, al que se selecciona según su nivel de formación, conocimientos y destrezas, y cuyas decisiones son permanentemente evaluadas en el día a día. Que la inteligencia artificial les pueda ayudar es una realidad. Que les pueda llegar a sustituir, una fantasía.