Advierten sobre riesgos de sustituir la atención médica profesional por IA; especialistas ven necesaria una regulación

Especialistas en salud, tecnología y transparencia coincidieron en que la inteligencia artificial (IA) representa una oportunidad para mejorar la prevención, agilizar diagnósticos y optimizar procesos médicos, pero advirtieron que no debe sustituir la atención médica profesional ni convertirse en un mecanismo que mercantilice aún más la salud.

Durante el webinar “IA y Salud ¿Nuevo médico de cabecera o riesgo para los pacientes?”, Eduardo Bohórquez, Director Ejecutivo de Transparencia Mexicana, advirtió que la IA aplicada a la salud debe analizarse desde múltiples dimensiones que van mucho más allá de la innovación.

“La eficiencia no es lo mismo que la eficacia, el objetivo debe seguir siendo preservar la salud y poner al paciente al centro”, advirtió. El especialista agregó que la inteligencia artificial ya no puede entenderse únicamente como una herramienta tecnológica.

Lee también La IA no sustituye la terapia; esto dice la UNAM sobre sus riesgos en la salud mental

"No estamos hablando de tecnología; estamos hablando de agentes con una capacidad mayor de hacer cosas sin depender de un humano y que van a poder procesar información y aprender”, dijo durante el foro organizado por Soy Paciente.

El ponente advirtió que, si bien la inteligencia artificial puede incrementar continuamente su precisión, los seres humanos toman decisiones considerando factores éticos y morales que no responden únicamente a criterios de eficiencia.

Asimismo, alertó que esta ya es capaz de generar información médica falsa con apariencia científica, incluso superando filtros académicos y publicaciones especializadas, lo que representa un desafío serio para la confiabilidad de la información en salud y que incluso el principal riesgo proviene de los propios usuarios, quienes podrían alimentar voluntariamente sistemas de inteligencia artificial con información médica personal en busca de respuestas rápidas y de bajo costo.

Lee también Se refugian jóvenes en la IA

Ventaja de la IA en el sector salud

“Por supuesto que es más barato consultar a Chat GPT que ir con un médico, que nosotros le vamos a dar esa información y que no tiene que ir a los registros públicos y pronto nos va a decir, 'Sube tu radiografía y la vamos a subir'. Estamos peleando con la inmediatez y creo que ese es un punto muy importante”, afirmó.

En este sentido, el especialista señaló que con esto se abren interrogantes sobre la privacidad, el manejo de datos sensibles y la confiabilidad de las decisiones basadas en estas herramientas y obviamente, la necesidad de una regulación.

Por su parte, Diego Lerma, Médico Cirujano, Desarrollador de Software y CEO de Neuroglia Solutions, explicó que la inteligencia artificial ya influye directamente en distintos ámbitos de la vida cotidiana, incluso en la formación emocional de las personas, particularmente entre niños y jóvenes.

Lee también Mirada Global: Redes sociales, Inteligencia Artificial y salud mental. ¿Hacia dónde?

El experto indicó que estas herramientas pueden fortalecer el empoderamiento del paciente al facilitar una mejor comprensión de las enfermedades, sin embargo, alertó que existe un riesgo creciente de que los pacientes depositan demasiada confianza en respuestas automatizadas y sustituyan la atención médica profesional.

El análisis de un robot

“La principal diferencia entre una inteligencia artificial y un médico radica en la capacidad humana de reconocer la incertidumbre clínica. En medicina, aprendemos dos principios básicos: no dañar, y ante la duda abstenerse. La inteligencia artificial no se abstiene”, señaló Lerma.

También argumentó que México enfrenta problemas de subrepresentación en los datos con los que se entrenan estos modelos, lo que podría afectar la precisión diagnóstica, además de riesgos relacionados con privacidad, discriminación y uso comercial indebido de datos de salud.

Lee también Ven a Chat GPT como amenaza en el sector salud; piden más transparencia en precios de servicios y medicamentos

Durante su intervención, Lerma compartió estudios internacionales que han identificado hasta un 22.2% de riesgo de daño severo, 76.6% de errores por omisión y 80% de fallas en el análisis de hipótesis alternativas cuando se utilizan herramientas de inteligencia artificial sin supervisión médica.

Ante esa situación consideró que “el futuro de la medicina es un médico aumentado, no un médico reemplazado”.

mcc