Consultar a la IA sobre tu salud: cuáles son los riesgos y cómo proteger tus datos
La inteligencia artificial ya forma parte de la vida cotidiana. Se utiliza para estudiar, trabajar, traducir textos y hasta planificar viajes. Pero también comenzó a ocupar un lugar cada vez más importante en un ámbito especialmente delicado: la salud.
Hoy miles de personas recurren a chatbots para preguntar qué puede significar un síntoma, entender un resultado de laboratorio o despejar dudas sobre un tratamiento. La posibilidad de obtener respuestas inmediatas, a cualquier hora del día y desde el celular, explica buena parte de este fenómeno.
Sin embargo, detrás de esa comodidad aparecen interrogantes que van mucho más allá de la precisión de las respuestas. Especialistas en ciberseguridad y en medicina advierten que confiar ciegamente en estos sistemas puede derivar en diagnósticos equivocados, retrasar una consulta médica urgente e incluso poner en riesgo información personal extremadamente sensible.
¿Por qué cada vez más personas consultan a una IA sobre su salud?
En los últimos meses, grandes empresas tecnológicas comenzaron a desarrollar herramientas de inteligencia artificial pensadas para responder consultas relacionadas con la salud.
Entre ellas aparecen servicios como Copilot Health, ChatGPT Health y Amazon HealthAI, capaces de ayudar a interpretar estudios médicos, responder preguntas sobre síntomas o brindar información general sobre enfermedades y tratamientos.
Según datos citados por Microsoft, las personas hablan sobre su salud y la de sus familiares desde sus teléfonos móviles más que sobre cualquier otro tema. En ese contexto, los asistentes de IA se presentan como una alternativa atractiva porque están disponibles las 24 horas, responden en segundos y utilizan un lenguaje claro que suele transmitir confianza.
Pero esa facilidad de acceso puede hacer que muchos usuarios confíen en ellas más de lo que deberían.
"El riesgo no es solo recibir un consejo incorrecto, sino también que los usuarios compartan información personal altamente sensible con sistemas cuyas protecciones de privacidad, prácticas de intercambio de datos y obligaciones legales pueden diferir de las de un médico o un hospital", explicó Mario Micucci, investigador de Seguridad Informática de ESET Latinoamérica.
Los errores que puede cometer una inteligencia artificial al hablar de salud
Uno de los principales problemas es que los modelos de IA pueden generar respuestas incorrectas o parcialmente verdaderas con un tono completamente convincente.
Una investigación de la Universidad de Oxford, publicada este año en la revista científica Nature Medicine, encontró que los usuarios muchas veces no saben qué información deben aportar para obtener una respuesta útil. Además, comprobó que pequeñas diferencias en la forma de hacer una pregunta pueden producir respuestas completamente distintas.
El estudio también reveló otro problema: las herramientas mezclaban recomendaciones acertadas con otras equivocadas, y la mayoría de las personas tenía dificultades para distinguir cuáles eran confiables.
"A pesar de todo el entusiasmo, la IA simplemente no está lista para asumir el rol de médico", advirtió la doctora Rebecca Payne, autora principal del trabajo. "Los pacientes deben ser conscientes de que preguntarle a un modelo de lenguaje sobre sus síntomas puede ser peligroso, generar diagnósticos erróneos y no reconocer cuándo se necesita ayuda urgente".
El otro riesgo: qué pasa con los datos personales que se comparten
Más allá de la calidad de las respuestas, otro aspecto que preocupa es la privacidad. Cuando una persona carga estudios médicos, análisis clínicos o describe enfermedades con lujo de detalles, está entregando información extremadamente sensible.
Desde ESET explicaron que algunos servicios pueden utilizar esas conversaciones para mejorar sus modelos de inteligencia artificial, mientras que otros prometen no hacerlo. Sin embargo, incluso cuando esos datos no se usan para entrenar a la IA, pueden existir terceros involucrados en el procesamiento de la información o distintos mecanismos de almacenamiento que el usuario desconoce.
Cuantas más empresas intervienen en el manejo de esos datos, mayores son las posibilidades de que sean robados mediante un ataque informático o expuestos por una falla de seguridad.
La información médica resulta especialmente valiosa para los ciberdelincuentes porque puede utilizarse para cometer fraudes, acceder a servicios médicos en nombre de otra persona o incluso realizar extorsiones.
"Cuantas más empresas tengan estos datos, más oportunidades existen para que los atacantes las comprometan y los roben", señaló Micucci. "El desafío es que muchas herramientas de IA para salud funcionan como servicios para consumidores y no siempre están sujetas a las mismas normas de protección de datos que un hospital o un prestador médico."
¿Cómo usar una inteligencia artificial para consultas de salud de forma más segura?
Los especialistas coinciden en que estas herramientas pueden ser útiles siempre que se comprendan sus límites y se utilicen como complemento, nunca como reemplazo del médico. Antes de hacer una consulta, conviene verificar estos aspectos:
. Elegir, siempre que sea posible, herramientas desarrolladas específicamente para responder consultas de salud y no chatbots de uso general.
. Leer la política de privacidad para saber qué sucede con la información ingresada.
. Verificar si el servicio utiliza las conversaciones para entrenar sus modelos.
. Revisar si los datos pueden compartirse con otras empresas o terceros.
¿Qué información nunca conviene subir a un chatbot?
Para reducir riesgos de privacidad, ESET recomienda evitar compartir:
Resultados completos de análisis clínicos.
Estudios médicos con datos personales visibles.
Nombre completo, dirección o teléfono.
Número de documento, afiliación médica o datos del seguro de salud.
Fotografías de recetas, credenciales o historias clínicas completas.
Si la consulta requiere contexto, lo ideal es describir únicamente la información indispensable y eliminar cualquier dato que permita identificar a la persona.
También es recomendable desactivar, cuando la plataforma lo permita, el historial de conversaciones y las funciones que autorizan el uso de los datos para entrenamiento.
¿Para qué sí puede servir una IA cuando se trata de salud?
Aunque no reemplaza una consulta médica, la inteligencia artificial puede resultar útil para determinadas tareas como:
Ayudar a comprender el significado de un término médico difícil..
Preparar preguntas antes de una consulta
Obtener información general sobre una enfermedad
Entender mejor un resultado una vez que fue explicado por un profesional.
Lo que los especialistas desaconsejan es utilizarla para decidir un tratamiento, confirmar un diagnóstico o determinar si un síntoma requiere atención urgente.
"No confíes ciegamente en los resultados. Incluso cuando las respuestas incluyan fuentes para consultar, siempre es necesario verificar la información y acudir a un profesional de la salud", recomendó Micucci.
LN