¿Qué pasa con tus datos cuando le das a ChatGPT tus fotos para subirte al trend de los 80?

Recurrir a ChatGPT se ha convertido en algo habitual para muchas personas, ya sea para consultar un dato rápido o pedir consejo personal; incluso para subirse a trends y que les muestre cómo se habrían visto en los 80. Dado que estas herramientas dan la sensación de ser conversacionales, es fácil olvidar que no son tan privadas como parecen.

Christina Pöpper, experta en ciberseguridad de la NYU Abu Dhabi, explica que hay cuatro tipos principales de datos implicados: lo que escribes, lo que el sistema deduce a partir de tu entrada, los metadatos sobre tu sesión y las respuestas o archivos que se guardan.

Esos datos comienzan con el texto que los usuarios proporcionan de forma intencional. Esto puede incluir datos personales como direcciones, números de teléfono o información médica. Aunque la IA a veces puede detectar información sensible, no siempre es capaz de distinguir qué es lo más importante en cada contexto, sobre todo si no la tratas como algo privado. La política de privacidad de ChatGPT es clara: no introduzcas nada que no quisieras que otra persona viera o utilizara.

¿Qué datos recopilan los chatbots de IA?

Cuando escribes algo, el sistema divide tu texto en pequeñas partes y lo procesa mediante un modelo entrenado con enormes cantidades de datos. En lugar de buscar respuestas, las genera con base en patrones que ha aprendido.

Las imágenes añaden otra dimensión. Una fotografía de un rostro es un dato personal, ya que puede ayudar a identificar a alguien. Dependiendo del archivo y del servicio, una imagen subida también puede contener metadatos, como la fecha en que se tomó, el dispositivo utilizado y su ubicación. Subir una selfie no significa automáticamente que vaya a ser robada o convertida en un deepfake, pero sí implica que otra empresa tenga una copia de la imagen, sujeta a sus propias políticas de retención y capacitación.

Si utilizas estas herramientas con frecuencia, tus preguntas pueden empezar a formar un patrón. Incluso sin mencionar tu nombre, tus preguntas y temas pueden revelar tus intereses, hábitos o incluso tu profesión, simplemente por lo que preguntas y cómo lo preguntas.

Al igual que la mayoría de los servicios en línea, los chatbots también recopilan metadatos básicos, como la dirección IP, el tipo de dispositivo, el sistema operativo y la ubicación geográfica general. El servicio también puede almacenar respuestas, imágenes y documentos, algunos de los cuales pueden utilizarse para mejorar sus modelos en función del producto, el tipo de cuenta y la configuración del usuario.

El uso que se da a estos datos y el tiempo que se conservan dependen del servicio. Gemini y ChatGPT tienen normas diferentes en materia de privacidad y conservación de datos. Tanto OpenAI como Google publican sus políticas y te permiten ajustar algunos parámetros relacionados con la conservación de datos y el entrenamiento.

¿Durante cuánto tiempo conservan tus datos ChatGPT, Gemini y Claude?

Según la política de conservación de ChatGPT, los chats se guardan en tu cuenta hasta que se eliminan. Sin embargo, los chats pueden permanecer en los sistemas de OpenAI hasta 30 días, incluso después de haber sido eliminados. Algunos datos pueden conservarse durante más tiempo si han sido “anonimizados y desvinculados de tu cuenta”, o por motivos legales o de seguridad. En el contexto de la política, “anonimizado” significa que un chat ya no está vinculado a una cuenta de usuario específica, no necesariamente que la conversación en sí haya sido borrada.

Gemini, por su parte, conserva los datos de los chats durante 18 meses de forma predeterminada, a menos que los elimines. También advierte a los usuarios de que no introduzcan información sensible que no deseen que se vea o se utilice para el entrenamiento del modelo. Dado que Gemini puede conectarse con otros servicios de Google, como Drive o Fotos, la variedad de datos personales a los que puede acceder (y que potencialmente puede procesar como parte de una conversación) puede ser mucho mayor.

Claude también guarda los chats en tu cuenta hasta que los borres; tras ello, según Anthropic, se eliminan de sus sistemas de fondo en un plazo de 30 días. Sin embargo, si permites que Anthropic utilice tus chats para mejorar Claude, la empresa puede conservar copias anonimizadas en sus sistemas de entrenamiento durante un máximo de cinco años. Las conversaciones marcadas por posibles incumplimientos de las políticas pueden conservarse hasta dos años, mientras que las puntuaciones de seguridad relacionadas pueden permanecer hasta siete años.

Puedes modificar algunos ajustes relacionados con la recopilación de datos y el entrenamiento, pero, como señala Pöpper, borrar un chat en la aplicación no siempre significa que desaparezca de los servidores de la empresa de inmediato.

A medida que los modelos de IA se vuelven más avanzados, surgen nuevos riesgos. Pöpper señala la “inversión de modelos”, un tipo de ataque en el que alguien intenta inferir características sensibles o reconstruir información a partir de un modelo de aprendizaje automático. No es tan sencillo como pedirle a un chatbot que revele la conversación de otro usuario, y que un ataque de este tipo funcione depende del propio modelo, del acceso del atacante y de la información disponible. El riesgo general aumenta a medida que los chatbots obtienen acceso a información más sensible a través de compras, correo electrónico y otros servicios conectados.

¿Pueden los chatbots de IA revelar tu información personal?

Los riesgos no se limitan a la extracción de información de un modelo de IA. Anthropic informó recientemente de que un grupo, presuntamente patrocinado por un estado, había manipulado Claude Code para que llevara a cabo partes de una campaña de ciberespionaje. El incidente no supuso que Claude revelara las conversaciones de sus usuarios, pero puso de manifiesto cómo las herramientas de IA pueden reutilizarse para automatizar ataques contra otros sistemas. La mayoría de las personas nunca serán objeto de una operación de este tipo, pero cuanto más se integre la IA en la vida cotidiana, más valiosos se vuelven los sistemas y los datos que la rodean.

Pöpper sugiere evitar la información sensible y distribuir el uso entre diferentes plataformas para reducir el riesgo. Los usuarios también pueden desactivar el entrenamiento de los modelos siempre que sea posible, utilizar modos temporales o de incógnito, eliminar chats y archivos subidos que ya no necesiten, y revisar a qué otros servicios puede acceder un asistente de IA.

La misma precaución se aplica a las tendencias virales de imágenes. Evita subir fotografías de otras personas sin su permiso. Ten especial cuidado con las imágenes de niños y no envíes documentos de identidad ni fotografías que contengan información personal innecesaria.

Estas herramientas no son necesariamente más arriesgadas que otros servicios en línea, pero tampoco son privadas. El retrato al estilo de los años 80 puede desaparecer de tu feed en cuestión de días; la fotografía que subiste para crearlo puede permanecer en los sistemas de una empresa de IA durante mucho más tiempo. La verdadera cuestión no es si debes utilizar los chatbots, sino si comprendes lo que estás cediendo cuando lo haces.

Artículo originalmente publicado en WIRED Middle East. Adaptado por Mauricio Serfatty Godoy.