Cómo comprobar si una herramienta de IA es segura para nuestro uso

Antes de copiar información en una IA, conviene saber qué datos van a salir de nuestro entorno, para qué se utilizarán y qué garantías ofrece realmente el servicio.

Resumir un texto, ordenar unas notas o preparar un borrador con inteligencia artificial puede ahorrar tiempo. El problema aparece cuando, entre las prisas y la comodidad de copiar y pegar, introducimos también nombres, correos, expedientes, conversaciones, documentos internos o resultados de investigación.

En la Universidad Pontificia Comillas, la pregunta no debería ser únicamente si una herramienta de IA funciona bien. Antes de utilizarla con información de la Universidad hay que comprobar también qué datos necesita, dónde se procesan, cuánto tiempo se conservan, quién puede acceder a ellos y si su tratamiento es compatible con el Reglamento General de Protección de Datos, el RGPD.

Una precaución útil resume buena parte del problema: no introducir información real hasta haber comprobado que el uso de la herramienta es adecuado para ese tipo de datos.

La conformidad no viene en una etiqueta

Que un proveedor afirme que su producto es “conforme con el RGPD” no significa que cualquier uso que hagamos de él sea automáticamente correcto. La conformidad depende también de qué información introducimos, para qué finalidad, con qué base jurídica y bajo qué condiciones se realiza el tratamiento.

No es lo mismo pedir a una IA que mejore la redacción de un texto público que enviarle una tutoría donde aparecen el nombre de un estudiante, sus circunstancias personales y su evolución académica. Tampoco es equivalente resumir un artículo publicado que analizar un fichero de investigación con información identificable de participantes.

El RGPD exige, entre otros principios, una finalidad determinada, utilizar únicamente los datos necesarios, mantenerlos protegidos y poder demostrar que el tratamiento se realiza de forma responsable. El Comité Europeo de Protección de Datos también ha señalado que el uso de datos personales en modelos de IA debe analizarse atendiendo a cuestiones como su base jurídica, la anonimización y el uso posterior del modelo. :contentReference[oaicite:0]{index=0}

Las señales que conviene revisar antes de utilizarla

Una herramienta merece una revisión adicional cuando no explica con claridad qué ocurre con las conversaciones o los ficheros que recibe. También conviene detenerse si no resulta posible saber durante cuánto tiempo conserva la información, si reutiliza las entradas para mejorar o entrenar sus modelos, qué empresas participan como subencargadas o en qué países se realiza el tratamiento.

Otras señales son unas condiciones contractuales poco claras, permisos excesivos sobre correo, calendario o documentos, ausencia de información sobre controles de acceso o dificultad para averiguar cómo se solicita la eliminación de los datos.

Una señal aislada no demuestra que una herramienta incumpla el RGPD ni que sea insegura. Lo importante es valorar el conjunto. Cuando faltan datos necesarios para tomar una decisión, la opción prudente es no introducir todavía información universitaria identificable o confidencial.

Qué ocurre con la información después de pulsar “Enviar”

Una interfaz de IA parece sencilla: escribimos una pregunta y obtenemos una respuesta. Por debajo pueden intervenir varios tratamientos.

La entrada. El texto escrito, los documentos adjuntos, las imágenes y determinados metadatos pueden ser enviados a la infraestructura del proveedor. Si contienen nombres, direcciones de correo, identificadores o información que permita reconocer a una persona, estamos ante datos personales.

La conservación. Una conversación puede mantenerse durante un periodo para proporcionar historial, seguridad, soporte u otras finalidades. Algunos servicios pueden utilizar determinadas interacciones para desarrollar o mejorar sus modelos. Por eso hay que comprobar las condiciones concretas de la modalidad que se pretende utilizar y no asumir que todas funcionan igual.

Los accesos y terceros. El proveedor puede apoyarse en servicios de alojamiento u otros subencargados. Si existen datos personales, importa conocer esos actores y comprobar si se producen transferencias fuera del Espacio Económico Europeo. La AEPD recuerda que esas transferencias necesitan las garantías previstas en el RGPD y que contratar un servicio en un país considerado adecuado no elimina las demás obligaciones del tratamiento.

No todos los datos tienen el mismo riesgo

Antes de recurrir a una IA conviene identificar qué contiene realmente el material. Un documento aparentemente corriente puede incluir información personal en el cuerpo del texto, comentarios, historial de cambios, nombres de fichero o metadatos.

Además, seudonimizar no es lo mismo que anonimizar. Sustituir “María García” por “Estudiante A” puede reducir la exposición, pero si el resto de la información permite averiguar quién es esa persona, los datos siguen siendo personales. La anonimización exige que la identificación deje de ser razonablemente posible. El CEPD ha insistido en que esta valoración debe hacerse caso por caso también cuando intervienen modelos de IA.

La AEPD recomendó en 2026 evitar compartir con herramientas de IA datos personales e información delicada cuando no sea necesario, así como recurrir a casos ficticios para reducir la posibilidad de identificación. También recuerda que en un entorno profesional deben seguirse las políticas de información y seguridad de la organización. [AEPD, 2026]

Qué información universitaria merece especial atención

En una universidad, el dato personal puede aparecer donde menos llama la atención. Un acta contiene información académica; una tutoría puede revelar circunstancias personales; un intercambio de correo puede incluir teléfonos, firmas o decisiones internas; y una convocatoria puede incorporar documentación de candidatos.

También requieren cuidado los expedientes, listas de estudiantes, documentos compartidos, información sobre movilidad, bibliotecas, gestión administrativa y proyectos de investigación. En algunos casos pueden aparecer categorías de datos especialmente protegidas o información confidencial cuya exposición tendría consecuencias para las personas, la investigación o la propia Universidad.

Por eso, antes de subir un fichero completo para “ahorrar unos minutos”, resulta más seguro preguntarse qué parte necesita realmente la IA. Muchas tareas pueden resolverse con un fragmento despersonalizado, una estructura vacía o un ejemplo ficticio.

Cómo puede ayudar el STIC

Cuando una herramienta va a utilizarse con información universitaria, el STIC puede ayudar a analizar su uso desde la perspectiva de seguridad: qué datos intervienen, cómo se accede al servicio, qué permisos solicita, qué dependencias existen y qué medidas pueden reducir la exposición.

Cuando proceda, esa revisión puede complementarse con las áreas responsables de protección de datos, contratación o asesoramiento jurídico. La seguridad técnica y el cumplimiento del RGPD están relacionados, pero no son exactamente lo mismo.

Si el tratamiento puede entrañar un riesgo elevado para los derechos y libertades de las personas, el RGPD contempla realizar previamente una Evaluación de Impacto relativa a la Protección de Datos. La AEPD recuerda que corresponde al responsable del tratamiento determinar y realizar esa evaluación, contando cuando proceda con el asesoramiento del Delegado de Protección de Datos.

Lo que ha cambiado en 2025 y 2026

IA generativa es la tecnología capaz de producir texto, imágenes u otros contenidos a partir de instrucciones. Su uso cotidiano ha hecho más fácil introducir grandes cantidades de información en servicios externos.

IA agéntica describe sistemas capaces no solo de responder, sino también de realizar acciones para alcanzar un objetivo, por ejemplo interactuando con otras aplicaciones. La AEPD publicó orientaciones específicas sobre sus implicaciones para la protección de datos en febrero de 2026.

También ha avanzado la aplicación del Reglamento Europeo de Inteligencia Artificial. Este reglamento no sustituye al RGPD: cuando un sistema de IA trata datos personales pueden concurrir distintos marcos normativos y responsabilidades.

Además, en julio de 2026 la AEPD publicó nuevos criterios sobre exactitud, minimización y calidad de los datos utilizados y generados por sistemas de IA. Una respuesta de la IA que se refiere a una persona no debería aceptarse como cierta simplemente porque esté redactada de forma convincente. [AEPD, 2026]

Algunos datos para situarnos

• Casi el 63 % de la población española consideraba que la IA experimentaría un desarrollo muy importante durante los próximos años. [CIS, 2025; AEPD, 2026]
• Las obligaciones europeas sobre alfabetización en IA comenzaron a aplicarse el 2 de febrero de 2025. [Comisión Europea, 2026]
• Las obligaciones para modelos de IA de uso general comenzaron a aplicarse el 2 de agosto de 2025. [Comisión Europea, 2026]
• El Reglamento Europeo de Inteligencia Artificial pasó a ser aplicable con carácter general el 2 de agosto de 2026, con excepciones y periodos transitorios para determinadas disposiciones. [Comisión Europea, 2026]
• Ante determinadas brechas de datos personales, el RGPD establece un plazo de hasta 72 horas para su notificación a la autoridad de control desde que el responsable tiene constancia, cuando resulta exigible. [RGPD, 2016]
• Las infracciones más graves del RGPD pueden alcanzar multas administrativas de hasta 20 millones de euros o el 4 % del volumen de negocio anual mundial, según el supuesto aplicable. [RGPD, 2016]

Diez comprobaciones prácticas antes de utilizar una IA

• Clasifica primero la información. Pregúntate si es pública, interna, confidencial o contiene datos personales. Saber qué tienes delante permite decidir qué precauciones necesita.
• Introduce solo lo imprescindible. Si basta con tres párrafos, no subas un informe completo. La minimización reduce la cantidad de información expuesta y facilita cumplir el RGPD.
• Elimina identificadores cuando puedas. Sustituye nombres, correos, números de expediente y otros detalles por ejemplos ficticios, comprobando que el contexto tampoco permita identificar fácilmente a la persona.
• Comprueba para qué utilizará tus datos el proveedor. Busca específicamente si las entradas pueden utilizarse para entrenamiento, mejora del servicio, análisis humano u otras finalidades. No deduzcas las condiciones por el nombre comercial del producto.
• Revisa conservación y eliminación. Averigua si las conversaciones se guardan, durante cuánto tiempo y qué ocurre cuando se solicita borrarlas. Si la información es sensible, una respuesta ambigua merece detener el uso.
• Comprueba quién procesa la información. Para usos con datos personales pueden ser relevantes el contrato de encargo, los subencargados y las responsabilidades que asume cada parte.
• Localiza dónde pueden viajar los datos. Si existe tratamiento fuera del Espacio Económico Europeo, deben verificarse las garantías que correspondan antes de utilizar información personal.
• Limita permisos y accesos. Una herramienta que solo necesita trabajar con un texto no debería recibir acceso general al correo, almacenamiento o calendario sin una razón justificada. Cuantos menos permisos innecesarios, menor superficie de exposición.
• Contrasta siempre las respuestas. Una IA puede producir información incorrecta o atribuir datos falsos a personas. Revisa especialmente cualquier resultado que pueda influir en una decisión académica, administrativa o profesional.
• Revisa de nuevo cuando cambie el uso. Una herramienta aprobada para trabajar con información pública no queda automáticamente validada para tratar otro tipo de documentos. Un cambio de finalidad, datos o funcionalidades puede exigir una nueva valoración.

Si ya has compartido información que no debías

Lo primero es dejar de seguir introduciendo datos en la herramienta. No hace falta intentar resolverlo a toda velocidad ni ocultar lo sucedido.

Si es posible, conserva la información necesaria para explicar qué ocurrió: herramienta utilizada, momento aproximado, tipo de información introducida y acciones realizadas después. Evita borrar evidencias que puedan resultar útiles para valorar el alcance.

Si también se introdujeron credenciales o existe la posibilidad de que una cuenta haya quedado expuesta, cambia la contraseña desde un acceso legítimo y seguro cuando proceda. No reutilices esa contraseña en otros servicios.

Comunícalo pronto a través del canal de soporte de la Universidad: Jira. El aviso temprano permite valorar la situación, orientar los siguientes pasos y coordinar las actuaciones necesarias. No conviene retrasarlo por vergüenza o por pensar que el fichero “probablemente no era importante”.

Privacidad significa también tratar bien a las personas

La gestión de estos casos debe ser proporcional y respetuosa. El objetivo es proteger a las personas afectadas, limitar posibles consecuencias, preservar la confidencialidad y aprender qué controles pueden evitar situaciones parecidas.

La seguridad mejora cuando resulta fácil preguntar antes de actuar y sencillo comunicar un error después. Una duda sobre una herramienta de IA es preferible a asumir que todo lo que aparece en una ventana de chat puede utilizarse del mismo modo.

Antes de pegar, merece la pena comprobar

Una herramienta de IA no debería recibir información universitaria solo porque copiarla sea cómodo. Primero identifica los datos, reduce lo que vas a compartir y comprueba finalidad, conservación, permisos, terceros, transferencias y garantías de seguridad. Si aparecen datos personales o dudas sobre su tratamiento, pide ayuda antes de continuar. Y si algo ya se ha compartido por error, deja de interactuar, conserva la información útil y repórtalo cuanto antes.

Con la IA, unos segundos para verificar pueden evitar que los datos vayan mucho más lejos de lo previsto.