El Impacto de los Deepfakes

En la era digital, la tecnología ha avanzado a pasos agigantados, y con ella, las amenazas cibernéticas. Una de las más recientes y preocupantes son los deepfakes, una tecnología basada en inteligencia artificial (IA) que puede crear contenido sintético extremadamente realista. En el entorno universitario, donde la confianza y la integridad de la información son clave, los deepfakes representan un riesgo significativo.

¿Qué son los Deepfakes?

Los deepfakes utilizan redes neuronales profundas para generar videos, imágenes, audios, y textos que parecen auténticos pero son completamente fabricados o manipulados. Estos pueden ser utilizados para imitar a personas en situaciones que nunca ocurrieron, lo cual abre la puerta a una variedad de fraudes y engaños.

Los deepfakes, una plaga para la seguridad empresarial

Un ejemplo resonante ocurrió a principios de 2020, cuando un deepfake de voz permitió robar 35 millones de dólares en los Emiratos Árabes Unidos. Un director de banco recibió una llamada telefónica de alguien que él creía haber identificado con certeza. En realidad, era un impostor haciéndose pasar por el jefe de una empresa que necesitaba desbloquear 35 millones de dólares para una adquisición.

Esta estafa es conocida como "fraude por falso orden de transferencia". Un clásico entre las estafas, puede tener consecuencias desastrosas debido a las enormes pérdidas financieras que puede generar. Pero no es la única amenaza a la que se enfrentan las empresas.

En agosto de 2022, VMware documentó detalladamente el uso de la tecnología de deepfake para atacar a las empresas. En su informe anual Global Incident Response Threat Report, la empresa estadounidense especializada en informática señaló un aumento del 13% en el uso de esta tecnología en ciberataques respecto al año anterior.

"El nuevo objetivo de los cibercriminales es utilizar la tecnología deepfake para comprometer a las organizaciones y acceder a su entorno", indicaba VMware. La mayoría de estos ataques por deepfakes utilizan el formato de video (58%), en lugar de audio (42%).

Las ciberataques mediante deepfakes se realizan principalmente a través de correos electrónicos, mensajes de móvil y redes sociales. Las aplicaciones de reuniones y las nuevas herramientas de colaboración empresarial son especialmente vulnerables a estos ataques.

Los cibercriminales envían mensajes que parecen venir de fuentes conocidas, con peticiones que generalmente les permiten:

• Infiltrarse en los sistemas
• Acceder a información
• Capturar datos sensibles

Riesgos en el Entorno Universitario

En una universidad, los deepfakes pueden ser una herramienta poderosa en manos equivocadas

• Fraude de Identidad: Crear documentos de identificación falsos para acceso no autorizado a sistemas o para matricularse fraudulentamente.
• Exámenes Fraudulentos: Estudiantes podrían usar deepfakes para simular su presencia en exámenes online o para hacer trampa durante las evaluaciones en línea.
• Manipulación de Comunicaciones: Falsificar comunicaciones de profesores o administradores para obtener información confidencial o influir en decisiones.
• Desinformación: Difundir noticias falsas o declaraciones inexactas de miembros de la comunidad universitaria, afectando la reputación y la credibilidad.
• Impersonación de Personal Académico: Creación de videos o audios donde se imita a profesores para obtener información sensible o manipular a otros estudiantes.
• Phishing Avanzado: Enviar correos electrónicos con vídeos o audios falsos de administradores solicitando datos personales o financiadores.
  Ejemplo: En una universidad española, se reportó un caso donde se utilizó una grabación de audio de un profesor para engañar a estudiantes en un grupo de estudio, solicitando copias de sus trabajos finales para una supuesta "revisión final".

Usos Benévolos y Didácticos

No todo uso de deepfakes es malicioso; existen aplicaciones positivas:

• Simulación Histórica: Permite a los estudiantes de historia o comunicación visualizar cómo podrían haber sido eventos o discursos históricos.
• Entrenamiento de Habilidades Sociales: En psicología o educación, se pueden usar deepfakes para simular interacciones humanas para la formación de habilidades de comunicación.
• Accesibilidad: Crear avatares que hablan en diferentes idiomas para asistir a estudiantes extranjeros en la comprensión de materias.

Hacks y Prácticas Maliciosas en el Entorno Universitario

Las técnicas de creación de deepfakes incluyen:

• Manipulación de Audio y Video: Usando software como DeepFaceLab o FakeApp, se puede alterar audio o video para hacer parecer que una persona dice o hace algo diferente.
• Generación de Identidades Falsas: Con herramientas de IA como GANs (Generative Adversarial Networks), se pueden crear rostros completamente ficticios para falsificar identidades.
• Ingeniería Social: Usar deepfakes en campañas de phishing más sofisticadas que implican la creación de escenarios creíbles que requieren una acción inmediata.

Métodos de Detección en el Contexto Académico

La detección de deepfakes requiere de una combinación de tecnología y prácticas humanas:

• Software de Detección: Herramientas como Deeptrace o Sensity AI pueden analizar videos y audios en busca de signos de manipulación.
• Análisis Visual: Buscar anomalías en el parpadeo, movimiento de labios, o inconsistencias en la iluminación y sombras.
• Verificación de Metadatos: Examinar los metadatos de archivos multimedia para detectar ediciones o recreaciones.
• Nota de Seguridad: La educación sobre deepfakes es esencial para el reconocimiento y manejo de deepfakes.

Medidas Preventivas

Si el desarrollo de la inteligencia artificial hace que los deepfakes sean cada vez más sofisticados, existen contramedidas.

Las empresas especializadas en ciberseguridad desarrollan regularmente algoritmos de detección cada vez más avanzados. Una de sus fortalezas es la capacidad de analizar minuciosamente un video para detectar distorsiones diminutas u otros signos de falsificación.

Además, en cuanto a la prevención de ciberataques, la concienciación y la formación de los empleados siguen siendo el arma más poderosa. Formarlos en la detección de deepfakes y, en general, en los riesgos generados por la inteligencia artificial, puede hacerlos mucho más vigilantes.

Finalmente, para evitar fraudes por órdenes de transferencia falsas, ¿por qué no revisar y reforzar los procedimientos de liberación de fondos dentro de la empresa? Una red de seguridad adicional contra la plaga de los deepfakes.

El Futuro de la Seguridad en la Universidad

La amenaza de los deepfakes no desaparecerá pronto, por lo que es esencial que las universidades se mantengan al tanto de las últimas tecnologías de detección y prevención. La cooperación entre departamentos de TI, seguridad informática, y la comunidad académica es vital para desarrollar estrategias eficaces que protejan tanto a estudiantes como a personal de estos engaños sofisticados.

Conclusión

Los deepfakes presentan un reto considerable, pero también una oportunidad para innovar en la educación. La clave está en prepararnos para su posible mal uso mientras exploramos sus aplicaciones educativas. La formación continua y la implementación de medidas de seguridad avanzadas son fundamentales para proteger la integridad del entorno universitario.

En resumen, aunque los deepfakes pueden ser herramientas innovadoras en áreas como el entretenimiento o la educación, su potencial para el mal uso en el ámbito universitario requiere una vigilancia constante y una respuesta adaptativa. La Universidad debe liderar en la educación sobre estos riesgos y en la implementación de soluciones de seguridad avanzadas.