La tecnología ha avanzado a un ritmo vertiginoso y con ella ha surgido una nueva forma de manipulación digital: los deepfakes. Estas imágenes, videos y audios falsificados pueden ser tan convincentes que resulta difícil diferenciarlos de la realidad. 

El aumento en el uso de los medios sintéticos nos ha llevado a cuestionar la veracidad de estos recursos. Las redes sociales pueden generar contenido manipulado, por ejemplo, utilizando voces sintéticas para emitir noticias falsas y creando videos utilizando caras y voces de personajes públicos que ya no están entre nosotros. 

Como puede observarse, este fenómeno está muy extendido y su realismo ha llevado a que muchas empresas se cuestionen la posibilidad de que la identidad digital de sus clientes pueda ser suplantada. 

Por esta razón, es esencial profundizar en el impacto actual de los deepfakes y cómo afectan a nuestras vidas, especialmente en lo que se refiere a la verificación de identidad.

En este artículo exploraremos qué son los deepfakes, su impacto en la sociedad y la importancia de contar con herramientas para combatir su uso malintencionado con el fin de garantizar la autenticidad y un futuro seguro y confiable.

Breve historia de los deepfakes

El término «deepfake» se creó el 2 de noviembre de 2017 y su origen está unido a la creación de un foro en Reddit con el mismo nombre. Este foro tenía como objetivo la creación y uso de software de deep learning para el facewapping sintético de famosas en vídeos pornográficos. Un año más tarde, el foro fue eliminado. Sin embargo, la proliferación del fenómeno deepfake ha sido imparable desde entonces. 

En un principio, los deepfakes se utilizaron principalmente para la creación de contenido humorístico y artístico, pero su uso se ha extendido a otros fines más malintencionados como la difusión de información falsa y la acusación de personas.

A medida que la tecnología de los deepfakes ha avanzado y se ha vuelto más accesible, cada vez es más difícil distinguir entre lo que es real y lo que es falso en el contenido en línea. Esto ha generado preocupaciones sobre la veracidad de la información y la privacidad, así como sobre la manipulación.

En respuesta a estas preocupaciones, varias organizaciones e individuos han comenzado a desarrollar tecnologías y estrategias para detectar y prevenir los deepfakes. Pero antes de referirnos a ellas, es necesario definir qué entendemos exactamente por deepfake. 

¿Qué son los deepfakes?

En sentido genérico, los deepfakes son vídeos, voces o imágenes manipuladas que utilizan inteligencia artificial y aprendizaje automático para cambiar o falsificar la apariencia o las acciones de una persona. 

Si llevamos la definición al ámbito de la verificación de identidad, podemos indicar que es una técnica de manipulación que utiliza como tecnología algoritmos de deep learning para suplantar la identidad de una persona. Esto puede hacerse mediante la voz, es decir, modificando fragmentos de voz para que parezca que una persona ha dicho cosas que no ha dicho o generando palabras que se modulan con la voz de otra persona, modificando fotografías, en otras palabras, cambiando la cara de una persona para que aparezca en otro cuerpo o con unos atributos que no son de esa persona o, con videos, que es la técnica más avanzada. 

Algunos ejemplos de deepfakes son:

• Deepfake del alcalde de Kiev para dialogar y engañar a varios mandatarios europeos. 
• Deepfake coloca a Bolsonaro como favorito en las encuestas y favorece el voto.

Cómo se crean los deepfakes

Los medios audiovisuales sintéticos se crean con técnicas de aprendizaje profundo. Las más conocidas son las Redes Generativas Antagónicas o Generative Adversarial Network en inglés (GAN). Este modelo se basa en dos redes neuronales conocidas con el nombre de generadoras y discriminadoras cuyo fin no es otro del que competir entre sí. La red generadora se dedica a falsificar rostros y la discriminatoria se encarga de ver si esos rostros son reales o falsos.

La misión de la red generadora es estudiar cómo clasifica la red discriminatoria a esos rostros. Para ello, la red discriminatoria debe identificar si el rostro presentado es verdadero o falso. Este proceso lo hace mediante el análisis de posibles cambios en el color de la piel, la aparición de líneas curvas o rectas y de otros factores. 

Mientras la red discriminatoria realiza estos análisis, la generadora va generando falsificaciones más veraces hasta que llega un momento en el que consigue confundir a la red discriminatoria. 

Como se puede observar, ambas redes están conectadas y se retroalimentan. De tal forma que con las clasificaciones de la red discriminatoria, la generadora va a ir creando copias mejores y con lo que vaya creando la generadora, la red discriminatoria va a ir clasificándolas mejor en términos de detección. 

Sé discriminador por un momento

Entonces, ¿cómo se puede generar un video de deepfake?

Para crear un video deepfake se utilizan aplicaciones de entretenimiento como Reface o ZAO en China. Ambas aplicaciones permiten alterar los rasgos faciales mediante la utilización de filtros.

Sin embargo, para generar un video deepfake de más calidad es necesario disponer de un ordenador de sobremesa con capacidad de procesamiento y emplear programas como Faceswap y Deepface lab que permitan intercambiar caras.

Para crearlo se necesita una serie de archivos fuentes y de destino. El programa trabaja utilizando ambos archivos, extrae los frames y crea una máscara de destino a partir del archivo fuente. 

Ambas caras pasan a alimentar a la red. La red se encarga de aprender los rasgos de la cara fuente y los rasgos de la cara de destino y a medida que van pasando las interacciones consigue definir los rasgos.

Se trata de un proceso artesanal que requiere de muchos datos que contengan expresiones faciales y referencias de la cara de una persona. Es un proceso complejo que a día de hoy no genera máscaras digitales realistas.  

Consecuencias de los deepfakes en la sociedad

A medida que la tecnología avanza, los deepfakes ganan popularidad y empiezan a causar preocupaciones sobre sus consecuencias. Algunas de estas consecuencias son: 

• Desinformación y propaganda: pueden ser utilizados para difundir información falsa e influenciar campañas políticas junto con los shallowfakes, lo que puede tener un impacto significativo en la formación de opiniones y decisiones políticas. 
• Daño a la reputación: pueden hacer que alguien parezca decir o hacer algo que en realidad no hizo, lo que puede dañar gravemente su reputación.
• Invasión de la privacidad: algunos deepfakes utilizan imágenes o videos reales de personas, lo que puede ser una invasión de su privacidad.
• Fraude de identidad: muchas empresas temen que los deepfakes supongan un riesgo para falsificar la identidad de una persona en los procesos de verificación en línea.

Deepfakes y suplantación de identidad

La aparición de los deepfakes y el desarrollo imparable de la IA, ha hecho que las empresas empiecen a cuestionarse si este fenómeno podría suponer un riesgo para sus procesos de onboarding digital. 

En los procesos KYC, se pide al usuario que muestre su documento de identidad y a continuación que se haga un selfie. Además, estos procesos incluyen detección de vida o liveness detection, en los que normalmente se pide al usuario que realice un movimiento. Este movimiento puede ser diferente dependiendo del proceso, es decir, se le puede pedir al usuario que mueva la cabeza de un lado a otro, que parpadee, que sonría o que registre expresiones faciales que apelen a las emociones como felicidad o tristeza. La aleatoriedad del movimiento en cada proceso supone que sea más difícil la generación y reproducción de videos en los procesos de registro online. 

La suplantación biométrica mediante deepfakes no es sencilla si se incorporan técnicas anti-spoofing que detectan ataques de presentación e identifiquen si los datos biométricos se corresponden a una persona viva o han sido replicados. 

Además, las entidades pueden incorporar capas de seguridad adicionales más allá de las técnicas contra la falsificación de datos biométricos. En este sentido, puede implantar procedimientos de identificación no presenciales por videoconferencia. La comprobación en tiempo real del proceso por un agente añade una capa extra de seguridad y deja menos margen a la posibilidad de utilizar técnicas deepfakes. 

Otra de las opciones posibles es introducir en los procesos la autenticación multifactor (MFA) o de 2 factores que utiliza varios factores de autenticación para garantizar la fiabilidad de la identidad del usuario. La combinación de factores de herencia (reconocimiento facial o escaneo de huella digital) con factores de reconocimiento (contraseñas de un solo uso o  One Time Password – OTP) son los más utilizados.

Tecnologías avanzadas para detectar deepfakes

Las tecnologías avanzadas para detectar este tipo de fenómenos incluyen técnicas de análisis de imágenes, video, voz, lenguaje y nivel de error. Cada técnica tiene como objetivo la detección de patrones específicos. Así: 

• Análisis de movimiento facial: detecta patrones sospechosos en la animación facial que no son naturales y que son sinónimo de manipulación.
• Análisis de audio: detecta discrepancias en la sincronización labial, la calidad del audio y la frecuencia.
• Análisis de textura: detecta patrones sospechosos en la textura de la piel y el pelo.
• Análisis de metadatos: Verifica la autenticidad de los metadatos del vídeo, como la fecha y hora de creación, la ubicación geográfica, entre otras. Lo normal es que los metadatos no encajen con los de un video real.
• Análisis de nivel de error: analiza varias frecuencias del video o lleva a cabo un análisis espacio temporal del video para detectar, por ejemplo, las no coincidencias de los puntos de la cara.

¿Cómo Mobbeel detecta deepfakes? 

El departamento de I+D+i de Mobbeel está especializado en la detección de ataques de suplantación de la identidad. Para ello, utiliza diferentes técnicas que permiten detectar artefactos y ataques de presentación 2D tanto estáticos como dinámicos realizados mediante el empleo de fotografías, vídeos, máscaras o papel. A su vez, también dispone de herramientas para detectar ataques 3D. 

Más allá de las técnicas de detección de ataques de presentación en los procesos de alta de nuevos clientes, Mobbeel cuenta con el proyecto SINCERE. A través de este proyecto ha desarrollado un sistema avanzado de detección de fraude deepfake basado en el análisis de metadatos y de nivel de error. 

Además, utiliza técnicas de deep learning como Vision Transformers con resultados superiores al 80%

Recomendaciones para distinguir un deepfake

Estar equipado con tecnología de detección de deepfakes de última generación para prevenir fraudes es clave, pero también es importante prestar atención a los detalles, como:

• Rostro borroso.
• Falta de luz en los ojos.
• Desajustes en las expresiones faciales.
• Fallos de perspectiva. 
• Oclusión facial.
• Ausencia o exceso de parpadeo.

La importancia de la verificación de identidad en un mundo de deepfakes

La verificación de identidad es más importante que nunca en un mundo en el que los deepfakes tienen cabida. Los deepfakes pueden ser utilizados para suplantar la identidad de una persona, siendo un peligro para las empresas. 

La verificación de identidad digital puede ayudar a prevenir estos riesgos al confirmar la identidad de un usuario antes de permitirles contratar servicios o comprar productos. Esto puede incluir el escaneo del DNI y la verificación biométrica a través de reconocimiento facial con prueba de vida. 

La implementación de procesos de verificación de identidad rigurosos como los de Mobbeel pueden ayudar a prevenir que los deepfakes se utilicen para suplantar la identidad de las personas en línea. 

A modo complementario, puedes ver la charla «Deepfakes: un poder conlleva una gran responsabilidad» que dio nuestra compañera Ángela Barriga, investigadora I+D en Mobbeel, en el Extremadura Digital Day.

Si te asustan los riesgos que los deepfakes pueden causar en tu empresa, no dudes en ponerte en contacto con nosotros. 

GUÍA

Identifica a tus usuarios mediante su cara

En esta dualidad analógico-digital, uno de los procesos que sigue siendo crucial para garantizar la seguridad es la verificación de identidad a través del reconocimiento facial. La cara, siendo el espejo del alma, proporciona una defensa única contra el fraude, aportando fiabilidad al proceso de identificación.