Cuidado con los deepfakes: identifícalos y no piques

¿Qué es un deepfake?

El término deepfake proviene del inglés y combina las palabras deep (profundo) y fake (falso), son sofisticadas manipulaciones digitales, normalmente vídeos manipulados para hacer creer a los espectadores que una persona específica, ya sea anónima o una figura pública, está diciendo o haciendo algo que en realidad nunca ha sucedido. Para crear esos vídeos se utiliza tecnología de inteligencia artificial que permite el intercambio de rostros en imágenes y la modificación de la voz. Es un contenido ultrafalso.

Según indica el INCIBE, hay dos tipos:

• Imágenes y vídeos (Deepface). Se trata de la superposición del rostro de una persona sobre el rostro de otra, simulando sus expresiones faciales. 
• Voz (Deepvoice): en este caso, lo que se hace es manipular, uniendo palabras o frases que alguien dijo para formar un discurso completo, además, también pueden copiar la voz original usando esas partes. 

En los últimos tiempos, diversas personalidades han sido objeto de deepfakes que han captado la atención pública: Taylor Swift promocionando productos, Rosalía en situaciones comprometidas, videos manipulados de Elon Musk o Donald Trump… hay muchos ejemplos que muestran que nadie está libre de ser objeto de esta manipulación. Fácilmente se pueden crear y distribuir deepfakes que afectan la reputación de figuras públicas y la percepción del público. 

Peligros de los deepfakes 

Ver a Lola Flores hablando en un anuncio o un video "inédito" de dos artistas que nunca cantaron juntos ha dejado de ser un divertimento, una curiosidad tecnológica, para convertirse en una herramienta peligrosa en manos de los desinformadores, los creadores de noticias falsas que buscan influir en la opinión pública o desacreditar a una persona... pero también de los estafadores, que recurren a la suplantación de identidad para engañar a usuarios en fraudes financieros, como transferencias bancarias falsas o estafas telefónicas con voces manipuladas. 

¿Son legales los deepfakes? 

El uso de estas manipulaciones digitales no es ilegal en sí mismo, pero sí puede serlo utilizarlos para cometer fraudes, difamación, suplantación de identidad, manipulación política o difusión de contenido sin consentimiento.  

En este sentido hay algunos países que ya han comenzado a regular específicamente este tipo de contenidos: en algunos estados de EE.UU., como California y Texas, han prohibido el uso en campañas políticas y en la creación de contenido explícito sin consentimiento. China también ha puesto en marcha normas que obligan a etiquetar los deepfakes y castigan su uso fraudulento o dañino. 

En Europa, las normas sobre la materia (Ley de Servicios Digitales y regulación de IA) establecen la obligación de identificar claramente los contenidos generados o manipulados artificialmente para garantizar la transparencia hacia los usuarios y se considera como infracción muy grave la difusión de deepfakes sin el consentimiento expreso de las personas afectadas. Además, se imponen responsabilidades a las plataformas digitales para que implementen medidas efectivas en la detección y eliminación de contenidos ilícitos, incluyendo aquellos que utilicen deepfakes con fines malintencionados.

Además, en España, el Proyecto de Ley Orgánica para la protección de las personas menores de edad en los entornos digitales prevé la reforma del Código Penal para penalizar aquellos deepfakes de contenido sexual o gravemente vejatorios (ultrafalsificaciones usando el rostro o cuerpo de una persona sin su consentimiento).

Estas disposiciones buscan proteger a los usuarios de la desinformación y salvaguardar sus derechos fundamentales en el entorno digital. 

Cómo protegerse de posibles deepfakes

El avance de la IA hace que detectar estos montajes ultrafalseados sea cada vez más difícil, pero los consumidores pueden tomar medidas para evitar ser víctimas. Te recordamos 5 principios básicos 

1. Analiza el contenido para detectar si es real.

A pesar de su realismo, la mayoría de los deepfakes presentan errores sutiles: 

• Parpadeo y expresiones faciales extrañas. Los videos manipulados a menudo muestran movimientos o expresiones poco naturales. 
• Incoherencias en la iluminación. Sombras y reflejos inusuales pueden delatar la manipulación digital. 
• Sonido desincronizado. El audio puede no coincidir perfectamente con los movimientos labiales. 

2. Contrasta la información

Verifica la procedencia del contenido (URL, fechas de creación, fuente conocida...) y busca información sobre él en medios confiables antes de compartirlo. A veces una simple búsqueda en Google sobre el tema suele bastar. También puedes comprobar los metadatos del contenido para buscar más información sobre él. 

3. Recurre al sentido común

Desconfía de videos o audios sorprendentes o polémicos. Si recibieras un audio o video supuestamente procedente de un familiar en una situación extraña (afortunadamente aún no es muy común), trata de contactar primero con él. Es buena idea pensar en una palabra clave que ninguna IA pueda conocer y usarla como "contraseña" para demostrar que un contenido es real y no un deepfake. 

4. Protege tu identidad digital

Se cauto, piensa qué compartes y con quién. Al igual que haces en tus relaciones "físicas", protégete en las virtuales evitando compartir información personal en redes sociales que pueda ser utilizada para fabricar contenidos manipulados, deepfakes. 

5. Denuncia cualquier deepfake que atente contra tu persona

Si tienes conocimiento de la publicación en internet de fotografías, vídeos o audios de contenido sexual o violento cuya difusión ilícita pone en grave riesgo los derechos y libertades o la salud física o mental de las personas afectadas, puedes solicitar su retirada inmediata en el Canal prioritario de la Agencia Española de Protección de Datos.

Recuerda que no estás solo y que tu ciberseguridad es una prioridad para OCU.