El uso de la tecnología marca de una forma creciente nuestro día a día. Desde las tareas más mecánicas del trabajo hasta las formas más dispares de entretenimiento, aprovechamos los avances para hacer más cómoda nuestra rutina. Sin embargo, no todo son ventajas, sino que también existen determinados riesgos derivados de la tecnología. Entre estos riesgos se encuentra el derivado del deepfake.
¿Qué significa Deepfake y cómo funciona?
Este concepto une los términos ingleses “fake” (falso o falsificación) y “deep learning” (aprendizaje profundo) y se refiere a la “posibilidad de modificar vídeos, imágenes o incluso la voz de una persona de forma hiperrealista, manipulando su mensaje o acciones”, explica el Instituto Nacional de Ciberseguridad (INCIBE).
Para conseguir estas modificaciones se aplican una serie de algoritmos que modifican contenido multimedia. Esta práctica puede tener un enfoque positivo cuando se utiliza con fines educativos, en el doblaje de películas (alinear la voz en diferentes idiomas con el movimiento de los labios en un vídeo) o para crear un modelo nuestro online para comprar ropa con mayores garantías.
Sin embargo, como toda tecnología, también puede usarse de forma negativa y crear un perjuicio en los usuarios. Cualquier persona que haya publicado fotos sobre sí misma puede convertirse en víctima de deepfake por difamación o extorsión. Además, los ciberdelincuentes pueden hacerse pasar por determinadas personas para obtener información confidencial o incluso por un candidato en el proceso de selección de una empresa y conseguir así infiltrarse en la compañía de forma fraudulenta.
Evolución de los deepfakes
Los deepfakes, al igual que el resto de la tecnología, evolucionan a una velocidad de la que apenas somos conscientes. Según recoge el portal especializado Kaspersky, hace dos años resultaba muy fácil identificar los vídeos deepfake por la brusquedad de los movimientos y el hecho de que las personas falsificadas nunca parpadeaban, pero a día de hoy las técnicas de falsificación hacen los gestos y la voz mucho más creíbles. Sus cálculos estiman una cifra superior a 15.000 vídeos deepfake en Internet y prevén un aumento exponencial por la facilidad y rapidez para generarlos en la actualidad.
Tipos de Deepfake
Esta forma de “manipulación” de contenidos puede aplicarse a diversos formatos entre los que se encuentran vídeos, audios, imágenes, etc.
Deepfake en vídeos: ¿Por qué son tan realistas?
Quizá este sea el formato más utilizado para realizar deepfakes, en el que la inteligencia artificial recopila datos sobre los movimientos físicos y el rostro de la persona para luego crear nuevas acciones que no han tenido lugar en la vida real. El realismo de estos vídeos reside en la capacidad de la inteligencia artificial de utilizar diferentes algoritmos que realizan un aprendizaje automático.
Por ello, se recogen una serie de aspectos a los que podemos prestar atención para reconocer cuándo un vídeo es falso. Es esencial analizar la imagen, el audio, el movimiento, la duración del vídeo y la fuente, así como sospechar de la exageración del contenido, ya que los deepfakes suelen utilizarse para degradar la reputación de una persona o enfrentar dos bandos.
Análisis de las imágenes
- Bordes borrosos o deformados: Especialmente borrosidad alrededor de la mandíbula, cuello, orejas o pelo.
- Errores en reflejos y sombras: Iluminación que no concuerda con el entorno o es imprecisa. Fijarse si aparecen sombras, espejos o gafas que nos ayuden a ver si los reflejos son reales o no.
- Piel artificial o muy suave: Puede verse demasiado perfecta o con texturas raras, desconfiar las decoloraciones de la cara.
Análisis de audio
- Sincronización labios-voz: A veces hay desajustes sutiles entre lo que se dice y el movimiento de los labios.
- Entonación robótica: Voces con tono extraño, falta de emoción o pausas poco naturales.
- Ruido de fondo diferente: Puede no coincidir con el ambiente del video.
- Errores o distorsiones en la voz.
Análisis de movimiento
- Parpadeo poco natural: Los deepfakes suelen tener problemas con el parpadeo o lo hacen demasiado poco.
- Movimientos faciales extraños: gestos faciales poco naturales o desincronizados.
- Cabeza y cuerpo desincronizados: El movimiento de la cabeza no fluye con el del cuerpo.
Uso de herramientas de detección
Si tienes dudas, puedes usar herramientas de IA diseñadas para detectar deepfakes, como:
- Deepware Scanner
- Microsoft Video Authenticator
- Sensity AI
Comprobar la fuente y contrastar
- Revisar la fuente original: ¿De dónde proviene el video? ¿Es de una fuente confiable?
- Buscar videos originales: Comparar con otras grabaciones de la misma persona.
- Verificar metadatos: A veces, los deepfakes pierden información original del archivo.
Otros usos del Deepfake: Audios, imágenes y más
El deepfake puede utilizarse también para manipular otro tipo de contenidos como la voz de las personas. Esta práctica recibe el nombre de “voice hacking” e incluye la clonación de voz. Un ejemplo recurrente es la grabación de la voz de una persona sin su consentimiento por parte de estafadores para clonar la voz y crear mensajes falsos.
Para detectar este tipo de deepfakes es importante afinar el oído y comprobar si hay algún tono fuera de lugar en la voz de la persona. A su vez, con las personas de nuestro entorno, podemos determinar una palabra de seguridad para verificar si son ellos/as o no.
Los riesgos de los Deepfakes para jóvenes y adolescentes
A pesar de que todos los usuarios somos víctimas potenciales de manipulaciones deepfake, jóvenes y adolescentes resultan más vulnerables. Por ello, es importante hablar sobre los riesgos que conlleva los deepfakes.
Fake videos en redes sociales: Cómo afectan a los adolescentes
El medio en el que existen más deepfakes quizá sean las redes sociales. Allí los algoritmos funcionan dependiendo de los gustos personales de cada usuario y le muestran contenidos específicamente pensados para su perfil. ¿Y qué hay más atractivo que una persona con los mismos intereses y aspiraciones que los propios?
El público adolescente suele seguir a creadores de contenido con los que conectan y el deepfake permite crear influencers artificiales a medida de estos usuarios. Cada vez se están viendo más casos de estos, con patrones de belleza muy concretos. Como, por ejemplo, el caso de Aitana López. Una influencer con 352 mil seguidores creada por la IA.
Avances tecnológicos y la lucha contra los deepfakes
Como hemos visto, la tecnología avanza, pero no solo en el lado negativo, sino también en la lucha contra estos ataques. Así como los programas para generar deepfakes están cada vez más extendidos y ofrecen un manejo mucho más sencillo, también se desarrollan a gran velocidad las aplicaciones para detectar estas manipulaciones y combatir los peligros a los que dan lugar.
Además, desde el punto de vista legislativo, en España, el 13 de octubre de 2023 se publicó en el Boletín Oficial de las Cortes Generales la Proposición de Ley Orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial. Su objetivo es regular este tipo de prácticas y controlar el uso de esta tecnología por parte de las empresas.
