Deepfakes, caras que engañan.

• Esta nueva técnica ya ha conseguido engañar a muchos usuarios de las redes, e incluso a políticos. En este post, te enseñamos cómo reconocerlos y cómo protegerte de ellos.

La palabra deepfake​ es un acrónimo procedente del inglés, que se utiliza para designar una nueva ​técnica de inteligencia artificial que permite editar vídeos falsos de personas que aparentemente son reales, utilizando para ello algoritmos de aprendizaje no supervisados, conocidos como RGAs (Red generativa antagónica) en español (en inglés GANs), y vídeos o imágenes ya existentes. El resultado final de dicha técnica es un vídeo muy realista, capaza de provocar confusión en los más entrenados.
Los modelos RGA consisten en dos redes, la generativa y la discriminativa. La primera, basándose en imágenes ya existentes, genera vídeos y fotos constantemente, y la segunda determina cuáles podrían ser entendidos como reales un ser humano.
Los casos más conocidos de deepfake son los que aparecen en películas. Esta técnica se popularizó con la recreación digital del la actriz Carrie Fischer en las películas de la saga Star Wars rodadas en fechas posteriores a su muerte.

A veces, cuando los actores son tan icónicos que se les asocia automáticamente a un personaje, se tiene en consideración usar esta técnica en lugar de reemplazarlos por otro distinto. Esto no es difícil por cuestiones técnicas, sino más bien éticas, porque lo mismo podría hacerse con el actor estando vivo, y no se puede suplantar a una persona así como así. Por ejemplo, se propuso usar un deepfake para la película de Marvel «Black Panther 2», que Chadwick Boseman, actor fallecido recientemente por cáncer, iba a protagonizar. Al final, se ha optado por no usar una falsificación, pero tampoco por buscar un nuevo actor, simplemente por eliminar el personaje. Otro ejemplo es el deepfake de Lola Flores en el nuevo anuncio de la nueva campaña de Cruzcampo: «Con mucho acento».

Pero los deepfakes también tienen un lado oscuro, de hecho, ese es el lado mayoritario. Los deepfakes como tal se originaron con la creación de contenido falsificado en el que un actor o personaje aparecía participando en un vídeo pornográfico realizando actos sexuales, para empezar. Para seguir, los deepfakes pueden utilizarse para hacer el mal y crear confusión en todos los aspectos, suplantando por un momento la identidad de alguien. No son muy buenos para conseguir dinero, al fin y al cabo, siempre saldrá más rentable engañar con las técnicas de ingeniería social de siempre, pero son una de las herramientas del futuro de la desinformación. Podrías ver un vídeo de Trump o Biden declarando la guerra a Rusia, o a España, y te lo creerías con toda seguridad, porque, aunque hayamos aprendido (y no todos) a no confiar en lo que leemos por Internet, un vídeo es algo que tenemos como infalible. Se han dado casos como el del deepfake de Obama, o el de un opositor ruso que casi acaba en problemas por él. En el primero, Obama aparece llamando “idiota” (dipshit) a Donald Trump, y afirmando que Killmonger, el villano de Black Panther, “tenía razón”. En el segundo, una cara igual a la del opositor Leonid Volkov se presentó en una reunión de Zoom que tenían algunos parlamentarios europeos con el equipo de Alekséi Navalni.

Estos vídeos pasan a través de mucho de los filtros de la policía, por lo que se están desarrollando técnicas que permitan detectar los reales y los falsos. Actualmente, las mejores han conseguido llegar a un nivel de precisión del 86, 6%, lo cual está muy bien, pero en un futuro se tendría que poder asegurar llegar al 99% de seguridad y consistencia. Los métodos que hoy en día se están utilizando para identificar los deepfakes y por el momento han funcionado correctamente son varios.

• Uno de ellos es el de análisis de metadatos, información textual sobre la producción del archivo multimedia (cámara, ISO, datos de creación…), para ver si la imagen ha estado manipulada previamente. Es posible modificar los metadatos pero la gran mayoría de archivos contienen la información de los programas de edición utilizados, facilitando así, la identificación de las intervenciones en los archivos. No es totalmente eficaz pero puede ser un buen método de detección preliminar de deepfakes.
• Otro sistema es analizar el nivel de error (ELA, Error Level Analysis) de los métodos de compresión de imágenes de archivos como JPG, que al comprimirse pierden información. Así pues, hace falta saber que las imágenes editadas acostumbran a tener áreas con diferentes niveles de artefactos de compresión, ya que han estado sometidas a varios sistemas de compresión.
• La última, y la mejor hasta ahora, consiste en analizar el patrón reflectante de cada ojo en el vídeo o imagen, ya que las IAs tienden a fallar y colocan en cada ojo un reflejo distinto (fijaos de qué grado de precisión estamos hablado, reflejos de los ojos), provocando heterocromía mínima o pequeños errores (invisibles al ojo humano en su mayoría).

Pero estos sistemas no parecen estar precisamente al alcance de nuestra mano, ¿verdad? ¿Cómo podemos nosotros detectar un deepfake?
Lo mejor que podemos hacer, según la OSI (Oficina de Seguridad del Internauta), es seguir estos pasos:

1. Busca aquello que no tenga sentido, como fondos o formas extrañas.
2. Revisa detenidamente la imagen. La mayoría de los deepfakes se centran en sustituciones faciales, por lo que los cambios en el resto del cuerpo no se aplican y pueden darnos pistas. Un detalle interesante reside en los tiempos de parpadeo. Un ser humano parpadea, de promedio, en intervalos de 2 a 8 segundos. En este tipo de falsificaciones los personajes suelen parpadear poco y en períodos relativamente largos.
3. Afina el oído. El audio del vídeo puede delatar a la falsificación. Si el sonido no coincide con la imagen, detectas algún tono fuera de lugar en la voz del protagonista o una falta de sincronización, posiblemente se tratará de una falsificación.
4. ¿Tiene coherencia? En muchas ocasiones se utilizan los deepfakes para degradar la reputación de alguien, crear discordia entre dos bandos o para exagerar algunas declaraciones. Si el contenido del vídeo es muy alarmante, llamativo e incendia las redes en poco tiempo, mantente alerta y desconfía. ¿Tú crees que el Presidente de España declararía la guerra a un país así porque sí? ¿O que la OMS admitiera que el COVID no existe?
5. Atento a la duración del vídeo. Debido al trabajo de edición, estos vídeos suelen ser cortos. De este modo, podrán camuflarse mejor los posibles errores y lograr una simulación lo más detallista posible.
   

Siguiendo estos pasos, y sobre todo, contrastando la información, deberías estar a salvo de los deepfakes.