Los Deepfakes o "falsedades profundas" son archivos de vídeo, imagen o voz manipulados mediante un software de inteligencia artificial de modo que parezcan originales, auténticos y reales. Los Deepfakes utilizan el aprendizaje de la inteligencia artificial, por lo que estos archivos consiguen engañarnos fácilmente. Los Deepfakes se utilizan para inducir a error a las personas receptoras, por lo que suponen una gran amenaza para la sociedad actual, pudiendo facilitar la desinformación y que la ciudadanía pase a desconfiar de cualquier fuente de información.
¿Qué son los Deepfakes?
Los Deepfakes o "falsedades profundas" son archivos de vídeo, imagen o voz manipulados mediante un software de inteligencia artificial de modo que parezcan originales, auténticos y reales.
Aunque los Deepfakes existen desde finales de 1990, cobraron interés en 2017, cuando un usuario de Reddit publicó material pornográfico falso con los rostros de varias actrices famosas.
El término “Deepfakes” combina la palabra “fake” (falso, ya que este tipo de archivos siempre son falsos, aunque se haga todo lo posible porque parezcan reales) y la palabra “deep”, proveniente de “deep learning” (aprendizaje profundo, que es un tipo de aprendizaje automático de la inteligencia artificial).
La capacidad de parecer tan reales viene dada por la capacidad de modelado que tienen los programas informáticos dedicados a realizar los Deepfakes, que tratan de asemejarse lo más posible al funcionamiento de las redes neuronales y del cerebro humano, facilitando que nuestros sesgos cognitivos y esquemas mentales nos traicionen. [Para ganar en objetividad y conocer tus sesgos cognitivos y esquemas mentales te recomendamos este curso]
Los Deepfakes utilizan el aprendizaje automático de la inteligencia artificial. Esta tecnología se basa en sofisticados algoritmos que son capaces de analizar si un archivo es real o si está alterado y, de esta forma, la inteligencia artificial puede ir mejorando cada vez más en la labor de falsificar de manera más fidedigna. Los Deepfakes pueden ser generados directamente por softwares u ordenadores especializados en este aprendizaje automático, sin necesidad de intervención humana.
Los Deepfakes se utilizan para inducir a error a las personas receptoras de los archivos, ya sea haciendo que un político diga algo en un vídeo que realmente nunca dijo para afectarle en una campaña política cerca de unas elecciones, o incluyendo la imagen de un famoso (o de cualquier persona) en un material pornográfico con el objetivo de perjudicarle o chantajearle. [Si quieres conocer todos los tipos de ciberacoso que existen y cómo prevenirlos haz clic aquí]
Los materiales Deepfakes pueden modificar los rasgos del rostro de una persona (o su voz) y hacerla pasar por otra, generando otro archivo muy similar al verdadero. Por ello, algunos expertos consideran que los Deepfakes son una evolución de las fake news intencionada y que busca, claramente, la manipulación de las masas gracias a la difusión de estos archivos en Internet y en las redes sociales. [Si quieres saber qué son las Fake News o noticias falsas aquí te ofrecemos una Guía Práctica de técnicas y herramientas para detectarlas]
Por lo general, los archivos Deepfakes son de personajes públicos ya que cuanto más material se tenga de la persona real, mejor será la falsificación. Cada vez, generan una gran preocupación para las empresas e instituciones públicas por el enorme potencial que tienen para facilitar fake news, generar ataques de desinformación, de fraudes de todo tipo e incluso de manipulación de procesos electorales.
En enero de 2020, Facebook prohibió los Deepfakes (excepto los que son claramente parodias), es decir, todo aquel contenido que había sido alterado con intenciones maliciosas.
Para aprender a analizar la fiabilidad y credibilidad de los datos, información y archivos que recibimos a diario, te recomendamos formarte como Analista de Inteligencia.
Tipos de Deepfakes y definición
Existen, principalmente, dos tipos de Deepfakes de los que se ha generalizado cada vez más su uso:
DEEPFACES
Los Deepfaces son Deepfakes que consisten en crear imágenes convincentes, aunque completamente falsas, desde cero. Por medio del aprendizaje automático de la inteligencia artificial, se manipulan y generan nuevas imágenes o vídeos a partir de otros y se reemplaza a la persona que aparece en ellos.
El objetivo es generar diferentes imágenes estáticas para crear una secuencia de vídeo, de modo que, como objetivo final, se obtenga un vídeo falso que parezca 100% real.
DEEPVOICES
Este tipo de Deepfakes suplantan la voz de una persona en un audio, haciendo que parezca que la persona realmente algo que no dijo, ya que falsifican su voz real.
En 2019 se produjo el primer delito cibernético por medio de la inteligencia artificial. Unos cibercriminales hicieron creer, utilizando Deepvoices, a un ejecutivo que estaba hablando con el CEO de su empresa, haciendo que les transfiriese más de 250.000 dólares.
¿Cómo se crea y para qué se utiliza un Deepfake?
Hacer un Deepfake es bastante sencillo, si bien, cuantos más conocimientos se tengan, más verídico parecerá el resultado final. Aún así, existen “Deepfakes programs” que realizan las imágenes manipuladas sin prácticamente ninguna intervención, gracias a un software especializado de inteligencia artificial y edición audiovisual.
Estos programas de Deepfakes realizan, con un algoritmo codificador de inteligencia artificial, miles de fotografías de las dos personas. El codificador analiza las similitudes entre las dos caras y las reduce a características compartidas. Viene a ser una especie de "analogía antropomórfica".
Un segundo algoritmo de inteligencia artificial decodifica las imágenes para recuperar la información de los rasgos faciales en ambas caras. Como los dos rostros son diferentes, será necesario utilizar dos decodificadores diferentes, uno para cada imagen.
A continuación, se introducen las imágenes codificadas en el decodificador incorrecto, es decir, se intercambian las imágenes con el decodificador de la otra imagen. El decodificador, por tanto, debe reconstruir la imagen que se quiere crear con las expresiones faciales y movimientos de la otra imagen que este decodificador en concreto se ha encargado de recuperar. De esta forma, el vídeo resultante parece ser 100% real.
Otra forma de realizar Deepfakes es utilizando una red de confrontación generativa (Gan). Esta red confronta dos algoritmos de inteligencia artificial, uno generador (de la imagen falsa, por ejemplo) y el otro discriminador (que introduce la imagen falsa en la secuencia real). Es necesario repetir varias veces el proceso para que el rendimiento de los dos algoritmos mejore y dé como resultado imágenes completamente realistas.
La mayoría de los Deepfakes se originan mostrando al algoritmo muchas imágenes de una persona, que luego usa para generar nuevas imágenes faciales. El resultado es un archivo de vídeo, casi siempre, en el que aparece una persona que se parece y habla igual que la persona real sin serlo.
La firma de inteligencia artificial DeepTrace encontró 15.000 vídeos Deepfake en Internet en septiembre de 2019, el doble de los que había nueve meses antes. El 96% de estos vídeos eran material pornográfico manipulado. ->>Vea más...
FUENTE: Con información de LISA Institute
