Seleccionar página

Deepfake es un tipo de inteligencia artificial que se utiliza para crear engaños de imágenes, audio y video convincentes. El término, que describe tanto la tecnología como el contenido falso resultante, es una  combinación  de  Deep Learning y la estafa.

La misma tecnología, en cambio, ya era utilizada por las grandes productoras audiovisuales para la producción de películas Star Wars e incluso en la serie The Mandalorian en la que se presentó a un joven, Luke Skywalker, aún cuando el actor Mark Hamill, quien le dio vida al personaje tiene más de 70 años de edad.

Actualmente, gracias a la accesibilidad de la Inteligencia Artificial, esta tecnología se ha democratizado y ya son muchos sus usuarios. Entre ellos, David Beckham, que, a través organización benéfica de salud en el Reino Unido usó su propio Deepfake para entregar un mensaje contra la malaria en 9 idiomas.

El problema reside en que los Deepfakes pueden ser creados para suplantar la personalidad de un individuo con la finalidad de engañar o estafar. Ya hay personas que toman la identidad y la voz de personalidades famosas en el mundo del espectáculo e incluso de autoridades para modificar sus discursos, ganar notoriedad e incluso cometer crímenes.

Los Deepfakes podrían usarse para difundir información falsa de una fuente confiable, por ejemplo, con propaganda electoral. El presidente de Ucrania, Volodymyr Zelensky, ha sido también víctima de los Deepfakes en el que supuestamente envía en mensaje a las fuerzas de su país para que se rindan ante el ejército ruso en medio de la guerra entre ambos países en marzo del 2022. Casos extremos como este han llevado a pensar que esta tecnología es disruptiva para la vida moderna.

Otro posible peligro que presentan los deepfakes es que las personas tomarán esos videos al pie de la letra, y después de darse cuenta de que son falsos, dejarán de confiar en la validez de cualquier contenido de video.

Cómo funcionan los Deepfakes

El contenido deepfake se crea mediante el uso de dos algoritmos de inteligencia artificial en competencia: uno se llama generador y el otro se llama discriminador. El generador, que crea el contenido multimedia falso, le pide al discriminador que determine si el contenido es real o artificial.

Juntos, el generador y el discriminador forman algo llamado red adversarial generativa (GAN). Cada vez que el discriminador identifica con precisión el contenido como fabricado, proporciona al generador información valiosa sobre cómo mejorar el próximo deepfake.

El primer paso para establecer una GAN es identificar la salida deseada y crear un conjunto de datos de entrenamiento para el generador. Una vez que el generador comienza a crear un nivel aceptable de salida, los clips de video pueden enviarse al discriminador.

A medida que el generador mejora en la creación de videoclips falsos, el discriminador mejora en detectarlos. Por el contrario, a medida que el discriminador mejora en la detección de videos falsos, el generador mejora en su creación. 

Hasta hace poco, el contenido de video ha sido más difícil de modificar de manera sustancial. Sin embargo, debido a que los deepfakes se crean a través de IA, no requieren la habilidad considerable que se necesitaría para crear un video realista. Esto significa que casi cualquier persona puede crear un deepfake.