Facebook tras una misión casi imposible: rastrear el origen de los deepfakes
Foto: Annie Spratt| Unplash

Futuro

Facebook tras una misión casi imposible: rastrear el origen de los deepfakes

Una investigación promovida por la empresa de Mark Zuckerberg busca no solo identificar el origen del engaño, sino encontrar a los autores que generan estas imágenes falsas

por Jován Pulgarín

Los deepfakes podrían generar carcajadas, como lo hemos visto en algunos vídeos en los que el rostro de un actor es suplantado por el de otros colegas. Pero tal tecnología tiene otra cara: en manos equivocadas, facilita el engaño. Por eso Facebook se ha puesto una meta realmente ambiciosa: identificar deepfakes y rastrear su origen.

El término deepfakee es la unión de dos conceptos: aprendizaje profundo (deep learning) y falso (Fake). Es decir, la generación de falsedades a través de la Inteligencia Artificial (IA). En la práctica, se trata de superponer el rostro de una persona en otra, haciéndole creer al espectador que quien aparece en la imagen es alguien diferente al original.

Aunque pareciera un simple juego, ya es un tema de debate mundial, pues se presta, en algunos casos, para prácticas que coquetean con el delito y son denigrantes, como el sexo no consentido: en las páginas de pornografía abundan vídeos en los que las actrices de la industria para adultos fueron suplantados por rostros conocidos, como los de Gal Gadot o Scarlett Johansson.

Uno de los primeros deepfakes famosos fue el de Barack Obama llamando “idiota” a Donald Trump. La ‘treta’ fue creada por el actor y director de cine Jordan Peele («Get Out»), con la intención de generar “conciencia” sobre el peligro de nuestra era informativa y la facilidad para la manipulación. De hecho existen aplicaciones como FakeApp, Faceswap, Deep Nostalgia y muchas otras que facilitan estas creaciones y funcionan tan bien que los resultados podrían confundir a cualquiera.

Para Facebook no es un gran problema por ahora, pero está financiando una investigación para protegerse contra futuras amenazas, según publicó en su blog este 16 de junio. De allí que se unió con la Universidad Estatal de Michigan (MSU) para aplicar ingeniería inversa: analizar imágenes generadas por IA para revelar características de identificación del modelo de aprendizaje automático que lo creó. En castellano: la empresa de Mark Elliot Zuckerberg desea rastrear a quienes difunden deepfakes en sus diversas redes sociales.

Aunque se encuentra en la etapa de investigación, el proyecto pretende identificar los «rasgos arquitectónicos» (conocidos como hiperparámetros) de modelos desconocidos, para posteriormente distinguirlos entre los patrones que quedan en la imagen final.

Identificar los rasgos de modelos desconocidos es clave, dicen los expertos, porque el software para generar deepfakes es extremadamente fácil de personalizar. Esto potencialmente permite que los creadores de estos contenidos cubran sus rastros si los investigadores estuvieran tratando de rastrear su actividad.

«Supongamos que un mal actor está generando muchos deepfakes y los carga en diferentes plataformas para distintos usuarios. Si fuese un nuevo modelo de IA que nadie vio antes, poco podríamos decir al respecto en el pasado. Pero ahora podemos manifestar: ‘Mira, la imagen que se cargó aquí, y la imagen que se cargó allí, provienen del mismo modelo’. Y si logramos apoderarnos del portátil u ordenador utilizado para generar el contenido, seremos capaces de decir: ‘Este es el culpable'», dijo Tal Hassner, el líder de investigación de Facebook a The Verge.

Pero esto es aún un camino por recorrer. Cuando Facebook celebró una competencia de detección de deepfakes en 2019, el algoritmo ganador solo pudo captar videos manipulados por IA el 65,18% de las veces. Los investigadores involucrados dijeron que reconocer deepfakes usando algoritmos sigue siendo un «problema sin resolver».

Debido a que el campo de la IA generativa es extremadamente activo, todos los días aparecen nuevas técnicas, lo que dificulta que un filtro se mantenga actualizado y los involucrados en la investigación son muy conscientes de esta dinámica. «Este es un juego del gato y el ratón, y sigue siendo un juego del gato y el ratón», concluyó Hassner.