Vídeos 'deepfake', el nuevo peligro para la democracia

Quien desató la tormenta fue, sin saberlo, la presidenta de la Cámara de Representantes de Estados Unidos. Un vídeo colgado en Facebook mostraba a Nancy Pelosi durante una entrevista televisiva, pero con la peculiaridad de que estaba editado de modo que se reproducía de forma más lenta, con lo que parecía que Pelosi no solo hablaba más despacio sino que daba la impresión de estar borracha. Después de que se viralizara y de que numerosos usuarios pidieran a la red social que lo retirara por considerarlo un contenido engañoso, la empresa de Mark Zuckerberg decidió mantenerlo. Días más tarde, Internet le dio al magnate a probar de su propia medicina. Fue así como se han popularizado los vídeos deepfake, es decir, construidos digitalmente y que presentan a una persona aparentemente real diciendo cosas que nunca ha pronunciado. O lo que es lo mismo, un vídeo completamente falsificado.

«Imagina esto por un segundo», dice el falso Zuckerberg. «Un hombre con el control total de los datos robados de miles de millones de personas, todos sus secretos, sus vidas, sus futuros. Se lo debo todo a Spectre. Spectre me ha enseñado que quien controle los datos controla el futuro». Salvando la voz, resulta casi imposible decir que quien habla no es el fundador de Facebook. El vídeo lo colgó en Instagram —red social propiedad de Facebook— el artista británico Bill Posters como forma de poner a prueba hasta qué punto eran laxas las políticas de control de las redes del multimillonario. ¿Resultado? El vídeo sigue disponible.

Y no es el único que ha colgado Posters en su perfil. «Ojalá pudiera seguir diciéndote que nuestra misión en la vida es conectar gente, pero no lo es», se le oye decir a un falso Zuckerberg en otro vídeo deepfake. Solo queremos predecir tus comportamientos futuros. Spectre me ha enseñado cómo manipularte para que compartas datos íntimos sobre ti y todos tus seres queridos gratis». Spectre no es otra cosa que el nombre de la instalación artística creada por Posters junto con otro compañero y una empresa publicitaria. En ella también hay vídeos de otros personajes públicos. «Déjame contarte un secreto. ¿Alguna vez te has preguntado por qué soy tan popular? ¿Por mi gran cerebro? Puede. Pero, en serio, son dos cosas, ¿vale? Algoritmos y datos», dice en un tercer vídeo un falso Donald Trump. Y también hay personajes de la cultura pop. «Cuando hay muchos haters, en realidad no me importa porque sus datos me han hecho rica más allá de mis sueños más salvajes», dice por su parte una editada Kim Kardashian. «Mi decisión de creer en Spectre literalmente me ha dado mis ratings y mis fans. Me siento muy afortunada porque de verdad que adoro el proceso de manipular a la gente online por dinero».

Según han contado sus creadores a la web especializada Motherboard, el primer vídeo de Zuckerberg fue hecho con un algoritmo de inteligencia artificial que analizó, durante entre 12 y 24 horas, un clip de vídeo de menos de un minuto en el que aparecía el Zuckerberg real. Sin embargo, para crear uno de estos contenidos, basta con una sola foto.

Aunque es a partir de la polémica con Nancy Pelosi cuando se han conocido estos vídeos, en realidad no son nuevos. Su uso es popular en la industria pornográfica, que, desde hace un tiempo, viene utilizando esta tecnología para insertar caras de personajes famosos en vídeos en los que actúan intérpretes anónimos. Aunque en estos momentos no resulta complicado para un espectador determinar, principalmente por la voz, que el vídeo que tiene delante es deepfake, el peligro de estos contenidos aumentará exponencialmente cuando la tecnología se perfeccione. No resulta descabellado imaginar un futuro en el que un grupo con intereres propios falsifique vídeos en los que aparecen líderes mundiales diciendo aberraciones, pero tampoco cuesta imaginar a políticos tratando de lidiar con unas declaraciones polémicas diciendo sencillamente que son producto de un vídeo deepfake.