'The Social Dilemma': bienvenido al capitalismo de la vigilancia

Hace apenas dos años tuve la oportunidad de conversar con Sandy Parakilas, ex Jefe de operaciones de Facebook y uno de los entrevistados en ‘The Social Dilemma’, en la Fundación Telefónica, luego de aquella conversación añoré el tiempo en el que las redes sociales, ya despojadas de algunas capas de inocencia y tecno-optimismo, eran vistas un mal necesario, pero no como la fuente de todos los males. Releyendo la pieza solo dos años más tarde, ahora añoro esa época en la que las redes sociales, justo después de que estallara el escándalo de Cambridge Analytica, eran una fuente infinita de discordia y un peligro para la democracia, pero el común de los mortales aún no habíamos entendido que en realidad estábamos en los albores de un nuevo sistema que nos cambiaría la vida.

Si bien ya cubríamos con un trozo de cinta la cámara del ordenador y del móvil, que es un poco el equivalente a nivel individual de la RGPD Europea, aún faltaban algunas piezas del puzle que desvelaran completamente «the big picture» y es que este sistema, el capitalismo de la vigilancia, como afirman sus creadores en el documental, es una amenaza existencial que alimentamos entre todos para contribuir a la destrucción de nuestros vínculos, sociedades, sistemas políticos, planeta, certezas, personalidades, y en definitiva, la destrucción de nuestro ser, de nuestra voluntad, de nuestra capacidad de gestionar emociones sin un chupete digital que nos calme con likes y vídeos relacionados cada vez que nos sentimos solos, deprimidos o angustiados.

El documental de Jeff Orlowski es una pieza eficiente (a pesar de sus lamentables momentos de ficción simplificadora «for dummies») en acercar al gran público al ecosistema digital en el que nos encontramos, uno que no se parece para nada a las películas distópicas de los 80s y los 90s —no hay Terminators, solo pantallas—, y tampoco se parece a Wall-e, porque aquellos humanos gordos que se limitaban a existir a base de comida rápida extragrande y entretenimiento en sus pantallas… por lo menos lucían felices. Si algo deja claro el documental de Orlowski es que la adicción y la violación a la privacidad son funcionalidades y no fallas del sistema.

Otro punto de The Social Dilemma que resulta afiladamente esclarecedor, es la simplificación extrema de la frase si algo es gratis, el producto eres tú, un cliché que viene del mundo de la publicidad en otros formatos y tiempos. Cuando nos referimos al ecosistema digital el tema es mucho más complejo, porque como apunta Jaron Lanier, autor de Diez razones para borrar tus redes sociales de inmediato, el producto es el cambio ligero, imperceptible, gradual, en tu propio comportamiento y tu percepción. Sí, de tres horas en Instagram no se sale igual que como se entra. Ese nuevo tú, adicto, consumidor, intolerante, dismórfico, ese el producto.

En La era del capitalismo de la vigilancia —que sincronizadamente sale a la venta el 29 de septiembre en España—, Shoshana Zuboff, describe al capitalismo de vigilancia como un sistema que además de abandonar las reciprocidades del capitalismo con las personas y la sociedad, exige libertad sin obstáculos y conocimiento total para imponer una visión colectivista totalizadora de nuestra vida con capitalistas de vigilancia y su sacerdocio de datos a cargo de toda supervisión y control. Es un golpe dado desde arriba, pero no como un derrocamiento del estado, sino más bien como «un derrocamiento de la soberanía del pueblo y una fuerza prominente en la peligrosa deriva hacia la desconsolidación democrática que ahora amenaza a las democracias liberales occidentales».

… y hablando del modelo de extracción de atención

No se puede dejar de mencionar que es irónico —por usar un educado eufemismo— que Netflix, que es citado por las mismas redes sociales (y los periódicos, y la TV abierta, y tu madre, y tus pastillas de melatonina) como su competencia directa, y que se vale de absolutamente todos los trucos en la bolsa para no dejar escapar tu atención ni un instante (y tus datos, mucho más ahora con sus nuevas apuestas interactivas) sea quien produce este documental. Tal vez como todos los ex-súper directivos que aparecen en el documental, lo hará para distanciarse del problema que han causado y/o del que se han beneficiado mientras señalan a «los otros» con superioridad culposa… pero superioridad al fin.

Para mi, uno de los momentos más gloriosos de la experiencia del documental fue justo al final cuando segundos después de que Jaron Lanier adviertiese: «no hagáis clic en ningún contenido recomendado porque estaréis cayendo en la trampa», el algoritmo de Netflix diligentemente me sugirió un documental sobre el Challenger, The Big Bang Theory y la película de LEGO (¿en serio?).

Pensamiento crítico para una realidad compleja

La simplificación de mensajes nos inclina hacia el sectarismo. Es comodísimo estar en poder de la verdad. Pero si ya estás aquí, con más preguntas que respuestas pre-fabricadas, y luego de haber visto The Social Dilemma estás interesado en saber más acerca de ese iceberg gigantesco llamado capitalismo de vigilancia al que nos dirigimos a toda velocidad, hay ciertas lecturas que merecen tu tiempo. Muchas las hemos reseñado por aquí. Todas son interesantísimas, sí, pero también largas, lentas, dolorosas, todas exigen de ti tiempo y ganas de dudar y nadie te va a dar like cuando llegues al final… pero, con algo de suerte, cada vez te importará menos.

El filtro burbuja. Cómo la red decide lo que leemos y lo que pensamos, de Eli Pariser

Editorial Taurus, 2017.

Tan vigente hoy como en 2017, en este ensayo, Eli Pariser analiza cómo en una era en la que el intercambio de información debería ser la base de la experiencia compartida los algoritmos que nos sirven solo aquello que nos gusta actúan como una fuerza centrífuga que nos separa.

Diez razones para borrar tus redes sociales de inmediato, de Jaron Lanier

Editorial Debate, 2018.

Un manifiesto de libertad en el que luego de explicar exhaustivamente cómo funcionan estos algoritmos que amplifican las emociones negativas en pro de la viralidad, Lanier simplemente sugiere que seamos más gato, es decir, más independencia y menos salivar cuando escuchas la campana de la notificación: “La mejor manera en que puedes ayudarnos no es atacando a quienes te manipulen a distancia, sino sencillamente liberándote a ti mismo”.

Armas de destrucción Matemática. Cómo el Big Data aumenta la desigualdad y amenaza la democracia, de Cathy O’Neil

Editorial Capitán Swing, 2018.

Cathy O’Neil, a quien también habrás visto en The Social Dilemma, expone en este ensayo los modelos que dan forma a nuestro futuro, como individuos y como sociedad, y cómo un algoritmo es capaz de arruinarte la vida (a menos claro que seas un varón, blanco, de clase privilegiada).

El enemigo conoce el sistema, de Marta Peirano

Editorial Debate, 2019.

En la escena local, Marta Peirano ha hecho un recorrido exhaustivo y muy interesante por la historia de la Internet completica. Desde ARPA (que es como la Roma de la era digital) hasta nuestros vigilantes días. Orígenes, protagonistas, alarmas no escuchadas y cómo se logró instaurar «un modelo de negocio en el que las principales empresas se hacen multimillonarias explotando trabajo no remunerado y espiando a millones de personas desprevenidas» sin a que a nadie le parezca un escándalo.

La nueva edad oscura, de James Bridle

Editorial Debate, 2020.

Ahondando en diferentes disciplinas, Bridle advierte que ese futuro que nos prometieron en el que el conocimiento sería  amplificado y democratizado por la tecnología se va pareciendo más a lo contrario y que avanzamos (¿retrocedemos?) a pasos agigantados hacia una era de incertidumbre, algoritmos predictivos y minuciosos sistemas de vigilancia. «Cuanta más información producimos sobre el mundo, menos somos capaces de entenderlo”.

Comerciantes de atención. La lucha épica por entrar en nuestra cabeza, de Tim Wu

Editorial Capitán Swing, 2020.

En este ensayo, Tim Wu, abogado, profesor de la Universidad de Columbia y columnista en The New Yorker, describe los procesos a través de los cuales los comerciantes de atención se dedican a captar y mercantilizar nuestra atención para venderla al mejor postor. Fátima Elidrissi conversó con él: “No hemos hecho nada con el problema de la vigilancia, una herramienta que aumenta la efectividad del secuestro de atención. La RGPD, la nueva ley de protección de datos europea, resultó estar ya obsoleta cuando se escribió. Abordaba el problema equivocado porque se preocupada del uso de datos, pero no hacía nada con la recolección. Por desgracia, aunque la Unión Europea es más consciente de estos problemas, la respuesta fue inefectiva”.

La era del capitalismo de la vigilancia, de Shoshana Zuboff

Editorial Paidós, 2020.

Ha tardado en ser traducido al español (el libro fue publicado en inglés a comienzos del 2019), pero finalmente helo aquí. Zuboff hace uno de los repasos menos edulcorados y más inquietantes del poder instrumental del capitalismo de la vigilancia, su migración del mundo virtual al real, y del nivel individual al social, y sus profundas amenazas, entre las que se cuenta nada menos que el derecho al «tiempo futuro». Zuboff, explica cómo los estragos que el sistema infringe en la voluntad, el comportamiento y la naturaleza humanas representan un ataque a la capacidad del individuo para imaginar, pretender, prometer y construir un futuro. Y además, pregunta y responde una pregunta fundamental: ¿Cómo se han salido con la suya?