Sandy Parakilas, ex Director de Operaciones de Facebook: "Estamos jugando un juego amañado para que perdamos"

Su nombre es Sandy Parakilas, su móvil está en blanco y negro, no usa Facebook, Instagram, Whatsapp, solo usa Twitter y solo de manera profesional. No se comunica con sus amigos a través de las redes sociales, solo usa Signal, una aplicación de mensajería privada, iMessage y los mensajes de texto de los de toda la vida.

Sandy Parakilas no se presenta así… pero podría. Primero, porque es cierto; segundo, porque todo el mundo se lo pregunta; y tercero, porque es particularmente destacable que quien fuera Director de Operaciones de Facebook haya decidido no solo renunciar a la compañía, sino al estilo de vida que promueve, uno en donde tu atención, ese bien cada vez menos atento, es disputado por un sinfín de notificaciones de likes, de vídeos recomendados que se reproducen automáticamente, y de alarmas indicándote que ya has caminado 10mil pasos o que tienes que tomar más agua.

Parakilas ha sido invitado a Madrid por el Aspen Institute y Fundación Telefónica como parte de su ciclo Tech & Society para conversar acerca del escándalo de Cambridge Analytica desde su privilegiada condición de insider. Parakilas trabajó en Facebook entre 2011 y 2012 y su labor diaria consistía en asegurarse de que los desarrolladores asociados a la red social cumplieran con las políticas de privacidad y no hubiese filtraciones. Ahora es jefe de producto en Uber y asesor del Center for Humane Technology (Centro de tecnología humana) desde el cual aboga por el desarrollo de una tecnología más alineada con las verdaderas necesidades de la humanidad.

Hace seis años el panorama digital era complemente diferente. Creo recordar que nos gustaban las redes sociales, o al menos calificaban como «mal necesario» y no como «fuente de todos los males».  Twitter definitivamente no era un ring de pelea 24/7, era más bien un lugar tonto y amable para anunciar que habías llegado al cine o que estabas comiendo chicle. Instagram era realmente ‘insta’ y no tenía anuncios. Facebook todavía parecía tener algo de escrúpulos o por lo menos se molestaba en aparentar ser un lugar lo suficientemente neutral como para contestar quizzes, ver fotos de bodas y bebés, y jugar a ser granjero.

Esa época que parece que sucedió hace una eternidad, en la que Donald Trump no era presidente de Estados Unidos, en la que el Brexit era solo un sueño recurrente de Nigel Farage y en la que las granjas rusas de troles no eran parte de las conversaciones casuales hasta en los bares de pueblo, fue la época en la que Parakilas se unió a Facebook.

*

¿Por qué se unió a Facebook… y por qué se fue?

Estaba increíblemente inspirado por muchas de las cosas que estaban pasando en las redes sociales y, sobre todo, por lo que pensaba que se podía construir con Facebook; una herramienta para fortalecer la democracia y para mejorar el mundo.

Poco a poco me fue frustrando que no priorizaran la privacidad de la gente. En esa época, obviamente, aún no podía saber cómo los datos podían usarse para constituirse en una amenaza para la democracia. Me preocupaba su uso y abuso, pero de una manera más abstracta. Finalmente, después de las elecciones de 2016 en Estados Unidos, se hizo evidente que el mal uso de Facebook, Twitter y Google, tenía mucho que ver en esto y yo empecé a hablar acerca de las cosas que yo había observado y señalado antes en la compañía.

¿Había más personas preocupadas con el asunto de la privacidad, cómo era el ambiente de Facebook en esa época?

Sí, había más gente que le daba vueltas al asunto, pero no se hablaba de eso en la compañía. Ahí la mayor parte de la gente se callaba sus preocupaciones. Honestamente, no teníamos tan claro lo peligroso que era todo este asunto en esa época y, en particular, mi foco estaba puesto en cosas como publicidad engañosa u ofensiva… mis preocupaciones eran teóricas, después de todo. También me generaban alarma que regímenes represivos utilizaran Facebook para localizar a disidentes, por ejemplo, en Siria pero, al final, no había evidencia de que en efecto esto estuviera pasando. Ante la falta de algo concreto sobre lo que trabajar, simplemente advertí lo que pasaba, y esperé que la compañía hiciera un mejor trabajo para proteger los datos y que no se llegase nunca a esos terribles casos hipotéticos… pero eso no pasó. Y llegamos. 

Básicamente sabían que era técnicamente posible que algo así pasara, pero no sabían que iba a pasar o cómo o cuándo…

Creo que es una buena manera de ponerlo, sí. El problema específico con Cambridge Analytica es que Facebook enviaba datos a los desarrolladores sin poder monitorear qué pasaba después con esos datos, y eso era algo que Facebook sabía aún antes de que yo empezara a trabajar con ellos, y es algo que avisé muchas veces y desde muy pronto. Esta vulnerabilidad era grande y era importante. Yo les advertí de una gran cantidad de cosas que podrían pasar a causa de esa vulnerabilidad, pero Facebook no hizo nada al respecto hasta muchos años más tarde. 

Justo después del escándalo de Cambridge Analytica se dice que hay una preocupación general acerca de la privacidad y la seguridad de los datos, ¿es verdad? ¿Hay una preocupación «general»? Después de todo Facebook creció en el primer trimestre de 2018 un 49% más que en el mismo período en 2017, mientras que sus usuarios diarios aumentaron en 50 millones desde diciembre. La campaña #DeleteFacebook, aparentemente, no fue más que un Trending Topic. 

Creo que lo importante, y es algo que mucha gente aún no ha propiamente ‘digerido’, es que los legisladores finalmente están tomándose el tiempo para investigar qué es lo que está pasando. En Reino Unido, por ejemplo, hay un comité que está investigando lo que pasó con Cambridge Analytica y su investigación es bastante profunda. Están yendo más allá de lo que ningún cuerpo regulatorio ha ido hasta ahora en estos asuntos. Han hablado con un montón de expertos, han hablado conmigo, con Cambridge Analytica, con los whistleblowers de Cambridge Analytica, y están exigiendo que Mark Zuckerberg se presente en el Parlamento y si no lo hace voluntariamente, lo citarán. Si alguna vez pone pie en territorio británico básicamente lo arrastrarán al Parlamento a dar explicaciones.

Esto es completamente nuevo. Durante muchísimo tiempo los legisladores no interpelaban directamente a estas compañías, y ante cualquier duda o queja las compañías solo decían «no se preocupen, nos haremos cargo»… y luego no hacían nada. Todo eso ha cambiado. En Europa el cambio ha sido más rápido y más tangible que en Estados Unidos, de hecho. Creo que con la entrada en vigencia del GDPR (General Data Protection Regulation) Europa está a la vanguardia porque tendrá un verdadero marco de trabajo con penalidades reales y aplicables. Este es un cambio significativo… y, sin embargo, es apenas el comienzo. Aún no hemos visto cuáles serán las penas aplicables para muchas violaciones, ni como se aplicarán.

Eso por una parte, por otra parte creo que ha habido un gran cambio en cómo la gente percibe la seguridad de sus datos. En una encuesta en Estados Unidos acerca de cuánto confíaba la gente en estas compañías para proteger sus datos de manera responsable, a finales del año pasado el 79% decía que confiaba en ellas y, tras lo de Cambridge Analytica, esa confianza bajó al 26%. Es un gran cambio de percepción. Claro que eso aún no implica un cambio de comportamiento, pero por lo menos deja ver que la gente entiende que sí que hay un problema del que estar pendiente. Diría que estamos en el comienzo de un proceso en el que entre los gobiernos y los usuarios se conseguirán mejores soluciones para lidiar con este gran problema.

Ahora que justamente habla de GDPR, muchas de las críticas que ha recibido esta nueva legislación es la «vaguedad» del lenguaje. Por ejemplo, se demanda que las empresas empleen los datos de manera «razonablemente» segura. Usted menciona que, en efecto, es un «comienzo», ¿pero es un buen comienzo, es suficiente? ¿Estamos moviéndonos lo suficientemente rápido? ¿Estamos preparándonos para los grandes desarrollos tecnológicos que ya están prácticamente aquí? 

Bueno, creo que todos deberíamos estar preocupados y ser un poco escépticos, porque la verdad es que la cantidad de datos que estamos recolectando está creciendo exponencialmente y las leyes y la tecnología que tenemos para protegernos no, y la distancia entre ambas se hace cada vez más grande. Minuto a minuto.

Hace 5 años, cuando estaba en Facebook, estaba preocupado por cosas que ahora, viéndolo todo con cierta perspectiva, o no eran tan importantes o eran demasiado abstractas como para pensar en el impacto real y en el daño real que podían inflingirle a la sociedad. Apenas cinco años más tarde ya podemos verlo claramente: grandes interferencias en elecciones, genocidio, violencia, todo esto es consecuencia de estas tecnologías… ¿qué veremos entonces dentro de cinco años? La GDPR apenas está entrando, en efecto, y ya mucha gente dice que es demasiado tarde y que no hay nada parecido ni en Estados Unidos ni en otros países. Es absolutamente razonable el escepticismo.

Otra razón para estar preocupado es que la tecnología está avanzando mucho más allá que la recolección de datos. En la medida en la que la Inteligencia Artificial (IA) está haciendo grandes avances en la interpretación de datos, cada vez más compañías están trabajando para implementar IA. Facebook, específicamente está trabajando en el desarrollo de dos tecnologías, cuando menos, alarmantes: una es la habilidad de predecir tus acciones y la otra, la habilidad de leer tu mente. Con la capacidad de leer las ondas cerebrales finalmente puedes controlar tu teléfono, sin siquiera tocarlo… imagínate cuánto abuso puede ser inflingido si tu teléfono está conectado directamente a tu cerebro, imagínate qué puede pasar si podemos predecir lo que vas a hacer y luego manipular tus decisiones. Esto es exponencialmente mucho peor que cualquier cosa que hayamos visto hasta ahora.

Gracias, jamás volveré a dormir en paz.

No quiero asustarte, pero en realidad tiene que ser tomado muy, muy en serio.

Pero precisamente es lo más preocupante, que a la mayor parte de la gente no le importa. No es que no entendamos lo que dicen los «Términos y Condiciones» que aceptamos constantemente sin leer… es que no nos importa. 

Bueno, esas páginas definitivamente no están diseñadas para que las leas, porque no quieren que las leas…

¿Y qué podemos hacer? ¿Dar clases de «Términos y Condiciones» así como estudiamos las leyes y la constitución? 

No creo que esa sea la solución porque el problema es en realidad la falta de leyes y de agentes que hagan a las compañías actuar de forma responsable y de acuerdo a la ley. Si haces que la gente se lea los «Términos y Condiciones» estás haciendo que jueguen un juego que está arreglado para que pierdas. Esos términos están escritos para que accedas a darle a las compañías los derechos para usar tu información, no están escritos para protegerte o para darte opciones. 

Puedes leerte los términos, entenderlos y rehusar usar cualquier producto tecnológico, o aceptarlos a pesar de estar en contra simplemente porque no tienes más opción. Por eso lo que necesitamos es cambiar el juego. En lugar de aceptar participar en un juego que está amañado para que pierdas, hay que cambiar las reglas del juego. Esa es una de las cosas que espero que pasen con la entrada en vigor de la GDPR que, finalmente, se especifican una serie de derechos digitales con respecto a los datos y que, finalmente, habrá un ente que hará que las compañías cumplan con esta serie de regulaciones. Esto es increíblemente importante porque implica que hay un grupo grande de gente en la Unión Europea que está preocupada por este asunto y que se puso en acción y puso sus reservas por escrito y en forma de leyes.

Nosotros, como usuarios, estamos en una posición muy débil cuando se trata de negociar con gigantes tecnológicos, pero si todos los usuarios nos juntamos y exigimos leyes que nos protejan y gobiernos que se encarguen de hacer cumplir esas leyes, los gobiernos tendrán que aplicar la capacidad técnica de monitorear a estas compañías para saber si están actuando de acuerdo con las reglas y, poco a poco, se irá aumentando la presión a las compañías que a su vez tendrán que redactar «Términos y Condiciones» que sean más justos.

Eso por una parte, por otra parte, hay que recordar que el modelo de negocios de estas compañías no es ayudarte a proteger tus datos, es incentivar que compartas la mayor cantidad de datos posibles para que ellas los compilen y los puedan vender a los anunciantes. Esa relación no es nada sana. Podrías decidir dejar las redes sociales y jamás hacer una búsqueda más en Internet, pero honestamente, si quieres ser un ciudadano activo y comprometido no tienes realmente opciones. Todas las acciones que podemos tomar pasan primero por los gobiernos aplicando presión.

¿Y confías en que los gobiernos harán un buen trabajo, por ejemplo en Estados Unidos? ¿Podría ser este el punto en el que confluyan los esfuerzos de demócratas y republicanos?

Sí, creo que es un asunto que tiene que ser tratado por nuestros dos grandes partidos, y creo que ese razonamiento se aplica a cualquier país, porque este es un asunto fundamental y urgente. En Estados Unidos hemos visto que hay preocupación en ambos lados, tanto del demócrata como del republicano, y que esas preocupaciones son expresadas de manera diferente, pero todas confluyen en el mismo sitio que es la asimetría entre el poder que tienen estas compañías y el de sus usuarios. Estas compañías saben todo acerca de ti, y tú no sabes nada de ellas, y ellas están usando la información que manejan para manipularte.

En Estados Unidos el lado conservador está preocupado por la imparcialidad política, y es una preocupación válida porque, al final, no sabemos cómo se prioriza la información que vemos en los newsfeeds, mientras que los liberales están preocupados por la privacidad y la protección de los derechos del usuario.

Las reservas son compartidas y ambos lados están preocupados y están involucrándose. Lo que aún no estamos viendo es un frente unificado de consumidores, de todos los partidos y de todos los países, gente que levante su voz y diga que el sistema no funciona, que el sistema está roto y que como ciudadanos y usuarios merecemos derechos, compañías que los respeten y gobiernos que hagan obedecer esos derechos.

Una de las cosas que causó revuelo en la aparición de Mark Zuckerberg ante el Senado de Estados Unidos fue la posición débil que mostraron muchos legisladores al preguntar -repetidas veces- si le gustaría cambiar o si estaría de acuerdo con un cambio de legislación, como si necesitaran la aprobación de Facebook para legislar ¿Le pareció débil la actuación del Senado?  

Totalmente. Los gobiernos deberían escribir leyes para proteger a sus ciudadanos y hacerlas cumplir. Hay una cantidad de investigaciones en Estados Unidos y en Reino Unido y cuando estas investigaciones concluyan, si se demuestra que Facebook y otras compañías rompieron y siguen rompiendo la ley, espero que se genere una combinación de indignación social y de indignación gubernamental por el hecho de que hemos sido engañados por estas compañías y, finalmente, se cambie la conversación de: «¿Considerarían apegarse a las leyes?» a «Vosotros no estáis respetando la ley, ahora la vamos a escribir nosotros, os la vamos a imponer y nos aseguraremos de que la respetáis porque la gente necesita protección».

Y en parte eso es lo que hacéis con el Center of Humane Technology, ¿tratar de que la gente se dé cuenta de que sus teléfonos han tomado el control de sus vidas?

Hacemos una serie de cosas, desde la promoción pública de nuestro trabajo y de nuestra filosofía, como este evento, hablamos con los medios e intentamos encontrar maneras de que la gente se involucre más en estos asuntos, esto incluye charlas, talleres. Asesoramos a gobernantes, legisladores, políticos, sobre estos retos a los que nos enfrentamos y cómo podemos defender nuestra privacidad, nuestros datos y nuestro tiempo. Esto lo hacemos principalmente en Estados Unidos, pero también en Europa, cada vez más, y esperamos empezar a visitar pronto otras partes del mundo.

Además, como todo el mundo en la compañía tiene un background tecnológico, aunque somos una organización aún muy pequeña tenemos programadores, diseñadores, gente de producto, también estamos desarrollando apps y tecnología con la que le queremos demostrar al mundo cómo la tecnología puede estar mejor alineada con las necesidades de la humanidad.

*

Sandy Parakilas, junto al resto del equipo del Center for Humane Technology, realmente confían en que lograremos darle un uso diferente a la tecnología, uno que nos permita unirnos para poder resolver los otros retos a los que se enfrenta la humanidad (desde el calentamiento global hasta la pobreza o la crisis de refugiados, elijan el que quieran) y que requieren que seamos un frente humano unido, no millones de frentes ofendidos, enfrentados y concentrados en consumir anuncios.

Aquí la charla de Sandy Parakilas en Madrid.