FaceApp y su disculpa por el filtro "racista" que aclara la piel (y quita las gafas)

La aplicación FaceApp te pone una sonrisa en la cara y si quieres, también te puede aclarar el tono de la piel para que parezcas más «sexy» (siempre bajo criterios de la aplicación móvil, claro). Todo esto no ha tardado en provocar un revuelo en la red cuyos usuarios acusan a la compañía de haber creado un filtro «racista», según publica la BBC.

FaceApp puede modificar tu fotografía haciéndote parecer más viejo, cambiando tu género e incluso hacer que parezcas «más atractivo» o «más atractiva». Para ello, la app hace uso de un complejo sistema de Inteligencia Artificial y redes neuronales que han resultado ser algo «racistas». Así, cuando los usuarios con tonos de piel más oscura aplicaban el filtro ‘hotness’ a las imágenes, FaceApp directamente aclaraba sus caras. Otro detalle: si llevas gafas, también te las quita.

#faceapp isn’t’ just bad it’s also racist…🔥 filter=bleach my skin and make my nose your opinion of European. No thanks #uninstalled pic.twitter.com/DM6fMgUhr5

— Terrance AB Johnson (@tweeterrance) 19 de abril de 2017

#Repost @happyutensil with @repostapp ・・・ That moment when you’re watching @desusandmero on @viceland before bed and @kharyrandolph pops up on your screen. #atleasthelookssassy

Una publicación compartida de Khary Randolph (@kharyrandolph) el 25 de Abr de 2017 a la(s) 8:17 PDT

#FaceApp Apparently the «hot» filter just makes me paler widens and takes off my glasses? Just looks weird lol pic.twitter.com/o7MVu8PNsG

— Cait🍁 (@Caitofthenorth) 25 de abril de 2017

So I downloaded this app and decided to pick the «hot» filter not knowing that it would make me white. It’s 2017, c’mon guys smh#FaceApp pic.twitter.com/9U9dv9JuCm

— Shahquelle L. (@RealMoseby96) 20 de abril de 2017

This app is so sexist/racist/ageist – it didn’t turn me black, old or female! 😀 #FaceApp #FirstWorldProblems pic.twitter.com/l6U0dv96Yq

— Ben Morris (@ben_morris_it) 25 de abril de 2017

Ante todo este escándalo, el CEO y fundador de FaceApp, Yaroslav Goncharov no ha tardado en pedir disculpas por el algoritmo racista. «Estamos profundamente arrepentidos por este problema incuestionablemente serio. Es un efecto secundario desafortunado de la red neuronal subyacente causada por el sesgo del sistema del entrenamiento, [que ha provocado] un comportamiento no previsto», aseguró, añadiendo que «para mitigar el problema, hemos renombrado el efecto para excluir cualquier connotación positiva asociada con él. También estamos trabajando en el arreglo completo que debe llegar pronto». Dicha «red neuronal» es un sistema informático basado en el cerebro humano y el sistema nervioso. De momento, el filtro ‘caliente’ ha sido renombrado como ‘spark’ o ‘chispa’, en castellano.

Más acusaciones de racismo en la red

Pero FaceApp no ha sido la única aplicación acusada de ser racista en las redes. Algo parecido le ocurrió a Snapchat con el llamado «yellowface» que hacía una especie de caricatura «racista» con las personas asiáticas. O así es como se vio en las redes. Con este filtro, la aplicación añadía ojos entrecerrados y sonrientes a los usuarios. Solo unas horas después de lanzarlo, las redes echaban humo: esta lente se calificó como «cara amarilla» o «yellowface» en referencia a la práctica de poner a actores no asiáticos muy maquillados para que puedan representar a una persona asiática, algo considerado por muchos como racista. La compañía no tardó ni 24 horas en retirar este nuevo filtro.

Why do I get the feeling snapchat is being racist again pic.twitter.com/gWYxRU4Z99

— AFKaymook (@k_mukai) 9 de agosto de 2016

Dear @Snapchat , thanks for the overly-racist new filter…when can we expect Blackface? pic.twitter.com/vKZn18NDYM

— Brian (@bkisnah) 9 de agosto de 2016

Solo unos meses antes del «yellowface», Snapchat también fue acusado de racista por crear una lente para transformar la cara de la gente en la de Bob Marley. El nuevo filtro agregaba rastas, una gorra, oscurecía la piel, cambiaba la forma de los ojos… De nuevo Twitter fue el arma utilizada contra el calificado «blackface» o práctica ofensiva de pintar la cara de color negro. Sanpchat dijo entonces que el filtro fue creado precisamente para lo contrario: para rendir homenaje a la vida y música de Bob Marley.

I am not here for the #blackface filter @Snapchat has today. Until I see an apology or a statement I am done with @Snapchat! ✌🏿️✊🏿

— Rob (@itMUSTbeROB) 21 de abril de 2016

#blackface isn’t cool, Bon Marley was more important than just weed, and that snapchat was fugly.

— Lindsay (@Lindsaywhoa) 21 de abril de 2016

In 4/20 tribute, #Snapchat’s #blackface #filter pisses off everybody @Recode https://t.co/Tp8Z3YpElR

— hurra.com (@hurracom) 21 de abril de 2016