Inteligencia artificial y derechos humanos
«La revolución en la que estamos inmersos no es sólo tecnológica, sino también social, y por lo tanto necesita de la creación de nuevas normas sociales»
Ilustración de Alejandra Svriz.
Hace apenas unos días, la Unión Europea (UE) anunció un acuerdo histórico sobre la regulación de la Inteligencia artificial (IA), marcando un hito esperado durante la presidencia del Consejo Europeo por parte de España. Este acuerdo posiciona a la UE como pionera mundial en la protección de los derechos humanos en medio de la revolución tecnológica en la que estamos inmersos. La IA, una disciplina con raíces que se remontan a 1956, ha experimentado un crecimiento exponencial en los últimos años, con aplicaciones tan disruptivas como AlphaFold, o la más reciente ChatGPT. Así, durante el 2023, las búsquedas relacionadas con la IA han aumentado significativamente, casi un 300% con respecto al año anterior y casi un 500% en comparación con cinco años atrás, revelando su impacto generalizado en todos los sectores. La IA, al ser una tecnología transversal, abre inmensas oportunidades transformadoras en áreas como la Salud, Educación, Industria o Finanzas, entre otras, permitiendo enfoques más predictivos, preventivos y personalizados. Gracias a la IA, por ejemplo, tenemos la posibilidad de diagnósticos más precisos y de tratamientos más personalizados, llevándonos a la llamada Medicina 4P (predictiva, preventiva, personalizada y participativa).
La automatización de tareas rutinarias impulsa la eficiencia en diversos campos, permitiendo la automatización de tareas repetitivas y rutinarias en el trabajo de las personas, y liberando tiempo para actividades más creativas y estratégicas, permitiéndonos ser más eficientes en la toma de decisiones.
Pero de la misma forma que crece la aplicación de la IA en diversas áreas, también crece la importancia de abordar los aspectos éticos y de protección de derechos humanos asociados, y ya se empiezan a escuchar voces que demandan un acuerdo a nivel mundial en este ámbito. Por supuesto, es lógico cuando una tecnología ha permeado tan amplia y profundamente en el mundo, pero también el fenómeno tiene que ver con la cada vez más compleja y potente IA actual. En muchas ocasiones el software desarrollado es cada vez más democrático, es decir, su utilización está al alcance de usuarios que no necesitan ser especialistas en IA para manejarlo. Y este aspecto, tan positivo por una parte, tiene también sus contrapartidas. Y así surgen situaciones como el reciente caso en España de grupos de menores que emplearon aplicaciones de IA para generar desnudos falsos de sus compañeras a partir de sus fotografías.
Estos casos, con imágenes manipuladas y compartidas posteriormente en las redes, destacan la necesidad urgente de abordar los desafíos éticos asociados con el uso de la tecnología. Además de las cuestiones relacionadas con la falsificación, este incidente pone de manifiesto otras preocupaciones, como la invasión de la privacidad de las personas afectadas o la responsabilidad en el uso de las herramientas, pero también del desarrollo ético de las mismas. Y nos enseña también que la revolución en la que estamos inmersos no es sólo tecnológica, sino también social, y por lo tanto necesita de la creación de nuevas normas sociales y de un proceso educativo que afronte la situación.
Por lo tanto, el diseño de las aplicaciones de IA teniendo en cuenta criterios éticos es básico, aunque también constituye un desafío y por lo tanto la premisa de la regulación europea en cuanto a que los algoritmos respeten y mantengan los derechos humanos supone un paso muy relevante en el desarrollo y evolución futura de la tecnología.
Hablamos de enfrentar retos como los que tienen que ver con la cantidad y calidad de los datos que alimentan los sistemas de IA, que pueden dar lugar a la aparición de sesgos en estos sistemas, o con el acceso a los mismos, que puede ocasionar problemas de privacidad. Y también hablamos de las situaciones derivadas de la falta de diversidad en los equipos de desarrollo, que puede ocasionar sesgos en la concepción de las propias aplicaciones, como ha sido el caso de los asistentes personales con voz de mujer y personalidad sumisa.
«Es crucial el compromiso de las empresas y de la administración en el uso de la ética en el desarrollo y la aplicación de estas herramientas»
Finalmente, existen otras cuestiones que deben comprobarse para que las aplicaciones de IA sean confiables desde los puntos de vista tecnológicos y éticos, como son la transparencia y auditabilidad de las mismas, para poder ofrecer explicaciones inteligibles desde el punto de vista de los usuarios; la comprobación de que no se dan rupturas de privacidad que puedan revelar datos personales de individuos, y de que no existen sesgos de ningún tipo (por ejemplo en función de raza, religión o género, entre otros). Otras cuestiones relevantes consistirán en cómo identificar el contenido generado por IA, y definir los criterios de responsabilidad y rendición de cuentas en el uso de estas herramientas (es decir, identificar quién(es) deben ser considerados responsables o imputables y en qué medida cuando se produce alguna de estas circunstancias), etc.
Y no menos importante, se está produciendo un cambio en el escenario de empleo, en el que se prevé que la mayoría de los trabajos cambiarán y necesitaremos compartir tareas con las máquinas. Y si bien es cierto que aparecerán nuevos trabajos, también lo es que otros desaparecerán. Este escenario requerirá, además de políticas adecuadas, de cambios en la Educación en todos los niveles.
La UE se ha puesto a la cabeza con este acuerdo que aborda esas cuestiones éticas de las aplicaciones de la IA. Aunque la regulación es imprescindible y el paso no es en absoluto pequeño, es crucial el compromiso de las empresas y de la administración en el uso de la ética en el desarrollo y la aplicación de estas herramientas. Y no lo es menos la importancia de la educación ciudadana sobre el uso responsable de la tecnología en este escenario cambiante, donde políticas adecuadas y cambios en la educación serán esenciales para adaptarse al futuro que estamos configurando.
