China desarrolla una IA para detectar críticos del Gobierno antes de que se manifiesten

La empresa china Geedge Networks está intentando desarrollar una tecnología basada en inteligencia artificial (IA) que permitiría a los Gobiernos autoritarios vigilar a los disidentes y predecir quién podría convertirse en uno de ellos en el futuro. El proyecto se encuentra aún en fase de investigación y plantea un mundo en el que un Estado autoritario es capaz de actuar contra sus ciudadanos antes incluso de que estos manifiesten cualquier tipo de oposición.

La compañía vende una tecnología inspirada en el Gran Cortafuegos de China, el sistema que utiliza Pekín para vigilar y limitar la actividad en internet. Estas herramientas permiten a los Gobiernos controlar el tráfico digital y detectar cuando alguien intenta acceder a contenidos bloqueados o eludir mecanismos de censura.

Según investigadores de la Universidad de Vanderbilt, uno de los centros privados más prestigiosos de Estados Unidos, la empresa está trabajando en nuevos productos que utilizan IA para examinar datos de ubicación y uso de internet con el fin de predecir quién podría hacer o decir algo crítico con el Gobierno.

«La combinación de vigilancia masiva e inteligencia artificial conduce a este tipo de escenarios», señaló Brett J. Goldstein, director del Laboratorio de Problemas Complejos del Instituto de Seguridad Nacional de Vanderbilt. «La experiencia china muestra los riesgos de emplear estas tecnologías sin mecanismos de control. Lo que hoy ocurre allí podría reproducirse en cualquier otro lugar si estas herramientas se utilizan sin una supervisión adecuada».

El avance de la empresa podría haberse visto afectado por los controles a la exportación de chips estadounidenses para inteligencia artificial impuestos durante la Administración Biden. Esto apunta a que las restricciones de Washington podrían estar dificultando el desarrollo en China de una nueva generación de tecnologías de vigilancia.

Durante los primeros meses de 2024, los investigadores de la empresa ya estaban trabajando en la creación de perfiles de comportamiento a partir de datos de telecomunicaciones, actividad en redes sociales e información de geolocalización. Para ello empleaban modelos de IA capaces de clasificar a los ciudadanos y detectar lo que denominaban «información perjudicial».

Estados Unidos contra China para «ganar la carrera de la IA»

Estados Unidos pretende «ganar la carrera de la IA» con su Plan de Acción de Inteligencia Artificial. El Plan buscaría impulsar la innovación, eliminando las regulaciones que «obstaculizan el desarrollo» y defendiendo la «libertad de expresión» en los modelos. La ONU advierte sobre la necesidad de una regulación global para evitar desigualdades.

El Plan describe una estrategia con la que se pretende «la eliminación de barreras al liderazgo estadounidense en IA», dando comienzo a una «nueva era dorada» de competitividad económica y seguridad nacional para los estadounidenses.

Este plan se basa en más de 90 acciones de política federal estadounidense recogidas en tres principales puntos: acelerar la innovación, construir infraestructura de IA en EEUU y liderar en diplomacia y seguridad internacional, según la Administración Trump.

Con ello, el Gobierno estadounidense se asociará con la industria para la exportación tanto de hardware, como de modelos de IA, software, aplicaciones y estándares a sus «aliados» a nivel global. También aboga por promover la rápida construcción de centros de datos, «agilizando y modernizando los permisos» para crear estas infraestructuras, así como fábricas de semiconductores.

Por su parte, China también ha compartido recientemente su posición con respecto a la regulación de la IA. En concreto, el primer ministro de China, Li Qiang, ha propuesto la creación de una «organización global de cooperación» sobre inteligencia artificial para establecer un marco internacional formado por reglas de amplio consenso para «guiar el desarrollo y uso de la IA».

Este enfoque se debe al nivel de penetración de la IA en la vida cotidiana y en varias industrias globalizadas, que ha generado tanto «un nuevo motor para el crecimiento económico» como una «preocupación generalizada por los riesgos y desafíos que plantea».

Por tanto, ha señalado la urgencia de fomentar un mayor consenso sobre «cómo lograr un equilibrio entre desarrollo y seguridad». «No importa cómo se transforme la tecnología, debe seguir siendo una herramienta que los humanos puedan aprovechar y controlar», ha sentenciado Qiang.

Con todo ello, la ONU ha puesto sobre la mesa la importancia de la cooperación para mejorar en tecnologías de IA de forma segura. «[Está] el enfoque de la UE. [Está] el enfoque chino. Ahora [se está viendo] el enfoque estadounidense […]. Lo que se necesita es que esos enfoques faciliten el diálogo».