Sumar pide cuentas a Defensa por «contratos millonarios» de IA con Palantir Gotham

El portavoz de Izquierda Unida en el Congreso y diputado de Sumar, Enrique Santiago, ha pedido cuentas este lunes en la Cámara Baja al Ministerio de Defensa por «los contratos millonarios y sin publicidad» firmados con Palantir Technologies Gotham, una empresa ligada a la inteligencia estadounidense que se ha convertido en una de las compañías de software más influyentes en defensa y datos.

Durante su intervención en la Jornada sobre Inteligencia artificial y el futuro del trabajo, Santiago ha mostrado la preocupación de su grupo parlamentario por las situaciones de «alta sensibilidad» y la «creación» de conflictos éticos, sociales, políticos y bélicos que está provocando «el rápido avance» de la Inteligencia Artificial (IA) generativa.

Pero, sobre todo, por su «falta de regulación», lo que está generando una «proliferación de bulos e imágenes falsas» y está poniendo sobre la mesa que la IA es «una sofisticada herramienta de desinformación» que está siendo utilizada por «grupos radicales de extrema derecha» para difundir imágenes «manipuladas» que afectan a cuestiones como la violencia de género, la generación de materiales pornográficos e incluso la participación política.

En este sentido, Santiago ha recordado que Sumar presentó ya al inicio de la legislatura una iniciativa en el Congreso para precisamente regular la utilización de la IA en procesos electorales y sus consecuencias, tanto en el ámbito penal como en el ámbito político.

Su uso en conflictos armados

El diputado de Sumar ha advertido de los riesgos para la democracia que puede tener el uso de la IA en las elecciones, pero también de los otros usos que ya se están dando y que están afectando a escenarios de perpetración de crímenes internacionales, violaciones de derechos humanos y, por supuesto, conflictos armados.

Y es que, según ha explicado, la IA se está usando como software de análisis masivo de datos para la identificación de objetivos militares en conflictos como en Gaza y en Afganistán, lo que «en muchos casos» está provocando crímenes contra el derecho internacional. A su juicio, «probablemente también se utilizaron herramientas de IA en la intervención estadounidense en Venezuela, que acabó con el secuestro de su presidente, Nicolás Maduro».

Enrique Santiago ha subrayado que la Comisión de Derecho Internacional Humanitario de Naciones Unidas activó un mecanismo de investigación ante la posible utilización de armas hasta ahora desconocidas, para apuntar que «no cabe ninguna duda de que el sistema Smart System de Palantir ha sido utilizado en la campaña Furia Épica de Estados Unidos contra Irán».

Su uso militar es «inevitable»

Aunque ha reconocido que el uso militar de la IA es «inevitable», el diputado de IU ha apuntado que le preocupa la utilización que se pueda estar haciendo en materia de seguridad y defensa en España, donde, según ha destacado, «ha habido ya contratos millonarios sin publicidad del Ministerio de Defensa para la utilización de herramientas de Palantir».

De hecho, el Ministerio de Defensa ha adjudicado contratos por decenas de millones de euros para implantar este tipo de sistemas de análisis de datos, destinados a mejorar la inteligencia operativa y la toma de decisiones en entornos militares .

Es por ello que Sumar ha solicitado una reunión de la Comisión de Gastos Reservados del Congreso —más conocida como Comisión de Secretos Oficiales— para que el Gobierno exponga a puerta cerrada todos los detalles sobre este tipo de contratos porque, «más allá del gasto económico», quieren saber especialmente «qué es lo que se está automatizando en los sistemas de defensa o de seguridad» en España.

Y es que, ha concluido, «en muchos casos» estas herramientas de la IA, que ya son utilizadas por agencias estadounidenses contra la inmigración, son «códigos no abiertos que probablemente permitan el acceso de las empresas tecnológicas a información del Estado y personal de los ciudadanos sin la debida garantía» por parte de nuestro país.