El Gobierno destinará cinco millones de euros a controlar los algoritmos de empresas y redes sociales
Aunque el objetivo es auditar los algoritmos, la realidad es distinta si hablamos de empresas o redes sociales, puesto que la ley no puede obligarlas a lo mismo
Jesús Hellín (Europa Press)
El Gobierno ha llegado a un acuerdo con Más País en el que se compromete a impulsar una ley para crear la que se llamará Agencia Española de Supervisión de Inteligencia Artificial, para lo que contará con cinco millones de euros, ya incluidos en los Presupuestos Generales del Estado de 2022. Esto, traducido, quiere decir que se creará una agencia pública que auditará los algoritmos de redes sociales, empresas y administraciones públicas. O al menos ese es el objetivo, porque con las redes sociales no lo va a tener tan fácil.
«Esta agencia actuará con plena independencia orgánica y funcional de las Administraciones Públicas, de forma objetiva, transparente e imparcial, llevando a cabo medidas destinadas a la minimización de riesgos significativos sobre la salud y la seguridad de las personas, así como sus derechos fundamentales, que puedan derivarse del uso de sistemas de inteligencia artificial». Eso dice la enmienda que Más País ha pactado con el Gobierno, pero ¿en qué se traduce esto?
Aunque el objetivo es auditar los algoritmos que afectan al usuario, la realidad es distinta si hablamos de empresas, administraciones públicas o redes sociales, puesto que la ley no puede obligarlas a lo mismo.
Con las redes sociales, informes
Con las redes sociales, la auditoría del algoritmo no es posible, explica Héctor Tejero, diputado y coordinador político de Más País. «El problema que suelen tener estas empresas es que no quieren ceder el código de los algoritmos», afirma en declaraciones a THE OBJECTIVE. Al no ser empresas españolas, tampoco se les puede obligar a que entreguen esa información. Por tanto, lo que Más País propone respecto a las redes sociales es «no tanto auditar los algoritmos, que no se puede, sino emitir informes». Es decir, la agencia sería en este caso una herramienta de información, no de acción. Así, el objetivo es emitir «informes independientes» y que no haya que depender de la información que publican las propias redes sociales. Tejero lo compara en este caso con organismos como la CNMC o AIReF.
Con las empresas, control
Si hablamos de algoritmos que usan las empresas con sus trabajadores, como para procesos de contratación o de control laboral, esta agencia sí tendría más poder que con las redes sociales, puesto que el Estatuto de los Trabajadores ya obliga a las compañías a facilitar esta información a los representantes sindicales.
«Si hay un problema, si el sindicato dice que el algoritmo es discriminatorio, tendrá que haber alguien que emita un informe», señala Tejero. Y ahí es donde quieren que entre esta agencia, en «el proceso de negociación o auditoría del algoritmo».
Este punto está estrechamente relacionado con la llamada Ley Rider, aunque no afecta solo a estos empleados, sino que se aplica a todos los trabajadores. «Un segundo punto de la ley, que era menos conocido pero de más implicaciones legislativas porque afecta a todos los trabajadores, establecía que todas las empresas que manejen algoritmos que controlen la contratación o en qué puesto de trabajo te van a poner están obligadas a darle esa información a los representantes sindicales», recuerda Tejero. «Lo que nosotros proponemos es que la agencia participe en ese proceso de auditoría».
Ahora, queda establecer exactamente qué información puede solicitar esta agencia a las empresas y qué parte están estas obligadas a proporcionar.
La independencia del organismo
«Esta agencia actuará con plena independencia orgánica y funcional de las Administraciones Públicas, de forma objetiva, transparente e imparcial», asegura la disposición acordada por Más País y el Gobierno.
Tejero defiende que, aunque la agencia estará adscrita a la Secretaría de Estado de Digitalización e Inteligencia Artificial, dentro del Ministerio de Asuntos económicos y Transformación Digital, de donde obtendrá el presupuesto, no estará controlada por el mismo. «Tiene un equipo directivo independiente, un director independiente que se nombra en el Parlamento, lo nombra el Gobierno, pero luego no lo puede echar el Gobierno, por ejemplo», argumenta. «Claro que puedes poner a uno de los tuyos», admite, «pero hay que poner mecanismos para que, aunque lo hagas, se diga en qué condiciones tiene que emitir los informes». «Nuestra idea es que sea un mecanismo con bastante independencia del gobierno de de turno», concluye.
La creación de la agencia contará con cinco millones de euros en los presupuestos de 2022. El objetivo es que «antes de que acabe 2022 esté la agencia funcionando», dice Tejero. Pero todavía queda trabajar la ley, llevarla al Congreso y negociarla para conseguir el apoyo del resto de grupos parlamentarios.
