Regular la IA y las tecnologías disruptivas: hay dudas sobre la vía legal que seguirá Europa
La directiva del mercado único digital, que se traspuso en España en 2021, avala la minería de datos, un precedente sobre el camino que se podría seguir la UE
La minería de datos está permitida y la única opción que tienen los autores es el mecanismo 'opt out' | Unsplash
Entre el apocalipsis y el Edén. Esa parece ser la dicotomía en la que se mueve el futuro cuando hablamos de los efectos que tendrán las innovaciones disruptivas, como la inteligencia artificial. El desafío de regular la IA y la «tecnología de umbral» es uno de los principales retos legales que afronta la Unión Europea (UE) y, por ende, España. La Unión Europea se debate entre ser un paradigma en la protección de los derechos de las personas o en dar vía libre a la innovación empresarial, pero recortando derechos. La balanza parece que se inclina hacia este último escenario, si miramos algunos precedentes.
Llevamos unos meses marcados por una seguidilla de innovaciones que nos sitúan entre la curiosidad, la perplejidad y el temor a lo desconocido. El desarrollo tecnológico ha dado unos saltos inimaginables en sólo unos meses. Uno de muchos ejemplos es el caso de ChatGPT.
Estas nuevas tecnologías pueden tener aplicaciones positivas, como avances médicos o atajar enfermedades genéticas, pero también tienen una ‘cara B’ indeseada. Una mayor precariedad laboral y desempleo, la vulneración de la privacidad de las personas, o atentados contra los derechos de los creadores. Además, plantea importantes desafíos éticos.
Regular con altura de miras y con una visión global será crucial. Lo que haga la Unión Europea en el ámbito legislativo ante estas «tecnologías de umbral», como las ha definido Santiago Mediano, presidente del bufete que lleva su nombre y experto en propiedad intelectual, robótica e inteligencia artificial. Para él, poner al ser humano en el núcleo de toda esta actividad y de su regulación, es la clave.
Autores, derechos y pruebas falsas
Uno de los conceptos legales que más se está cuestionando es la noción de autor en relación al uso y desarrollo de la IA generativa como ChatGPT o DALL-E. De hecho, actualmente en España los actores de doblaje se están organizando para impedir que sus voces se utilicen para entrenar este tipo de tecnología, pero dada la regulación vigente, afrontan importantes obstáculos.
¿Y en Estados Unidos? Hay casos de litigios en relación con sistemas que generan imágenes. Según las autoras de las originales, se están utilizando sus obras para el aprendizaje automático o machine learning de los algoritmos, vulnerando sus derechos de autor.
Pero hay más retos legales vinculados a la IA. Uno de ellos es la elaboración de pruebas falsas, como documentos, vídeos o audios, y su valoración en un procedimiento ante los tribunales. Los sistemas de justicia se verán obligados a redefinir los documentos que sean válidos a efectos probatorios.
«La falsificación es una actividad vieja», apunta el abogado, que cree que se deberán desarrollar sistemas de contraste. Aunque ya se cuenta con peritos especializados, es probable que surjan nuevas disciplinas para certificar su veracidad.
Regular la IA: precedentes en Europa
En estos momentos, hay dudas sobre el camino que seguirá la Unión Europea para regular la IA, pero hay algunos precedentes. Un claro ejemplo es la Directiva sobre los derechos de autor y derechos afines en el mercado único digital, aprobada en abril de 2019. Tal como se ha aprobado, supone el traslado a la norma de lo que en realidad es una política económica que beneficia a las grandes tecnológicas.
La idea que hay detrás es que «el uso de todo el acervo de la cultura no requiera permiso de los titulares de los derechos ni exija que paguen ningún coste», señala el experto. En principio, esta excepción se planteó únicamente para fines de carácter científico, pero en el texto final se amplió y todos los agentes están obligados a implementar estas excepciones. En España, la directiva se traspuso mediante el Real Decreto-ley 24/2021, de 2 de noviembre. Es decir, la minería de datos es libre.
Sin embargo, se incluye una excepción para quedar fuera de la minería de datos. El mecanismo conocido como opt out permite que un interesado pueda salirse de la norma general. «Es un sistema poco realista, poco eficiente, poco eficaz y de difícil cumplimiento», explica Mediano. Si un escritor marca su libro con una reserva de derechos a efecto de minería de datos, es muy probable que la editorial se niegue a editar y publicar su obra.
La conclusión es que el desarrollo de todas estas tecnologías disruptivas y la manera como se están regulando derivan en el abaratamiento del trabajo de los autores, de restar valor a las obras de los creadores. «El legislador europeo ha optado por recortar derechos de terceros, los de propiedad intelectual, con una justificación que dice que no pueden ser un obstáculo al desarrollo tecnológico», señaló el experto durante un encuentro con medios de comunicación.
El reglamento de inteligencia artificial
Son asunto que están de plena actualidad. La inteligencia artificial generativa no ha dejado de acaparar titulares durante la primera mitad de 2023. No es de extrañar, ya que ha tenido una visibilidad mayor gracias a ChatGPT, el chatbot inteligente, dotado de lenguaje natural, que ha desarrollado OpenAI. Ha sorprendido por su capacidad para generar contenidos originales, más o menos correctos, en pocos segundos.
Pero también ha hecho saltar las alarmas por los malos usos que se puedes hacer de ella. Tal como hemos contado en THE OBJECTIVE, existen algunos riesgos asociados a ChatGPT que es utilizado para crear malware, phishing y códigos maliciosos. Las dudas surgen sobre la responsabilidad legal de estos ataques que no se habrían podido perpetrar sin la ayuda del chatbot.
Sobre lo que se puede esperar del reglamento de inteligencia artificial, que será una prioridad para la presidencia española de la UE, el abogado explica que el foco está puesto en la generación de daños, relacionados principalmente con los sesgos del algoritmo que pueden ser discriminatorios. Pero deja fuera quién puede ser responsable, por ejemplo, en caso de que se generen códigos maliciosos para un ciberataque. Sin embargo, se está tramitando y es aún muy incipiente.
Recorte de derechos de propiedad intelectual
«Las empresas pueden utilizar las propiedades intelectuales sin pagar. Y esto supone en la práctica un trasvase enorme de recursos al sector tecnológico», apunta el presidente de Santiago Mediano Abogados.
Detrás de esta decisión está el argumento de potenciar la creación de empresas europeas de base tecnológica que impulsen desarrollos disruptivos. El objetivo sería fortalecer la posición del tejido productivo europeo para competir con Estados Unidos. Pero no existen datos que demuestren, por el momento, el surgimiento de actores relevantes que planten cara a los gigantes tecnológicos estadounidenses.
La posibilidad de litigar por esta contraposición de intereses entre las tecnológicas y los autores cuyas obras se utilizan para entrenar algoritmos se ha cortado de raíz. Y la consecuencia es que los bienes culturales pierden valor.
Un ejemplo de este fenómeno surge cuando nos preguntamos cuánto le costó a Rembrandt producir uno de sus cuadros y cuánto le cuesta a una IA producir un cuadro como los de Rembrandt. Claramente, mucho menos. Pero para aprender a hacerlo, el algoritmo ha tenido que acceder al conocimiento humano anterior. Los derechos no se están abonando.
Un debate global sobre las tecnologías de umbral
Con todo, la disrupción va más allá de la IA. En las últimas semanas hemos visto dispositivos que conectan el cerebro con máquinas y permiten que personas invidentes capten imágenes cerebrales. También que quienes no pueden caminar, lo hagan con un exoesqueleto. Se han creado embriones humanos con base en células madre modificadas y podemos comprar diademas de meditación que leen la actividad neuronal para facilitar la relajación. Ahora, es la IA que realiza tareas rutinarias en el trabajo, etc.
Este tipo de avances conlleva riesgos para los derechos de las personas. Desde el cribado de ingentes cantidades de datos personales o la lectura de ondas cerebrales para manipular la voluntad, por ejemplo, en procesos electorales, hasta la creación de humanos mejorados o una probable ola de despidos que abre la puerta a que el ingreso mínimo vital tenga que ser acceso casi universal.
El concepto de «tecnologías de umbral», que no deben ser abordadas de forma aislada, describe de forma gráfica la posibilidad de que estemos traspasando unos límites legales, éticos y sociales que exige un análisis jurídico urgente, sosegado y multidisciplinar.
El debate sobre cuál debería ser la regulación para este tipo de avances y cómo garantizar el respeto a los derechos y que sus beneficios no queden sólo en manos de unos pocos está abierto. Es uno de los grandes temas de nuestra era y la discusión debería ser global y con una mirada de conjunto.
