Regular la IA en tiempos de temor tecnológico

Asistimos desde los últimos 15 años a una suerte de «temor tecnológico». Este temor pivota principalmente en torno al modelo gratuito de acceso a internet y a las tecnologías digitales, modelo que se ancla económicamente en la publicidad y que viene dando lugar a reacciones crecientemente adversas. Algunas llegan a la distopía, y frecuentemente al alarmismo. Se escribe que este modelo puede acabar costándonos nuestra humanidad (Zuboff) otros hablan de alienación, mientras muchos apelan a términos como sometimiento social o neofeudalismo. Las víctimas seríamos los usuarios.

Esa animadversión, alarmista o no, se plasma a su vez en la crítica a la vigilancia que el modelo gratuito de acceso practica sobre los usuarios. Un modelo cibertaylorista, que optimiza cuasicientíficamente la navegación en línea como fuente de ingresos de las plataformas; y que ciertamente redunda en una merma de la privacidad, a raíz del rastreo de nuestra conducta en la red.

La segunda gran manifestación de esas críticas radica en denunciar la erosión de la democracia y el Estado de derecho que lo digital, y en especial las redes sociales, estarían generando. Aquí encuentran acomodo, entre otros, problemas como la desinformación o la manipulación de los procesos electorales. Las críticas se extreman cuando se refieren a las conductas de los llamados tecnoligarcas, a quienes algunos han denominado «mafia PayPal» (Benanti), una camarilla de empresarios visionarios surgidos en Silicon Valley, cuya pretensión iría mucho más allá de la simple creación de empresas como Tesla, YouTube o la propia PayPal, para pretender una suplantación de la legitimidad democrática, gracias a la dominación social derivada del «ansia por el like».

La «animadversión digital» se alimentaría igualmente de la reacción frente a la manipulación en el consumo, llevada a cabo por las plataformas. En sus formas más livianas, esta manipulación provocaría tiempos extendidos de navegación. En otras más severas, en ocasiones graves, pueden desembocar en adicción (especialmente respecto de nuestros menores), o en los llamados «patrones oscuros», pautas de diseño algorítmico pensadas para condicionar la adopción consciente de decisiones al hilo de la navegación, siempre con vistas a un mayor beneficio para la plataforma, y a veces en perjuicio del usuario.

Una corriente final de plasmación del temor tecnológico viene desarrollándose en el ámbito de la IA. Esta suscita preocupación en el que podríamos llamar plano existencial. La IA entrañaría un potencial apocalíptico, en cuanto no solo puede reemplazar al ser humano, sino que podría terminar haciéndolo de un modo técnicamente más hábil en el plano físico, y sobre todo el intelectual, que el ser humano más capaz. Es claro que, orientada al mal, esta «IA general» podría incluso acabar en la extinción de la humanidad. Aunque la preocupación existencial también se viene manifestando en el miedo a la pérdida de empleos. Pocos dudan de que así va a suceder con la IA, y ya hay estudios que lo acreditan (Brynjolfsson). A estos peligros ha de añadirse toda una panoplia de problemas que van desde un elevadísimo consumo energético hasta cuestiones de responsabilidad jurídica, como efecto de riesgos de privacidad, discriminaciones, seguridad o derechos de autor, entre otros.

«La UE se ha convertido en paradigma mundial de la regulación digital, hasta elaborar más de 100 normas en este campo»

Nada más lejos de mi intención que cuestionar aquí la seriedad de todos los riesgos mencionados. Otra cosa es que deban afrontarse con temor, ni menos aún, con alarmismo.

En cualquier caso, la Unión Europea ha asumido de lleno este temor tecnológico. Y ha reaccionado fundamentalmente a través de la regulación legal.

Ello la ha llevado a convertirse en paradigma mundial de la regulación digital, hasta elaborar más de cien normas en este campo. Cien normas cuya elaboración se ha acelerado en esos mismos 15 años, pues en tal periodo se han aprobado cuatro veces más que en toda la historia anterior.

Normas diseñadas para proteger derechos, como la privacidad, a través del Reglamento General de Protección de Datos; o la seguridad y salud de las personas, junto a los derechos fundamentales, como sucede con las normas para la inteligencia artificial. En todos estos casos, la innovación queda relegada a un segundo plano.

Finalmente, la regulación europea viene propiciando una extensión del concepto de vulnerabilidad, más allá de colectividades por esencia vulnerables (como, entre otros, son los menores). Todos seríamos vulnerables. La muestra más clara es la regulación de los citados patrones oscuros, que parte de la base de que la conducta en línea puede determinarse más allá de la libertad del usuario.

«Tanto la técnica como la tecnología han hecho y hacen del ser humano lo que es»

Pienso, sin embargo, que existen razones para una relectura de esta aproximación europea a la problemática digital y de la IA.

La técnica hace al ser humano. Lo sabemos con claridad desde las reflexiones de Ortega y Gasset. Tanto la técnica como la tecnología (una vez unidas técnica y ciencia) han hecho y hacen del ser humano lo que es. Tecnología y ser humano están consustancialmente unidos.

La tecnología digital es además piedra angular de nuestras economías. Ello obedece a que es la clave de la innovación tecnológica. En el desfase que Europa arrastra frente a los EEUU en esta tecnología radica que la renta disponible por habitante se haya incrementado en ese país más del doble que en la Unión Europea en los últimos 25 años (Informe Draghi 2024). En la innovación tecnológica se encuentra la clave de la prosperidad económica para cualquier sociedad. Este último es un verdadero axioma de la economía occidental de los últimos 300 años, desde Adam Smith y David Ricardo hasta el premio Nobel Solow en 1957.

Innovar nos hace seres humanos, nos hace mejores seres humanos. Innovar no es solo avanzar económicamente, sino también prosperar en derechos. La tecnología no solo pone en riesgo derechos o bienes, sino que también puede propiciarlos y potenciarlos. Basta recordar usos contemporáneos de la IA en salud. Es la vieja «libertad de ser libres» (Arendt): la necesidad de supervivencia puede llegar a impedir aspirar a más libertad.

«Millones de pymes encuentran en las redes su único cauce para competir frente a empresas de mayor tamaño»

La digitalización y la IA satisfacen necesidades hoy críticas. Pensadores como Bauman o Manuel Castells han probado que para cientos de millones de personas, lo digital constituye su única ventana al mundo. Imaginar una vida sin conexión, más allá de la atadura que esta pueda suponer, implica para la inmensa mayoría de la población en países desarrollados un escenario insostenible. Otro tanto ocurre con millones de pymes que encuentran en las redes su único cauce para competir frente a empresas de mucho mayor tamaño. En unos y otros casos, el modelo gratuito puede resultar fundamental.

Un modelo gratuito, el de las grandes tecnológicas, que sigue siendo elegido por miles de millones de personas en todo el mundo para asomarse a internet. Es un modelo que indudablemente condiciona la privacidad, pero que la inmensa mayoría de usuarios de internet preferimos, pese a todo, continuar utilizando. Así lo demuestran datos del CIS de 2025: casi el 90% de la población española es consciente de que sus datos pueden utilizarse en internet sin su consentimiento, cosa que no nos impide seguir conectados.

Todas las decisiones humanas están condicionadas, que no determinadas. Adela Cortina establece una distinción entre determinación y condicionamiento. La primera sería inevitable, dadas nuestras singularidades naturales y sociales («soy varón y español»). El condicionamiento se despliega en todas y cada una de nuestras proyecciones vitales (así una sugerencia de compra en una plataforma), si bien en ningún caso llega a anular nuestra libertad de decisión. Dicha libertad siempre será menor respecto de colectividades vulnerables, si bien es claro que la vulnerabilidad no es una condición común a cualquier usuario de tecnología digital.

Por último, y por mucho que la IA resulte imparable, el sentido común y el «toque humano» son insustituibles. Al menos hoy, la IA carece de sentido común en cuanto a capacidad de conjetura, algo que, paradójicamente, el ser humano adquiere con apenas dos o tres años de edad. El toque humano resulta imprescindible en las relaciones entre personas, incluso las profesionales. Y sin embargo, ansiamos la máquina para tantas labores penosas, o simplemente tediosas (Innerarity). Si a algo nos está abocando la irrupción de la IA es a un futuro de colaboración, donde el ser humano mantenga la supervisión ética y técnica de la labor de la máquina, pero en el que las capacidades humanas se vean «aumentadas» (Herrera Trigueros) gracias a la aportación tecnológica. Con el adecuado deslinde de tareas, el tándem humano-máquina es imbatible.

«Solo una tecnología digital y una IA respetuosas de los derechos tienen cabida en la Europa del siglo XXI»

Únicamente el que he dado en denominar «innovacionismo libertario» del Silicon Valley radical, de la mafia PayPal, se muestra recalcitrante frente a la necesidad de prevenir y combatir los riesgos y problemas de la tecnología digital y la IA. Solo una tecnología digital y una IA respetuosas de los derechos tienen cabida en la Europa del siglo XXI.

Aunque insisto en que las razones expuestas debieran llevar a una relectura del modo de garantizar esos derechos en el entorno digital.

Esa relectura tiene que comenzar por entender que el Silicon Valley radical no es la tecnología digital. Esas visiones del todo abusivas de la digitalidad y la IA nada tienen que ver con las de empresas —en realidad, la inmensa mayoría de ellas— que operan en el entorno digital de modo respetuoso con la legalidad y por supuesto con sus usuarios. El reciente conflicto entre la Administración Trump y la empresa Anthropic es un gran ejemplo.

Pese al «solucionismo normativo» de la Unión Europea, la regulación no es la única salida posible. Es clara la necesidad de apoyarse en la educación y muy especialmente en la familia, a la hora de prevenir y mitigar problemas de la tecnología digital y de la IA, inculcando hábitos de uso saludable. A la hora de imbuir dichos hábitos, no podemos como padres y madres delegar nuestras responsabilidades respecto de los menores en la regulación estatal.

Tampoco ayuda mucho un discurso fácil de humanismo, para tratar de aplicar una «pátina ética» a la tecnología. Es mucho más adecuada la creación desde su misma ideación, «desde el diseño», de tecnologías respetuosas con principios éticos compartidos por la mayoría, e incluso de principios legales que puedan instilarse en la propia tecnología y en las prácticas organizativas. Parafraseando a Stuart Russell, en lugar de «asegurar la tecnología» (Make Tech Safe), construirla segura de intento (Make Safe Tech).

«Los principales esquemas regulatorios del mundo en este campo (EEUU, Reino Unido, Japón o Corea del Sur) no siguen nuestra pauta»

Si consideramos que la tecnología nos resulta consustancial como personas, lógico es pretender un uso seguro, pero cada vez más intenso, en aras de nuestro bienestar, en aras de mayor progreso económico y, por supuesto, en las de mejores derechos. Uso que quizá deberá prioritariamente serlo de tecnologías propias, elaboradas en Europa, por empresas y entidades europeas; pero aun cuando deba serlo de tecnologías ajenas, un uso que pese a todo habrá de promoverse. No hacerlo nos dejará fuera de una carrera mundial en la que los líderes no nos van a esperar.

No parece, por otro lado, que el modelo de regulación europeo de la tecnología digital más característica de nuestro tiempo, la IA, sea como hasta ahora el paradigma mundial. Excluyendo a China, por obvias razones de respeto elemental a las libertades, los principales esquemas regulatorios del mundo en este campo (EEUU, Reino Unido, Japón o Corea del Sur) no han seguido nuestra pauta. Tampoco el país más avanzado del planeta en innovación, la Confederación Suiza: allí se ha optado por defender decididamente las libertades, mediante la firma de la Convención Marco del Consejo de Europa sobre IA de 2024 (un tratado muy completo, pero al tiempo conciso); mientras se evita el esquema horizontal y abstracto de la UE, para optar por reformas legislativas ceñidas a los riesgos sectoriales más obvios.

Parece que la Unión comienza a percibir este escenario, tal cual se deriva de iniciativas como el llamado Ómnibus digital y de IA. Quizá no proceda ya desregular. Tampoco parece que sea esta la pretensión de la mayoría de sectores afectados, por supuesto consumidores, pero incluso empresas. Aunque lo que sí es fundamental es incidir en la necesidad de simplificar una normativa densa, amplia y compleja, que fuerza en muchas ocasiones a cumplir la misma obligación múltiples veces y ante diversas autoridades.

Es preciso regular para proteger derechos y libertades, ciertamente, aunque quizás invirtiendo la habitual ecuación. Venimos mostrando admiración hacia la tecnología, pero temor a los riesgos que implica. Debiéramos en cambio respetar los riesgos, pero optar con determinación por avanzar.