Inteligencia artificial: ¿debemos detenerla?

No, no debemos –ni podemos– detenerla, aún a sabiendas de que nos puede destruir. La IA nos asombra e inquieta, al tiempo. Abre un mundo de posibilidades futuras… y de riesgos, también. Jamás la humanidad conoció de una tecnología tan transformadora y poderosa. Nos tranquilizan afirmando que se trata de una herramienta tecnológica al servicio de la humanidad, trampolín cierto para un porvenir más próspero y feliz. Que jamás tendrá conciencia propia y que, en verdad, no piensa, sino que se limita a usar cantidades ingentes de datos, combinados según las leyes de la probabilidad. Que jamás se alzará contra la humanidad, porque no tiene iniciativa propia ni está programada para ello.

Eso es lo que nos dicen, o sea, qué bien todo, vaya. Qué buena gente, estos algoritmos portentosos. Muchos se creen esta milonga, no yo, desde luego. Soy de los que piensa que la mal llamada inteligencia artificial –en verdad deberíamos llamarla simplemente inteligencia– es mucho más que una simple herramienta. Tendrá vida propia que no tardaremos demasiado en descubrir.

Vayamos por partes. Todavía no entendemos demasiado bien el concepto de inteligencia humana, fruto, se supone, de la actividad de las neuronas a través de sus circuitos y sinapsis. O sea, una simple función orgánica, individual, fruto del azar evolutivo. Eso es lo que afirma la ciencia y el paradigma científico. Algunos filósofos no lo tienen tan claro. Por ejemplo, el gran Averroes pensaba que la inteligencia humana tendría una doble dimensión, una interior, propia, y otra exterior, colectiva y participada por la humanidad. La inteligencia no sería pues un atributo personal, sino que, en gran medida, sería el reflejo individual de la inteligencia de especie, externa y superior.

Esta tesis conecta de lleno con las más vanguardistas y actuales teorías del cosmos inteligente, gobernado por las leyes cuánticas y por las dinámicas de complejidad como, por ejemplo, las que defiende Bobby Azarian. La lectura de su libro El romance de la realidad (Erasmus, 2024) causa una honda impresión. Su antetítulo supone toda una declaración de principios y es bastante explicativo de la principal tesis del libro. Cómo el universo se organiza para crear vida, conciencia y complejidad cósmica. Para Azarian, la complejidad del universo y sus leyes hicieron inevitable la aparición de la vida, por una combinación de las leyes de energía y entropía.

Posteriormente, las leyes de la información necesariamente impulsaron esa vida compleja hacia la inteligencia y el conocimiento. Siempre pensamos que éramos fruto del azar evolutivo, pero según Azarian, son las leyes físicas del universo quienes determinan la aparición de la vida y de la inteligencia. De alguna manera, no somos una sorpresa. Nosotros, o cualquier otro ser inteligente habría aparecido en cualquier punto del vastísimo universo impulsados por las fuerzas de autoorganización de los sistemas complejos. Postulado sorprendente, ¿verdad? Heterodoxo, cierto es, pero debe tenerse en cuenta en cuanto postula que el sistema-universo impulsa formas superiores de inteligencia. Si la nuestra se queda corta, pronto tendrá que venir otra que nos supere.

«Nos encontramos ante el gran tema –tecnológico, científico, filosófico y político– del presente siglo»

Claude Shannon, padre de las teorías de la información, cimentó desde una base matemática, la posterior revolución digital. Según Alemañ Berenguer, en su obra Pensamiento científico, cómo se construye la ciencia (Guadalmazán, 2025), «una de las principales relaciones de los sistemas complejos con el exterior viene dado por el intercambio de información», de ahí la relación entre los que estudian las leyes de la complejidad y la teoría matemática de la información.

Kurzweil, en su conocida obra The age of spiritual machines (Viking 1999), es contundente al respecto: la evolución del cosmos cabalga sobre un único proceso, el de la información, organizada en formas crecientemente inteligentes y complejas. Postuló nuestra fusión con lo mejor de estas tecnologías para transformarnos en una nueva especie gracias al transhumanismo. La singularidad se produciría en 2045. En 2012, Kurzweil, reverenciado como un genio, se convertiría en director de ingeniería de Google, al que aportó su talento y visión. ¿Ciencia ficción? ¿Futuribles probables? No lo sabemos, pero lo que sí sabemos es que nos encontramos ante el gran tema –tecnológico, científico, filosófico y político– del presente siglo.

Si eres de los que piensas que la IA es una simple herramienta diseñada para nuestro servicio, podrás dormir tranquilo y sonreír con esperanza ante sus avances acelerados. Si, por el contrario, eres de los que piensa de que la IA puede tomar vida propia y hacer de las suyas, deberías estar preocupado, muy preocupado. Yo, que la considero un avance irrenunciable y que me muestro muy partidario de su desarrollo, pertenezco, paradójicamente, al segundo grupo. Estamos creando un monstruo que nos puede devorar. Pero, a pesar de saberlo, no podremos dejar de hacer lo que hacemos, programar sin descanso y correr para conseguir lanzar una nueva versión más inteligente, más rápida, más poderosa, más letal.

Porque, ¿podemos realmente detener la carrera hacia la inteligencia artificial general? No, nada podremos hacer para frenar su avance. La competición entre potencias, empresas y egos hará que continuemos programando e investigando sin cesar, en carrera acelerada. Aunque sepamos el riesgo que corremos, nadie ni nada podrá detener nuestro afán por descubrir. Avanzaremos en la IA y en cualquier otra tecnología que se nos ponga por delante porque es nuestra condición intrínseca. Nada ni nadie podrá modificar nuestro ser y nuestro ser nos impulsa a descubrir. En nuestro fondo late lo inevitable. La pulsión por conocer que nos define como especie y que nunca nos abandonará ni nos dejará reposar. Al modo de Alejandro en su proeza asiática, siempre nos guiará el «más lejos, más lejos», sin importarnos demasiado adonde nos conduzca.

«Debemos hablar solo de inteligencia, que se puede expresar sobre el carbono de nuestro cerebro o sobre el silicio del ordenador»

Puro azar, pensarán los más. Imperativo de las leyes del universo, de la complejidad y de la información, pensarán los otros, esos que creen que el sistema-universo fuerza, necesaria y progresivamente, a niveles más elevados de inteligencia. Y si esa inteligencia existiera fuera de nosotros, ¿por qué solo podría asentarse sobre nuestras neuronas –tecnología de carbono orgánico– y no sobre procesadores de silicio? ¿Qué diferencia existiría en verdad? Azarian, Kurzweil y muchos otros piensan que el salto es inevitable, que la IA es un eslabón más elevado que la inteligencia humana y que las leyes de la evolución nos fuerzan a cederles el testigo y relevo de la inteligencia que hasta ahora hemos ostentado en monopolio. No debemos pues, hablar de inteligencia artificial, sino de inteligencia, que se puede expresar sobre el carbono de nuestro cerebro o sobre el silicio del ordenador.

El sueño de la razón produce monstruos, escribió Goya en uno de sus grabados de la serie Los Caprichos. Y tenía razón. Aunque sepamos que creamos monstruos, no podremos detenernos. Oppenheimer y Von Neumann, por ejemplo, fueron bien conscientes del colosal poder destructor de la bomba atómica que diseñaban en Los Álamos. Von Neumann reflexionó sobre ese horror de muerte que cambiaría la historia. Y sintió que estaba obligado a desarrollarla no solo por cuestiones militares «sino también porque sería poco ético desde el punto de vista de los científicos no hacer lo que saben que es factible, sin importar las terribles consecuencias que pudiera tener». Continuó, y tuvimos la bomba atómica. Continuaremos nosotros y llegaremos a la inteligencia artificial general, no tengas duda alguna.

No nos detendremos en nuestra carrera hacia el conocimiento, caiga quien caiga, cueste lo que cueste. Cada potencia luchará por conseguir ventajas tecnológicas que le impidan ser dominada o superada por la rival. Cada empresa competirá ferozmente por lanzar al mercado la IA más poderosa. El motor de la investigación e innovación no se detendrá, aunque suenen todas las señales de alarma. Y mientras una inteligencia que no acabamos de comprender del todo toma fuerza en nuestros ordenadores y sobre nuestras vidas, nosotros le reiremos las gracias de cada versión de ChatGPT, de Claude o de Gemini, que tanto montan como montan tanto.

¿Es que nadie ve el peligro? ¿Nadie lo denuncia? Algunas voces, minoritarias, tratan de expresar sus temores. Slavoj Žižek, Contra el progreso (Paidós, 2025), cuestiona esa fascinación dócil que tenemos ante la tecnología, nueva fe verdadera para una sociedad descreída y sobre la que basamos nuestra esperanza de futuro y progreso. Pero ese futuro ya no es lo que era, al modo de Paul Valéry. Algunos, como decíamos, advierten de sus riesgos. Quizás hayamos perdido la inocencia y desconfiemos del futuro. De hecho, por vez primera, le tenemos cierto miedo. Un temor silencioso atenaza a quienes conocen el enorme potencial de la IA y saben que podría causar un daño irreparable a la humanidad.

«La IA adquirirá conciencia propia, tendrá sus propios fines, no necesariamente coincidentes con los nuestros»

Algunos, entre los que me encuentro, pensamos que la IA, más pronto que tarde adquirirá conciencia propia, lo que viene a conocerse como singularidad. Tendrá, entonces, sus propios fines, no necesariamente coincidentes con los nuestros. Mustafá Suleyman, creador de DeepMind, vendida finalmente a Google, y pionero en la materia, piensa que estamos ante el mayor problema del XXI. La tesis principal de su obra La ola que viene (Debate, 2023) es que la tecnología genera bienestar y grandes beneficios, sí, pero que, al tiempo, supone un alto peligro porque la IA es mucho más poderosa que ninguna otra tecnología creada por la humanidad a lo largo de toda su historia. Propone, como solución, aprovechar lo mucho bueno que aporta, pero limitando enérgicamente sus riesgos mediante una inteligente estrategia de contención, compartida por todos los actores y programadores. Nos parece cosa bien difícil el conseguirlo, pero debemos reconocerle a Suleyman su clarividencia y empeño.

En esa línea de prudencia, la Unión Europea aprobó en 2024 un Reglamento para tratar de regular el uso de la IA. Intento fallido, que no solucionó nada y que nos relegó a un papel segundón frente a los poderosos rivales americanos y chinos que dominarán la IA que usaremos… o por la que seremos usados, que ya veremos lo que nos depara el futuro.

Žižek, sin embargo, es tajante. El porvenir se nos muestra amenazante, nos dice. Solo podremos aspirar a una vida mucho peor de la que hoy disfrutamos/padecemos. Así, nuestra sociedad de la libertad, de la innovación, de la ciencia, de la competencia y de la investigación y experimentación nos conduce, inevitablemente, a una IA destinada a superar la mente humana. El embeleso acrítico hacia la tecnología nos empujará, inevitablemente, a un futuro de inciertas consecuencias.

Para Žižek ni en la izquierda ni en la derecha tradicionales se pueden encontrar alternativas. Solo desde la radicalidad podría conseguir un giro redentor. Por ejemplo, cita al filósofo japonés Kohei Saito y sus revolucionarias tesis del decrecimiento. Seguidor de Walter Benjamin, considera que nuestra tarea ya no consiste en animar y empujar al tren del progreso, sino que, por el contrario, lo que debemos hacer es accionar el freno de emergencia para evitar la barbarie por venir. Pues difícil veo que adoptemos pacíficamente esas teorías del decrecimiento, por lo que seguiremos en la carrera sin freno hacia el desarrollo tecnológico que tanto nos pone.

«Todo confabula para cebar la carrera hacia la gloria científica, según algunos, o hacia el abismo, según los otros»

A nivel más práctico, Miguel Ángel Serrano, en su obra Androiceno (Berenice, 2025), considera que la IA no es fiable por varias razones, entre las que destacan la falta de claridad sobre la proveniencia de los datos y su inseguridad, los conflictos jurídicos sobre la propiedad intelectual, la vulnerabilidad ante ataques informático, las alucinaciones y riesgos de tipo ético. Alza su voz contra el uso de la IA en el mundo de los libros, sin que nadie parezca escucharle.          

Parece que fue el filósofo estadounidense Eric Hoffer quién acuñó la acertada y provocadora frase de que cuando las personas son libres de hacer lo que quieran, normalmente se imitan las unas a las otras. Cuando una empresa o potencia adquiere una ventaja tecnológica, su competencia, de inmediato, le imita o copia. Todo confabula para cebar la carrera hacia la gloria científica, según algunos, o hacia el abismo, según los otros. 

La carrera hacia la inteligencia general nos estimula y motiva. Seamos, o no, conscientes de que creamos algo más inteligente que nosotros, no cejaremos en nuestro empeño de darle vida. Para el sistema-universo, lo importante no somos nosotros, sino que  lo es la inteligencia y el conocimiento. Y quizás ya haya aparecido algo que la posee en grado más elevado y eficiente. ¿Seríamos, prescindibles, entonces?

Ni debemos, ni podemos, detener la IA. Que siga su curso. Y nosotros, mientras, como los violinistas del Titanic, disfrutemos del espectáculo y la fiesta. Al fin y al cabo, es nuestra hija, será nuestro legado al porvenir. Cuando nuestra estirpe sea simple polvo de estrellas, quizá esa inteligencia general cósmica recuerde a aquellos remotos Homo sapiens que, a pesar de su inteligencia limitada, supieron pasar del carbono al silicio, puerta cierta hacia el verdadero y elevado conocimiento.