El Papa y sus algoritmos

Cualquier lector no creyente —católico o cristiano, se entiende— se enfrenta a un preliminar y severo desafío cuando lee Magnifica Humanitas, la muy esperada encíclica del Papa León XIV que se ha dado a conocer hace unos días. ¿Es la suma de su dignitas y su potestas una razón suficiente para atender a sus consideraciones sobre el desarrollo de la IA y, al hilo de ello, sobre otras muchas ideas y recomendaciones relativas a las formas en las que discurren los asuntos humanos en estos tiempos, el modo en el que las sociedades políticas se organizan, o, en general, qué debamos hacer a propósito de nuestras vidas personales y colectivas?

Este concreto lector, que no es creyente, no es, sin embargo, ciego al hecho de la autoridad moral y eclesial de León XIV: millones de fieles en el mundo se lo toman muy en serio hasta el punto de que consideran, puesto que así lo han establecido otros Papas anteriores, que puede proclamar dogmas de fe, es decir, pronunciarse sobre ciertas materias de manera «infalible» (no es así, empero, en el supuesto de esta encíclica). El Papa reúne, a la vez, la condición política de ser jefe de un Estado y, en este caso, además, tiene una formación desacostumbrada que le permite tener una cierta autoridad epistémica sobre las consecuencias del desarrollo de la IA (obtuvo un bachelor en Matemáticas en la Universidad de Villanova en Pennsylvania).

Su influencia es innegable, como ya se ha podido comprobar estos días leyendo a devotos comentaristas, y si uno es de natural curioso, no puede por menos que indagar qué nos tiene que decir León XIV «sobre la custodia de la persona humana en el tiempo de la inteligencia artificial», que así subtitula la encíclica. 

Pero quien así, a pesar de su increencia, se toma en serio lo que dicen las autoridades eclesiales, y no digamos ya el Vicario de Cristo o Sumo Pontífice —Savater dijo en alguna ocasión que los ateos son los que más en serio se toman las religiones— corre precisamente ese riesgo: no comprender el carácter inderrotable de las afirmaciones que se hacen a partir de una determinada fe, que no pueden ser tenidas como proposiciones evidenciables o falsables por los hechos —ni por la lógica incluso o el uso de una razón universalizable— sino solo como premisas «reveladas» y por tanto «indiscutibles»—. «La magnífica humanidad que Dios ha creado», se asevera en la encíclica nada más arrancar— o como usos metafóricos de un lenguaje que, si bien puede adquirir belleza lírica, muchas veces engrosa esa categoría que los filósofos del lenguaje denominan «sinsentido».

Así, por espigar dos ejemplos entre muchísimos posibles del texto de la encíclica, cuando se afirma citando al anterior Papa que «el tiempo es superior al espacio»; o que la verdad del Evangelio «[e]s una verdad que no teme a la diversidad, sino que la acoge y la ordena; que no elimina los conflictos, sino que los transfigura; que recompone lo que la historia tiende a dispersar», ante semejantes proposiciones, digo, uno no puede por menos que preguntarse: ¿de qué modo serían falsas o equivocadas esas afirmaciones? 

«El Papa se muestra cabalmente cauteloso sobre las derivas que puede llegar a alcanzar la IA en su actual estadio de desarrollo»

Y luego está, claro, la inquisición de si, además de predicar, la Iglesia católica, con el sucesor de san Pedro a su cabeza, da trigo. El Papa adquiere su condición gracias a un algoritmo, pues no otra cosa son las reglas que han de seguirse, como en una receta culinaria, para ser elegido romano pontífice; concretamente, las de la Constitución apostólica Universi Dominici Gregis promulgadas por San Juan Pablo II y luego actualizadas por el papa Benedicto XVI. Su esencia quedó bien resumida por el humorista Juan Carlos Ortega en una de esas impagables Noches de Ortega cuando uno de sus oyentes («Agustín», de Ciudad Real) se proponía como papa una vez que la silla papal había quedado vacante con el fallecimiento de Jorge Mario Bergoglio: tendría que llegar a ser sacerdote, después cardenal y tener como máximo 80 años. Y, condición sine qua non de todo lo anterior, ser varón (junto con su edad, lo único que cumplía el bueno de «Agustín»). 

¿Cómo compatibilizar ser el resultado de ese algoritmo, preservarlo para que las mujeres no puedan ni elegir ni ser elegidas vicarias de Cristo y jefas del Estado Vaticano, y afirmar: «Por lo tanto, no es suficiente afirmar con palabras que hombres y mujeres tienen la misma dignidad y los mismos derechos; es necesario que esto se traduzca en decisiones concretas, en las leyes, en el acceso al trabajo, a la instrucción, a las responsabilidades sociales y políticas, en el modo en el que la sociedad escucha y valora el aporte de las mujeres. Mientras exista esta disparidad, no podremos decir que la sociedad reconoce realmente y en profundidad que las mujeres tienen la misma dignidad que los hombres»?

En su encíclica, el Papa se muestra cabalmente cauteloso sobre las derivas que puede llegar a alcanzar la IA en su actual estadio de desarrollo, pero al tiempo llama a su «desarme» o al menos a que sean examinadas para que podamos formularnos la pregunta más relevante, decisiva, a su juicio: «¿Contribuyen realmente a hacer crecer a las personas y a los pueblos en humanidad y fraternidad, en el respeto a la Casa común y a las generaciones futuras?». 

Hay algo de paradójico en el interrogante —la presuposición de que ya tenemos el «producto acabado»— un aire parecido al de la paradoja que arrastra la predicción de lo que será inventado en el futuro (pues es ya una manera de inventarlo). Pero es que, además, al formularse así los términos del examen, se presupone un acuerdo moral básico que en puridad no se da al respecto de las muchas aplicaciones de la IA o de los robots ya existentes, porque en primera instancia, y, al respecto de las propias relaciones entre seres humanos, vivimos en sociedades moralmente plurales.

«Al Papa le preocupa el peligro de una ‘relación artificial de cuidado o acompañamiento’»

Al Papa le preocupa, por ejemplo, el peligro de una «relación artificial de cuidado o acompañamiento» pues ello podría implicar la anulación del deseo de búsqueda realmente al «otro». No se puede desdeñar la posibilidad de que esas relaciones sean, para el humano, mejores en todos los sentidos relevantes dado el contexto. ¿Y por qué habríamos de limitar esa opción? Si pensamos en que esa relación alcanza la dimensión de la satisfacción sexual, ¿no deberíamos celebrar que con ello se podría culminar el sueño abolicionista del trabajo sexual realizado, fundamentalmente, por mujeres si ahora lo desempeñan robots? 

Cuando se afirma que, frente a los seres humanos, los sistemas de inteligencia artificial basados en «modelos extensos de lenguaje», sean virtuales o «corporeizados» en robots, no pueden adquirir la condición de pares o prójimos del ser humano pues no «comprenden» o «conocen», y mucho menos la de «agentes morales» pues no pueden discernir el bien del mal, cabe preguntarse por qué sí tienen esa condición los seres humanos que jamás tendrán capacidad cognitiva alguna ni sentido moral. El Papa tiene una respuesta, pero me temo que será solo para su grey: ellos son, también, hijos de Dios, hechos a su imagen y semejanza, y no así los algoritmos programados, o los robots. Y tampoco, por cierto, otros animales, los no humanos, que sí tienen cuerpo, experiencias y capacidad de sufrimiento, pero… qué les voy a contar sobre su «estatuto moral». 

El espíritu de la Magnifica Humanitas, que sopla desde el título, adolece del mismo tipo de patología que el de los muchos temores seculares —algunos fundados, otros deficientemente argumentados— que se propagan estos días. Se podría denominar la «falacia del óptimo humano», que emerge cada vez que se insiste en los muchos «sesgos» y «errores» que pueden cometer los sistemas de inteligencia artificial. ¿Acaso los humanos nos hemos librado de esos vicios? ¿Cuándo tornamos en esos ángeles por contraste?

Cierto: sea el triaje en las urgencias de un hospital; la determinación de la probabilidad de reincidencia de un preso preventivo para decidir la modificación de la medida cautelar; el cálculo de la proporcionalidad o de idoneidad en el ataque bélico que justificaría la respuesta de acuerdo con la doctrina de la guerra justa, o los sistemas de respuesta ante una colisión del coche sin conductor en la que se trata de minimizar los daños, en todos esos supuestos, y en muchos más, somos los humanos quienes tenemos que decidir, o al menos saber, qué condiciona el «automatismo» y el «aprendizaje». Pero lo más importante, a mi juicio, es preguntarse si esos sistemas no humanos lo hacen mejor. Y aprovecharlo dado el caso, aunque, una vez más en la historia de la especie, tengamos que destronarnos de nuestra «magnífica humanidad».