El verdadero escándalo detrás de 'Hipnocracia'

Hace algunas semanas se conoció una noticia que abrió un interesante debate intelectual: Jianwei Xun, el filósofo hongkonés, autor de Hipnocracia. Trump, Musk y la nueva arquitectura de la realidad, no existe.

Efectivamente, las citas en artículos periodísticos, las reseñas, las discusiones acerca de su libro, para algunos, el más importante del año, fueron parte de un proyecto, con algunos cómplices y otros tantos incautos traicionados en su buena fe, llevado adelante por Andrea Colamedici, un filósofo italiano que describe a su creación como nacida del diálogo entre una inteligencia humana y las inteligencias artificiales generativas conocidas como Claude de Anthropic y ChatGPT de OpenAI.

Lo que habría hecho Colamedici, entonces, no es haberle pedido a una IA que escriba un libro, como lo han hecho muchos otros, sino escribir un libro en un diálogo de preguntas y repreguntas con la IA. Si el resultado de ese intercambio, originó el concepto de hipnocracia, habría que decir que la revelación de la trampa, originó el escándalo.

Lo más curioso es que instalar la mentira fue relativamente fácil, lo cual muestra cuán endeble son los canales de legitimación, en este caso, no tanto de la academia, como quedó demostrado en el famoso affaire Sokal, aquel que allá por 1996 expuso el sinsentido de las tesis relativistas particularmente de moda en el campo de las ciencias sociales, sino el de la prensa cultural. Es que bastó con crear un sitio web personal con un par de fotos del presunto autor, un perfil en Academia.edu, una intervención en Wikipedia, un par de amigos articulistas que lo mencionen en revistas y un agente literario falso para lidiar con periodistas y editores, y el trabajo estaba hecho. Además, ahora que está de moda leer autores con nombres orientales como Byung-Chul Han, Yuk Hui o Kohei Saito, sumar un Jianwei Xun para atacar al fascismo y al heteropatriarcado podría destacarnos en una sobremesa de universitarios o en un hilo de X.    

Ahora bien, y más allá del proceso creativo y su autor: ¿cómo podría definirse la hipnocracia? Según Colamedici, se trata de un régimen de manipulación que produce una sugestión hipnótica permanente que actúa directamente sobre la conciencia y, con ayuda de los algoritmos, ofrece una (ir)realidad personalizada. Como se ve, nada demasiado nuevo, más allá de que comercialmente el concepto suena bien, como tampoco es novedoso justificar los resultados electorales que favorecen a la derecha como consecuencia de algún tipo de engaño sobre las grandes mayorías que acceden al estatus de racionales solo cuando votan a la izquierda.

Aunque es cierto que hablar de un libro en colaboración con inteligencias no humanas ya de por sí causa escozor, probablemente el debate se esté dando acerca del tópico incorrecto. En otras palabras, el libro construido en ese límite entre la carne y el silicio podrá tener sus debilidades, pero si el resultado es un concepto capaz de estimular la actividad crítica y hacer pensar al lector, poco importa de quién provenga, incluso si esa proveniencia es no humana.  

Tal como indica Colamedici en una entrevista haciéndose pasar por Jianwei Xun: “La revelación de mi naturaleza construida no invalida en absoluto la validez analítica del concepto de hipnocracia. Al contrario, la refuerza al conferirle una dimensión performativa que trasciende la simple argumentación teórica. Si aceptáramos la idea de que la validez de un pensamiento depende exclusivamente de la existencia biológica de su presunto autor, caeríamos precisamente en esa lógica identitaria que la hipnocracia ha superado”.

La argumentación de Colamedici en este punto es sólida. Sin embargo, donde sí parece haber más espacio para la discusión, en todo caso, es en la noción de autor y en cuál será el rol del humano en la creación artística en general.

En cuanto al primer punto, no queda claro si debemos llamar “autor” a Colamedici, al ChatGPT, a la entidad ficticia denominada “Jianwei Xun”, o a todos ellos juntos. Incluso dejando de lado la cuestión legal, no parece haber una respuesta clara en este sentido y cualquier determinación probablemente sea arbitraria.

En cuanto al segundo punto, quisiera remitirme al filósofo Wolfram Eilenberger, el autor de Tiempo de magos y Espíritus del presente, entre otros, quien en una entrevista ofreció una reflexión acerca del funcionamiento de las IA que puede ser útil para ir un poco más allá de la superficie y superar la discusión acerca de si estamos ante un fake y, consecuentemente, un escándalo.

Es que, según Eilenberger, la IA solo ofrece respuestas, a veces mejores, a veces peores, pero en todo caso, de lo que carece es de la capacidad para hacer preguntas. De esta manera, se trata del dispositivo natural y más eficaz de una cultura que, justamente, solo pretende tener respuestas y ha olvidado que lo más importante y verdaderamente innovador son las preguntas, tal como se sigue de toda nuestra tradición filosófica inaugurada, si quieren, por Sócrates.

El fenómeno es muy curioso porque una sociedad infantilizada casi a todo nivel, deja de lado el asombro, la curiosidad y el ánimo de descubrimiento que está en el espíritu de cada pregunta que hacemos cuando somos niños. Ahora solo queremos respuestas. Y que sean rápidas, por favor.  

Para concluir, y a manera de síntesis, entonces, que las IA se vayan perfeccionando para ofrecernos respuestas cada vez más robustas e incluso categorías a partir de las cuales poder reflexionar, parece una oferta difícil de rechazar. Y en todo caso, aun cuando efectivamente pongan en debate la noción de autor, pareciera que hay un resquicio para nada menor en el que el humano será siempre necesario. Me refiero, claro está, al espacio de la pregunta y la repregunta como guía para profundizar el conocimiento y agudizar el sentido crítico. Renunciar a esto sería, por cierto, el único verdadero escándalo.