Fragmento cubierta «Membrana», Jorge Carrión, 2021
La proliferación de noticias cercanas a la ciencia ficción sobre la capacidad literaria de ChatGPT y de la Inteligencia Artificial para generar poesía, relatos o novela nos ha distraído del auge y revitalización del género a través de nuevos, reconocidos y exitosos autores. En este artículo, nuestro colaborador Pablo Llanos Urraca se centra en las figuras de Kazuo Ishiguro, Olga Ravn, Jorge Carrión y Vicente Luis Mora para explicarnos este fenómeno.
***
Aún queda margen para hacer literatura dentro de este género al que en los últimos tiempos se han acercado autores dispuestos a ello: el nobel Kazuo Ishiguro (Klara y el sol) o la poeta danesa Olga Ravn (Los empleados); o autores nacionales como Vicente Luis Mora, con Cúbit, y Jorge Carrión, autor de Membrana. Novelas donde la inteligencia artificial vuelve a estar en el centro de las tramas y los conflictos. Hay también otros nombres y títulos: Cory Doctorow (Radicalizado, Walkaway) o Laura Fernandez (La señora Potter no es exactamente Santa Claus), que consiguen que la narrativa de esta corriente no quede, del todo, en manos del cine o las series.
No puede resultar extraño que los grandes momentos del género de la ciencia ficción hayan coincidido con eras de grandes avances tecnológicos. Julio Verne en la segunda mitad del siglo XIX escribía mientras se desarrollaba la industria eléctrica; Stanislav Lem, Bradbury y Asimov, por su parte, fabulaban durante la carrera espacial.
***
Ahora nos encontramos en otro gran momento, que los investigadores denominan la era de la Inteligencia Artificial. Sin embargo, la literatura siempre ha estado ligada a la IA, mucho antes de los hechos que narra la IA que protagoniza Membrana, de Carrión:
Ramon Llull, en el siglo XIV, dijo que el pensamiento podría ser artificial; ya la abuela Alan Turing diseñó en 1936 su Máquina Universal; ya en 1956 las casi abuelas John McCarthy, Marvin Minsky y Claude Shannon pronunciaron con plena conciencia la expresión inteligencia artificial.
Es posible encontrar vestigios de inteligencias artificiales en el imaginario literario desde el inicio de la Historia. En la Ilíada de Homero, escrita hace más de 2.500 años, hallamos la descripción de las Kourai Khryseai, dos máquinas auxiliares de oro forjadas por Hefesto, el dios del fuego y de la tekné, la inteligencia manual. Parecían doncellas vivas con inteligencia y voz que Hefesto (Vulcano, para los romanos) utilizaba como sirvientas para que le ayudaran en todas las tareas necesarias en su día a día.
El mito cuenta que, al ver a las doncellas doradas, a Zeus se le ocurre pedirle a Hefesto que diseñe una para él, a la que dotará de conciencia, y la mandará de regalo a los titanes. El resultado: Pandora. Ya sabemos cómo acabó la cosa… Miles de años de la raza humana temiendo que una máquina sea más inteligente que nosotros y aun así afanándonos en crearla. El mito griego lo revive Ishiguro, que hace protagonizar su novela a Klara, una Amiga Artificial (AA), un robot B2 que va a pasar de un almacén a cuidar a una niña enferma.
En nuestro día a día, hemos pasado de interactuar con lo que se clasifica como IA estrecha (bots o asistentes como Siri) a una IA amplia, en la que ChatGPT hace pensar en la posibilidad de llegar en dos o tres décadas a una IA general, máquinas capaces de realizar cualquier tarea intelectual que pueda realizar un ser humano.
Y por qué no, una SuperIA en la que las máquinas podrían ser conscientes de sí mismas. En este terreno entre la IA General y la SuperIA, entre las doncellas doradas de Hefesto y Pandora, es donde se está situando la literatura de ciencia ficción.
***
¿De qué habla la ciencia ficción? No solo de IA vive la ciencia ficción. El cambio climático como posible escenario, la computación cuántica, la genética y la ciencia de materiales son los otros grandes pilares.
En Klara y el sol, Ishiguro, además de la IA, se adentra en la genética, con una generación de niños “mejorados”. En Los Empleados, de Olga Ravn, subimos a bordo de la nave Seis Mil, para investigar un suceso gracias a los testimonios de la tripulación compuesta por humanos y humanoides y unos Objetos vivos que no llegan a ser ni orgánicos ni minerales.
Los dos proyectos más ambiciosos, sin embargo, son de autores españoles y están publicados por Galaxia Gutemberg. Por un lado, Membrana de Jorge Carrión se desarrolla en ese futuro en el que una SuperIA nos hace de guía por un futuro museo de historia de la IA. El libro comienza como un ensayo, en el que se detallan todos los progresos de la humanidad en torno a la IA y la robótica hasta que se sobrepasa la actualidad y vamos leyendo qué ocurrió después de nuestros tiempos.
Por otro lado, en Cúbit, Vicente Luis Mora plantea casi todos los temas. Cúbit es un ser encontrado por casualidad, parte de una especie ligada con la tierra y la naturaleza, que no es ni orgánica, ni mineral y que posee una superinteligencia natural con unos rasgos de carácter basados en la física cuántica. Cúbit aparece en el momento en el que una superinteligencia artificial llamada Ibris (nótese el guiño a la Hibris, la arrogancia en tiempos del Olimpo) ha tomado una decisión sobre qué es lo mejor para la humanidad.
De esta forma Vicente Luis Mora enfrenta a dos inteligencias antagónicas, actualizando el viejo conflicto de rebelión de las máquinas para dejar a la humanidad en un plano espectador, más preocupada por buscar la Voyager para actualizar el género en la placa enviada en ella que describe a la Humanidad.
***
La voz de la IA. ¿Qué voz se le pone a una SuperIA? ¿Cómo hablará una inteligencia artificial que según el investigador Nick Bostrom poseería “un intelecto mucho más inteligente que los mejores cerebros humanos en prácticamente todos los campos, incluida la creatividad científica, la sabiduría general y las habilidades sociales”?
Jorge Carrión opta por una primera persona del plural femenino en Membrana, que en su repaso por la historia de la IA va mostrando su admiración por los humanos y las máquinas que fueron responsables de su desarrollo (las abuelas) y su odio por quienes intentaron parar ese progreso. De esta forma, Carrión lleva a las páginas el dilema del Basilisco de Roko.
Ishiguro opta, en cambio, por una primera persona del singular para Klara, la narradora de su novela que, por motivos de limitaciones en la programación de su versión, se dirige al interlocutor en tercera persona.
En su calidad de poeta, Olga Ravn juega en Los empleados a una multitud de declaraciones de toda la tripulación en las que va a dejar que sea el lector quien complete el testimonio y decida si quien habla es humano o artificial.
En Cúbit, por su parte, nos encontramos un coro de 16 voces (no está elegida casualmente la base hexadecimal) ya que Mora no deja nada al azar. Entre esas voces tenemos reflejadas los diferentes niveles de IA (el asistente de Nadia es una IA amplia), Loopp es una IA general antagónica con rasgos de empatía, e Ibris, la SuperIA, tiene un sesgo de arrogancia y falta de compasión en su discurso. Estos rasgos son los que diferencian a Ibris de los humanos y de Cúbit, la superinteligencia natural en la que Mora va a mostrar un delicioso proceso de aprendizaje del lenguaje humano a lo largo de la novela. Una muestra de cómo novelar el Deep Learning.
***
Literatura, ciencia ficción y ética de la IA: un juego de dobles espejos. Más allá de la anticipación o la futurología, la ciencia ficción ha llevado a cabo la legítima labor de poner un espejo delante de la humanidad. Desde Bradbury hasta Black Mirror, desde el Golem hasta Matrix.
Una de las ramas dentro de la investigación de la IA es la Ética de la IA, donde los científicos tratan de poner unas normas y límites al desarrollo de esta tecnología. Parte de la base de sus desarrollos se ha tomado de antiguas obras de ciencia ficción, como las Leyes de Clarke, los mitos de Frankenstein o el rey Midas, y las Leyes de Asimov (aparecidas por primera vez en el relato “Runaround” en 1942). Esto se debe a que las obras del género desarrollan casi siempre una cierta filosofía sobre la tecnología.
Cuando le pedimos a ChatGPT que nos genere un poema como si fuera Emily Dickinson, Lope de Vega o Fernando Pessoa, se convierte en un espejo. En un espejo de lo humano. De la idea de lo humano en la época de Dickinson, Lope de Vega o Pessoa. Por lo tanto, estamos ante un doble juego de espejos. La literatura como espejo de la humanidad utilizada para desarrollar una IA que nos devuelva una imagen de cómo somos. ¿Qué refleja un espejo en frente de otro espejo?
Al ser el cenit del manejo del lenguaje, asociamos la poesía y la literatura con el ser humano Por eso cuando nos preguntamos si una máquina puede escribir poesía, también nos estamos preguntando ¿qué significa ser humanos y cómo acotamos esa categoría? Una cuestión filosófica que no podemos resolver con un Test de Turing.
La categoría de lo humano es inestable. Lo humano no es un hecho rígido, frío, es algo construido con opiniones y es algo que cambia con el tiempo. La llegada de niveles avanzados de IA está clarificando, como reflejo, qué es lo que nos hace humanos: el uso del lenguaje abstracto, la búsqueda de la identidad y la compasión en la toma de decisiones.
Todo esto se refleja en Klara y el sol, Cúbit y Membrana. ¿Qué mayor búsqueda de la identidad que la de crear un museo que muestre un relato sobre tu historia? En la guerra desatada en Cúbit, la identidad está en el centro desde tres puntos de vista: el de las máquinas, el de los humanos y el de los itrios. Por su parte, Klara irá aprendiendo la diferencia entre robots y humanos, entre los propios humanos y entre robots de diferentes versiones.
En todas estas novelas la toma de decisiones va ser clave. Ishiguro pone a Klara en el brete de sacrificarse. Carrión muestra una escena con un dron israelí, identificando objetivos en Palestina, en la que comprendemos que la diferencia en la toma de decisiones entre una IA y un humano es la compasión. La compasión vista como una mala decisión que, sin embargo, es la correcta. También compasión y empatía van a estar presentes en el final de Cúbit, en la que, además, se dedican algunos párrafos a reflexionar sobre la literatura y la IA gracias a la metanarrativa aparición de un catedrático de literatura en la trama.
Como señala el investigador Ray Kurzweil: “Nuestra tecnología forma parte de nuestra humanidad. Creamos las máquinas para extendernos y eso nos hace únicos y humanos».
En este doble juego de espejos en el que bailan la ciencia ficción y el desarrollo real de la IA, quizás la cuestión filosófica de toda esta narrativa es, si llegáramos al escenario de convivir con una SuperIA, ¿Qué parte de lo humano creemos que reflejaría para tenerle tanto miedo ahora?
