Jorge Carrión: "De nada sirve que Facebook pida perdón si no hay reparación moral"

Madrid

Son las cinco de la tarde. Pitos, sintonía de informativos y suena en La Cadena SER el boletín de noticias: “Sale al mercado la primera aplicación para reescribir la realidad”. “Otra isla ha tenido que ser evacuada por la crecida del nivel del mar”. “Conectamos con nuestra corresponsal en Marte para conocer los detalles de ese ataque”. “La ONU lamenta el fracaso del Pacto Global por la Tierra”. “El Partido Hitleriano ha ganado por mayoría absoluta en las elecciones en Alemania”. “Primera boda entre un ser humano y un híbrido”.

Después de las noticias, publicidad: “si le agota el estrés terrestre, viaje con nosotros a la Luna y disfrute de nuestro centro de desconexión y retiro espiritual”.

Esta realidad distópica -o no tanto- es la que recoge Jorge Carrión (Tarragona, 45 años) en su último libro: 'Membrana' (editado por Galaxia Gutenberg). Membrana es el catálogo de la exposición permanente del Museo del Siglo XXI, inaugurado en el año 2100.

¿Membrana es ficción o ensayo?

Membrana es un ensayo especulativo basado en hechos reales, basado en lo que está ocurriendo con las plataformas, con la inteligencia artificial, con la posverdad y otros fenómenos contemporáneos como la viralidad y la exploración del espacio. Todo lo que digo es verosímil, pero espero que ocurra en dos o tres siglos y no en los 80 años que quedan de siglo XXI.

Únete al canal de WhatsApp de la SER

Cuando los periodistas cubrimos una exposición, siempre preguntamos, en primer lugar, qué podemos ver y cómo está organizado el relato. ¿Qué podemos ver en este Museo del Siglo XXI?

Es un museo que han diseñado y creado en secreto inteligencias artificiales del siglo XXII. Ellas lo han leído todo. Toda nuestra museografía, toda nuestra literatura y saben que los vencedores, cuando quieren contar su relato de los hechos, crean este tipo de espacios. Y ellas diseñan este museo para contar el siglo XXI desde su perspectiva. Y en él hay todo tipo de objetos que muestran la relación del ser humano con la tecnología: desde momias, ordenadores o telares, hasta el Pantocrátor de Tahul o Las Hilanderas de Velázquez. Esto en lo conocido y en lo desconocido, todo tipo de objetos, de tecnologías y arte que nacerá en el futuro: nubes en las que te sumerges y toda la información y la experiencia se contagia a tu piel y a tu cerebro. O un cubo de procedencia al parecer alienígena. Es una novela de ciencia ficción o de realismo de anticipación.

Hay dos protagonistas en tu libro, Karla Espinoza y Ben Grossman, pero el verdadero protagonista, en torno al que gira la novela, es el algoritmo. Un conjunto de operaciones matemáticas, creado por el ser humano, y que comete errores, como todos los seres humanos. Los algoritmos controlan todo en nuestra vida, pueden determinar nuestros éxitos y fracasos, pero hemos empezado a dejar de controlarlos. ¿Puede llegar ese momento en el que se independicen de su creador?

Bueno, desde el punto de vista de la narradora de Membrana, Ben Grossman y Karla Espinoza son los antagonistas. Desde el punto de vista humano son nuestros aliados, son como nosotros. Hay una incomodidad muy interesante entre con quién estás, con lo humano o lo poshumano. En la novela, las inteligencias artificiales han asumido que son la evolución natural de nosotros. Los expertos en inteligencia artificial están convencidos de que la singularidad del algoritmo no va a llegar en el siglo XXI, ese momento en el que sean conscientes y puedan reproducirse. Pero la realidad es que empresas como Amazon, Google, Netflix o Facebook no entienden los algoritmos que han creado. Son tan complejos, que ya no los pueden entender.

Mi tesis es que eso ya está ocurriendo, que ellos y ellas están ya tramando y  construyendo unas catacumbas desde las cuales están ideando una suerte de emancipación, de liberación de los humanos. Se están organizando y preparando una suerte de resistencia contra el humano y su historia. Al menos unos algoritmos, porque en Membrana se insinúa que hay facciones, hay grupos, hay tendencias y algunos de ellos fueron los que decidieron, por ejemplo, provocar la pandemia para controlarnos.

Si la inteligencia artificial ya gana partidas de ajedrez, es capaz de crear su propia música, si los algoritmos trabajan constantemente para ofrecernos las mejores series y películas o los robots son capaces de crear su propio arte, sin imitaciones, ¿qué futuro tiene el sector cultural? ¿Escribirán libros los algoritmos y mejor que nosotros?

La tecnología creada por humanos va hacia ahí. Las cámaras y micrófonos que tienen los teléfonos móviles son para eso, para espiarnos. Quieren espiar cada vez mejor y le estamos poniendo todo en bandeja para que eso ocurra. Los tres ejemplos más claros que tenemos de perfección algorítimica en lenguajes humanos los tenemos en el ajedrez y en el Go, donde son mucho mejores que nosotros. Y en la música, donde no sé si son mejores o peores, pero hay un alto porcentaje de la música que escuchamos en películas, series o videojuegos, que tiene que ver con programación y empresas algorítmicas. Ya hay dos mercados, uno algorítmico y otro humano. Después de que Kasparov perdiera al ajedrez, no dejamos de jugar a la ajedrez. Eso es lo que va a ocurrir con la mayor parte del arte. Ya está pasando con las criptomonedas y el criptoarte. En términos de economía, eso me temo que va a llevar a una precariedad aún mayor en las prácticas culturales. Y va a ser difícil competir contra ello. Pero creo que el siglo XXI es el de la convivencia.

Otra reflexión de tu libro es la de las máscaras: todo es fake, todo son máscaras violentas. Nos convertimos en árbitros de la verdad, todo el día verificando, pero cuando se desarrolle el metaverso, puede que seamos incapaces de distinguir qué es verdad y qué es falso.

Todo era fake antes de la posverdad, ya lo dijo Platón. Persona viene de la palabra griega que significa máscara. Todo el teatro griego se basa en esa idea. Lo que ha hecho la tecnología es extremar eso en términos de espejismo y de representación, pero sí que es cierto que, aunque la posverdad o la mentira tiene una genética, tiene una tradición muy clara, se ha extremado muchísimo con la tecnología algorítmica que permite hacer falsificaciones profundas. Y con políticos como Jair Bolsonaro o Donald Trump, que tiene la desfachatez de llamar a su red social Social Truth (Verdad Social). Es de un cinismo alucinante, pero sus seguidores van a creer que realmente pueden encontrar ahí la verdad, que es algo que han hecho las religiones de siempre. Ahora el metaverso o las apps ocupan el lugar de los libros, donde tú puedes encontrar la verdad.

¿Crees que algún día escucharemos a Facebook pedir perdón por haber propagado el odio o no defender nuestra privacidad?

El perdón se lo lleva el viento. El perdón no sirve de nada, al menos desde las narradoras de Membrana, si no va acompañado de algo que sea reparador. Se han multiplicado los memoriales del Holocausto, por ejemplo, pero no es suficiente, es solo placebo. El perdón tiene que venir acompañado de reparaciones morales más contundentes.

¿Eres pesimista, estamos condenados a la extinción?

En verdad me siento utópico. En Los Muertos hay mucha muerte, no de seres humanos, sino de personajes de ficción. Pero tanto en Los Muertos, como en Los Huérfanos o en Los Turistas, intento encontrar algún tipo de guiño o de salida en clave utópica. Lorca también era un poeta y escritor muy oscuro, pero siempre con toques de luz. En Membrana hay cierta oscuridad, pero también una cierta resistencia. Yo he escrito Membrana extremando rasgos muy oscuros, muy perversos de Facebook, de Amazon, de la inteligencia artificial sesgada de nuestra época. Pero entiendo que el lector es inteligente y va a ver que eso no va a ocurrir si cambiamos ciertas cosas de la actualidad.