Hay quienes piensan que es inteligente. Que piensa. Se sorprenden de su astucia. Y entonces, frente a lo que no se alcanza a ver completo, el miedo. Los titulares a veces tampoco alumbran. Que “El ChatGPT se hace pasar por una persona ciega y convence a un humano para que conteste por él un CAPTCHA (esas pruebas que nos ponen las máquinas para demostrar que somos humanos)” decía uno. Que “El ChatGPT ataca a usuarios (insulta o miente) por ‘hacerlo enojar’”, otro. “’Hitler tenía razón’: el problema de cualquier chatbot como ChatGPT que debe preocuparnos a todos” polemizaba uno más de ese estilo.
El meollo está, sin embargo, en lo que nos define como humanos. Porque el pensamiento y la cultura, las sociedades o la civilización, y aun nosotros, los seres humanos, estamos hechos no sobre todo de átomos o de barro, sino de lenguaje y narrativas. O quizá el lenguaje y las narrativas sean nuestro barro.
Por eso el miedo y buena parte de la polémica con respecto al lenguaje natural o espontáneo creado mediante inteligencias artificiales. Porque una sesión de chat cualquiera, a través de la que casi cualquiera puede constatar que la herramienta diseñada por OpenAI es capaz de interactuar más o menos coherentemente con nosotros, de resolver textos por nosotros, de dar soluciones para nosotros, de crear lenguaje… da la impresión de una consciencia, por llamarla de algún modo, no humana, sino algorítmica, que piensa por cuenta propia casi al mismo nivel que nosotros, los humanos. Y entonces, “uy, qué miedo”.
El cine y en general la ficción se encargaron de auspiciar aquella desconfianza: estamos hechos de lenguaje y narrativas, decíamos arriba. Pero lo cierto es que ni el artificialmente inteligente ChatGPT ni ninguna otra inteligencia algorítmica son capaces de pensar por sí mismos todavía. Ni de aliarse con otras máquinas para confabular contra los humanos, ni de intentar destruirnos, ni de imponer una nueva era. Todavía. Aunque están a la vista riesgos de otro tipo y, como siempre, retos, oportunidades.
El escritor y crítico cultural Jorge Carrión es posiblemente una de las voces que, desde la literatura y el ensayo, más ha reflexionado sobre esos temas. Publicó Contra Amazon (2019), Lo viral (2020), un montón de artículos sobre cultura digital en medios de renombre como The New York Times y The Washington Post en español, La Vanguardia, y así. Es autor de los podcasts Solaris, ensayos sonoros y Ecos, tiene a su cuenta una novela que es más bien un viaje por la historia de las tecnologías y un intento por ver el futuro, o Membrana (2021), y en marzo de 2023 publicó un libro ensayo en el doble sentido de la palabra: Los campos electromagnéticos es, por un lado, una serie de reflexiones sobre la escritura automatizada o artificial y, por otro, un experimento hecho entre los ingenieros y artistas del Taller Estampa, de Barcelona, los sistemas GPT-2 y 3 y el autor español.
Los campos electromagnéticos es también el primer ensayo literario escrito en español en coautoría con sistemas de inteligencia artificial. Carrión, a quien ya había entrevistado en 2017 a través de Facebook Messenger, aceptó nuevamente una entrevista pero esta vez mediante mensajes de voz por WhatsApp.
Sobre la coautoría de su más reciente y algorítmica obra, dice:
Ok, pero en la descripción del libro que publica la editorial argentina Caja Negra se habla de las tecnologías (en este caso, de las tecnologías de la escritura) ya no solo como herramientas o instrumentos de apoyo, sino como aliadas a las que se invita incluso a narrar, y eso supone un salto enorme, le digo a Carrión, con respecto a cómo las entendemos; a lo que él responde:
No obstante, escribir o, mejor dicho, componer textualmente aporta también a los procesos de aprendizaje, y más aún en etapas iniciales. Aprendemos, escribiendo, a organizar ideas, pensamiento, afincamos, o se asienta, el conocimiento, se desarrollan habilidades cognitivas… ya sea mediante las particularidades de la escritura a mano, pasando por la escritura mecánica (medios impresos) y las características o favores de la escritura digital. ¿Qué pasa con esos procesos, y con la educación, en general, en la era de la escritura artificial o automatizada?
Carrión, quien es además profesor y codirige el Máster en Creación Literaria de la Universidad Pompeu Fabra, en Barcelona, considera que son necesarias nuevas pedagogías; dice:
Dado que los sistemas GPT no son muy claros en cuanto a las fuentes con las que han sido entrenados, o incluso en las que, digamos, se inspiran, el concepto de plagio es otra de las cosas que nos tocaría repensar.
Sobre eso último, Carrión le dijo a la periodista Silvina Friera que “(…) hay que reconsiderar, una vez más, lo que es la originalidad, tanto en términos creativos y artísticos como en términos jurídicos, legales y económicos”. Y deja claro, durante esta entrevista, las fuentes que alimentaron a las inteligencias artificiales que participaron en Los campos electromagnéticos: libros que él había leído y escrito y una selección de sus artículos y podcasts, pues “se trataba de que fuera un algoritmo que escribiera como yo”, afina, de conseguir su estilo. Y los sistemas de ese tipo aprenden a escribir leyendo, como los humanos.
Carrión escribió el capítulo de introducción y el epílogo del libro, GPT-3 la Parte 1 y GPT-2 firma la Parte 2. El proceso de escritura se dividió, “a grandes rasgos, en cuatro etapas”, explica:
- En la primera fase Carrión conceptualizó la obra y, con los ingenieros y gente de Estampa, entrenaron al sistema GPT-2 mediante los textos ya mencionados.
- Carrión preparó la escritura que se le daría a GPT-3, de modo que este pudiera seguir lo que el escritor catalán había empezado. Un dato no menor es que Carrión, según cuenta, leyó a profundidad y escribió sobre Los campos magnéticos, de André Breton y Philippe Soupault, una obra pionera del surrealismo literario que se publicó hace un siglo y abrió el camino a la escritura automática (esa que se hace casi sin corregir o editar según el flujo de la consciencia). En Los campos electromagnéticos, Carrión ensaya, en cambio, una obra pionera e híbrida de escritura automatizada, en la que participaron directamente máquinas y humanos.
- Carrión acudía por las mañanas al Taller Estampa y, “asistido todo el tiempo” por gente de ese colectivo, introdujo comandos textuales con tres o cuatro variaciones, para después guardar las versiones de los textos generados algorítmicamente. Esa fue la tercera etapa.
- Y sobre la última, en la que se impusieron otra vez criterios humanos (no faltaron en ningún momento, si se mira bien), señala que, “viéndola en retrospectiva”, fue la más importante y laboriosa, una fase de “corta y pega” en la que no cambió “ninguna palabra ni mejoró exponencialmente los textos (…) porque las respuestas eran buenas”, además de que la idea siempre fue seleccionar y armar con ellos un collage en el que hubiera coherencia. Conservó, más o menos, dice, dos terceras partes de lo que la máquina había generado.
Sobre esa fase, también conocida en el mundo editorial como edición, apunta:
Otro punto interesante son los límites de las inteligencias artificiales en torno al lenguaje. Carrión dijo en la entrevista ya citada que en cuanto a “ensayo académico, superventas, poesía tipo influencer (…), en pocos años los algoritmos van a ser mejores” que los humanos. Estarían lejos aún la metáfora, la ironía, el humor. Y no han faltado quienes, me permito añadir, han señalado tipos de escritura que podrían ser reemplazados pronto, como la redacción publicitaria (copywriter) y para redes sociales, el periodismo de escritorio o sin calle (la máquina no reportea, todavía), la escritura de lenguaje informático o programación, y así.
Con respecto a la coherencia de los textos hechos por GPT (versus los escritos por humanos) y la tarea de darles sentido en un libro, Carrión comenta:
Entiendo que, desde siempre, incluso desde los tiempos de Sócrates y Platón, ha estado latente cierto rechazo a todas las tecnologías de comunicación que han surgido, empezando por la escritura, interpelo, pero, ya que escribir es básicamente ordenar el pensamiento sobre un soporte, ¿con las inteligencias artificiales aplicadas a la creación de lenguaje no te parece que sí hay un riesgo considerable de que las máquinas empiecen a pensar por nosotros?
Para responder Carrión acude aún más lejos, a los tiempos en que los humanos domesticaron el fuego, y no olvida discursos como los de Donald Trump y “tantos otros”.
Un pasado a veces remoto y contemporaneidad, tradición y porvenir. Desde esos lugares habla casi siempre el entrevistado. Y justamente por eso pregunto por los cambios que prevé en los hábitos y tendencias de escritura. Carrión me remite a Membrana para hablar de un posible futuro en el que se pondría de moda la escritura, por llamarla de algún modo, más artesanal (en el caso de su novela, se pone de moda la escritura a mano) y, luego, a un artículo sobre el “boom de la literatura artificial”.
Me envía esta imagen:
Contesta una última pregunta, acerca de los cambios sociales y culturales derivados del auge de las inteligencias algorítmicas, pero, esta vez, mediante texto:
“Yo diría que si el metaverso o los NFTs (certificados de autenticidad digitales), y lo cripto en general, no van a implantarse como podía parecer hace un año, los algoritmos de generación de imagen, texto y música sí que han llegado para quedarse. Ahora urge encontrar mecanismos forenses para verificarlos. Por ejemplo, es posible ya hacer porno fake con personas que parecen reales y cuya cara, gemidos, palabras, voz pueden suplantar las de un ser humano real. Como te decía antes, el fuego puede iluminar o arrasar”.
Y las inteligencias artificiales, ya había dicho también antes, no son la excepción, claro.