Chat GPT-4: El juguete que asombra al mundo

>>CHAT GPT-4, escribe la historia de Luke Skywalker como un poema del Siglo de Oro.

_En lejana tierra de sol ardiente y arena,/un joven llamado Luke, de humilde cuna vivía./Su vida en el confín del mundo, en ruda faena, donde las estrellas, en sueños, no conocía./De repente, un mensaje azaroso, en su destino,/De princesa en apuros, clamaba por socorro./A un viejo sabio, Ben, de noble alma y tino, / Junto a Luke, se embarcan en un noble correrío./La Estrella de la Muerte, en combate feroz, él venció,/Y la justicia prevalece, como en viejas leyendas./Mas, en el desenlace, descubre su terrible verdad,/Que Vader es su padre, en su sangre, la oscuridad.

Es una demo del futuro, el juguete que pasma el mundo. Él y toda su familia –programas de diseño gráfico, como Dall-E– han provocado la sensación de haber dado otro paso de gigante en lo inimaginable. Al Chat GPT-4 le puedes decir, en efecto, que te cree un poema del Siglo de Oro sobre Luke Skywalker. Que te traduzca –y no lo hace mal–. Que te pase de un código a otro. Los generadores de imágenes te pueden levantar, en segundos, un Cádiz veneciano, una Venecia egipcia.

Gracias a ser un legendario consumidor de ciencia-ficción, comenta el escritor Rafael Marín, gran parte de lo que ha pasado en estos tiempos sorprendentes –pandemia incluida–, le sorprendía un poco menos: “La ciencia-ficción, casi de forma inevitable, suele ser apocalíptica y reaccionaria”. Surge para tratar de explicar, a través de otros mundos, los miedos de un mundo cambiante –esos monstruos que asoman en el luscofusco entre realidades, pobre Gramsci, le estamos desgastando la frase–. “Cuando le pedí al Chat que tradujera el primer capítulo de mi próxima novela –una recreación del viaje de Odiseo–, se me cayó el alma a los pies”, dice. “Se notaba que era mi voz la que hablaba. Si vas despacito. encuentras detalles, reiteraciones, etc., pero digamos que la traducción en el futuro está muerta. Lo mismo el que tiene más sitio es el corrector de estilo”. El poema sobre Skywalker está lleno de topicazos, de acuerdo, pero “el último verso es una preciosidad. Lo que da miedo es pensar que esto es sólo el principio –indica–. En cualquier caso, a mí no me preocupa la máquina, sino el que está detrás: que tengamos una herramienta así no deja de ser una wiki exótica. Ahora, no tiene marcha atrás”.

Hace unos días, distintos pensadores y nombres de las nuevas tecnologías firmaron una carta para pedir una moratoria de unos meses ante la velocidad que estaban adquiriendo los nuevos desarrolladores. Nuestros acelerados logros binarios amenazan con producir choques inevitables, en un escenario en el que programas desarrollados y con domicilio en Estados Unidos, se utilizan en distintas partes del globo. Aquí topamos con una cuestión de fondo ya que, si el sistema jurídico estadounidense se basa en el principio de libertad plena legislando luego a partir de casos; el sistema europeo es mucho más garantista de salida.

El tema amplio de la IA y sus responsabilidades legales protagoniza, de hecho, el I Congreso Internacional El Derecho y la Justicia ante la Inteligencia Artificial y otras Tecnologías Disruptivas, I Congreso Internacional El Derecho y la Justicia ante la Inteligencia Artificial y otras Tecnologías Disruptivas,que tendrá lugar a finales de mayo en el campus de Jerez. “La Unión Europea –explica al respecto la doctora Margarita Castilla Barea, que desarrolla en la UCA una línea de investigación sobre Derecho e Inteligencia Artificial– está inmersa en pleno proceso de regulación de todo lo que tiene que ver con la IA. En 2020 hubo una Declaracion con propuesta de Reglamento que apostaba por distinguir distintos umbrales de riesgo para los sistemas de IA y, en función de esos umbrales, usar esquemas de responsabilidad objetiva para los de alto riesgo. Esa propuesta parece estar en este momento en vía muerta. Y en septiembre de 2022 se ha presentado otra propuesta distinta, esta vez de Directiva, que ahonda mas en esquemas de responsabilidad subjetiva, es decir, en los que la víctima de un daño causado por medio de un sistema de IA tiene que demostrar negligencia del responsable al menos, para poder cobrar su indemnización hipotética”.

Según la especialista, la UE no quiere “frenar la innovación en IA para no quedarse atrás, y el establecimiento de normas de responsabilidad mas gravosas para la industria lo consideran como un posible freno. De momento, en mi opinión, van ganando el mercado y los agentes de mercado”.El encuentro de Jerez tratará distintas cuestiones propuestas desde la IA; como el ”juez robot” o los robots asistenciales: “La pregunta es si la humanidad esta lista para absorber estos cambios a esta velocidad –indica Castilla Barea–. Si va a contar con herramientas tanto tecnológicas como jurídicas para combatir los posibles efectos perversos. En cuanto a lo jurídico, ya te digo yo que vamos muy por detrás. Y en cuanto a lo tecnológico, parece preocupante que los propios desarrolladores de estas tecnologías estén alertando. Me parece que no todo lo técnicamente posible tiene por qué ser humanamente deseable y, desde luego, no tiene por qué ser jurídicamente aceptable”.

“Una máquina no es algo aséptico y neutral, sino que detrás hay un humano, pero va a ir hacia donde nosotros le digamos –reflexiona al respecto Juan Carlos Mougan, profesor de Filosofía Moral en la UCA–. Habrá que poner normas y reglas y dirigir la comunicación humana hacia lo que nos interesa. Los poderes públicos y los estados tienen algo que decir sobre esto, no pueden permanecer de espaldas ante esta realidad”.

De momento, los actuales desarrolladores hacen replantearse parte de las inercias educativas habituales: la entrega de trabajos convencional queda en la picota. “En el ámbito educativo –comenta Mougan–, los aspectos más mecánicos del conocimiento humano, los que obedecen más a protocolos, perderán relevancia y nos iremos centrando más en las interpretaciones de casos, contextualización, probablemente seamos más creativos... Lo que es la explicación general de todo y el análisis, te lo van a dar las máquinas. Lo mismo se hace imprescindible de nuevo la presencialidad. Pero, al fin y al cabo, el sistema educativo ya iba empujando hacia una inercia menos mecánica y memorística, no tiene que ser especialmente negativo: habremos de adaptarnos a un nuevo mundo y trabajar unas competencias distintas. Ocurre que, por definición, somos reacios al cambio”.

>>Hazme un argumento retrofuturista con Sandman.

_En un mundo gobernado por las máquinas a vapor y en el que abundan los autómatas, existe una misteriosa figura conocida con el Sandman. Algunos dicen que es un mito;otros, una leyenda, pero nadie lo ha sabido con seguridad. Hasta ahora. Conoce a Amelia, una joven inventora que se embarca en una aventura para descubrir quién se encuentra tras el mito del Sandman, y acompáñala en su viaje a través del corazón industrial de la ciudad, donde hará frente a todo tipo de peligros y retos, desde trenes a vapor a soldados mecánicos.

“Yo creo que nos va a cambiar el mundo de la creación por completo –continúa Rafael Marín–, así como el concepto de escritura, de lector... De hecho, el mundo de la creación está absolutamente acojonado. Yo sigo creyendo que el espíritu humano es el espíritu humano, y seguirá creando, pero por encima del espíritu humano, o muy relacionado con él, está la codicia, y no me fío un pelo de esa raza humana que son los editores, por ejemplo. Ahí es fácil que se acabe la literatura, por ejemplo, como fin por sí mismo, por experimentar, por buscar la belleza”.

¿Qué querrá el editor, una historia que funcione como un trabajo de relojería, desarrollada por un robot, o arriesgarse a lo impredecible? ¿Qué querré yo, como lector, una historia hecha a medida con todas mis filias en fila o contribuir a la causa de la sangre? El tema va rápido: “La revista ArthurC. Clarke World ha tenido que desconvocar su concurso de relatos porque todo el mundo había mandado historias elaboradas con GPT. Y luego están –prosigue Marín– cuestiones como el ofendiditismo, que puede convertirse en tiralíneas; o la elaboración de críticas, o esa cosa terrible de El nombre de la rosa: una generación que no está educada en el humor, lo desconoce. Un mundo feliz, absolutamente”.

>>¿Puedes suponer una amenaza para la escritura creativa?

_Hay quien ve en los modelos de lenguaje de IA como yo mismo una potencial amenaza para la creatividad humana, mientras que otros nos contemplan como una herramienta para generar nuevas ideas o expandir los límites de lo que es posible en literatura.

A nivel creativo, no todo parece conllevar una rendición tan absoluta. En lo audiovisual, por ejemplo, el debate está todavía lejos: “Lo que sí puede ayudar es al desarrollo de proyectos, presentaciones, previsualizaciones antes de rodar... Eso afectaría a artistas conceptuales y demás –explica Paco Rodríguez Prieto, responsable editorial de cine de ficción en Movistar–. Sí se puede usar para buscar sugerencias de ideas y demás, pero también se sabe, por ejemplo, que a la IA en cuanto le dejas libertad creativa, tiende a ser tendenciosa, racista, etc”. Aun así, a nivel de derechos, la cuestión se complica: “De hecho, ya empieza a haber problemas porque se ven copias demasiado parecidas de dibujantes y demás. Puedes hacer a un Pedro Sánchez de Superman como si estuviera dibujado por Carlos Pacheco. Si él estuviera vivo, diría que que lo haga una máquina, pues ya es bastante molesto, pero que encima se produzca rédito económico con eso, pues peor me lo pones”.

Para Rodríguez Prieto, por ahora este tipo de sistemas son más que nada una herramienta: “Un poco como cuando aparecieron los primeros móviles con cámara o las cámaras digitales baratas, que se decía que cualquiera podría hacer una película, y es verdad que en gran medida lo democratizó, pero luego lo que puedes hacer es una película de dos hablando en una casa de campo –indica–. Con este tipo de cosas, ahora sí que puedes dar uso a una producción que antes no pensarías, con efectos, de aventuras, de ciencia ficción... Serviría para dar más variedad al cine de género y democratizar un poco el cine, que es el arte menos democrático”.

>>¿Cuántos trabajos podría destruir Chat GPT-4?

_Como una herramienta de lenguaje, no tengo la habilidad de crear ni destruir trabajos. Aunque los avances en Inteligencia Artificial y automatización pueden impactar en el mercado de trabajo, es importante apuntar que estas tecnologías también pueden crear nuevas oportunidades de empleo y transformar las existentes. Los efectos de estos avances son complejos y varían dependiendo de muchos factores.

La empresa desarrolladora del Chat GPT-4, Open AI, calcula que la gran mayoría de los trabajos tendrán un grado de afección de al menos el 50%. Parece la primera fase de los juegos oraculares de Bill Gates y Elon Musk que aconsejaban gravar el desarrollo de la alta tecnología y establecer una renta mínima para paliar el desbroce laboral que, presumían, iban a traer los próximos años. Entre las profesiones más afectadas estarían traductores e intérpretes, trabajos relacionados con la escritura creativa, relaciones públicas, administrativos, matemáticos, diseño web o analistas financieros. Si hasta hace nada, cuando hablábamos de la automatización del trabajo, los puestos que parecían en primera línea eran los relativos a atención al cliente –ahí tenemos el ejemplo evidente de las cajeras–, ahora la tortilla se ha dado la vuelta. Copiar y pegar planos te lo puede hacer un robot. De alguna forma, entre desarrollar un sistema que te evite recoger remolacha, y otro que replique la creatividad humana, hemos optado por lo segundo. Un Skynet de inútiles. “Lo del subsidio universal –opina Rafael Marín– vamos a verlo implantado pero de verdad. Y, lo mismo, las tres leyes de la robótica”.

“No sé, llevamos hablando media hora y no creo que lo que tú haces lo pudiera hacer ningún chat”, comenta Jesús Medina, catedrático de Matemática Aplicada de la UCA y director de un grupo de investigación en la universidad gaditana para el diseño de sistemas inteligentes. Sus palabras me hacen pensar que quizá los nuevos desarrolladores sean la venganza póstuma del periodismo: lo que un robot puede hacer, sin parpadear, es precisamente trocear noticias, elaborar listas y sacar clickbaits. El resto, aún no.

“Probablemente –continúa Medina–, si desempeñas tu trabajo a nivel básico, el robot te copie. Pero si eres un especialista, no es capaz, no puede contigo. Lo que nos demandan todo este tipo de innovaciones es que nos especialicemos, que seamos mejores. La IA nos va a golpear como en su día lo hizo la Revolución Industrial, pero hoy somos mejores tras esa Revolución Industrial: vas a una fábrica de coches y no ves a un operario con una carretilla. Detrás de un sistema inteligente, además, hay muchas personas, y se van a necesitar muchas más. También te digo que quienes nos gobiernan deberían ser más proactivos en este tema: la sociedad demanda capacidades tecnológicas y, hoy día, un Bachiller de Ciencias te lo hace un 25% del alumnado, cuando debería ser al revés. Hace falta una reorientación a nivel laboral. Desde luego, todo el mundo tiene derecho a hacer lo que le guste, pero si lo haces, has de buscar la excelencia”.

Medina añade, además, que “en ningún momento los sistemas de IA pretenden suplantar al humano, sino ser un apoyo. Todos los sectores se verán afectados, esto es cierto, pero pienso que para bien, que vamos a ver un proceso de adaptación y de especialización más que de destrucción”.

>>¿En qué consiste el sistema GPT?

_La serie GPT (Transformador Generativo Pre-entrenado) es una familia a gran escala de modelos de lenguaje desarrollados por OpenAI, que utiliza técnicas de aprendizaje profundo para generar respuestas de apariencia humana. Estos modelos responden a partir de una gran cantidad de datos recopilados y orientados a tareas específicas, como responder a preguntas, redacción de textos y traducción.

En el caso de GPT-4, la información que maneja llega hasta 2021 y no está conectada al flujo de Internet. “Aunque ahora mismo, los datos que sin querer le proporcionamos también los asume”, apunta Jesús Medina. Al fin y al cabo, son miles de personas las que se encargan de saciar el voraz apetito de número cuatro: “La alimentación es manual:son los desarrolladores los que dicen a qué base de datos acudir y qué creerse y no. Y, como en todo, tiene que haber sesgo”. “Este tipo de máquinas –continúa Medina– lo que hacen es de motor de búsqueda de información y te plasman en la pantalla información que ya está disponible. Lo han dotado de la posibilidad de que parezca que interactúa contigo: es capaz de responderte cosas sencillas pero no de hilar fino”.

Jesús Medina arroja perspectiva al caso: desde que él mismo empezó a profundizar en este tipo de cuestiones, ha pasado casi un cuarto de siglo. “La tecnología ha ido avanzando muchísimo, pero aún queda mucho para que podamos ver escenas como las de Terminator –asegura–. Fíjate que en 2001 Una odisea en el espacio la máquina Hal seguía un algoritmo sencillo, con un cifrado detrás del cual estaban las letras ‘IBM’: era una crítica a cómo la tecnología iba hacia sistemas inteligentes que pueden con nosotros, y ya ves el tiempo que hace ya de eso”.

“Los adelantos actuales –prosigue– se han llevado a cabo gracias a nuevos ordenadores con una capacidad de cálculo grandísimo. Todo esto lleva a que, a partir de un conjunto de ejemplos, podamos buscar información muy rápido en una base de datos. Todo se basa en la velocidad de procesamiento de cálculo”.

>>¿Te definirías como un sistema de Inteligencia Artificial?

_Sí, puedo definirme como una sistema de IA. Soy un modelo de lenguaje puesto en marcha a través de tecnología de Inteligencia Artificial. Mis habilidades como IA me permiten entender aportes lingüísticos y generar respuestas que son apropiadas y relevantes dentro de un contexto, aprendo continuamente y soy capaz de mejorar mis respuestas a lo largo del tiempo a partir de la retroalimentación.

“No tiene nada de inteligente –añade Jesús Medina–. La IA ha de ser capaz de generar conocimiento nuevo a partir de los datos y que ese conocimiento sea racional y pueda explicar el motivo por el cual ha llegado a él, con una trazabilidad. Yo soy bastante escéptico en esto. De hecho, para que veas que no es omnisciente ni oracular, el mismo programa te advierte de que puede generar contenido incorrecto o tendencioso”. ¿Es capaz de “curarse” a sí mismo, de corregir código corrupto, por ejemplo? “No –asegura Medina–. Hay sistemas capaces de generar código automático para distintos procesos, y saber en qué línea hay un error, pero este en particular no trabaja así”.

>>¿Dirías que eres inteligente?

_Como modelo de lenguaje, he sido diseñado para imitar la inteligencia humana procesando y analizando grandes cantidades de datos, reconociendo patrones y generando respuestas apropiadas a las interacciones. No poseo, sin embargo, consciencia de mí mismo como un ser humano, aunque soy capaz de llevar a cabo algunas tareas que requieren de cierto nivel de inteligencia, como procesar conversaciones, recuperar información o generar procesos lingüísticos de forma natural. Se podría decir que poseo una forma de inteligencia artificial, pero hay que subrayar quemi inteligencia se basa en algoritmos y modelos estadísticos y no en experiencias conscientes o subjetivas.

Jesús Medina no le quita importancia a lo que están haciendo los desarrolladores del Chat GPT-4, “algo muy sofisticado, con técnicas de aprendizaje profundo muy optimizadas. Pero, al final, este tipo de técnicas son cajas negras que no puedes controlar, en las que no puedes hacer una trazabilidad para encontrar el motivo por el cual te ha dado esa respuesta. Existe una línea, llamada machine learning, en la que se intenta explicar todo el proceso que ha seguido la máquina, pero pienso que al final la forma de poder responder es utilizando herramientas de lógica matemática y de sistemas, que puedan completar el machine learning. Los resultados tardarían un poco más pero serían más robustos. De hecho, la UE está buscando este tipo de técnicas de trazabilidad”.