ChatGPT o por qué todo el mundo está fascinado con un nuevo chatbot de inteligencia artificial

Lo estás viendo por todas partes: el chatbot más avanzado del mundo; la inteligencia artificial más alucinante; o el programa que nos va a hacer exámenes, escribir libros o inventarse código para una aplicación móvil. Se llama ChatGPT y es un chatbot.

De asistentes conversacionales hemos hablado en profundidad en Maldita.es. Tanto que hemos dedicado un programa al completo en Twitch en explicar a conciencia cómo funciona GPT-3, un programa basado en inteligencia artificial (IA) capaz de respondernos a casi cualquier cosa que le planteemos o le pidamos que haga, desde una receta de cocina a un poema. Este sistema sorprendía por la facilidad con la que respondía a peticiones de lo más enrevesadas y que ponían a prueba su creatividad, pero el protagonismo se lo está llevando ahora un nuevo programa informático que es, en realidad, algo así como su primo pequeño.

Una pequeña introducción a ChatGPT

¿Qué es exactamente ChatGPT? Aunque no estés familiarizado con el mundo de la inteligencia artificial o no acostumbres a usar asistentes virtuales, es muy posible que hayas visto ese nombre mencionado en Twitter o capturas de imágenes de una conversación con el sistema. Técnicamente hablando, es un modelo informático de lenguaje entrenado con texto y código para responder a una serie de preguntas o instrucciones que le demos. Hablando simple y llanamente, es un chatbot. Un programa informático con el que podemos conversar, como pueden ser Alexa o Siri, salvo que en vez de respondernos en alto, nos contesta con texto.

¿Y de dónde sale? Como decíamos, está emparentado con GPT-3, otro de estos programas conversacionales y uno de los más famosos junto a otros como LaMDA, de Google (que llegó a la opinión pública tras asegurar que era “consciente”, cosa que es imposible). Es un producto de OpenAI, una compañía de desarrollo de inteligencia artificial también conocida por haber creado DALL-E, otro programa de IA capaz de crear imágenes de lo más impactantes a partir de una frase que pidamos. A DALL-E 2 también le dedicamos un programa en Twitch e hicimos pruebas en directo con él.

¿Qué tiene de especial? O en otras palabras: ¿por qué está medio Internet alucinando con este programa? La principal particularidad que tiene es que, teniendo en cuenta que acaba de lanzarse, OpenAI ha permitido que cualquiera pueda probar la versión beta (un modelo en pruebas). Es accesible a través de este enlace y solo es necesario crear una cuenta personal para probarla. Una vez registrados y dentro de la plataforma, podremos empezar a preguntar y pedir que nos escriba o nos dé información sobre lo que se nos ocurra.

La imaginación de la gente no tiene límites: le han pedido cosas que van desde que escriba una disertación exponiendo las diferencias entre Karl Marx y Mark Weber a que reescriba “Bohemian Rhapsody”, de Queen, adaptando el tema a la vida de un doctorando. También hay personas que aseguran poder usarlo como un buscador y que funciona mejor que Google; otros que han descubierto que es capaz de programar código fuente y de redactar contratos de arrendamiento; o gente que pone a prueba si sabe responder a problemas de estadística.

Incluso en Maldita.es hemos aprovechado que la herramienta está en abierto para pedir que nos responda a alguna que otra broma interna de la redacción.

ChatGPT está siendo tan comentado, además de por estar a disposición de cualquiera que quiera probarlo, por el desempeño que ha demostrado conseguir para responder, en varias ocasiones, con textos bien articulados y que, además, tienen sentido. Claro que esto no ocurre en el cien por cien de los casos, pero sí que es capaz de arrojar resultados más elaborados que otros programas de su misma familia, como GPT-3.

Pros y contras de ChatGPT: ¿hasta dónde llegan sus capacidades?

ChatGPT es, como hemos dicho, un asistente conversacional. Eso significa que está programado para que pueda, hasta cierto punto, mantener una conversación con nosotros como si habláramos con otra persona y también para ofrecernos respuestas basadas en información con la que ha sido entrenado. Esto es algo que mejora frente a su primo pequeño, GPT-3, que en realidad es “un sistema de generación de lenguaje a partir de instrucciones”, tal y como nos recuerda Carmen Torrijos, lingüista computacional especializada en Inteligencia Artificial en Prodigioso Volcán y maldita que nos ha prestado sus superpoderes: “Se adapta a lo que tú hagas”.

En el caso de ChatGPT, las conversaciones son más fluidas gracias a las mejoras que han incorporado, como que haya personas evaluando lo que dice el programa: “A partir de esas evaluaciones, han entrenado un segundo modelo capaz de aprender qué tipo de producciones reciben una mejor evaluación, por lo que es capaz de evaluar por sí solo. Estaríamos ante un auto-entrenamiento en el que la máquina va aprendiendo y evaluándose a sí misma. Este método ha tenido buenos resultados, pero también tiene un techo, porque si se aplica esta estrategia durante mucho tiempo sin intervención humana, el modelo acaba cayendo en desviaciones y sesgos”, resalta Torrijos.

Eso sí, no tiene la capacidad de consultar Internet en tiempo real como otros asistentes de voz como Alexa, por ejemplo: todo lo que nos contesta se basa en información y datos que se han introducido en su sistema y en la capacidad que tiene el sistema de inteligencia artificial en el que está basado para conectar puntos entre ellos para adaptar las respuestas a lo que le pidamos. Importante: eso significa que el chatbot no nos entiende ni entiende lo que nos está contestando. Simplemente hace la acción de buscar en los datos que tiene registrados y los combina para ofrecernos una respuesta.

Lo que tiene ChatGPT es que es, por el momento, la tecnología que más precisión ha demostrado ofrecer para ese cometido. “Esto es lo más peligroso de modelos tan potentes. Su conversación es casi perfecta y muy convincente, lo que puede hacer que nos confiemos en exceso y no seamos conscientes del problema. Ahora mismo, chatGPT no podría ser utilizado, por ejemplo, en información turística o atención al ciudadano. Primero habría que reentrenarlo con una fuente de verdad y sus respuestas serían menos autónomas y más controladas”, desarrolla Torrijos.

Hay otro tema importante a tener en cuenta: ChatGPT, como otros modelos conversacionales, saca la información con la que contesta de las fuentes de datos que le han proporcionados sus desarrolladores - y que no tiene por qué ser verídica necesariamente. Por ejemplo, no tiene “conocimiento” sobre eventos ocurridos después del año 2021. Por tanto, no tenemos que entender que todo lo que nos responda es real o preciso. OpenAI afirma que ha sido entrenado no solo con información de páginas web, sino también con conversaciones entre personas mantenidas en Internet.

“La principal misión de chatGPT (o GPT-3) es respondernos de una forma natural, con lenguaje bien construido y utilizando todo el conocimiento que ha acumulado en el entrenamiento”, explica Torrijos. “Sabe cómo tiene que responder y qué tipo de información tiene que dar, pero no ha sido entrenado para cotejar los datos que está dando con una ‘fuente de verdad’ (source of truth o ground-truth), algo muy necesario en los modelos de lenguaje para evitar el disparate”, recuerda.

Desde OpenAI también señalan varias limitaciones. Entre ellas, admiten que en ocasiones puede dar respuestas “inapropiadas”, con instrucciones “dañinas” o presentar un comportamiento “sesgado”. También explican que el programa puede comportarse diferente si se le pregunta varias veces lo mismo pero de diferentes maneras. Tras muchas pruebas, varios usuarios han constatado ambas cosas: tanto que los sesgos siguen presentes como en otros modelos como GPT-3 como que es posible sacarle respuestas que en principio no tendría que dar a base de repreguntar cambiando . Y, por supuesto, que también se equivoca al mezclar conceptos y cosas que no tienen sentido, o que incluso asegura que no, que no es ChatGPT con el que se está hablando.

En este artículo ha colaborado con sus superpoderes la maldita Carmen Torrijos,  lingüista computacional especializada en inteligencia artificial.

Forma parte de Superpoderosas, un proyecto de Maldita.es en colaboración con FECYT que busca aumentar la presencia de científicas y expertas en el discurso público a través de la colaboración en la lucha contra la desinformación.

Gracias a vuestros superpoderes, conocimientos y experiencia podemos luchar más y mejor contra la mentira. La comunidad de Maldita.es sois imprescindibles para parar la desinformación. Ayúdanos en esta batalla: mándanos los bulos que te lleguen a nuestro servicio de Whatsapp, préstanos tus superpoderes, difunde nuestros desmentidos y hazte Embajador.