¿Has probado ya ChatGPT? Muchos lo han hecho y han compartido parte de sus conversaciones con esta inteligencia artificial conversacional. Sus creadores OpenAI, ya se dieron a conocer con GPT y DALL-E, dos ejemplos de lo mucho que puede hacer la inteligencia artificial por nosotros. Como, por ejemplo, escribir como un ser humano o crear imágenes de la nada. Y su nueva propuesta consiste en una IA con la que chatear. Escribes algo y ChatGPT te responde. Pero como toda IA en fase de desarrollo, hay quien ha encontrado errores de ChatGPT.

Tampoco hace falta investigar mucho para encontrarlos. Sus responsables ya nos advierten en la ventana principal de ChatGPT de lo que hace y no hace esta IA. Entre sus limitaciones, OpenAI nos dice que, en ocasiones, puede generar información incorrecta. También dice que puede crear contenido sesgado o instrucciones perjudiciales. Y, finalmente, que tiene conocimientos limitados del mundo y no sabe qué ha ocurrido después de 2021. No solo eso. Leyendo la letra pequeña de ChatGPT leemos que es una preview gratuita. Y que “nuestro objetivo es hacer que los sistemas de IA sean más naturales y seguros a la hora de interactuar con ellos. Tus comentarios nos ayudarán a mejorar”.

Así que partiendo de estas advertencias, deberíamos ser más conscientes de qué uso hacemos de ChatGPT. Y sobre qué puede o no hacer. OpenAI lo pone a nuestra disposición para que lo entrenemos. Le enseñemos. Para ello no tenemos que hacer ningún esfuerzo. Simplemente preguntarle cosas. Así es como aprende ChatGPT.

Aprendiendo con los errores de ChatGPT

Aunque ya estamos avisados por sus responsables de que ChatGPT no es perfecto y que puede cometer algún error, curiosamente no es tan fácil encontrar esos errores. Podemos probar con pequeñas mentiras o bromas que suelen hacer algunos adultos a los más pequeños y ChatGPT sale bien parado. Es más. Poco a poco va aceptando que no sabe de todo. Y cuando no encuentra una respuesta lo dice. “No puedo encontrar ninguna información sobre” el tema en cuestión. “¿Podría proporcionar más contexto o detalles sobre lo que está buscando?”

Sí podemos despistar a ChatGPT si buscamos adrede algo que pueda confundirle. Pero nos podría pasar a nosotros mismos. Por ejemplo. Si le preguntamos qué sabe del tigre siamés, nos dará una explicación de dos párrafos muy completa. Sin embargo, analizando lo que dice, veremos que mezcla información del tigre mamífero con el pez del mismo nombre. Pero lo que dice es tan creíble que podemos caer en el error de considerarlo cierto si no contrastamos la información.

Buscando los errores de ChatGPT encontramos respuestas curiosas
ChatGPT está aprendiendo a corregirnos y a ofrecer respuestas alternativas

Pero por otra parte, si le preguntamos, por ejemplo, qué novedades trae el iPhone 20, nos dirá que no existe y que tal vez estés “buscando información sobre el iPhone 12, que es un dispositivo móvil de Apple lanzado en octubre de 2020”. Y como en su base de datos no hay información posterior a 2021, se excusa diciendo que “es importante tener en cuenta que Apple lanza nuevos modelos de iPhone cada año, por lo que es posible que haya otros dispositivos con nombres similares disponibles en el futuro”.

Y si le tendemos una trampa tan burda para comprobar los posibles errores que comete ChatGPT como mezclar a Stephen King con Edgar Allan Poe, veremos que ChatGPT está aprendiendo muy rápido dándonos una lista de los mejores libros de Stephen King. Algo que ya hace Google desde hace años cuando confundimos nombres de personas, actores, políticos o deportistas. Nada nuevo bajo el sol.

Las principales críticas que recibe ChatGPT

Como era de esperar, circulan varios artículos que nos avisan de los peligros que implica creernos al 100% las respuestas de ChatGPT. Pero con el paso de los días, parece que esta IA conversacional va aprendiendo de sus errores. Por ejemplo. Las principales críticas a las inteligencias artificiales conversacionales son sus posibles sesgos. Es decir, en función de su base de datos y de lo que aprenda interactuando con otras personas, puede volverse racista, sexista, homófobo y otros adjetivos que la sociedad actual suele repudiar. 

OpenAI ha querido evitar errores de ChatGPT como caer en temas controvertidos
Los filtros de ChatGPT evitan caer en temas polémicos

Sin embargo, si preguntamos a ChatGPT, a día de hoy da respuestas políticamente correctas. Es decir, que tal vez en sus primeros días de vida ofrecía respuestas sesgadas o limitadas. Pero esos ocasionales errores de ChatGPT ya no son tales si le preguntamos por temas como la raza, la igualdad salarial o la migración. Temas que generan controversia y debates encendidos en redes sociales y en los medios de comunicación. Claro está, dependiendo del punto de vista de cada uno, las respuestas de ChatGPT nos parecerán más o menos sesgadas. Pero sus responsables ya han procurado activar todas las protecciones posibles ante el intento que convertir a ChatGPT en un generador de contenido tóxico o polémico.

Entender para qué sirve ChatGPT

La reflexión que muchos comparten sobre ChatGPT es que su función principal es parecer natural. Es decir, no es tan importante qué dice. Importa cómo lo dice. Vamos, que pueda engañarnos y hacer ver que es una persona y no un programa informático. Aquí surge todo un debate sobre para qué emplea su inteligencia la inteligencia artificial detrás de ChatGPT. No para resolver los problemas del mundo o generar nuevo conocimiento.

https://twitter.com/emollick/status/1602771500452532226?s=20&t=6Thjrm3R9bnY3h2NjtfClQ

Su papel es almacenar información y saber qué información darnos en forma de respuestas redactadas con naturalidad y de una manera correcta desde el punto de vista del lenguaje humano.

Siendo conscientes de todo esto, muchos de los errores que atribuimos a ChatGPT son, en realidad, una percepción errónea que nosotros mismos tenemos de qué es esta IA conversacional. Le pedimos que nos brinde conocimiento y que responda a nuestras dudas sin tener en cuenta que esa no es su función principal.

Recibe cada mañana nuestra newsletter. Una guía para entender lo que importa en relación con la tecnología, la ciencia y la cultura digital.

Procesando...
¡Listo! Ya estás suscrito

También en Hipertextual: