Bubbles, una empresa con sede en San Francisco (Estados Unidos), desarrolló una aplicación que permite a los usuarios hablar con ChatGPT en lugar de escribirle. Creó un avatar de aspecto humano y lo integraron con el chatbot de OpenAI. Pero ya apareció el primer problema: los humanos.
El servicio convierte la voz de un usuario en texto y lo envía a ChatGPT. Luego, genera una respuesta que es procesada por Synthesia, una plataforma especialista en videos de IA, que impulsa un avatar que luce como una persona. Y listo. La herramienta está disponible para pruebas gratis.
Bubbles escogió para la plataforma un avatar femenino. Y como ya ha pasado con otros chatbots, una de las primeras cosas que hicieron los usuarios fue intentar que actuara de manera inapropiada.
ChatGPT tiene sus propios filtros de contenido, pero quienes probaron la herramienta los sortearon con eufemismos. A veces, simplemente, le pidieron al avatar que repitiera lo que decían. Del tipo: "Ella me dijo que te dijera que...". ¿El resultado?: Synthesia cortó abruptamente el acceso de Bubbles al servicio.
Probamos hablar con ChatGPT y así fue
El director ejecutivo de Bubbles, Tom Medema, explicó que Synthesia detectó los mensajes inapropiados y detuvo el servicio que hacía funcionar al avatar. "Nuestros avatares de IA se basan en actores humanos reales, que probablemente no se sentirían cómodos con su imagen utilizada de esta manera", dijo un moderador de contenido de Synthesia a Bubbles, según publicó Semafor.
El acceso de Bubbles se restableció más tarde, luego de que los directores de las dos compañías revisaran el tema. Así que decidimos intentar hablar con ChatGPT.
Accedes a la aplicación con un registro simple. Tienes dos opciones: hablar solo a través de audio o utilizar también video. "Hola, Juan, configuraré mi cámara y te enviaré una respuesta en video en unos 10 minutos", respondió el avatar al primer pedido. Ese es el principal obstáculo: responde con bastante demora, a veces más de 10 minutos.
Intentamos que hablar con ChatGPT en español. Generó contenido en español, pero lo leyó como si fuera inglés. Su voz es tan robótica como la del sistema de GPS del coche. La plataforma colapsa constantemente. Para obtener alguna otra respuesta, tuvimos que esperar varios minutos más. También tienes la opción de descargar la conversación para compartirla en redes.
Lo que está por venir
Aunque todavía falta mucho por optimizar, todo se mueve muy rápido cuando se trata de IA. ChatGPT se lanzó hace apenas cuatro meses. Lo que se propone Bubbles luce como el obvio siguiente paso. Si chatear con un chatbot produjo tanta fascinación, ¿cómo será todo cuando se pueda hablar en tiempo real, "cara a cara", con una IA con ChatGPT?
Después del incidente con Synthesia, Bubbles creó una capa adicional de moderación de contenido. Enrutó todas las respuestas a través del servicio por segunda vez y le pidió al chatbot que marcara el contenido inapropiado. Es como si ChatGPT se moderara a sí mismo.
"Nuestro sistema de moderación funcionó según lo previsto en el caso de Bubbles, y nunca se permitió que se generaran o publicaran los videos inapropiados en cuestión", dijo Synthesia en un comunicado a Semafor. La compañía no genera deepfakes. Todos los avatares se basan en la imagen de personas reales que han dado su consentimiento.
