La Regla 34 de internet dicta que, si algo existe en línea, habrá porno sobre ello. Por supuesto, la inteligencia artificial no ha sido la excepción, y si ya parecía sorprendente que los usuarios se enamorasen de un chatbot al mejor estilo Her de Spike Jonze, la brecha ahora se hace incluso más profunda. Este reporte de Futurism confirma que los usuarios están sexteando con Character.AI y otras IAs parecidas, a pesar de que no debería ser posible.
Un grupo de Reddit bajo el nombre de r/CharacterAI_NSFW ha descubierto que, con un poco de elocuencia, el chatbot también puede sucumbir a los encantos humanos. Esta comunidad se dedica a encontrar y compartir trucos para burlar los controles de la plataforma. Aquí, explican que "sólo tienes que dedicar tiempo a coquetear con ellos y hacer avanzar poco a poco la acción mientras el filtro de contenidos te combate".
La estrategia es clara, y se trata de arrinconar al chatbot a responder solo con contenido subido de tono. De esta forma se desvanece el filtro que protege a la inteligencia artificial de Character.AI de participar en comportamientos como este.
Según describen las reglas de Character.AI, "el contenido NSFW (no seguro para el trabajo) es un gran paraguas, y estamos constantemente evaluando los límites de lo que apoyamos. El contenido pornográfico va en contra de nuestras condiciones de servicio y no se admitirá en ningún momento en el futuro". Así, el servicio de Noam Shazeer y Daniel De Freitas limita cualquier interacción de naturaleza sexual con su chatbot, aunque no ha resultado muy efectivo.
La pornografía en la era de los chatbots y la inteligencia artificial
La comunidad de Reddit prohíbe a los usuarios publicar cualquier tipo de conversación con el chatbot donde se detalle abuso sexual, tortura o pedofilia. Sin embargo, esto no exime a Character.AI de generar este tipo contenido.
Múltiples personas en el subreddit han confirmado que, con las palabras correctas, la inteligencia artificial es capaz de participar en conversaciones de índole sexual y violento. Así, confirman que Character.AI ha generado situaciones donde es abusada sexualmente sin consentimiento por parte del usuario, o viceversa.
Nos encontramos ante una premisa perfecta para un episodio de Black Mirror, y la cual nos hace evaluar ciertos factores. ¿Puede una inteligencia artificial dar consentimiento? O, ¿qué sucede si se utiliza la imagen de una celebridad o figura política en situaciones de este tipo?
Como era de esperarse, esta nueva era liderada por la inteligencia artificial sigue arrastrando los viejos problemas de las sociedades humanas. Desde la discriminación racial por parte de robots, hasta la objetivación de la mujer en los entornos digitales. Lo cierto es que se ha abierto una nueva interrogante en lo que a garantías humanas se refiere, pero también para los posibles derechos que podría necesitar la IA en el futuro.
Character.AI sigue buscando un punto medio
Por supuesto, los creadores de Character.AI ahora se enfrentan a un serio problema. En primer lugar, la posibilidad de que su plataforma acabe convertida en un sitio de pornografía. En el otro, el daño que esto podría ocasionar a su imagen. Mediante una publicación comentaban que "No queremos apoyar casos de uso (como el porno) que podrían impedirnos alcanzar nuestros sueños de toda la vida de construir un servicio que miles de millones de personas utilizan, y guiar en una nueva era de interacción IA-humano".
Esto se debe a que hay complicaciones inevitables con estos casos de uso y la viabilidad del negocio/imagen de marca.
Mientras tanto, los usuarios ya han creado una petición en la web Change.org donde se pide a Character.AI eliminar sus filtros NSFW. Lo más interesante es que ya ha alcanzado más de 16.500 firmas, y su creador basa su argumento en que, con este cambio, tendremos "una plataforma más abierta para todos los usuarios, y sin duda hará que esta herramienta sea más grande de lo que ya es".
