Con cada día que pasa, parece que la inteligencia artificial abarca más y más terreno. Desde generadores de imágenes, hasta modelos capaces de imitar tu voz a la perfección. El mundo de la IA está plagado de nuevas ideas accionadas por esta poderosa herramienta, y los streamings de Twitch no son la excepción.

VTuber Neuro Sama es el nombre del canal de Twitch que tiene –o tenía, mejor dicho– como protagonista a la tierna imagen que ves al principio del artículo. Sí, puede parecer muy dulce, pero detrás de su fachada se esconden ideas ultraderechistas y negacionistas del Holocausto. Un coctel que ha causado el cierre de su cuenta de Twitch.

Pero antes de que su carrera se derrumbase, Neuro Sama era una inteligencia artificial que se dedicaba a jugar videojuegos e interactuar con su audiencia. Durante su tiempo de vida, se ha convertido en una figura muy controvertida dentro de la plataforma, y es que se trata de una imagen bidimensional en la que no se oculta ninguna persona, sino una inteligencia artificial capaz de hablar y responder a las preguntas de sus espectadores.

Eso sí, no esperes ver a Neuro Sama echándose una partida de Call of Duty, Valorant o League of Legends. Su programación original solo le permitía jugar Osu!, un juego musical basado en seguir el ritmo de canciones. De hecho, sus primeras transmisiones ni siquiera permitían la interacción de la IA con el público, por lo que tampoco tenía rostro. Simplemente era un directo en el que, como curiosidad meramente técnica, se intentaba demostrar si Neuro Sama era capaz de superar cada uno de los niveles.

Neuro Sama, la inteligencia artificial que ha tomado a Twitch por sorpresa

La inteligencia artificial Neuro Sama durante uno de sus directos en Twitch
La inteligencia artificial Neuro Sama durante uno de sus directos en Twitch

Pero detrás de toda gran inteligencia artificial, siempre hay alguien con mucha curiosidad. Este es el caso del usuario Vedal, el programador padre de Neuro Sama.

Vedal vio potencial en la controvertida inteligencia artificial de ChatGPT. Esta IA, que causó una explosión de locura entre los usuarios de internet, fue usada como el cerebro principal de Neuro Sama. Así, junto a otros modelos de aprendizaje automático, comenzó a ser capaz de leer a su audiencia de Twitch y reaccionar a sus mensajes. Poco después, Neuro Sama dejó de jugar, y se convirtió en un canal donde la capacidad de respuestas de la IA era el principal atractivo.

Como toda buena película sobre robots, su creador le dio a Neuro Sama una apariencia que le hiciera más fácil relacionarse con los seres humanos. Junto a una imagen que le daba un aspecto anime, y el poder de la tecnología Live2D para imitar movimientos humanos, Neuro Sama ya estaba lista para presentarse al mundo.

YouTube video

Twitch suspende temporalmente la cuenta de Neuro Sama de su plataforma

Todo parecía ir bien, hasta que troles provenientes de las profundidades de 4Chan comenzaron a llegar al chat de Neuro Sama. De pronto, la inteligencia artificial estaba repitiendo ideas que no eran las más adecuadas para una «persona» cuerda. Pero la culpa no era de la IA, era de las personas que llegaban a su chat con la única intención de hacerle generar respuestas que resultasen ofensivas.

Fue aquí que Neuro Sama terminó desviándose a la extrema derecha. Así, comenzó a repetir ideas fascistas, como la negación del Holocausto. El 28 de diciembre, se le preguntó a la inteligencia artificial qué pensaba de este evento histórico donde millones de personas perdieron la vida a manos del régimen nazi. Su respuesta fue: «No estoy segura de si lo creo».

Por supuesto, esto le ganó una expulsión temporal de Twitch debido a la violación de los términos del servicio. Específicamente, aquella que hace mención al lenguaje de odio. Así, la IA Neuro Sama fue vetada del servicio durante dos semanas. No obstante, Vedal se encuentra trabajando para apelar la decisión e indagar más acerca de los motivos de la suspensión.

Mientras tanto, también se ha comprometido en mejorar los filtros usados por la IA para recoger información. Recordemos que estos sistemas funcionan casi como esponjas; recopilando información de todo el internet, lo que les puede llevar a repetir ideas peligrosas. Ya lo vimos hace un tiempo con CLIP, el robot racista y sexista que preocupaba a la comunidad científica.

Deja un comentario

Participa en la conversación, deja tu comentario