En el marco de sus nuevos lineamientos para contenidos sintéticos, YouTube saldrá a la caza de los deepfakes y las canciones generadas con inteligencia artificial. La plataforma anunció la implementación de nuevas medidas en pos de atacar una problemática creciente y que genera gran preocupación en la industria del entretenimiento.
Según explicó la compañía, en los próximos meses comenzará a aceptar solicitudes para eliminar vídeos que incluyan material generado por IA que "simulen a individuos identificables". En tal sentido, YouTube hará especial hincapié en los deepfakes que repliquen el rostro o la voz de ciertas personas.
El portal de vídeos explicó que analizará distintos factores antes de tomar una decisión, y que no se eliminará todo el contenido sintético en cuestión. En principio, YouTube se enfocará en los deepfakes que involucren a "funcionarios públicos o individuos muy conocidos". Es decir, políticos o actores, cantantes, influencers y artistas de todo tipo.
Uno de los elementos que se tendrán en cuenta al analizar esta cuestión será si el material cumple fines de sátira y parodia, o si se busca usar la apariencia de figuras públicas para desinformar o promover estafas.
En cuanto a las canciones generadas con IA, YouTube pondrá atención en aquellas que "imiten la voz única de un artista al cantar o rapear". Las compañías discográficas, los sellos de distribución y las agencias de representación de los cantantes podrán solicitar la eliminación de estos contenidos.
YouTube introduce nuevas herramientas para evitar el mal uso de la IA
Al igual que con los deepfakes, no todo el material vinculado con música creada con IA se quitará de la plataforma de forma automática. La compañía perteneciente a Google permitirá el uso de estas creaciones si forman parte de contenidos informativos o que analicen el uso de las voces creadas de forma digital.
En principio, la herramienta estará disponible para las discográficas y los distribuidores que estén colaborando con YouTube en sus primeros experimentos musicales con inteligencia artificial. Pero la idea es expandir el acceso a más compañías a medida que pase el tiempo.
La música creada con inteligencia artificial es un tema de debate caliente por estos días, no solo en YouTube. Recordemos que Universal Music Group les pidió a Spotify y Apple que eviten la extracción de letras y melodías de canciones de sus artistas. Según la corporación, esa información luego era utilizada para entrenar modelos de inteligencia artificial que podían generar canciones imitando a los intérpretes o compositores sin pagar por los derechos de autor.
En mayo, Spotify reconoció haber eliminado decenas de miles de canciones generadas con IA. Pero ese no era el único problema, sino también la existencia de bots que "inflaban" el conteo de reproducciones para ganar más dinero. Así mismo, Google ha experimentado con una herramienta llamada MusicLM, destinada a crear música a partir de una descripción de texto. Sin embargo, decidió no lanzarla al público debido a las altas probabilidades de que los resultados fueran réplicas de materiales protegidos por copyright.
Por lo pronto, YouTube inicia una nueva etapa buscando un uso más responsable de las herramientas de inteligencia artificial entre los usuarios. Además, ofrecer la opción de pedir la eliminación de deepfakes y otros contenidos sintéticos posiblemente ilegales, seguramente les sirva a los de Mountain View para cubrirse en el caso de que alguien quiera emprender acciones legales en su contra.