Crear imágenes porno con ayuda de la inteligencia artificial podría enviarte a la cárcel. Un nuevo proyecto de ley busca castigar el contenido sexual explícito generado por IA. Las personas que decidan producir deepfakes porno podrían enfrentar desde una multa hasta tiempo en prisión, dependiendo de la gravedad de la ofensa.
La nueva iniciativa del Gobierno de Reino Unido forma parte de su programa de seguridad en línea. El Ministerio de Justicia anunció que producir deepfakes explícitos de una persona sin su consentimiento es un delito. Las "personas despreciables" que utilicen esta tecnología para generar este contenido y compartirlo en internet, se enfrentarán a un proceso judicial y una multa.
"Si alguien crea un deepfake sexualmente explícito, incluso si no tiene la intención de compartirlo, sino que simplemente quiere causar alarma, humillación o angustia a la víctima, estará cometiendo un delito penal", mencionó la oficina gubernamental. La nueva ley impondrá una sanción más severa a quienes compartan este contenido en internet. En caso de que una imagen porno generada por IA se vuelva viral, el autor será enviado a prisión.
La modificación a la Ley de Seguridad en Línea permitirá a la justicia acusar a un infractor por dos delitos: crear imágenes y compartirlas El Ministerio de Justicia afirma que el contenido falso originado a partir de algoritmos se ha vuelto frecuente en los últimos años. El caso más reciente es el de Taylor Swift, quien fue víctima de deepfakes sexuales que se viralizaron en X (Twitter) en enero.
Reino Unido y las tecnológicas, a la caza de las imágenes porno generadas con IA
La nueva propuesta de ley pasará al Parlamento para su aprobación, quien hace unos meses designó como delito el compartir imágenes sexuales en línea. Los deepfakes no solo están en la mira de Reino Unido, sino de otros países que estudian los mecanismos legales para detener esta clase de ofensas.
"Es otro ejemplo de las formas en que ciertas personas buscan degradar y deshumanizar a otros, especialmente a las mujeres. Y tiene la capacidad de causar consecuencias catastróficas si el material se comparte ampliamente", declaró Laura Farris, ministra de Víctimas y Salvaguardia. "Esta ley envía un mensaje muy claro de que producir este material es inmoral, a menudo misógino y un delito".
Yvette Cooper, secretaria del Interior en la sombra, añadió que superponer el rostro de alguien a fotografías o videos sexuales es una grave violación a su privacidad y autonomía. "Es esencial que la policía y los fiscales estén equipados con la capacitación y las herramientas necesarias para hacer cumplir rigurosamente estas leyes a fin de impedir que los perpetradores actúen con impunidad".
La explosión de la inteligencia artificial ha facilitado la creación de contenido sexual explícito, pese a las salvaguardas que implementan las tecnológicas. Compañías como Nikon, Sony y Canon han propuesto una firma digital para combatir la proliferación de deepfakes. Por otro lado, Google desarrolla una herramienta para identificar imágenes producidas por modelos de IA.
Aunque el origen del deepfake se remonta a las imágenes porno compartidas por Reddit en 2017, su aplicación se extendió a otros ámbitos. El poder de los modelos de lenguaje ha permitido crear imágenes realistas de políticos o personajes públicos con el fin de manipular la opinión.