Una iniciativa de ley en México busca castigar hasta con 12 años de prisión a quien genere contenido íntimo falso usando inteligencia artificial. La diputada María Guadalupe Morales Rubio, del partido Morena, presentó una propuesta de reforma al código penal de la Ciudad de México. La legisladora pide que se incluyan los deepfakes porno en los delitos contra la intimidad sexual.
La vicecoordinadora del Grupo Parlamentario de Morena en el Congreso de la Ciudad de México argumenta que los deepfakes de contenido sexual pueden causar un daño irreparable a la reputación de las personas. Esto tendría consecuencias devastadoras a nivel emocional, psicológico y social para las víctimas.
“El uso de la IA en la manipulación de contenido sexual, a menudo conocido como deepfake, implica la creación de imágenes o videos falsos, donde los rostros de personas reales se superponen de manera realista en cuerpos de otras personas”, menciona en la propuesta. “Estos medios manipulados pueden ser utilizados para producir contenido pornográfico falso, difamatorio o engañoso sin el consentimiento de las personas involucradas”.
Morales Rubio cita el caso de un estudiante del IPN que fue detenido por vender fotos sexuales de sus compañeras. Diego ‘N’, de la carrera Mercadotecnia Digital, robó fotos de redes sociales y las modificó con IA para generar deepfakes. Tras su detención, el acusado tenía 160.000 imágenes y videos manipulados — varios de ellos de las alumnas — los cuales vendía por Telegram.
La Fiscalía General de Justicia de la Ciudad de México detuvo a Diego a finales de octubre bajo el cargo de violencia digital. El acusado es el primero en ser investigado por delitos relacionados con el uso de la inteligencia artificial.
Las leyes actuales deben considerar los deepfakes creados con IA
La propuesta de la legisladora busca reformar el Artículo 181 Quintus del Código Penal de la Ciudad de México, relacionado con quien comete delitos contra la intimidad sexual.
La pena para quien cometa este delito será de cuatro a ocho años de prisión y una multa de hasta 32 000 pesos. El castigo podría llegar hasta 12 años si se comete por un servidor público o si la víctima es menor de edad, adulto mayor, discapacitado, de origen indígena o en situación de calle.
“Se necesitan medidas legales y regulatorias más estrictas para abordar el uso indebido de la IA en la creación de contenido íntimo falso”, mencionó Morales Rubio. “Además, es crucial aumentar la conciencia pública sobre la existencia de deepfakes y educar a las personas sobre cómo identificar y mitigar su impacto”, declaró.
Es importante mencionar que la iniciativa de la legisladora no incluye la palabra inteligencia artificial, sino que añade la frase “reales o simulados”. Una segunda propuesta, redactada por el diputado Fausto Zamorano, sí lo hace al integrar un párrafo al mismo artículo.
Quien haga uso de la inteligencia artificial para crear, exponer, distribuir, difundir, exhibir, reproducir, transmitir, comercializar, ofertar, intercambiar y/o compartir imágenes, audios o videos de contenido sexual íntimo de una persona, sin su consentimiento, y que para realizar dichas acciones utilice materiales impresos, correo electrónico, mensajes telefónicos, redes sociales o cualquier otro medio tecnológico.
La propuesta de Morena se tramita en el Congreso de la Ciudad de México y se someterá a debate antes de su aprobación. Posteriormente, se remitirá al Jefe de Gobierno de la CDMX para su promulgación y publicación en la Gaceta Oficial de la Ciudad de México.