Darán 10 años de cárcel por grabar contenidos sexuales ‘Deepfake’ en Edoméx
* Sancionarán con seis años de prisión a quien manipule y divulgue con Inteligencia Artificial imágenes de mujeres en la ciudad de México
* No legislar las prácticas de la IA generativa, puede propiciar contenidos escritos, imágenes y videos falsos o maliciosos, que podrían utilizarse en fraudes o en la suplantación de identidades y personas
Por Fernando Olivas Ortiz
Toluca, Edoméx.- Diputadas de las legislaturas federal y local del Edomex señalan hasta 10 de cárcel para quienes graven contenidos sexuales Deepfake en Edomex lo anterior fue la propuesta de la diputada Juana Jaime Bonilla que propuso al congreso mexiquense. Así mismo la diputada federal Estefanía Vargas Camacho presentó una iniciativa que plantea incluir la inteligencia artificial como supuesto medio para realizar augin tipo de violencia digital contra las mujeres y establecer que sí manipulan imágenes de contenidos.
Hasta 10 años en la cárcel podría pasar quien elabore, manipule o gestione por medio de tecnologías digitales, imágenes, audios, textos, grabaciones de voz o contenidos audiovisuales con la finalidad de generar elementos de naturaleza erótico, sexual o pornográfico, además de que las revele, publique, comparta o comercialice sin consentimiento de la víctima por cualquier medio.
Lo anterior, a propuesta de la diputada local de Movimiento Ciudadano, Juana Bonilla Jaime, quien propuso al Congreso Mexiquense reformar el Código Penal para sancionar con uno a cinco años de prisión las prácticas referidas, con la posibilidad de aumentar hasta 10 años, cuando el delito se cometa en contra de una persona menor de 18 años o que no tenga la capacidad de comprender el significado del hecho o que por cualquier causa no pueda resistirlo, aun y cuando mediare su consentimiento, además de la conducta será perseguida de oficio.
La propuesta de reforma fue enviada a la Comisión de Procuración y Administración de Justicia, donde se explica que con el avance tecnológico personas sin escrúpulos buscan engañar a la ciudadanía mediante contenidos digitales falsos pero hiperrealistas.
Dicha práctica ya es común en todo el mundo y es conocida como ‘Deepfake’, consistente en archivos de vídeo, imagen o voz manipulados mediante un software de inteligencia artificial de modo que parezcan originales, auténticos y reales.
En este marco, añade el texto, se debe mejorar la protección de los derechos de las personas en contra de la captación y manipulación ilegítima de la imagen de una persona, su voz, o ambas, ya que en caso de no hacerlo se podría causar algún daño al honor y la integridad, sobre todo cuando se lacera su intimidad.
Sancionarán con seis años de prisión a quien manipule y divulgue con Inteligencia Artificial imágenes de mujeres
Por otra parte en la Ciudad de México.- La diputada Melissa Estefanía Vargas Camacho (PRI) presentó una iniciativa que plantea incluir la Inteligencia Artificial (IA) como supuesto medio para realizar algún tipo de violencia digital contra las mujeres y establecer que, si se manipulan imágenes de contenido íntimo aplicando IA, se impondrá la pena de tres a seis años de prisión y multa de 500 a mil Unidades de Medida Actualizada (UMA).
El proyecto, turnado a las Comisiones Unidas de Igualdad de Género y de Justicia para dictamen, modifica varios artículos de la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia y el 199 Nonies del Código Penal Federal.
En su exposición de motivos, Vargas Camacho afirma que la violencia contra la mujer que se vive hoy por las tecnologías de la información y la comunicación es real e impacta a las víctimas de forma psicológica, emocional y profesional, pues miles de ellas han sufrido este tipo de violencia y en, muchas ocasiones, son revictimizadas por las propias autoridades.
Considera que la tipificación de las conductas cometidas a través de los medios digitales es una necesidad imperante ante casos de mujeres que han sido afectadas en su vida privada, al darse a conocer por dichas vías imágenes, audios o videos de su intimidad sexual sin su consentimiento.
Señala que, se entiende como violencia digital aquellas acciones que expongan, difundan o reproduzcan imágenes, audios o videos de contenido íntimo de una persona a través de medios tecnológicos y que, por su naturaleza, atentan contra la integridad, la dignidad y la vida privada de las mujeres, causando daño psicológico, económico o sexual, tanto en el ámbito privado como en el público, además del daño moral, tanto a ellas como a sus familias.
Destaca que con esta iniciativa se asegura y protege el espacio digital para sancionar a todas aquellas personas que violenten, divulguen, compartan o comercien imágenes, audios o videos íntimos de una persona sin su consentimiento, utilizando la IA.
La reforma al artículo 199 Nonies del Código Penal Federal establece que las “imágenes que hayan sido manipuladas a través de la Inteligencia Artificial” también serán sancionadas con una pena de tres a seis años de prisión y una multa de 500 a mil UMA.
Vargas Camacho manifiesta que un principio fundamental de la Inteligencia Artificial debe ser el respeto a la dignidad humana, desde el inicio de su existencia hasta su muerte natural, y este principio debe estar dentro de la esfera ética evitando que sea violentado por las tecnologías “autónomas”.
Añade que no regular o legislar las prácticas de la IA generativa, puede propiciar contenidos escritos, imágenes y videos falsos o maliciosos, que podrían utilizarse en fraudes o en la suplantación de identidades y personas.
N de la R. Un Deepfake es un video, una imagen o un audio generado que imita la apariencia y el sonido de una persona. También llamados «medios sintéticos», son tan convincentes a la hora de imitar lo real que pueden engañar tanto a las personas como a los algoritmos.