Congreso CDMX busca tipificar como delito las imágenes sexualizadas con IA

Desde el Congreso de la Ciudad de México (CDMX) se impulsa una iniciativa para legislar la violencia sexual digital mediante el uso de inteligencia artificial (IA) en la capital, donde se suscitó el caso de Diego “N”, exalumno del Instituto Politécnico Nacional (IPN), a quien ocho de sus compañeras lo acusan de crear y comercializar contenido íntimo con su imagen mediante el uso de IA.

La iniciativa en cuestión fue presentada el pasado 10 de diciembre por la diputada de Morena, Cecilia Vadillo, presidenta de la Comisión de Igualdad de Género del Congreso local, y plantea la reforma de los artículos 69 ter y 181 quintus del Código Penal para el Distrito Federal, en materia de combate a la violencia sexual digital perpetrada con inteligencia artificial.

“Lo que estamos cambiando ahorita es como está el el tipo penal que viene derivado de la Ley Olimpia, que se castiga que se difunden las fotos o videos íntimos de mujeres, hombres o de cualquier persona, el tema es que no se incluye en este tipo penal a aquellos que se han sido alterados o creados con inteligencia artificial”, explicó Vadillo a Reporte Índigo.

Sheinbaum respalda tipificación de delitos contra la intimidad perpetrados con IA

A inicios de octubre de 2023, ocho estudiantes de la Escuela Superior de Comercio y Administración del IPN denunciaron a Diego “N” por violencia digital ante la Fiscalía General de Justicia (FGJ) de la CDMX, semanas más tarde agentes de la Policía de Investigación detuvieron al joven de 19 años por su presunta responsabilidad en el delito contra la intimidad sexual.

Posteriormente, las pesquisas de la FGJ arrojaron que se encontró un dispositivo de Diego “N” con cerca de 166 mil imágenes alteradas y otras compilaciones de fotografías y videos de alumnas del IPN, usadas para la creación de deepfakes (imágenes, videos o grabaciones de audio manipulados con IA) de carácter sexual.

Al momento, de las ocho investigaciones en curso, solo dos han logrado judicializarse y el pasado 4 de diciembre obtuvieron una sentencia absolutoria por parte del juez Francisco Salazar Silva, a quien Valeria Martínez, representante legal de las denunciantes, acusó de no juzgar con perspectiva de género la carpeta de investigación que le tomó un año armar en conjunto con la Policía Cibernética y la FGJ.

“Quisiéramos pensar que esto corresponde a una falta de tecnicismos y de perspectiva de género, digo sería lamentable que un juez de esa magnitud se prestara a la corrupción”, refirió Martínez a medios tras la sentencia absolutoria del juzgador.

El caso de Diego “N” fue retomado el 10 de diciembre por la presidenta Claudia Sheinbaum, quien indicó que existe la necesidad de tipificar este tipo de delitos cometidos con el uso de inteligencia artificial

Es una nueva forma de violencia, que es el uso de inteligencia artificial para intentar modificar imágenes de una mujer con contenido sexual. Entonces, hay que tipificar también ese delito porque son nuevas formas de violencia que tienen que ser atendidas por los jueces”, sostuvo la titular del Ejecutivo

Por su parte, la abogada defensora de las estudiantes del IPN, indicó que apelará la sentencia absolutoria, y añadió que está por judicializar la tercera carpeta de investigación en contra de Diego “N”, por lo que destacó la importancia de que sea la primera vez en México que se lleva a juicio el delito contra la intimidad a consecuencia de la Ley Olimpia.

“La ley Olimpia generó un delito que se llama contra la intimidad sexual, y dentro de este tipo penal, sí se incluye el contenido simulado, de ahí es lo que estamos encuadrando la inteligencia artificial”, aseveró la representante legal.

¿En qué consiste la iniciativa que busca tipificar el uso de la IA para alterar imágenes con fines sexuales?

De acuerdo con la diputada Cecilia Vadillo, la aprobación de la presidenta, Claudia Sheinbaum, para que se legisle un nuevo tipo penal sobre la violencia sexual digital mediante el uso de la IA, da un buen impulso para que su iniciativa avance en las comisiones de Justicia y de Igualdad de Género y se espera que pueda dictaminarse para votarse en el pleno del Congreso de la CDMX en 2025.

“Creemos que tenemos todo el respaldo para poder aprobarla. Es una iniciativa que fue muy bien recibida en el Congreso y pensamos que vamos a poder avanzar rápidamente”, agregó la diputada morenista, quien puntualizó que este tipo de prácticas  de manipulación de imágenes para sexualizarlas se están convirtiendo en un negocio.

Por otra parte, Vadillo Obregón abundó en que, a lo que ya establece la ley se le agregó agravantes en caso de la comercialización de este tipo de contenido alterado, y herramientas para que las autoridades ministeriales y judiciales puedan investigar y dictar sentencias en este tipo de casos.

Tenemos que dar herramientas, no solo para que los juzgadores mejoren la manera en la que van a dictar sentencia, sino también para que la Fiscalía, en este caso de la Ciudad de México, adquiera herramientas para poder investigar. Lo que no podemos permitir es que terminen en una sentencia absolutoria, como en el caso de Diego ‘N’”, enfatizó la diputada local

En la nueva redacción del Artículo 181 quintus del Código Penal local, propuesta por Vadillo Obregón, ya se considera que las “imágenes, audios o videos son simulados cuando la víctima no aparece realmente en ellos, pero la persona agresora los vincula con su imagen o identidad a través de alguna tecnología digital, inteligencia artificial o software de manipulación digital”.

Asimismo, en el Artículo 69 Ter se contempla que quienes cometan delitos contra la intimidad de esta índole, entrarán en el Registro Público de Personas Agresores Sexuales, tras ser sentenciados, y su registro tendrá de entre diez y 30 años.

“Yo esperaría que estuviéramos pudiendo tener un dictamen a más tardar en febrero, y sobre el caso de Diego ‘N’, hacemos un exhorto al Poder Judicial a que revise la sentencia, para que se entienda que no toleramos estas prácticas y que no mandemos ese mensaje a la sociedad”, subrayó la diputada local.