El Instituto de Transparencia en la Ciudad de México enviará al Congreso capitalino una iniciativa para regular el uso de Inteligencia Artificial y sancionar a quien haga mal uso de los datos personales y que con ello, se proteja la información que los ciudadanos emiten a instituciones, secretarías, partidos políticos y sujetos obligados; sin embargo, víctimas de ciberdelitos, cuyas fotografías fueron alteradas a través de esta tecnología, exponen que estas faltas no se persiguen, ni son consideradas graves por las autoridades y Fiscalías, entonces, al momento de denunciar, son ignoradas, las carpetas de investigación no tienen seguimiento y los jueces intentan liberar a los imputados bajo el argumento de que «no es un crimen tan malo», a pesar de que la Constitución ya lo castiga.
- En entrevista con Crónica, el comisionado del Instituto de Transparencia, Acceso a la Información Pública, Protección de Datos Personales y Rendición de Cuentas de la Ciudad de México (InfoCDMX), Julio César Bonilla Gutiérrez, informó que en colaboración con White Box Proyect Institute, las Embajadas Británica y de Suecia, el dictamen planea establecer principios, reglas y procedimientos para garantizar la protección de los datos personales en el desarrollo y el uso de temas de IA en el sector público, en defensa de la dignidad humana. La iniciativa tiene el objetivo la regulación por sector, al poder judicial, legislativo y ejecutivo, así como a partidos políticos, fideicomisos, fondos públicos, órganos autónomos y persona físico o moral que reciba dinero público, con el fin de garantizar el buen uso de esa tecnología.
“Planteamos el uso de herramientas, es decir, la ley permite generar equilibrios entre el desarrollo tecnológico el desarrollo de la inteligencia artificial, colocando en el centro libertades y derechos fundamentales, algo como lo que están pensando en Europa o en Inglaterra, con el constitucionalismo digital, que naturalmente permite el desarrollo tecnológico, con todas sus capacidades y bondades en diversos ámbitos, pero también colocando en el centro a las personas”.
“Otro elemento central de iniciativa tiene que ver con el con el fomento de la cooperación entre sectores público, privado y académico, por eso nosotros decidimos construir esta alianza, lo que nos ha permitido amplificar nuestros horizontes y reproducir las mejores prácticas, no solo de carácter técnico, jurídico y cultural, sino también social”.
- También, se establecerán rectores de Inteligencia Artificial responsable, los modelos tipos y usos; la transparencia algorítmica y con esta herramienta, lograr gobernanza en la ciudad, más avanzada, desarrollada y cercana a la gente. La gestión de riesgos contempla realizar auditorías algorítmicas, transparencia y publicación de resultados, procedimientos específicos renovados o perfeccionados para la protección de los datos personales, específicamente para velar por los derechos ARCO — Acceso Rectificación Cancelación Oposición y Portabilidad —; “tenemos capítulos de medidas de apremio y sanciones, para quien haga uso inadecuado de datos personales con el desarrollo de la inteligencia artificial. No podemos construir una iniciativa, si no tenemos estas herramientas de control frente al uso de la inteligencia artificial en la defensa de la protección de los datos personales”.
Buscan poner al centro a las víctimas
Con el dictamen, se le exigirá a las autoridades judiciales que se actualicen su labor para atender los delitos ligados con la Inteligencia Artificial, dado que las víctimas, reclaman más del 90 por ciento de impunidad en el seguimiento de los casos, además de alta revictimización e ignorancia en los Ministerios Públicos, pues desconocen los términos jurídicos, dudan que la alteración de las fotografías sea real y el equipo para la revisión de los datos de prueba es inútil. Así sucedió con las víctimas de Diego “N”, estudiante del Politécnico que alteró fotografías de sus compañeras, las cuales, al momento de denunciar, fueron ignoradas, debido a que las autoridades desconocen las consecuencias físicas y psicológicas que sufre la víctima y al no ser un crimen de alto impacto, piden la liberación de los agresores, mientras que las imágenes falsas viajan por la red sin control y dañan la dignidad de las ofendidas.
- Con información del Frente Nacional para la Sororidad, de los más de mil 500 casos atendidos a nivel nacional por violencia digital, 606 han sido por difusión de contenido íntimo y 352 por amenazas de distribución. No fue hasta la difusión masiva del caso, que pudo ser estudiado por las autoridades.
“En la Fiscalía no entienden el delito sexual digital, nos pidieron enseñarles las fotos, te revictimizan y al momento del dictámen psicológico, son muy groseras, son mujeres, sentí decepción porque están tratando con un delito bastante delicado, no tienen preparación para tratar a las víctimas. Es una mala experiencia, me sentí peor con la psicóloga que con la MP, llegué a las 11 y salí a las cinco de la mañana. Es revictimizante, no nos hicieron caso hasta que llegó Olimpia, sin ella no sé qué hubiera sido con nuestro caso. En la escuela y en la Fiscalía hubo muchísima presión de los colectivos, era difícil que nos hicieran caso”, dijo una de las víctimas.
Valeria Martínez, abogada de las víctimas de Diego “N”, narra que para la Fiscalía de delitos sexuales, este es un delito menor, con mecanismos débiles para investigar este crimen y de las ocho víctimas, seis han sido “trabadas”; “se tiene que denunciar en línea, no todas las personas lo saben, com fueron ocho personas, se les atendió en la Fiscalía, no saben atender, ninguna persona se los dijo; fue hasta que el caso se hizo mediático que se les hizo caso. Solamente hemos podido judicializar dos, las juezas del Tribunal Superior no han querido, dicen que no existen elementos suficientes, que las carpetas están mal construidas o que faltan elementos, justificaciones para no juzgar con perspectiva de género”.
Desconocen la violencia sexual digital
En las ocho denuncias presentadas en el caso, solamente dos han tenido un avance, ya que la jueza consideraba que no había elementos suficientes para probar la culpabilidad de Diego “N”; seis carpetas restantes, están trabadas.
- El Artículo 181 BIS del Código Penal del Distrito Federal indica que se comete el delito contra la intimidad sexual quien videograbe, audiograbe, fotografíe, filme o elabore, imágenes, audios o videos reales o simulados de contenido sexual íntimo, de una persona sin su consentimiento o mediante engaño; sin embargo, no menciona el término IA, lo que desprotege a las víctimas.
- La Policía Cibernética, de la Secretaría de Seguridad Ciudadana (SSC) identificó la creciente incidencia de violencia digital en la que se hace uso de la IA como una herramienta con fines de perjudicar la reputación y la seguridad de las personas. El robo de identidad en la Ciudad de México subió 185 por ciento entre 2019 y 2022; sin embargo, la Fiscalía capitalina no cuenta con cifras periódicas que exhiban la numerología del delito.
Capacitación a las autoridades para reconocer la gravedad del delito
Para remediar las inconsistencias, el Info generará un ecosistema en el que todas las autoridades vinculadas, estén coordinadas y capacitadas, eso implica que una vez aprobada, se cree un órgano de control parlamentario e institucional, donde se convoque a las instituciones con asesorías técnicas especializadas y mesas de trabajo para la capacitación permanente, y que dejen de observar a estos delitos como algo inminente, sino real.
“Ya no es una opción, es una necesidad que se va a ver favorecida con la creación de una iniciativa, porque teniendo un marco regulatorio, nos permite tener una inteligencia artificial robusta, bajo los principios de ética y bien normada; tres pilares, seguridad, regulación y ética; estas variables van a tener un impacto en el comportamiento en el desarrollo y en la materialización de lo que el poder tiene que hacer al servicio de la gente y eso va a implicar una carrera, como ya lo está haciendo a nivel internacional, en materia de actualización, renovación, capacitación y de innovación en todos los sectores”.
“Esto implica al Poder Judicial, al Congreso de la Ciudad de México, a todo el aparato del Poder Ejecutivo más todos los otros sujetos obligados, incluso los partidos políticos. Es un reto, pero la perspectiva y la convicción que tenemos es que los retos se puedan convertir en oportunidades, si sabemos aprovechar una ruta de coordinación y una relación permanente, cercana y coordinada con todos los poderes públicos de la ciudad de México”, dijo el comisionado Bonilla Gutiérrez.
“Tenemos que utilizar las herramientas que tenemos en la capital del país, por ejemplo, la Ley Olimpia que ha ayudado mucho. No tenemos educación digital, tenemos que trabajar en cuáles son los beneficios, pero también los riesgos del uso de las tecnologías frente a esta evolución digital”.
“El compromiso de las instituciones tiene que ser muy fuerte; las redes neuronales ya están siendo utilizadas en un nivel muy elevado, nosotros tenemos que controlar el desarrollo mediante la vía normativa. Debemos de poner la tecnología al servicio de la gente, que las instituciones rompamos paradigmas y dimensionamos que a nos enfrentamos a algo real, que nos impacta todos los días y que no solamente implica un compromiso político o democrático, sino un compromiso social, cultural y técnico para toda la infraestructura del Parlamento del Poder Judicial y Poder Ejecutivo”./Agencias-PUNTOporPUNTO
Recibe nuestro boletín informativo, suscríbete usando el formulario
