La difícil ruta legal para defender a víctimas de IA
El Código Penal establece de tres a seis años de prisión y una multa a quienes “elaboren” fotos con contenido íntimo sexual; pero el anonimato en la red social deja a las mujeres en manos de X
A pesar de que México castiga la violencia digital, no hay forma de proceder legalmente contra personas extranjeras o con cuentas anónimas en la red social X, que utilizaron al agente de inteligencia artificial (IA) Grok para crear imágenes hipersexualizadas de mujeres sin su consentimiento.
El Código Penal Federal establece de tres a seis años de prisión y una multa a quienes “elaboren imágenes, audios o videos con contenido íntimo sexual de una persona sin su autorización”; sin embargo, el anonimato en la red social deja a las víctimas en manos de las reglas de X, que se excusa con el lema de “libertad de expresión y cero censura”.
De hecho, la plataforma del magnate Elon Musk sí cuenta con una “política relativa a la desnudez no consensuada”, aunque su IA ha generado miles de fotografías con parcial desnudez de usuarias, incluso de niños de varios países, incluido México, donde desde 2021 la Ley Olimpia sanciona la violencia digital.
“La Ley Olimpia sí funciona y se tiene en México, el problema es que cuando hablamos de plataformas autorreguladas y sus desarrolladores principales están en Estados Unidos, el litigio tendría que ser en ese país”, subraya Carlos Piña García, doctor en Ciencias de la Computación por la Universidad de Essex.
En un monitoreo, EL UNIVERSAL constató que cada minuto entre 30 y 60 usuarios pidieron a Grok colocar un bikini a mujeres. Pero este número podría ser mayor ya que no hay forma de contabilizar las consultas privadas que cada usuario hizo a esta herramienta desde sus chats.
Además, hay usuarios que emplearon otros comandos y usan palabras como: lencería, ropa interior, remove, quítale la ropa y llénala de líquido blanco, instrucciones que triplicarían la cifra de afectadas. Estimaciones también refieren que hubo hasta 6 mil fotografías modificadas por hora, es decir, más de un millón por semana.
La abogada y defensora digital Valeria Mondragón Martínez explica que la Ley Olimpia no sólo castiga la elaboración y difusión de fotos reales, sino que también sanciona deep fakes y montajes con IA en legislaciones locales, como en la Ciudad de México, que incluye la palabra “contenidos reales o simulados”.
Sin embargo, el tipo penal no está homologado en todo el país, por lo que algunas entidades como Chihuahua no han tipificado el uso de IA para formar un marco punitivo respecto a esta violencia digital, lo que deja sin protección a las víctimas.
Mondragón Martínez, quien fue representante legal de las víctimas de Diego “N” —un estudiante del Instituto Politécnico Nacional que almacenaba y distribuía más de 160 mil fotos editadas de sus compañeras— subraya que iniciar una denuncia es un “proceso complejo” en el que las plataformas se deslindan bajo el argumento de que la responsabilidad recae en los usuarios.
Lamenta que ante estas agresiones cientos de mujeres hayan optado por no publicar sus fotografías en redes sociales, lo que considera “muy fuerte y valiente” al vivir en una era digital. Y “mientras el sistema sea patriarcal, es muy triste que se tenga que llegar a esto”, agrega.
Carlos Piña García reitera que no hay manera de imputar, desde el punto de vista jurídico mexicano, la responsabilidad a la plataforma, tras recordar que “Elon Musk [argumentó] que la responsabilidad del mal uso de este modelo recae única y exclusivamente en los usuarios”.
Ante las quejas en redes sociales se hicieron ajustes y candados para evitar contenido simulado que vulnere la integridad de la mujer, pero los usuarios hallaron la formas de romperlos, por lo que no hay una forma de acabarlo, señala el experto.
Lee también Ley Olimpia conquista Cumbre de Acción sobre la IA
“Hay modelos que ni siquiera son Grok, que pueden estar generando las imágenes y las pueden estar compartiendo dentro de una plataforma como Facebook, Instagram o TikTok. Nos vamos a enfrentar a otros modelos de lenguaje, esto apenas está comenzando”, lamenta.
Respecto a la denuncia, explica que se requieren pruebas periciales informáticas, las cuales son costosas y si no se entregan a tiempo se podría cerrar el caso y quedar impune.
“Los usuarios pueden remover el contenido, y una captura de pantalla no es prueba suficiente porque no tiene un peritaje digital o un peritaje informático para decir alguien generó la imagen o dio el prompt (instrucción) para generar esa foto (...) o que tiene posesión de esa imagen.
“No basta con una captura de pantalla, tendría que poner el URL, algún juez tendría que solicitar a la compañía X que confirme si el URL sí contenía una imagen. Esto, teniendo en consideración que la persona radica en México, porque si es de otro país la denuncia se cae”, refiere.
Comenta que X sólo notifica al usuario que la ley mexicana hizo una solicitud de información pero no la entrega, por lo tanto las pruebas se quedan inconclusas.
María Elena Esparza Guevara, fundadora de la asociación civil Ola Violeta, asegura que la violencia digital y la regulación de la IA son desafíos centrales en materia de género en 2026.
“El capitalismo y el machismo suelen ir de la mano, y una vez más observamos cómo se pone —desde una empresa sin ningún marco ético y sin responsabilidad— una tecnología a disposición de usuarios para que sea utilizada como ellos quieran. Musk se burló de esto y lejos de contribuir a combatir la violencia digital de género, lo que hace es ridiculizarla, minimizarla y entra a un proceso de normalización”, advierte.
Agrega que se deben encontrar mecanismos para exigir a las empresas que se responsabilicen. Mientras, los gobiernos deben adecuar el marco jurídico para que haya sanciones efectivas incluso cuando se hagan desde el anonimato.
“Si le pasa a una amiga, colega, hermana, familiar, a alguien de nuestro entorno significativo es muy importante primero reforzarle la idea de que no es su culpa, para encontrar maneras de aliviar la vergüenza que no sea retirarse de redes, porque ella no es la que está mal”, aconseja.
Lee también Citlalli Hernández llama a mexicanas a denunciar y combatir la violencia; "no es normal", asevera
Grok reconoce violencia; X rechaza reunión con Citlalli Hernández
El 30 de diciembre de 2025, Grok reconoció haber generado y publicado una imagen de dos menores “en ropa interior sexy y volteadas”, ambas con una edad aproximada de entre 12 y 14 años, por lo que procedió a eliminar dicho contenido bajo la premisa de que las leyes estadounidenses tienen “sanciones severas” para este tipo de conductas.
El pasado 2 de enero aceptó “fallas en las medidas de seguridad” que favorecían la creación de contenido que violaba leyes. En una publicación admitió que tras haber detectado estas irregularidades se procedió de inmediato a solucionar fallas.
La IA de Musk sostuvo que todo material de abuso sexual infantil es ilegal y está prohibido, por lo que xAI se comprometió a prevenir este tipo de problema, y sobre cuántos usuarios recurren a esta herramienta para desnudar personas, asegura que son datos internos que no pueden divulgarse por privacidad.
Lee también Grok desactiva herramienta que permite desnudar personas; ocurre tras ser criticado por usuarios
Musk fue víctima de esta violencia digital; en un principio lo tomó con humor, pues describió la fotografía alterada acompañada como “perfecta”. Sin embargo, el 3 de enero garantizó que “cualquiera que use Grok para hacer contenido ilegal sufrirá las mismas consecuencias que si hubiera subido contenido ilegal”.
El 6 de enero, la titular de la Secretaría de las Mujeres, Citlalli Hernández Mora, informó que pidió un encuentro con plataformas digitales, pero X se negó al señalar que no cuentan con oficinas en México.
“Consideramos que la ausencia de sedes locales no exime a ninguna empresa tecnológica de responsabilidad ética y legal para con sus usuarias en territorio mexicano”, dijo.
Lee también Mayor productividad por inteligencia artificial tomará 8 años, prevén
Testimonio
Karina Velasco inició 2026 con un sabor amargo: como en una distopía de ciencia ficción, más de una centena de hombres recurrió a Grok para alterar su imagen, colocarle lencería y desvestirla digitalmente.
“Me sentí muy indignada. Están lastimando tu dignidad como mujer, porque lo hacen en sentido de humillación o degradación hacia nosotras”, expresa la periodista jalisciense de 36 años, quien alista una denuncia ante la fiscalía del estado contra usuarios específicos y busca proceder en contra de “por qué no puedo denunciar a los más de 100 sujetos al mismo tiempo”.
Velasco señala que la red social tiene que hacerse responsable por todos los usuarios que han empleado esta herramienta para vulnerar mujeres. Y agrega que X borró apenas un par de imágenes, pues el resto “no rompía ninguna regla”, según lo que le respondieron.
Lee también El algoritmo como confidente
Cuando hizo pública su intención de denunciar penalmente, algunos usuarios con cuentas falsas la insultaron y, como mofa, hicieron llamados a seguir generando este tipo de imágenes explícitas sobre ella. “Si no quieres que te ocurra, entonces no hagas pública tu imagen”, le reprocharon los agresores.
“No es que sólo hayan pedido que mi foto se viera en bikini, sino que hasta pedían que mi imagen saliera con líquido blanco y otro tipo cosas que (...) son una falta de respeto”, condena.
Para Karina, los hombres recurren a esto para “ejercer control” sobre el cuerpo femenino, ya que “históricamente se han sentido dueños de nosotras, de nuestras decisiones, del rumbo de nuestra vida”.
Lee también ¿Qué democracia defendemos si el Estado no puede garantizar la vida de las mujeres?
Considera que “la sociedad se tiene que reeducar para evitar que sigamos sintiendo miedo o que nos sintamos cohibidas de expresarnos libremente en redes sociales. Es importante que las mujeres sigamos conquistando espacios y luchando por que en la sociedad se respete nuestro derecho a decidir sobre nuestros propios cuerpos, nuestra autonomía y nuestra propia vida”, afirma.
Señala que siempre habrá varones dispuestos a revictimizarla; sin embargo, sostiene que esto es sólo una forma que tienen los hombres para pretender deslindarse de las violencias que cometen.
“Es muy peligroso que se esté normalizando este tipo de acciones y que Musk, sobre todo, en un principio se haya burlado de esta situación en vez de poner un alto”, advierte.
Lee también Víctima de violencia digital, una de cada cinco mujeres
“No sólo lo haré por mí, también por las niñas y las víctimas de los pederastas que están usando Grok para recrear imágenes pedófilas”, agrega la periodista.
Insiste en que esta violencia digital, además de cosificar, busca acallar las voces de las mujeres y excluirlas de los espacios virtuales para disminuir sus opiniones en un contexto “en el que la ultraderecha avanza cada vez más”.
“Elon Musk tiene la opción de configurar su IA para evitar que genere este tipo de imágenes y sin embargo prefiere que los hombres más cerdos del planeta sigan recreando sus aberrantes parafilias. Merecen mínimo ir a prisión”, concluye.
sin interrupciones.
sin límites.