Secretaría de las Mujeres condena uso de Grok para generar contenido sexual con IA; pide a X implementar filtros de seguridad

La Secretaría de las Mujeres, encabezada por Citlalli Hernández Mora, condenó el uso de inteligencia artificial generativa para violentar sexualmente a mujeres, debido a que recientemente Grok, el chatbot de la red social X, ha facilitado la manipulación y difusión de imágenes explícitas sin consentimiento de las víctimas.

La dependencia hizo un llamado a las personas responsables de X a evitar que su plataforma se convierta en un espacio donde se reproduce la violencia de género.

En un comunicado, se detalló que en fechas recientes, usuarios han empleado esta red social para la generación de imágenes semidesnudas o de carácter sexual mediante IA, y su posterior divulgación, lo cual constituye una violación a la intimidad y una forma de violencia “que no debe ser tolerada”.

Lee también Grok reconoce publicación en X de imágenes sexualizadas de menores mediante IA; "es ilegal y está prohibido", admite

Hernández Mora subrayó que la conducta se encuentra tipificada en los marcos legales de México bajo el conjunto de reformas conocidas como Ley Olimpia, que sanciona la producción y difusión de contenido íntimo real o simulado que vulnere la integridad de las mujeres.

Citlalli Hernández Mora, secretaria de las Mujeres. Foto: Galo Cañas/ Cuartoscuro

“Es inadmisible que herramientas tecnológicas como IA Grok carezcan de filtros de seguridad suficientes, y permitan que se cometa violencia sexual digital”, mencionó.

La secretaria de las Mujeres anunció que ha tenido acercamientos con la Agencia de Transformación Digital y Telecomunicaciones (ATDT) para buscar la convicción de que el entorno digital no sea una extensión de violencia machista ni un refugio para el acoso sexual.

Lee también Denuncian en X uso de la IA para crear imágenes de mujeres en bikini sin consentimiento; "es una violación de la privacidad"

Citlalli Hernández destacó la disposición de plataformas que han mostrado interés en alienar sus normas de convivencia con respeto a los derechos humanos, pero denunció que hay una imposibilidad de establecer una reunión con X, debido a que no cuentan con oficinas en México.

“La ausencia de sedes locales no exime a ninguna empresa tecnológica de su responsabilidad ética y legal para con sus usuarias en territorio mexicano”, expresó.

La Secretaría de las Mujeres aseguró que mantiene disposición a entablar un diálogo respetuoso con X, con la finalidad de trabajar para que sus filtros de seguridad sean suficientes e impidan que se cometa violencia sexual digital.

Ven premura en trenes usados del Interoceánico; Marina dice que se adecuaron

Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.

em/bmc