Secretaría de las Mujeres condena uso de Grok para generar contenido sexual con IA; pide a X implementar filtros de seguridad
Citlalli Hernández denunció que hay una imposibilidad de establecer una reunión con X, debido a que no cuentan con oficinas en México
La Secretaría de las Mujeres, encabezada por Citlalli Hernández Mora, condenó el uso de inteligencia artificial generativa para violentar sexualmente a mujeres, debido a que recientemente Grok, el chatbot de la red social X, ha facilitado la manipulación y difusión de imágenes explícitas sin consentimiento de las víctimas.
La dependencia hizo un llamado a las personas responsables de X a evitar que su plataforma se convierta en un espacio donde se reproduce la violencia de género.
En un comunicado, se detalló que en fechas recientes, usuarios han empleado esta red social para la generación de imágenes semidesnudas o de carácter sexual mediante IA, y su posterior divulgación, lo cual constituye una violación a la intimidad y una forma de violencia “que no debe ser tolerada”.
Hernández Mora subrayó que la conducta se encuentra tipificada en los marcos legales de México bajo el conjunto de reformas conocidas como Ley Olimpia, que sanciona la producción y difusión de contenido íntimo real o simulado que vulnere la integridad de las mujeres.
“Es inadmisible que herramientas tecnológicas como IA Grok carezcan de filtros de seguridad suficientes, y permitan que se cometa violencia sexual digital”, mencionó.
La secretaria de las Mujeres anunció que ha tenido acercamientos con la Agencia de Transformación Digital y Telecomunicaciones (ATDT) para buscar la convicción de que el entorno digital no sea una extensión de violencia machista ni un refugio para el acoso sexual.
Citlalli Hernández destacó la disposición de plataformas que han mostrado interés en alienar sus normas de convivencia con respeto a los derechos humanos, pero denunció que hay una imposibilidad de establecer una reunión con X, debido a que no cuentan con oficinas en México.
“La ausencia de sedes locales no exime a ninguna empresa tecnológica de su responsabilidad ética y legal para con sus usuarias en territorio mexicano”, expresó.
La Secretaría de las Mujeres aseguró que mantiene disposición a entablar un diálogo respetuoso con X, con la finalidad de trabajar para que sus filtros de seguridad sean suficientes e impidan que se cometa violencia sexual digital.
Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.
em/bmc
sin interrupciones.
sin límites.