Grok, la IA de X, reacciona a tendencia "ponla en bikini"; implementa “cero tolerancia” por desnudez no consentida

Tras críticas por haber generado contenido digital explícito sin consentimiento de usuarias, incluidos menores de edad, la red social X anunció una serie de actualizaciones en Grok, su inteligencia artificial generativa, con una “política de cero tolerancia” ante explotación sexual infantil y desnudez no consentida.

Desde Safety, su cuenta de herramientas de seguridad, detalló que se han tomado medidas para eliminar contenido que infrinja estas normas, priorizando el material de abuso sexual a menores de edad.

“Tomamos las medidas pertinentes contra las cuentas que incumplen nuestras Reglas de X. También denunciamos a las autoridades policiales las cuentas que buscan material de explotación sexual infantil, según sea necesario”, señaló.

Lee también Gusano barrenador provoca muerte de mono saraguato en Chiapas; Semarnat asegura que es el único caso en la especie

De acuerdo con las actualizaciones, se han implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con “ropa reveladora” como bikinis.

La restricción, asimismo, aplica a todos los usuarios, incluidos los suscriptores de pago. Además, la creación y edición de imágenes a través de Grok ahora sólo estará disponible para cuentas premium.

“Esto añade una capa adicional de protección, ya que ayuda a garantizar que quienes intenten abusar de la cuenta de Grok para infringir la ley o nuestras políticas sean responsables”, aseguró X.

Lee también Senadora de Morena presenta punto de acuerdo para proteger datos de usuarios de líneas telefónicas; advierte vulneraciones de seguridad

X agregó que estos cambios no alteran su protocolo de seguridad vigente, el cual establece que todas las indicaciones de IA y el contenido general publicado en su plataforma debe cumplir estrictamente con sus reglas.

Reiteró que, independientemente de cómo sea creado el contenido o si los suscriptores son gratuitos o de pago, personal de Safety trabaja para considerar medidas adicionales, implementar acciones rápidas y eliminar contenido infractor e ilegal.

Entre las sanciones, mencionó que se suspenderán cuentas de manera permanente cuando corresponda y colaboración con gobiernos locales y fuerzas del orden “según sea necesario”.

Lee también Corte avala ampliación de facultades de Taddei; presidenta del INE puede nombrar funcionarios sin consultar al Consejo General

“La rápida evolución de la IA generativa presenta desafíos para toda la industria. Trabajamos activamente con los usuarios, nuestros socios, organismos gubernamentales y otras plataformas para abordar los problemas con mayor rapidez a medida que surgen”, concluyó.

Secretaría de las Mujeres condena uso de IA para generar contenido sexual explícito sin consentimiento

En México, la Secretaría de las Mujeres, encabezada por Citlalli Hernández Mora, condenó el pasado 6 de enero que difundir o producir contenido íntimo sin consentimiento, aun cuando sea generado con IA, vulnera la dignidad de las mujeres.

Sin embargo, la dependencia gubernamental no pudo sostener un diálogo con X, debido a que la red social no cuenta con oficinas en nuestro país.

“Consideramos que la ausencia de sedes locales no exime a ninguna empresa tecnológica de su responsabilidad ética y legal para con sus usuarias en territorio mexicano”, dijo Hernández Mora.

Secretaría de las Mujeres condena uso de Grok para generar contenido sexual con IA; pide a X implementar filtros de seguridad

Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.

em/bmc