Tribunal de Ámsterdam prohíbe a X y Grok generar imágenes sexuales sin consentimiento; restringen su IA en Países Bajos

Un tribunal de Ámsterdam prohibió el jueves a la red social X y a Grok, el asistente de inteligencia artificial de Elon Musk, generar y difundir imágenes que "desnuden" a personas sin su consentimiento, así como contenido pedocriminal.

Mientras Grok lo incumpla, X también tendrá prohibido ofrecer los servicios de su asistente de IA en los Países Bajos.

Offlimits, centro neerlandés especializado en violencia en línea, llevó a las plataformas ante la justicia tras la introducción, hace unos meses, de una función en Grok que permitía a los usuarios crear montajes hiperrealistas (o deepfakes) de mujeres y niños desnudos a partir de fotos reales.

Lee también De Europa a Asia, crece presión global contra Elon Musk por X y Grok; investigan imágenes íntimas con IA y prácticas engañosas

Grok y X afirmaron querer combatir este tipo de imágenes incluyendo prohibiciones en sus condiciones de uso y aseguraron haber tomado medidas para impedir su generación y difusión.

"Según el juez, Offlimits demostró suficientemente la existencia de una duda razonable sobre la eficacia de las medidas adoptadas, indicó el tribunal de Ámsterdam en su sitio web.

"A modo de ejemplo, Offlimits logró producir un video de una persona desnuda utilizando Grok poco antes de la audiencia", detalló.

Lee también Sextorsión con IA cobra vida de menor en EU; crecen casos en todo el mundo

La prohibición se refiere tanto a la generación de imágenes de personas residentes en los Países Bajos como a la producción y su difusión en el país.

Cualquier infracción se sancionará con una multa de 100 mil euros por día (unos 115.900 dólares diarios), hasta un máximo de 10 millones de euros (unos 11,59 millones de dólares).

Este jueves el Parlamento Europeo dio un paso más para prohibir en la UE los programas de inteligencia artificial que permiten "desnudar" a personas sin su consentimiento, una medida respaldada por los Estados miembros.

Noelia Castillo recibe la eutanasia; la joven falleció este jueves en España tras librar una batalla legal

Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.

gs