Más Información
La Unión Europea (UE) tiene las manos completamente ocupadas tratando de resolver los dilemas provocados por los retos políticos, diplomáticos, económicos y tecnológicos generados en Estados Unidos, país que bajo la administración del presidente Donald Trump no se sabe si es aliado o rival.
En el rubro tecnológico, la encrucijada más urgente es la generada por Grok, el asistente de inteligencia artificial de Elon Musk, que enfrenta críticas e indignación mundial por generar contenido digital explícito sin consentimiento de los usuarios, incluyendo mujeres y niños.
El desafío no es sencillo, confronta a la Comisión Europea, el órgano encargado de proponer y aplicar los reglamentos, con principios básicos de la Unión Europea (UE): el impulso a la innovación, la libre competencia, la protección de los consumidores y la defensa de los derechos fundamentales.
La presión para que el ejecutivo comunitario intervenga en el último escándalo relacionado con Musk va en aumento y proviene desde los distintos espectros de la política europea.
“Se han generado cientos de miles de imágenes deepfake ofensivas, con niños y mujeres sufriendo daños irreparables. La Comisión Europea no está haciendo nada para combatir esto”, denuncia la eurodiputada del Grupo de los Verdes, Alexandra Geese, miembro de la comisión parlamentaria especial Escudo Europeo de la Democracia.
“Los depredadores más atroces tienen vía libre para cometer delitos y crear negocios basados en la violencia sexual, siempre y cuando sean oligarcas tecnológicos aliados de la administración Trump. La presidenta de la comisión, [Ursula] Von der Leyen, calificó este contenido de inaceptable, pero no mueve un dedo para proteger a las mujeres y los niños europeos”.
Lee también Grok desactiva herramienta que permite desnudar personas; ocurre tras ser criticado por usuarios
La queja de Alexandra Geese va acompañada de una carta firmada por 54 eurodiputados miembros de cinco familias políticas, incluyendo las más grandes, el Partido Popular Europeo y el Partido Socialista.
La misiva está dirigida a Ursula von der Leyen y destaca que “ya es suficiente. El actual escándalo de Grok, que ha visto cómo se publicaba en X una oleada de imágenes de abuso sexual infantil y violencia sexual contra las mujeres, es una vergüenza”.
Los llamados deepfakes, es decir, videos, imágenes y audios creados mediante inteligencia artificial (IA) para simular o fabricar contenido de forma realista, son un fenómeno en auge en la red. Los materiales generados son cada vez más accesibles gracias a la proliferación de herramientas gratuitas, de fácil uso y con capacidades digitales ilimitadas.
Si bien tienen aplicaciones en el entretenimiento y la creatividad, también tienen el potencial para difundir noticias falsas, crear contenido no consensuado y socavar la confianza en los medios digitales. De ahí que su impacto no sea marginal ni abstracto, al provocar violencia sexual, acoso, daño sicológico y en la reputación de la víctima. En abril pasado, un estudio divulgado por el despacho de abogados con sede en Londres, Bird & Bird, estimó que se compartirían 8 millones de deepfakes en 2025, frente a los 500 mil en 2023.
La Comisión Europea calcula que el material sexual y pornográfico representa alrededor de 98% de los deepfakes.
Europol prevé que el riesgo sistémico aumente y estima que 90% del contenido en línea se genere de forma artificial para 2026.
“Los deepfakes suponen un mayor riesgo para los niños que para los adultos, porque las capacidades cognitivas de los niños aún se encuentran en fase de desarrollo y les resulta más difícil identificarlos”, sostiene en un estudio Mar Mar Negreiro, del Servicio de Investigación del Parlamento Europeo.
Lee también La difícil ruta legal para defender a víctimas de IA
“Los niños también son más susceptibles a prácticas nocivas en línea, como el grooming, el ciberacoso y el material de abuso sexual infantil. Esto pone de relieve la necesidad de adoptar medidas legales y cooperar, lo que incluye desarrollar las herramientas y los métodos necesarios para hacer frente a estas amenazas a la escala y al ritmo requerido”.
La tecnología de los deepfakes comenzó a desarrollarse en instituciones académicas hace más de dos décadas. En 2017, el término deepfake ganó popularidad, gracias a un usuario de Reddit que creó un canal con ese nombre. El canal presentaba videos creados por sus miembros utilizando a celebridades como base para contenido pornográfico, lo que condujo al desmantelamiento del grupo.
Si bien la amenaza no es nueva, sí lo es la velocidad y la magnitud con que la inteligencia artificial la amplifica.
El chatbot de IA de X, Grok, aparece en esta trama tras conocerse que facilita la creación de imágenes sexuales explícitas de mujeres y niños, y provocar la intervención de varios gobiernos; algunos han prohibido su uso, otros han abierto procedimientos de investigación.
Lee también Estos son los países que emprenderán acciones legales contra Grok
Entre los países que han tomado acciones se encuentran Malasia, Indonesia, Reino Unido y Francia. En el país galo, el gobierno denunció ante la Autoridad de Regulación de la Comunicación Audiovisual y Digital que el chatbot ha generado contenido “sexual y sexista” que es “claramente ilegal”.
En un debate celebrado en el pleno de Estrasburgo el 20 de enero, los miembros del Parlamento Europeo exigieron a la Comisión Europea la aplicación rigurosa de la Ley de Servicios Digitales (DSA, en inglés) y la Ley de Inteligencia Artificial para hacer frente a la proliferación de contenido sexual ilegal generado por esta tecnología.
La comisión contestó informando que ha iniciado una investigación y que ha ordenado a X que conserve todos los documentos y datos internos sobre Grok hasta, al menos, finales del año.
No sería la primera vez que la Comisión Europea aplica la legislación europea contra X. En diciembre multó con 120 millones de euros a la firma de Musk por violar tres disposiciones de transparencia. Además, hay otras investigaciones en curso para corroborar si la empresa ha infringido la normativa europea en áreas relacionadas con la publicación de contenido ilegal y la lucha contra la manipulación de la información.
Todo esto se produce en un contexto de alta tensión transatlántica por la ambición de Trump de anexarse Groenlandia, de creciente preocupación en Europa por la dependencia de la infraestructura tecnológica estadounidense y de presión sobre la legislación tecnológica europea por parte de diversos actores estadounidenses, incluyendo la Casa Blanca.
En respuesta a los señalamientos, Grok ha dado a conocer una serie de actualizaciones en torno al tema de edición y generación de imágenes. Entre los cambios está la suspensión de la edición de imágenes de personas reales con ropa reveladora, como bikinis y ropa interior, para todos los usuarios. Además, se han introducido bloqueos geográficos para excluir a los países en donde la creación de estos materiales sea ilegal.
“Seguimos muy de cerca la evolución en Grok. Estamos examinando en qué medida X puede estar vulnerando la DSA y no dudaremos en intervenir si las evidencias así lo sugieren”, afirma Henna Virkkunen, comisaria europea responsable de Soberanía Tecnológica, la Seguridad y la Democracia.
Más Información
Noticias según tus intereses
ViveUSA
[Publicidad]