España alista ley para identificar contenidos creados con IA; prevé multas de hasta 35 millones de euros por mal uso

Madrid. El Gobierno español tiene previsto obligar por ley a identificar los contenidos que se generan con inteligencia artificial (IA) y establecerá además un régimen sancionador para quienes utilicen esas tecnologías de forma perversa, con multas que pueden alcanzar hasta los 35 millones de euros o el 7% de la facturación de una empresa.

Así se recogerá en la Ley para el buen uso y la gobernanza de la inteligencia artificial, cuyo anteproyecto aprobó el Consejo de Ministros y con el que el Ejecutivo pretende asegurar un uso "ético, inclusivo y beneficioso" de esta tecnología y facilitar que los usuarios puedan diferenciar con nitidez los contenidos que son reales de los que son virtuales.

El ministro para la Transformación Digital y de la Función Pública español, Óscar López, subrayó la trascendencia de esta nueva norma, y se refirió a la inteligencia artificial como un "poderoso" instrumento que puede favorecer el crecimiento económico, favorecer la lucha contra muchas enfermedades o el desarrollo de nuevos fármacos, pero también ser una herramienta para difundir bulos, para expandir el odio y atacar a la democracia.

Lee también Pentágono firma acuerdo para usar inteligencia artificial en maniobras militares; busca acelerar toma de decisiones

Óscar López, durante la rueda de prensa posterior al Consejo de Ministros, resumió además el contenido de un informe sobre el uso de la inteligencia artificial y su implementación en España, y ha destacado que el estudio señala que el PIB nacional podría crecer hasta un 8% -más de 100 mil millones de euros- en los próximos diez años si se aplica esta tecnología de forma correcta.

El ministro enmarcó el nuevo anteproyecto en el "escudo europeo" que protege los derechos digitales y que se complementa con el anteproyecto de ley de servicios digitales y los medios de comunicación y dijo que la nueva norma adaptará la legislación española al reglamento europeo de Inteligencia artificial, que está ya en vigor.

Prohibidas las técnicas subliminales con IA

El anteproyecto, como el reglamento europeo, establece las prácticas prohibidas de la Inteligencia artificial, y entre ellas el uso de técnicas subliminales (como las imágenes o los sonidos imperceptibles) para manipular decisiones sin consentimiento, o el uso por ejemplo de un 'chatbot' que identifica usuarios con adicción al juego y les incita a entrar, con técnicas subliminales, en una plataforma de juego online.

Lee también OpenAI lanzaría agentes de IA para reemplazar el trabajo humano

Prohibirá además explotar vulnerabilidades relacionadas con la edad, la discapacidad o situación socioeconómica para alterar sustancialmente comportamientos de modo que les provoque o pueda provocar perjuicios; el ministro ha citado como ejemplo que un juguete infantil habilitado con IA anime a los niños a completar retos que les pueden producir daños físicos graves.

La nueva norma prohíbe también la clasificación biométrica de las personas por raza u orientación política, religiosa o sexual, la puntuación de individuos o grupos basándose en comportamientos sociales o rasgos personales como método de selección para, por ejemplo, denegarles la concesión de subvenciones o préstamos, o valorar el riesgo de que una persona cometa un delito basándose en datos personales como su historial familiar, su nivel educativo o su lugar de residencia.

Las sanciones que se pondrán para este tipo de sistemas oscilan entre los 7,5 y los 35 millones de euros, o entre el 2 y el 7 % del volumen de negocio mundial de la empresa responsable, aunque en el caso de las pymes esa cuantía podrá ser inferior.

Lee también ¿La inteligencia artificial te quitará el trabajo o te dará uno mejor?

Contra la "ultrasuplantación o deepfake"

El ministro añadió que las autoridades u organismos encargados de vigilar los sistemas prohibidos serán la Agencia Española de Protección de Datos (para sistemas biométricos y gestión de fronteras); el Consejo General del Poder Judicial (para sistemas de IA en el ámbito de la justicia), la Junta Electoral Central (para sistemas que IA que afecten a procesos democráticos) y la Agencia Española de Supervisión de la Inteligencia Artificial en el resto de los casos.

La ley establece además, de acuerdo con el reglamento europeo, 'sistemas de alto riesgo', e incluye entre ellos todos los que se pueden añadir como elementos de seguridad a productos industriales, a juguetes, equipos radioeléctricos o productos sanitarios, o sistemas; los sistemas para la garantía del derecho, migración, asilo y gestión del control fronterizo; o los sistemas para su uso en la administración de justicia y en procesos democráticos.

Estos sistemas deben cumplir una serie de requisitos y en caso de incumplimientos se establecen también sanciones en función de la gravedad que pueden oscilar entre los 500 mil y los 7,5 millones de euros, o hasta el 2 y el 3% del volumen de negocio mundial del ejercicio anterior de la empresa responsable.

¿Qué es la inteligencia artificial general y cuál será su impacto en la economía?

ss