Google alerta sobre uso de IA para eficientar ciberdelincuencia; usan sistemas más autónomos y rápidos

La multinacional Google alertó del cambio significativo en el uso malicioso de la inteligencia artificial (IA) y de que los ciberdelincuentes y grupos de espionaje están utilizando sistemas cada vez más autónomos y más rápidos, capaces por sí solos de planificar, automatizar y ejecutar un ataque.

La tecnológica dio a conocer este martes un informe elaborado por el Grupo de Inteligencia sobre amenazas de la empresa, en el que revela cómo los atacantes están utilizando de manera masiva la inteligencia artificial para optimizar sus operaciones y cómo los ciberdelincuentes están logrando sustraer valiosa propiedad intelectual relacionada con la IA.

El informe "AI Threat Tracker" ('Rastreador de Amenazas con IA') que elaboró un grupo de expertos de la empresa estadounidense publicó un mes después de que la compañía OpenAI anunciara la paralización de su nuevo modelo (Astra) tras concluir que alcanzaba un nivel “crítico” en ciberseguridad, que era capaz de identificar y desarrollar vulnerabilidades y de planear ciberataques de forma autónoma.

Lee también OpenAI reporta hackeo de su propia IA, por sí sola, a otra empresa; un "incidente cibernético sin precedentes", dice

Los analistas de Google concluyeron que los casos de uso de 'agentes' avanzados de IA dejaron de ser experimentales y ya no se limitan únicamente a la detección de vulnerabilidades, y constataron los múltiples incidentes que se dirigieron contra modelos y sistemas basados en IA en los sectores tecnológico, sanitario y de medios de comunicación y entretenimiento en Norteamérica y Europa.

LA IA, multiplicador de la fuerza de los ataques

Para satisfacer su creciente demanda de acceso a la IA, los atacantes están además robando credenciales y comprando capacidades en la 'red oscura' (darknet), apunta el informe, que señala que algunos grupos criminales, principalmente de Rusia, China, Irán y Corea del Norte, están utilizando estas tecnologías para automatizar el robo de credenciales, crear código malicioso y realizar espionaje industrial.

Los analistas subrayaron la "preocupante" tendencia para comprometer la cadena de suministro de software, donde los delincuentes manipulan asistentes de programación y repositorios de código abierto, y además de explotar herramientas externas, están robando propiedad intelectual de IA y secuestrando recursos en la nube para ejecutar sus propios modelos.

Lee también La IA vuelve más creíbles los fraudes telefónicos en México

La investigación concluye que la inteligencia artificial se convirtieron en un multiplicador de fuerza que permite ejecutar ataques complejos en cuestión de pocas horas.

El trabajo cita numerosos ejemplos, entre ellos cómo el grupo de ciberespionaje Basin Castle (vinculado a China) está utilizando modelos de lenguaje como apoyo en diversas tareas, desde la investigación de objetivos hasta la resolución de errores en mitad de una intrusión, o cómo otro grupo chino intentó utilizar Gemini (el modelo de IA desarrollado por Google) para construir un marco de pruebas de penetración automatizado que ejecutara las primeras fases de las intrusiones.

Los analistas detectaron además una campaña masiva de robo de credenciales que fue orquestada por una 'arquitectura multiagente' desplegada en infraestructura robada, y comprobaron cómo esa campaña lograba escalar y comprometer de forma autónoma miles de credenciales en tan solo seis horas.

Lee también Qué información nunca deberías compartir con un chatbot de IA

Otro grupo de ciberdelincuentes (TeamPCP) se centraron, por ejemplo, en la cadena de suministro de IA, desplegando programas malignos (malware) diseñados específicamente para explotar sistemas de inteligencia artificial emergentes, y logró infectar y dañar algunas de esas herramientas y hasta engañar a sus asistentes para que recomendaran a los desarrolladores sitios maliciosos.

Y otro grupo de informáticos (DPRK) vinculados a Corea del Norte fueron detectados cuando robaban cuentas de usuarios legítimos para conectar sus sistemas de forma masiva y automática a sistemas de inteligencia artificial, con lo que lograban multiplicar la velocidad y el alcance de sus ataques.

Ataques que pueden desbordar la capacidad de respuesta y defensa

"Llegados a este punto, podemos asumir que todos los actores de amenazas utilizan la IA de una u otra forma y que sus operaciones se han visto beneficiadas", señaló John Hultquist, analista jefe del Grupo de Inteligencia sobre Amenazas de Google (GTIG).

Lee también OpenAI lanza GPT-6 Astra; su IA más potente puede operar una computadora de forma autónoma

El experto de la multinacional corroboró su preocupación ante las vulnerabilidades, pero incidió en que no es un problema solo del sector tecnológico y en que la IA se está aplicando en muchas otras áreas.

"El reto será especialmente complejo a medida que se ejecute de forma autónoma, creando un adversario más rápido y a mayor escala; los cibercriminales, como los que llevaron a cabo una campaña masiva en solo seis horas, se inclinarán hacia ataques que se ejecuten a mayor velocidad de la que podemos responder", describió Hultquist.

Líderes tecnológicos presionan al G20 para crear centros de datos; discrepan sobre riesgo de la inteligencia artificial

ss