Anthropic revela que Irán utilizó Claude para planear ataques contra objetivos de EU; usuarios sortearon restricciones de acceso

Washington. Actores vinculados al Gobierno de Irán utilizaron el modelo de inteligencia artificial Claude para apoyar operaciones de vigilancia, como planificar posibles ataques contra objetivos estadounidenses y propaganda, según un informe publicado este jueves por la empresa estadounidense Anthropic, que documentó durante los últimos ocho meses varios usos indebidos de sus modelos por parte de actores estatales.

La empresa señaló, en un informe de 154 páginas, que estas herramientas pueden ayudar a identificar objetivos y procesar grandes cantidades de información relacionada con disidentes, periodistas, activistas y políticos, lo que permite a los gobiernos hacer más eficientes los sistemas de vigilancia que ya existen.

En el caso iraní, los usuarios recurrieron además a mecanismos para sortear las restricciones de acceso a Claude, que no está disponible oficialmente en el país, y utilizaron redes privadas virtuales y números de teléfono extranjeros para acceder al servicio.

Según Anthropic, un grupo de ciberdelincuentes vinculado a Irán utilizó la cuenta de Claude para elaborar recomendaciones de ataque contra las fuerzas navales estadounidenses en la región.

La compañía también documentó en su informe otros usos indebidos de Claude relacionados con armas convencionales y operaciones cibernéticas en países como China, Rusia y Yemen.

Riesgos del uso indebido de la IA

Anthropic afirmó que bloqueó esos usos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos, aunque reconoció que no pudo determinar si las investigaciones tenían fines legítimos o maliciosos.

"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", explicó la empresa.

Anthropic advirtió de que la creciente capacidad y autonomía de los modelos de IA está reduciendo las barreras técnicas y económicas para realizar actividades que anteriormente requerían mayores conocimientos y recursos.

Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas, y también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.

Te puede interesar

OpenAI pide al Congreso de EU aprobar reglas obligatorias para la IA; busca controles para modelos más avanzados

California prohíbe algoritmos y funciones adictivas en redes sociales para menores; arrecia lucha contra chatbots de IA

VIDEO Y FOTOS: En Polonia, hasta los robots protestan contra uso de la IA; piden regularla para proteger a los trabajadores

VIDEO: Homenajean en Nueva York a víctimas del 11-S con miles de drones; recrean las Torres Gemelas

dmt