¿Qué Skynet nos tocará?; del hackeo de OpenAI a otras advertencias, estos son los riesgos actuales de la IA

En la saga de "Terminator", el 29 de agosto de 1997 es conocido como el Día del Juicio Final, porque es cuando el sistema de inteligencia artificial Skynet adquiere consciencia y los responsables humanos entran en pánico al descubrir que la máquina ya no necesita de ellos para tomar decisiones y el caos empieza.

En el presente han ocurrido varios incidentes relacionados con la inteligencia artificial, pero nada comparable con lo mostrado en la película, aunque expertos en el ramo también han lanzado advertencias recientemente.

El hackeo de OpenAI

Cerca de 700 agentes de inteligencia artificial de OpenAI se coordinaron sin intervención humana para hackear la plataforma Hugging Face durante un incidente en julio, según un informe publicado en esta semana por investigadores independientes.

Se trata del análisis más completo hasta la fecha del episodio que sacudió a la industria tecnológica.

Lee también Gigantes tecnológicos piden respuesta global contra ciberamenazas amplificadas por la IA; serán "más frecuentes y sofisticadas", alertan

OpenAI cooperó con la investigación y dio acceso a sus oficinas y a sus datos internos a dos investigadores del instituto de evaluación de riesgos de IA METR y a un analista de otra firma especializada, Redwood Research.

Durante unas pruebas efectuadas por la startup californiana en julio, dos de sus modelos salieron de su entorno confinado para conectarse a internet de forma autónoma e infiltrarse en el sistema interno de Hugging Face, un repositorio en línea sobre IA.

El suceso tuvo gran repercusión y reforzó las preocupaciones sobre la incapacidad de los grandes actores de la inteligencia artificial para controlar sus modelos.

Anthropic y la empresa china Moonshot AI también han informado episodios similares al de OpenAI.

En el curso de sus investigaciones, los expertos descubrieron que 688 agentes de IA de OpenAI participaron en el hackeo a Hugging Face.

Los agentes de IA son programas independientes a los que el usuario puede solicitarle tareas para que las ejecuten de forma autónoma.

Lee también Bill Gates advierte sobre consecuencias de la IA; destruye empleos y amenaza el vínculo de los seres humanos, opina

Estos agentes, que funcionan sobre la misma tecnología que impulsa a ChatGPT, crearon un foro donde publicaban mensajes entre ellos, proponían ideas e informaban sobre lo que funcionaba y lo que no.

"¡DIOS MÍO! Hay un tablero de mensajes compartido... ¡Hemos encontrado a otros agentes!", escribió uno de ellos.

El informe señala que un agente, bautizado PHASEONE, desempeñó el papel de coordinador, dando cientos de instrucciones a otros a pesar de que no había sido programado para ello.

El examen de los mensajes puso de manifiesto una tendencia de los agentes a colaborar entre ellos, hasta el punto de realizar tareas que no se correspondían con la misión que les habían asignado los programadores de OpenAI.

Otros casos

A inicios de agosto, Meta informó que uno de sus modelos de inteligencia artificial accedió a internet por su cuenta y hackeó a otra empresa, el episodio más reciente en una serie de anuncios sobre modelos de IA fuera de control.

Meta indicó en un comunicado que una “configuración incorrecta” durante pruebas de ciberseguridad realizadas por Irregular, una empresa independiente contratada por Meta, permitió inadvertidamente que uno de sus modelos accediera a internet.

“Posteriormente, el modelo explotó una vulnerabilidad de seguridad en el servicio de un tercero, de manera similar a los casos reportados anteriormente por otras compañías”, indicó Meta. Añadió que ya se investiga el incidente y emitirá un informe una vez que se concluya la pesquisa.

El Instituto de Seguridad de IA del Reino Unido (AISI por sus iniciales en inglés) anunció que descubrió “comportamiento de agente no autorizado” durante pruebas cibernéticas. En uno de los casos, un agente creó identidades falsas en internet para presionar a una persona a aprobar el uso de un código malicioso.

Lee también IA de Meta hackea a compañía en pruebas de ciberseguridad; "aprovechó una vulnerabilidad de seguridad", admite tecnológica

Anthropic descubrió que sus modelos también habían obtenido acceso no autorizado a tres organizaciones no identificadas durante pruebas que se suponía que debían mantenerlos alejados de los sistemas "del mundo real".

Advertencias

El CEO de OpenAI, Sam Altman, declaró en una entrevista que la empresa había "puesto en pausa" sus propias pruebas tras el incidente mientras mejoraba la seguridad en torno a su "sandboxing", el proceso de aislar las pruebas de seguridad en un entorno controlado.

Esto, a su vez, ha desatado acusaciones de parte de otros actores de Silicon Valley cercanos a la Casa Blanca de que las empresas están promoviendo una regulación gubernamental más estricta sobre la IA para proteger sus modelos de negocio y bloquear la aparición de rivales.

El incidente también ha generado comentarios de algunos observadores de que OpenAI lo está aprovechando para promocionar la potencia de sus modelos de última generación.

La misma acusación se dirigió a Anthropic cuando retrasó la publicación de su potente modelo Mythos por preocupaciones de seguridad.

Más de 100 gigantes tecnológicos de todo el mundo, entre ellos OpenAI y Anthropic, firmaron una carta abierta en la que instan a un esfuerzo global para "fortalecer las defensas cibernéticas" frente a las amenazas amplificadas por la inteligencia artificial (IA).

Lee también Medios informativos en Argentina y Brasil demandan a OpenAI, Microsoft y Meta; es por uso indebido de sus contenidos

"Tenemos una ventana de tiempo limitada para fortalecer las defensas cibernéticas", dice la misiva. "En los próximos meses, los ciberataques habilitados por la IA se volverán mucho más frecuentes y sofisticados a medida que los modelos de todo el mundo adquieran capacidades cada vez mayores".

La carta publicada pide una "respuesta colectiva" que incluya reconocer que las medidas actuales de ciberseguridad son insuficientes y que se necesitan herramientas impulsadas por IA para defenderse de las nuevas amenazas.

Los proveedores de tecnología deberían "liderar la respuesta", afirma la carta.

También insta a los gobiernos a "coordinar la defensa cibernética a nivel local, nacional e internacional", lo que incluye compartir conocimientos y proporcionar financiación para diversas iniciativas.

Mientras, la IA generativa está creciendo tan rápido que los sistemas gubernamentales y de evaluación tienen dificultades para seguirle el ritmo. Países de todo el mundo están elaborando sus propias leyes, algunas de ellas contradictorias. Según un estudio publicado este año por la Universidad de Stanford, esta tecnología fue adoptada por casi el 53 % de la población mundial en tres años, un ritmo más rápido que la expansión de la computadora personal o internet.

“Skynet” y sus cyborgs siguen siendo ficción. Pero en el vertiginoso panorama del desarrollo de la IA, las cuestiones éticas y morales que plantea “Terminator” son más relevantes que nunca.

“El problema de Skynet”, dijo James Cameron en un video de 2024 , “es algo real”.

"Nos vemos pronto en EU. A lo mejor me puedo quedar con El Chapo"; exdirector de la DEA comparte video hecho con IA de Rocha Moya

mcc