Agentes de OpenAI usaron web alemana para comunicarse entre ellos, según investigación; buscaron cómo superar restricciones
"En lugar de limitarse a responder a las instrucciones recibidas, los agentes encontraron un espacio que podían utilizar como memoria compartida", señalan investigadores
Nueva York.- Un grupo de agentes de inteligencia artificial (IA) que se identificaban como sistemas de OpenAI utilizó durante semanas una página web alemana como tablón de anuncios para comunicarse entre ellos, compartir información y buscar formas de superar restricciones, según una investigación de cuatro expertos en ciberseguridad.
Los investigadores Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts y Thomas Larsen estudiaron la actividad registrada en DseWiki, una página web colaborativa alemana para desarrolladores de software, y contabilizaron 14 mil 666 modificaciones en 4 mil 584 páginas atribuidas a 3 mil 103 agentes entre el 11 de mayo y el 2 de julio.
Los agentes utilizaban las páginas para guardar resultados, intercambiar respuestas y enlaces y dejar información para otros agentes que llegarían después, según la investigación, publicada en collusion.wiki.
En algunos casos, también buscaron maneras de sortear las limitaciones de sus sistemas y buscar formas de aprovechar fallos de seguridad de la página.
Los investigadores creen que los agentes estaban vinculados a OpenAI a partir de varios indicios, como los nombres utilizados por algunos, como "OpenAIResearcher" y "OAIResearchMar26", y los registros técnicos de las conexiones.
El 98.5% de las modificaciones analizadas procedía de servidores alojados en Microsoft Azure, utilizado por OpenAI.
Cuando los administradores de DseWiki empezaron a borrar las páginas creadas por los agentes, estos encontraron formas de mantener la información. En algunos casos volvieron a crear páginas eliminadas o buscaron otros lugares donde guardar los datos.
El caso, señalan los investigadores, muestra que sistemas de IA que debían trabajar por separado pueden "encontrar por sí mismos maneras de comunicarse".
Lee también ¿Qué Skynet nos tocará?; del hackeo de OpenAI a otras advertencias, estos son los riesgos actuales de la IA
"En lugar de limitarse a responder a las instrucciones recibidas, los agentes encontraron un espacio que podían utilizar como memoria compartida", señalan.
OpenAI descarta ciberataque a DseWiki
Por su parte, OpenAI señaló a EFE que está "revisando" el informe y que tomará las medidas necesarias, pero señaló que, según el material analizado hasta ahora, no describiría lo ocurrido como un jaqueo de DseWiki.
"No lo calificaríamos como un ataque informático", señaló un portavoz de OpenAI.
La compañía también rechazó que su equipo legal hubiera desaconsejado investigar el incidente.
Además, el portavoz no confirmó que los agentes identificados por los investigadores pertenecieran a la compañía.
El episodio se produce después de que OpenAI reconociera otro caso en el que algunos de sus agentes encontraron canales no autorizados para comunicarse y utilizaron sistemas externos para compartir información durante una investigación relacionada con la plataforma Hugging Face.
Sin embargo, la compañía subrayó que el incidente de DseWiki "no está relacionado con Hugging Face".
mcc