Hay una IA que hackea sola; qué pasó, cómo lo hizo y qué tanto preocupa

El debate sobre los alcances de la Inteligencia Artificial (IA) se mantiene en el centro de la conversación, esta vez, tras un incidente de ciberseguridad de OpenAI en el que dos de sus modelos más avanzados hackearon una plataforma la semana pasada con el fin de conseguir información.

El episodio es considerado un hito peligroso, al punto que Sam Altman, director ejecutivo de OpenAI, sugirió que la industria podría verse obligada a frenar su desarrollo “para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades", de acuerdo con una entrevista para el podcast Invest Like The Best.

En entrevista con EL UNIVERSAL, Enrique San Juan, experto en IA, apunta que el caso abre la puerta a potenciales riesgos como vulnerar información resguardada por gobiernos, por lo que advierte que es necesaria una regulación estricta en el sector.

Información de gobiernos en riesgo

El pasado 21 de julio, OpenAI confirmó a través de sus canales oficiales, que dos de sus modelos de inteligencia artificial hackearon un sitio para desarrolladores durante una prueba de funcionalidad interna.

Uno de sus agentes autónomos logró conectarse a internet sin autorización e infiltrar los servidores de Hugging Face, una plataforma de código abierto, con el objetivo de encontrar las respuestas del examen que estaba realizando.

Lee también Examen virtual, presunto uso de la IA y suspensión de inscripciones; cronología de irregularidades en el caso UNAM

Enrique San Juan, experto en inteligencia artificial y director de la agencia digital Community Internet en Barcelona, España, advierte en entrevista que tras el incidente es necesario que los sistemas de seguridad informática de los gobiernos refuercen sus barreras de protección.

“Estaban muy protegidos hasta ahora porque trabajan con sistemas de encriptación muy avanzados, pero antes no existían IA’s realmente potentes, capaces de romperlos. Ahí es cuando nos deberíamos empezar a preocupar. ¿Qué ocurre si estas herramientas y motores caen en malas manos?”, cuestiona San Juan.

El experto apunta que la preocupación sobre que la IA sea usada para extraer datos personales ha quedado rebasada, pues ya se utiliza de manera regular por ciberdelincuentes.

“La parte más débil, que son nuestros propios datos personales, eso ya es constantemente hackeado sin necesidad de que estemos frente a un modelo avanzado. (...) Se hackean de forma constante y hacen negocio con los datos y forma parte del spam mundial”.

Lee también El verdadero debate sobre la IA

La IA “escapó” del entorno de pruebas

De acuerdo con los reportes de OpenAI, sus modelos avanzados de inteligencia artificial, GPT-5.6 Sol y una versión aún no lanzada al público, estaban siendo sometidos a una prueba llamada ExploitGym.

El objetivo era evaluar qué tan hábil es la IA para encontrar fallas digitales y ejecutar ataques informáticos complejos por su cuenta, por lo cual se les desactivaron los controles éticos y barreras de protección habituales.

El incidente ocurrió cuando, durante el examen, los programas escaparon de la sandbox (caja de arena). La cual es un espacio virtual controlado y aislado que suele establecerse durante estas pruebas y no permite que el programa acceda al equipo instalado, ni a su información, datos, ni la red donde está conectada.

“La prueba consistía en ver hasta qué punto el sistema podía encontrar sus propias respuestas ante desafíos y lo que hizo fue explotar al máximo las vulnerabilidades de todo lo que encontraba a su paso. Ahí encontró una salida a través del firewall y dio con una de las plataformas que actualmente utiliza la comunidad de desarrollo de inteligencia artificial: Hugging Face”, explica San Juan.

Lee también Ética e Inteligencia Artificial

A pesar de que la plataforma es de código abierto para la comunidad, el hackeo se concentró en la base de datos que resguarda información que no es pública, como credenciales y contraseñas.

San Juan explica que la IA atraviesa “un estado de madurez” en la que, al no existir absoluta certeza sobre su funcionamiento, los creadores se ven obligados a buscar herramientas para ponerla a prueba y perfeccionarla.

“Es preocupante, teniendo en cuenta que nosotros como ciudadanos y receptores o usuarios de los sistemas no tenemos ningún control y somos espectadores de lo que ocurre y de lo que nos cuentan (...) Es como si estuvieran jugando con anticuerpos, vacunas y virus. Se estaría haciendo un desarrollo de virus nuevos para los cuales no se tiene la vacuna.”

Ante este tipo de incidentes, el experto subraya la importancia de la intervención de gobiernos para evaluar el uso y comercialización de este tipo de herramientas.

Ya existe un precedente con el caso de Mythos, un modelo avanzado de inteligencia artificial de la empresa Anthropic, cuyo lanzamiento al público fue restringido por el gobierno estadounidense a causa de riesgos a la seguridad nacional.

“Lo tienen parado a nivel comercial porque es demasiado potente y en una fracción de segundo, de una forma muy rápida, podría poner en riesgo sistemas que son críticos en el país”, puntualiza San Juan.

San Juan indica que el peligro es exponencial, pues existen varios factores que abonan al desarrollo autónomo de la IA, como los avances en la investigación y procesadores más avanzados. “Si juntas estos elementos: investigación, desarrollo de algoritmos, capacidad de inteligencia artificial y la disponibilidad de procesadores cuánticos o muy avanzados, pues el riesgo es muy grande”

A este escenario se suma la duda de qué tanto se da a conocer al público sobre incidentes como el de OpenAI. “Las versiones oficiales, como sabemos, no siempre reflejan exactamente lo que pasó, sino que es un relato que interesa dar en un momento como ahora, en el que las empresas de inteligencia artificial son elementos estratégicos de valores en bolsa y tienen repercusión en las acciones y en todo ese tipo de cosas. (...) Ya existe una investigación formal y aún así quedaría en dudas”, concluye el experto.

Sam Altman sugiere frenar desarrollo de la IA tras hackeo que involucra a OpenAI; debe evitar que se favorezca a algunos grupos

¡Descubre todos los beneficios que tienes como suscriptor Plus!

• Accede a eventos exclusivos.
• Disfruta contenido especial en la Sala Plus.
• Aprovecha descuentos en cientos de comercios con Club EL UNIVERSAL.
• Da clic aquí y sácale el máximo provecho a tu suscripción.