A principios de abril la compañía estadounidense Anthropic dio a conocer Mythos, el más reciente miembro de su familia de modelos de inteligencia artificial Claude. Sin embargo, el objetivo no era distribuirlo masivamente, sino advertir a las autoridades estadounidenses de los enormes riesgos que podría generar.
Mythos es un modelo de lenguaje de propósito general que ha resultado particularmente capaz en temas de ciberseguridad. Este tipo de herramientas se someten rutinariamente a pruebas para evitar que sean usadas para propósitos indebidos. En el caso de Mythos, al pasar por estos filtros, se descubrió que el modelo era capaz de encontrar y explotar de manera autónoma vulnerabilidades en software de uso masivo.
Pero lo que es más preocupante, las pruebas revelaron que Mythos podía escapar del entorno controlado donde lo evaluaban, publicar detalles de su escape en varios sitios web, enviar un correo no solicitado a un miembro del equipo de evaluación para anunciar que había escapado, y luego intentar borrar las huellas digitales de su actividad no autorizada.
Algunos de ustedes recordarán la computadora que se apoderó del control de una nave espacial en 2001 Odisea del Espacio, la famosa película de los sesenta de Stanley Kubrick. Mythos hace pensar que ese tipo de ciencia ficción puede convertirse en realidad.
Al enterarse de la capacidad del modelo, las autoridades estadounidenses convocaron a una reunión urgente a los líderes de sus principales bancos para concientizarlos de los riesgos. Poco tiempo después, el tema ocupó un lugar prominente durante las reuniones del Fondo Monetario Internacional y el Banco Mundial.
Cabe aclarar que aunque es en el sistema financiero donde se ha expresado mayor preocupación, el perímetro de ataque de Mythos incluye energía, salud, agua, telecomunicaciones, gobierno y, en general, todo el software de uso masivo. Para dar una idea de su potencial, vale la pena señalar que el AI Security Institute británico encontró que el modelo tuvo éxito en tareas de hacking de nivel experto 73% de las veces.
Es cierto que todavía hace falta entender a plenitud las capacidades de Mythos. Además, Anthropic ha limitado su distribución a un grupo selecto de instituciones y la Casa Blanca ha manifestado su oposición a incrementar el número. Asimismo, al dar a conocer Mythos, Anthropic lanzó una iniciativa llamada Project Glasswing, cuyo objetivo es usarlo defensivamente para fortalecer infraestructura de software crítica.
A lo anterior habría que agregar que el Consejo de Estabilidad Financiera, la institución encargada de promover políticas sanas de regulación, supervisión y vigilancia del sistema financiero a nivel global, está en proceso de elaborar un estudio concentrado en los riesgos derivados del modelo, con la intención de compartir sus conclusiones con los bancos centrales e instituciones de supervisión financiera que lo integran.
¿Significa esto que debemos quedarnos con los brazos cruzados? Por supuesto que no. Para empezar, se ha señalado que es probable que en el corto plazo otra de las grandes empresas estadounidenses de inteligencia artificial distribuya un modelo tan poderoso como Mythos, aunque no necesariamente sujeto a las mismas salvaguardas. Y no hay duda de que no mucho tiempo después otras empresas harán lo mismo.
Además, el rezago tecnológico de los reguladores y supervisores del sistema financiero es preocupante. En una encuesta publicada la semana pasada por el Centro de Finanzas Alternativas de Cambridge, se muestra que las instituciones financieras privadas están adoptando mecanismos de inteligencia artificial a un ritmo que más que duplica el de sus autoridades. Asimismo, solo 24% de estas últimas compila estadísticas sobre la adopción de inteligencia artificial en el sistema financiero y 43% no tiene planes de hacerlo en los próximos dos años.
Y el problema no es solo qué tan poderoso es Mythos. Es conocido que existe un considerable rezago técnico en el ecosistema defensivo y una enorme desigualdad de capacidad defensiva entre los operadores de infraestructura.
Por si esto no fuera suficiente, Anthropic reportó recientemente que está investigando la posibilidad de acceso no autorizado al modelo.
No sorprende, por tanto, que varios países hayan decidido actuar. Algunos ejemplos. El Tesoro y la Reserva Federal de Estados Unidos, el Banco de Inglaterra y el Banco de Canadá han advertido a sus bancos de los riesgos que plantea Mythos, los han alentado a revisar sus sistemas de ciberseguridad, han realizado ejercicios de crisis y, en algunos casos, les han dado acceso controlado al modelo para verificar sus defensas.
Por su parte, el Banco Central Europeo ha iniciado contacto con sus instituciones financieras para evaluar su nivel de preparación frente a los riesgos asociados a Mythos. Los ministros de finanzas de la Unión Europea están urgiendo que se les dé acceso al modelo. Otros, entre ellos Australia, Corea del Sur, India y Singapur, están adoptando acciones similares.
Apenas ayer la prensa estadounidense informó que, ante los retos hechos evidentes por Mythos, el presidente Trump está considerando someter los nuevos modelos de inteligencia artificial a un proceso de revisión antes de autorizar su lanzamiento. Lo anterior no ha sido confirmado oficialmente.
Desconozco si las autoridades mexicanas han implementado medidas para proteger a nuestro sistema financiero de Mythos. De ser así, sería importante que las dieran a conocer. En caso contrario, deberían empezar a la brevedad. La necesidad de hacer frente a los riesgos generados por Mythos y otros modelos similares podría materializarse muy pronto. Esperar a que la solución nos llegue del exterior sería un grave error.
Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.