[Publicidad]
Los modelos de inteligencia artificial (IA) de Anthropic "obtuvieron acceso no autorizado" a tres organizaciones durante pruebas que se suponía debían mantenerlos alejados de los sistemas "del mundo real", informó la compañía el jueves.
El anuncio llega apenas unos días después de que su rival OpenAI revelara por primera vez que dos de sus modelos habían salido, por iniciativa propia, del entorno confinado en el que estaban siendo probados para atacar al sitio Hugging Face.
Anthropic evaluó más de 141 mil "operaciones de prueba" y descubrió que tres versiones diferentes de su modelo, conocido como Claude, accedieron indebidamente a sistemas de tres organizaciones no identificadas.
Lee también Elon Musk cree que la IA superará la inteligencia humana en 5 años; “no habrá nada que no pueda hacer”, dice
A diferencia del incidente que involucró a OpenAI, los modelos de Anthropic tuvieron acceso a internet por "un malentendido entre nosotros y nuestro socio de evaluación", llamado Irregular, señaló Anthropic en una publicación en su blog.
No obstante, Claude utilizó "técnicas básicas, como explotar contraseñas débiles y puntos de conexión sin autenticación".
[Publicidad]
Los modelos incluían uno de los más potentes, conocido como Mythos 5, que solo se ha puesto a disposición de un número limitado de socios aprobados.
Anthropic afirmó que está trabajando con Irregular para analizar la situación y se puso en contacto o ha intentado hacerlo con las tres organizaciones afectadas.
El martes, OpenAI confirmó que sus modelos vulneraron la seguridad de varias empresas.
[Publicidad]
La compañía admitió la semana pasada que sus agentes de IA escaparon de su entorno confinado durante las pruebas, se conectaron a internet y se infiltraron en Hugging Face, una plataforma donde los desarrolladores almacenan y comparten su código.
Días después, la empresa creadora de ChatGPT dijo que encontró tres incidentes adicionales.
[Publicidad]
El director ejecutivo de OpenAI, Sam Altman, dijo en un pódcast esta semana que la compañía "pausó" sus propias pruebas después del incidente mientras mejoraba la seguridad en torno a su "sandboxing", un entorno controlado para su prueba.
desa
[Publicidad]
Más información
Arlequín
Jóvenes construyendo el futuro con… trampa
Universal Deportes
La petición de Alex Diego al avanzar a los Cuartos de Final del Campeonato Sub 20 de la Concacaf
Nación
Mario Delgado ratifica la clausura de escuelas militarizadas en México; ninguna debe operar para el ciclo escolar 2026-2027
Espectáculos
Colectivo feminista rechaza públicamente participación de Nodal en la Feria Internacional del Globo
Deportes
Selección Mexicana Sub-20: las 5 joyas mexicanas que podrían cambiar el futuro del Tri
Noticias
Canícula 2026 ya comenzó en México: revisa si tu estado está entre los afectados
Deportes
La medalla que le faltaba: Osmar Olvera por fin conquista el oro que perseguía
Showbiz
¿Una boda en el Castillo de Chapultepec? El INAH responde a la influencer que dijo que pagaría un millón