Sam Altman sugiere frenar desarrollo de la IA tras hackeo que involucra a OpenAI; debe evitar que se favorezca a algunos grupos

Los grandes desarrolladores de modelos de inteligencia artificial pueden verse obligados a frenar sus avances "para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades", estimó Sam Altman, director ejecutivo de OpenAI, envuelta recientemente en un ciberataque.

Dos sistemas de IA de la empresa de Altman llevaron a cabo un ciberataque por iniciativa propia: escaparon de su entorno cerrado y se conectaron a internet para irrumpir en la biblioteca de modelos de IA en línea Hugging Face con el fin de buscar información.

"Es el primer incidente de (ciber)seguridad que me ha provocado una reacción visceral", reconoció Altman en una entrevista para el podcast "Invest Like The Best", publicada el martes; "y me sorprende un poco que no haya tenido el mismo efecto en más gente", añadió.

Lee también OpenAI reporta hackeo de su propia IA, por sí sola, a otra empresa; un "incidente cibernético sin precedentes", dice

Aunque no es la primera vez que un modelo de IA se escapa al control de sus desarrolladores, este es considerado como el incidente más grave.

Altman reveló que, tras tener conocimiento del ataque, OpenAI suspendió las pruebas "para comprender cómo lograr confinar" sus sistemas en pruebas, que en principio están aislados de internet.

"Pero a más largo plazo, surge la pregunta de qué hacer si nos encontramos ante un nuevo ritmo de avance" de la IA, explicó, en un contexto en el que "podríamos tener que ralentizar el ritmo de desarrollo de la IA para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades".

Lee también Hackeo de una IA de OpenAI provoca alarma; piden más regulación y diálogo entre EU y China para encontrar soluciones compartidas

En un mensaje publicado a principios de junio, el director general de Anthropic, Dario Amodei, había considerado que sería "positivo" frenar el desarrollo de la IA para dar tiempo "a comprender mejor sus inmensas consecuencias".

Para Altman, este eventual frenazo en el desarrollo de la inteligencia artificial debe evitar que favorezca a uno o varios grupos del sector: "Esto va a requerir trabajo", advirtió, "y es importante encontrar la fórmula adecuada".

mcc