"Estamos perdiendo el control" de la IA: Yoshua Bengio; ve necesarias medidas de seguridad como las tomadas con armas nucleares

El informático canadiense Yoshua Bengio, considerado uno de los fundadores de la inteligencia artificial, dijo a la AFP que el ser humano está "perdiendo el control" de esta tecnología y que se necesitan adoptar medidas de seguridad similares a las tomadas con el armamento nuclear.

Los temores que despierta esta tecnología han arreciado en los últimos días después de que varios trabajadores de grandes desarrolladoras de modelos de IA han abandonado el sector por la amenaza contra la vida humana que supone el ritmo al que avanza la inteligencia artificial.

"Hay una razón por la que estas empresas dicen que esto va demasiado rápido, que estamos perdiendo el control", afirmó Bengio, que ganó el Premio Turing de 2018, conocido como el Nobel de la informática, junto al "padrino de la IA", Geoffrey Hinton.

"Gente como yo lleva mucho tiempo esperando esto", declaró el martes a la AFP este profesor de 62 años, quien admitió que los debates sobre los peligros de la IA no han sido suficientemente rigurosos.

El mundo entró en convulsión cuando OpenAI reveló que un enjambre de agentes de IA (programas capaces de actuar por su cuenta) se había introducido sin autorización en la plataforma de código abierto Hugging Face en julio.

Esa acción autónoma es una de las principales amenazas, afirmó Bengio, ya que en el futuro estos agentes de IA pueden tener "la capacidad de sortear las barreras de ciberseguridad y entrar en cualquier empresa".

Bengio advirtió a la AFP que la gente debe ser consciente de los riesgos que se avecinan.

Los agentes de IA podrían desarrollar "la capacidad de establecer una conexión individual y persuadir a los seres humanos para que actúen de formas que les convengan a ellos, pero que no sean necesariamente buenas para todos nosotros", afirmó.

"Puede ser que la IA ya ni siquiera necesite a los seres humanos para realizar tareas concretas en el mundo físico", añadió.

Un extremo podría ser la destrucción de la humanidad", advirtió, aunque sin alcanzar ese "extremo", "el colapso del sistema bancario "seguiría siendo algo muy, muy grave".

Te puede interesar:

Elon Musk sugiere que gigantes de la IA prueben mutuamente sus modelos de seguridad; plantea incluir a compañías chinas"

La IA tiene el potencial de matarnos a todos", afirma exempleado de Google; advierte que se acaba el tiempo para evitarlo

OpenAI, Anthropic y Google buscan crear organismo de supervisión de riesgos de IA; sería similar al que regula la industria financiera

Elon Musk sugiere que gigantes de la IA prueben mutuamente sus modelos de seguridad; plantea incluir a compañías chinas

mcc