IA, punto de inflexión

Las advertencias de los directivos de las principales desarrolladoras de inteligencia artificial (IA) constituyen un punto de inflexión.

Aunque algunos apuntan a una campaña de mercadotecnia, los riesgos están ahí. Y la respuesta del gobierno de Donald Trump, también.

La IA puede tener enormes beneficios, pero no si se desarrolla sin control alguno, sin algún tipo de regulación que permita saber hacia dónde va y de qué manera se van a resolver los riesgos potenciales. La revelación de que las IA se han rebelado y hackeado sistemas fue un llamado de atención. Luego vino el informe de Anthropic de que bloqueó intentos de uso de sus modelos de IA que pudieron derivar en el desarrollo de armas biológicas.

La posibilidad de una súper IA que supere cualquier capacidad humana ha encendido las alertas en políticos como Bernie Sanders. Pero sin ir tan lejos, la probabilidad de que alguien use la IA como arma de guerra, de que haya un apagón tecnológico, un hackeo masivo… no son ideas descabelladas, sino cada vez más plausibles.

Las advertencias y hallazgos no podían llegar en peor momento, con liderazgos autocráticos que se extienden y que buscan aplastar a sus rivales. Estados Unidos está “liderando ante China en IA” y “deseo mantenerlo de esa manera”, dijo Trump al ser preguntado sobre la petición de los directivos de Anthropic, OpenAI y de Elon Musk a ralentizar el desarrollo de la IA. “Quien gane con la IA, gana”, considera Trump. Y no es el único.

Cualquier medida para intentar regular, contemplar y tener soluciones anticipadas ante los riesgos que ya se ven de la IA, requiere de un consenso internacional que en estos momentos no es posible. La Unión Europea tiene algunas medidas y plantea una serie de iniciativas, pero de manera aislada.

¿Con quién cooperaría Estados Unidos? ¿O China? Tampoco es que la IA en manos del sector privado esté a salvo. ¿Lo estaría en manos de gobiernos? Tampoco. Difícil ver a Trump actuando en interés de la humanidad, si la IA estuviera bajo su control.

Una posibilidad sería una institución independiente, conformada por expertos en distintos ámbitos, que pueda verificar planes, rumbos, resultados, proponer y alertar. Pero en un mundo polarizado, donde se viven distintos tipos de guerra, donde prevalece la desconfianza, se ve como misión imposible la creación de un ente así. No hay equilibrios ni puntos medios, pese a la gravedad (y urgencia) de la amenaza.

Mientras prevalecen los desacuerdos y recelos, la IA evoluciona. OpenAI pospuso su salida a la bolsa, pero es cuestión de tiempo. Lo que ocurra no sólo afectará a las grandes potencias tecnológicas, sino a todos. Pero los gobiernos no están a la altura. Los ciudadanos para quienes se supone gobiernan dejaron de ser su prioridad hace mucho tiempo.

Únete a nuestro canal