Zuckerberg se desmarca de propuestas para ralentizar desarrollo de la IA; defiende que cada empresa asuma seguridad de sus modelos

Los Ángeles.- El director ejecutivo de Meta, Mark Zuckerberg, defendió que cada empresa debe asumir por su cuenta “la responsabilidad” de garantizar que sus modelos de inteligencia artificial (IA) sean seguros, con lo que se desmarca de las propuestas para coordinar una desaceleración en el desarrollo de esta tecnología.

El fundador de Facebook usó sus redes sociales para opinar en medio del debate sobre los peligros de la inteligencia artificial y los llamados de varios líderes del sector que advierten sobre la necesidad de establecer una regulación.

"Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, así como la capacidad de tomar sus propias medidas para garantizar que esto suceda", escribió.

Zuckerberg se refirió directamente al “gran debate” sobre la conveniencia de ralentizar el avance de las capacidades de la IA hasta asegurar que cumpla con los estándares de alineación como ha propuesto Dario Amodei, director ejecutivo de Anthropic, y otros líderes tecnológicos como Sam Altman, de OpenAI, y Elon Musk, de SpaceX y xAI.

También destacó que Meta retrasó el lanzamiento de su agente de IA, Muse, durante varios meses para centrarse en la seguridad y la protección.

“No exigimos que los demás hicieran lo mismo antes que nosotros”, señaló Zuckerberg, quien evitó mencionar explícitamente al líder de Anthropic ni a sus otros competidores.

"Estamos perdiendo el control" de la IA: Yoshua Bengio; ve necesarias medidas de seguridad como las tomadas con armas nucleares

A su juicio, una forma de garantizar que la IA se desarrolle de manera segura reside en destinar la gran mayoría de la capacidad de cómputo a servir a las personas, en lugar de competir por lograr la automejora.

Los comentarios de Zuckerberg siguen a la propuesta de Musk que a inicios de esta semana abogó para que los principales desarrolladores de IA sometan sus modelos a revisiones de seguridad y colaboren entre sí para probarlos.

En ese sentido, el director de Meta dijo que MLS, su laboratorio de inteligencia artificial, ya cuenta con evaluadores y asesores independientes. "En general, sería beneficioso contar con un ecosistema de evaluadores más amplio y diverso", agregó.

La iniciativa del fundador de Tesla se dio en medio de pedidos de los máximos responsables de laboratorios punteros como Amodei, Altman y Demis Hassabis (Google DeepMind) por ralentizar el ritmo de desarrollo del sector para permitir que las salvaguardas alcancen el ritmo de la tecnología.

La oleada de llamados se dio tras los comentarios del ingeniero tecnológico Jacob Coxon, exempleado de Anthropic y OpenAI, quien dijo que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década.

Te puede interesar:

Elon Musk sugiere que gigantes de la IA prueben mutuamente sus modelos de seguridad; plantea incluir a compañías chinasOpenAI, Anthropic y Google DeepMind van por ente que supervise a la IA"La IA tiene el potencial de matarnos a todos", afirma exempleado de Google; advierte que se acaba el tiempo para evitarlo

mcc