[Publicidad]
El debate sobre los riesgos de la inteligencia artificial (IA) ha alcanzado ya un interés mundial. Tal es así que la Organización de Naciones Unidas (ONU) solicitó a los países y las empresas atender con urgencia este asunto, y que establezcan mecanismos de control ya que “todos los derechos humanos están amenazados”, incluso el derecho a la vida.
“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad”, dijo Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos.
Esta preocupación se acentuó desde que Jacob Coxon, exinvestigador de Anthropic, denunciara que la “IA podría matarnos a todos”. Esa fue una de las causas para renunciar a su trabajo en la empresa desarrolladora de IA.
Varias voces confirmaron esta posibilidad.
El alto comisionado de la ONU Volker Turkn advirtió sobre los posibles riesgos del uso de la IA. Foto: Diego Simón / EL UNIVERSAL
Incluso los directores de las firmas tecnológicas mostraron su preocupación por los efectos de lo que vienen creando. Entre ellos están Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Elon Musk, de SpaceXAI. ¿La propuesta? Desacelerar el desarrollo de la IA.
“Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente”, dijo Amodei en un ensayo publicado el último fin de semana.
[Publicidad]
Pero ya algunas figuras políticas, como Donald Trump, vienen mostrando su oposición, calificando la idea como “una conspiración enfermiza”. “El único control o mecanismo de seguridad que necesita la IA es un presidente fuerte e inteligente, y Estados Unidos lo tiene”, aseguró, fiel a su estilo, desde su cuenta de Truth Social. Así que, aquí nos planteamos algunos puntos para entender qué viene pasando con la inteligencia artificial.
El presidente de EU, Donald Trump, dice que el único control o mecanismo de seguridad que necesita la IA es un presidente como él. Foto: AP
¿Realmente está en peligro la humanidad?
Este es uno de los temas más polémicos. La alerta de Coxon ha desatado numerosas teorías en redes sociales, cada una más extrema que otra, incluso recordando a películas como Terminator. Para Manuel Santillán, investigador de la Universidad de Lima, el peligro de la IA no es directo, y descartó que por sí misma vaya a eliminar a las personas.
“El riesgo que observo es más bien indirecto y está relacionado con la creciente incorporación de la IA en sistemas y procesos que funcionan de manera cada vez más rápida, eficiente y automatizada”, indica en comunicación con El Comercio.
[Publicidad]
Plantea, por ejemplo, el uso de la IA en la gestión de la energía y el suministro energético. En esa situación, un sabotaje o mal control del sistema “podría provocar la interrupción de servicios esenciales, desactivar sistemas de monitoreo ciudadano o afectar el suministro eléctrico de infraestructuras críticas”, y hablamos de hospitales, aeropuertos, medios de comunicación, etc.
Algunos líderes de las grandes tecnológicas se han pronunciado a favor de ralentizar el desarrollo de la IA. Foto: iStock
Para Wester Zela, doctor en inteligencia artificial, es preferible atender los problemas concretos de la inteligencia artificial, más allá de pronósticos como la destrucción de la humanidad.En ese sentido, recordó la prueba PISA y la calificación negativa para los estudiantes a nivel mundial.
“¿Qué están haciendo las autoridades? Porque dentro del informe se hace referencia a que [el resultado] tiene que ver con el uso de la tecnología, de la inteligencia artificial, que están reduciendo la capacidad cognitiva de los estudiantes. Eso es algo real, es algo tangible que ya se está midiendo", cuestiona en diálogo con este Diario.
[Publicidad]
En cambio, considera que la advertencia de Coxon no es algo novedoso y que la inteligencia artificial ya aprende por sí misma desde hace varios años. Además, Zela advierte otro punto: el márketing.
Cuando la amenaza y el márketing se juntan
Ambos especialistas coinciden en que existe un factor de especulación.
Meses atrás se difundieron ‘hackeos autónomos’. Primero, con Anthropic y su modelo Mythos. Foto AP/Patrick Sison, Archivo
Hay que recordar que meses atrás se difundieron ‘hackeos autónomos’. Primero, con Anthropic y su modelo Mythos. Luego, agentes autónomos de Opina realizaron un ciberataque a la plataforma Hugging Face. Aunque estaban en un entorno de prueba, despertó temor de lo que podría causar.
[Publicidad]
“Algunos de estos anuncios deben entenderse dentro de estrategias empresariales orientadas a generar expectativas, posicionarse frente a una eventual salida a bolsa, atraer inversiones o fortalecer la valoración de determinadas compañías”, subraya Santillán.
Lo que comunicarían las empresas es que están a la vanguardia con una tecnología más poderosa.
Existe una disputa entre los modelos de IA de código abierto, seguido por empresas chinas, y el código cerrado de las empresas estadounidenses. Foto: Michael Dwyer / AP
“En el fondo intentan decirnos que el modelo que están haciendo es el mejor de todos”, advierte Zela.
[Publicidad]
De esa manera atraen inversores, aunque se pierda mucho dinero. Agrega que este tipo de firmas tecnológicas “pierden millones de dólares todos los días, y viven básicamente de la promesa de que en algún momento van a ganar dinero resolviendo los problemas de muchas empresas”. Además, está la disputa entre los modelos de IA de código abierto, seguido por empresas chinas, y el código cerrado de las empresas estadounidenses. Un debate aparte.
¿Puede desacelerarse la IA?
“Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente”, dijo Amodei. Foto: AP/Markus Schreiber
La propuesta de varios empresarios no ha sentado bien a Donald Trump, quien calificó esto como “una conspiración enfermiza”. El desarrollo continuo y acelerado de la IA se debe en parte a la competencia. Por eso, indica Santillán que “para que ocurra tendría que existir un acuerdo suficientemente amplio entre quienes están desarrollando estas tecnologías”.
“De momento observo con cierto escepticismo que esto realmente pueda producirse, porque existen importantes intereses económicos y geopolíticos que apuntan precisamente en la dirección contraria”, resalta.
[Publicidad]
Según lo que se conoce, la concertación para desacelerar viene luego de que OpenAI y Anthropic notaran que sistemas de IA en fase experimental tenían facilidad para acceder a internet y atacar sitios web y plataformas. Para Zela, “de alguna forma es incongruente la propuesta” ya que Estados Unidos viene invirtiendo en la creación de centros de datos y en mantener el liderazgo mundial. Y, claro, el liderazgo es frente a China.
“China vincula la cuestión de la seguridad nacional a la seguridad política, a la estabilidad del Partido Comunista” . Foto: EFE
“Entre líneas, lo que están diciendo es ‘paremos el avance de la inteligencia artificial’ porque, debido a que se está demostrando que empresas chinas están llegando a tener los mismos resultados que empresas de Estados Unidos, a una fracción del costo, hay un riesgo para ellos”, puntualiza.
EU vs China: más que una rivalidad por la IA
Pero hablar de IA ya no es solo hablar sobre el desarrollo de una tecnología. Hay un componente político que el internacionalista Jorge Chávez Mazuelos advierte en dos tipos de tensiones. La primera es de tipo interna, en Estados Unidos, donde las empresas más importantes buscan ponerse de acuerdo para ralentizar ese desarrollo, antes de que lo haga el gobierno o el Congreso.
Lo que ellos quisieran es mantener el control del proceso de regulación, o sea, generar una política de autorregulación”, apunta a este Diario. Y es que ya hay voces como la del senador estadounidense Bernie Sanders, quien exige pausar e intervenir en las mismas empresas.Incluso, en una columna de opinión planteó que “la IA es un bien público”, lo que seguramente no agrada a los multimillonarios de la IA.
En medio de las advertencias sobre los riesgos de la IA, China y EU protagonizan una carrera por la supremacía tecnológica. Foto: iStock
“La inteligencia artificial no surgió de la nada. Los datos y el lenguaje que utilizan las herramientas de IA generativa no aparecieron de la nada en la mente de Sam Altman ni en la imaginación de Elon Musk. La IA se basa en nuestra inteligencia colectiva”, indicó Sanders en The New York Times.
El otro punto que advierte Chávez Mazuelos es externo, y tiene que ver con China.
“Trump interpreta la competencia estratégica con China en el campo científico y tecnológico también como un juego de suma cero. Entonces, si Estados Unidos deja de avanzar en el desarrollo de la IA, China lo hará a expensas de Estados Unidos y eso va a fortalecer su poder relativo”, indica el docente de la Academia Diplomática del Perú.
¿Y qué piensa China?
El presidente Xi Jinping visita un parque de innovación en Beijing. Foto: Sheng Jiapeng / AP
Por lo pronto, informa la agencia AFP que el ministro de Seguridad del Estado, Chen Yixin, ha advertido el riesgo de seguridad de la IA ya que potencias extranjeras podrían utilizarla para amenazar el orden social. Esto se entiende, indica Chávez Mazuelos, porque “China vincula la cuestión de la seguridad nacional a la seguridad política, a la estabilidad del Partido Comunista”.
¿Hay alternativas para la IA?
Para Santillán, una iniciativa internacional podría conectarse con los marcos que ya existen. Plantea algunos trabajos previos de la UNESCO, las Naciones Unidas y la Unión Europea, “y buscar a partir de ellos una articulación internacional entre todos los actores involucrados en el desarrollo tecnológico”. “El objetivo debería ser establecer un marco normativo y ético de carácter internacional y multidisciplinario para una tecnología que ya está impactando”, comenta. Y esa es también la línea de Volker Türk, el alto funcionario de la ONU que pidió “movilizarse urgentemente en el marco de instancias multilaterales”.
Algunos líderes de grandes tecnológicas se han pronunciado a favor de ralentizar el desarrollo de la IA. Foto: iStock
Pero a nivel político la situación es otra.
Señala Chávez Mazuelos que, si se entendiera que el desarrollo de la IA puede comprometer la paz y la seguridad internacional, el Consejo de Seguridad de la ONU tendría que intervenir.
“Pero lo veo difícil porque en el Consejo de Seguridad están dos potencias que son las que tienen mayor desarrollo en este campo [Estados Unidos y China]”, indica. Además, si se dialoga sería entorno a seguridad de conflictos armados, guerra electrónica y espionaje.
Otro punto de debate lo podrían protagonizar Donald Trump y Xi Jinping, presidente de China, quien visitará Estados Unidos a fines de mes. Aun así, para el analista internacional ambos mandatarios “pueden conversar, pero es difícil que lleguen a algún tipo de consenso” en un tema tan espinoso.
También te puede interesar
"Nos está haciendo más estúpidos"; desarrollo de la IA abre debate mundial sobre su futuro
El Grupo de Diarios América (GDA), al cual pertenece EL UNIVERSAL, es una red de medios líderes fundada en 1991, que promueve los valores democráticos, la prensa independiente y la libertad de expresión en América Latina a través del periodismo de calidad para nuestras audiencias.
am/mcc
[Publicidad]
Más información
Mundo
Informe destapa hacinamiento y abusos en centro de detención de migrantes en Florida; surge tras denuncias sobre Alligator Alcatraz
Nación
Japón devuelve por primera vez a México un patrimonio cultural; objeto estaba en posesión de un coleccionista
Espectáculos
Millie Bobby Brown, actriz de "Stranger Things", y Jake Bongiovi, amplían su familia con la adopción de su segundo bebé
Estados
Detienen en Mexicali a presunto implicado en desaparición y muerte de Wendy Stefany Zepeda; Fiscalía solicitará reclasificar el caso como feminicidio
Showbiz
“La olvidaremos muy pronto”: la frase que el hermano de Diana atribuye a Carlos III
Noticias
"Ed, aquí solo hay una víctima": Greta Thunberg critica a Ed Sheeran tras salida de Macklemore de su gira
Noticias
Nepal suma casi 1,000 desaparecidos y eleva a 6,150 el balance tras "tsunami del Himalaya"
Educación
Mexicanos ya requieren visa para ingresar a Tailandia: Costo, requisitos y dónde se llena