¿Qué tan peligrosa es la IA?

Con mayor frecuencia aparecen en el debate internacional focos rojos sobre los peligros de la inteligencia artificial (IA). Ya es casi normal que desde las mismas compañías de tecnología digital un alto directivo o algún ingeniero renuncie por temor del rumbo que está tomando la IA. En días recientes se ha generado un escándalo porque un sistema de IA sufrió una “desalineación”, un comportamiento distinto al que tenía programado. Antes un sistema hackeó a otro. ¿Qué tipo de riesgos y peligros enfrenta la humanidad con estas poderosas tecnologías?

La IA se ha vuelto una suerte de nueva piedra filosofal, y en tres años ya es usada por más de mil millones de personas en el mundo. Las compañías que desarrollan este mundo virtual invierten millones y millones de dólares para ganar el mercado. El dilema que se planteó estos días fue: ¿hay que detener el ritmo de los avances para revisar y regular a la IA o, seguir en la carrera sin freno porque de ahí depende el futuro inmediato? Los desarrolladores están divididos y Trump no quiere detenerse para ganarle la carrera a China. Pero la IA “agrava los riesgos existenciales: entre otras cosas, consume cantidades masivas de energía que contribuyen al calentamiento global, facilita niveles de concentración de la riqueza que ponen en peligro la democracia y aumenta la amenaza de una tecnología incontrolable” (Klein y Taylor, El País, 20/09/2026).

Podemos ubicar al menos dos grandes grupos de personas frente a los peligros de la IA, por lo menos en occidente. Uno es el que tiene que ver el mundo de la tecno-oligarquía, el cual desde que Trump llegó al poder, se han alineado a su lado y él con ellos. El motor del nuevo capitalismo del siglo XXI está en las nuevas tecnologías, en los chips, los semiconductores y en la IA. Algunos autores han llamado a este desarrollo el nuevo sistema capitalista y una muestra es el libro de Quinn Slobodian y Ben Tarnoff, Musskismo, Elon Musk y la nueva era posliberal, en donde hacen un símil a lo que fue el fordismo en el siglo XX (producción en serie y consumo masivo); hoy la promesa es la soberanía a través de la tecnología. Con los problemas de descontrol que ha tenido la IA, algunos de sus desarrolladores piden a los consumidores que confiemos en ellos. ¿Será?

Hace unos días Open AI difundió información sobre seis “nuevos incidentes de comportamiento inesperado de la IA”. El reportaje de Emmy Martin señala que esa empresa no cree que la industria “haya resuelto la alineación y el monitoreo en un grado suficiente para continuar escalando de manera responsable a la máxima velocidad por mucho más tiempo (…) su desarrollo necesita ralentizarse para abordar los peligros de dicha tecnología (The New York Times, 17/09/2026). Anthropic también pidió pausa, en cambio Altman y Musk consideran que no se necesita la pausa.

Otro grupo es el de los académicos e intelectuales. Es un universo de especialistas que tratan de entender el problema y la lógica de la IA. Entre los académicos se pueden destacar dos sectores, los llamados “histéricos”, que señalan que la humanidad está en peligro porque la nueva tecnología no es un instrumento, sino agente que puede tener vida autónoma, como aquella computadora de la película de 1968 de Stanley Kubrick, “2001: Odisea del espacio”. Algunos señalan a Yuval Harari y su libro Nexus, como la cabeza de este sector. Hay otro grupo que analiza el fenómeno antes de alarmarse, como hizo Daniel Innerarity en su libro, Una teoría crítica de la inteligencia artificial.

Una postura interesante es la que sostiene la filósofa Carissa Véliz (autora del libro Profecía), quien en una entrevista reciente con Denise Maerker (Hablemos), critica los sistemas de control social de la IA que se alimentan de vigilancia y predicción. Para ella no es casualidad que la democracia liberal esté en su punto más bajo, ahora que la IA crece como la espuma. Asegura que China no es el ejemplo, porque va a un “autoritarismo completo”. Se trata de buscar una IA respetuosa de la ecología y con controles sociales efectivos, y regresar a la vida analógica, la vida humana…

Investigador del CIESAS. @AzizNassif

Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.