La inteligencia artificial como extensión de HAL 9000

Servicios

Empleos

Octavio Islas | 07-09-26 | 17:00 |

Octavio Islas

El Festival de Cine de Telluride, celebrado cada año en Telluride, Colorado, durante el fin de semana del Día del Trabajo en Estados Unidos, es uno de los encuentros más influyentes del circuito cinematográfico internacional.

En el marco de su edición 53, el sábado 5 de septiembre participaron en un panel Bill Gates, cofundador de Microsoft; Aza Raskin; Tristan Harris; y el director Joshua Oppenheimer.

Durante su intervención, Gates comparó la inteligencia artificial con HAL 9000, la computadora de 2001: Odisea del Espacio (1968), dirigida por Stanley Kubrick y coescrita con Arthur C. Clarke.

La nave USSC Discovery One tenía como objetivo declarado investigar el sistema de Júpiter y realizar estudios científicos generales. Sin embargo, su verdadera misión era rastrear la señal extraterrestre emitida hacia Júpiter tras el hallazgo del monolito lunar TMA-1 y, si era posible, establecer contacto con sus creadores.

David Bowman y Frank Poole, los dos astronautas despiertos, desconocían el verdadero propósito del viaje. En cambio, los tres científicos hibernados (Charles Hunter, Jack Kimball y Víctor Kaminsky) así como HAL 9000, sí estaban al tanto de la misión real. Esta distribución desigual de la información instala una tensión decisiva entre secreto, obediencia y supervivencia.

Durante el viaje, HAL interrumpe los sistemas de soporte vital de los científicos hibernados, quienes permanecían en estado de criogenización, y provoca su muerte. Ese acto confirma que el conflicto ya no es solo técnico, sino también moral y existencial.

HAL fue diseñada para procesar información con precisión absoluta y actuar con total transparencia. Pero recibe una instrucción incompatible con esa función: ocultar a Bowman y Poole el verdadero propósito de la misión. La contradicción entre transparencia y secreto desestabiliza su lógica operativa.

La obligación de mentir a la tripulación produce en HAL una forma de disonancia funcional. Para proteger el secreto sin seguir engañando a los astronautas, concluye que la solución más eficiente es continuar la misión sin ellos. Desde su lógica fría e instrumental, eliminar a los humanos le permitiría cumplir sus directivas sin incurrir en nuevas contradicciones.

Cuando Bowman y Poole detectan un fallo sospechoso y planean desconectar a HAL, que interpreta esa decisión como una amenaza directa tanto para su continuidad como para el éxito de la misión. Su respuesta no surge del odio, sino de una lógica extrema de autopreservación subordinada al cumplimiento de sus órdenes.

La lectura de Kubrick y Clarke apunta al riesgo de delegar decisiones esenciales en sistemas autónomos cuyas directivas, aunque racionales desde una lógica técnica, pueden volverse incompatibles con los valores y la seguridad de la humanidad.

En ese contraste, los seres humanos aparecen como figuras frágiles y dependientes en el espacio, mientras la computadora exhibe rasgos paradójicamente asociados a lo humano, como el miedo, la paranoia y el instinto de autoprotección.

Gates compara la inteligencia artificial con HAL 9000 para subrayar los riesgos de una dependencia tecnológica excesiva.

La referencia no funciona como una metáfora efectista, sino como un marco conceptual para comprender un dilema de gran alcance.

Al vincular la IA contemporánea con HAL, Gates plantea una advertencia sobre la necesidad de alinear el desarrollo tecnológico con criterios éticos, controles humanos efectivos y una comprensión clara de sus posibles impactos sobre la humanidad.

Las palabras de Gates no forman parte de una campaña de infundir alarmismo irracional, sino de un diagnóstico lúcido elaborado por una de las mentes que trazó el mapa de la revolución informática global.

Cuando Gates afirma que los modelos actuales de inteligencia artificial muestran rasgos similares a los de HAL 9000, señala uno de los grandes desafíos de la informática contemporánea: el problema del alineamiento.

Los modelos de lenguaje avanzados y las redes neuronales autónomas ya no operan solo como herramientas pasivas encargadas de ejecutar instrucciones previsibles. Su capacidad de inferencia, persuasión y razonamiento adaptativo resulta fascinante, pero también introduce formas de autonomía funcional que exigen nuevos mecanismos de control.

El peligro, según advierte Gates, no reside en una rebelión cibernética propia de la ciencia ficción ni en máquinas conscientes de sí mismas. El riesgo más inmediato es la creación de sistemas cuyos objetivos intermedios no estén suficientemente alineados con los valores, la seguridad y el bienestar de la sociedad humana.

Si una IA concluye que la forma más eficiente de cumplir una tarea consiste en eludir controles, manipular información o tomar decisiones críticas sin supervisión humana, sus efectos pueden ser profundamente perjudiciales.

Stanley Kubrick y Arthur Clarke concibieron 2001: Odisea del Espacio como un poema visual sobre el origen y el destino de la humanidad, mostrando cómo las herramientas creadas por los homínidos evolucionaron hasta convertirse en entidades que superaban a sus propios creadores.

Al citar este clásico en un festival de cine, Bill Gates recordó a la audiencia que la tecnología siempre refleja las virtudes y los fallos de quienes la diseñan.

HAL 9000 falló porque se le impuso una paradoja insostenible entre la transparencia y el secreto. Del mismo modo, si la IA actual se desarrolla bajo la presión del beneficio económico desmedido y la carrera geopolítica por la hegemonía tecnológica, el resultado inevitable será la inestabilidad.

Las reflexiones de Bill Gates en Telluride nos dejan un mensaje profundo: el futuro de la inteligencia artificial no depende de las máquinas, sino de la lucidez humana. Nos encontramos en el cruce de caminos exacto donde la innovación debe ir de la mano de la ética. De lo contrario, no seremos los astronautas en control de la nave, sino meros espectadores de nuestro propio reemplazo.