El estallido de la guerra en Medio Oriente eclipsó una de las discusiones más importantes para la humanidad: el uso de la inteligencia artificial (IA) en la guerra. Lo que ya nos llevó a escenarios que si bien antes eran ficción —como lo mostraron las películas El Imperio Contraataca (1980), War Games (1983) o Terminator (1984) —, ahora son realidad.
Todo salió a luz pública en Estados Unidos (EU), el pasado viernes, cuando el CEO de quizá la empresa más adelantada en temas tecnológicos, Anthropic, Dario Amodei, hizo pública la presión de la que estaba siendo objeto por el Departamento de Guerra de aquel país para usar su tecnología de IA en nuevos contratos. Con ello, recibiría más de 200 millones de dólares. Por cierto, el año pasado esa empresa tuvo ingresos por 14 mil millones de dólares.
Pero, para sorpresa de todos, Amodei no sólo no aceptó el contrato militar, sino que hizo públicas las razones que le impedían firmar este contrato. Entre los elementos que señaló como “líneas en la arena” que no estaba dispuesto a cruzar, estaban:
1) Espionaje masivo en EU: aquí la preocupación es que el gobierno agregue y recopile toda la data que tiene de sus ciudadanos y la analice con su modelo de IA, lo que da nuevas e insospechadas capacidades de espionaje. Por ejemplo, con la IA el gobierno podría saber en minutos las rutinas de vida de años de las personas, así como dar seguimiento a través de los millones de cámaras instaladas de sus actividades y hasta descifrar hasta sus conversaciones de manera remota al abrir sus celulares o leer sus labios.
2) Armas de IA autónomas: la mayor inquietud aquí es que se permita que todo tipo de nuevo armamento (drones, misiles, robots, etcétera) tome decisiones sobre la vida y muerte de personas sin supervisión ni control humano.
Como en ambos elementos no se pusieron de acuerdo Anthropic y el gobierno de EU, la empresa fue sancionada y le quitaron otros contratos con oficinas militares. Pero, más relevante todavía, el Pentágono firmó con OpenAI el acuerdo que Anthropic no quiso suscribir. Es una empresa que dirige Sam Altman y que, al parecer, no tuvo empacho en dar autorización para avanzar en los puntos 1 y 2 enunciados.
Así que, todo apunta que se está poniendo en marcha un sistema global de espionaje a gran escala, del que hasta ahora sólo los habitantes de EU estaban exentos, supuestamente. Pero, más relevante y hasta crítico es que se estarían ya programando máquinas para matar humanos, sin intervención ni controles de otra persona. Máquinas asesinas, pues, con todo lo que ello implica. Me gustaría afirmar que todo esto es ficción, pero no lo es. Incluso, Amodei concedió el sábado pasado una extensa entrevista a CBS News dando a conocer sus preocupaciones, pero sobre todo dejando para la posteridad una alerta de lo que había sucedido y de los cambios que esto traerá para el mundo.
En México el tema ni siquiera se ha legislado. El manual regulatorio de IA más completo y actualizado lo escribió apenas el diputado Ricardo Monreal (Hacia una Ley de IA en México). Y, la primera regulación que pretende avanzar en algo la IA está siendo empujada por la secretaria de Cultura, Claudia Curiel, para dar alguna base jurídica a artistas, actores de doblaje y creadores audiovisuales. Falta avanzar más rápido.
Por lo pronto, probablemente sea acertado decir que la “paliza” que EU e Israel le están dando militarmente a Irán, en buena medida, es por la IA y, además del espionaje masivo de sus liderazgos, armas autónomas están matando ya a humanos por primera vez en una guerra.
Es un cambio mayúsculo que ahora las máquinas maten humanos. La ciencia ficción nos alcanzó, y el futuro pinta incierto e inhumano.
X: @JTejado