Tlatelolco II: la inteligencia artificial no debe ser un arma de destrucción

En entregas anteriores hemos comentado las innegables ventajas de los sistemas de cómputo basados en inteligencia artificial, así como sus riesgos. Entre sus ventajas están que es una tecnología de propósito general —puede utilizarse para cumplir prácticamente cualquier objetivo que la persona se imagine— y que puede procesar datos a gran escala. Entre estos riesgos, los principales son: que la inteligencia artificial puede limitar el acceso a segmentos importantes de la población o incluso discriminarlos. Otro riesgo es que, entre sus múltiples usos, se utilice la inteligencia artificial como arma de destrucción.

Por lo anterior, propongo al Gobierno de México que impulse la firma de un tratado, continuación del de Tlatelolco, promovido en 1967 por el mexicano Alfonso García Robles, que proscriba el uso de las tecnologías de inteligencia artificial como arma de destrucción, para todos los países miembros de la ONU, con los siguientes puntos básicos:

1. Objetivo. Que los países utilicen la inteligencia artificial sólo con fines pacíficos. Prohibir el desarrollo e implementación de la inteligencia artificial con fines que pongan en peligro la vida de las personas. El alcance incluye el desarrollo de programas de computadora, su almacenamiento y transmisión a través de redes de telecomunicaciones, así como el diseño de hardware y equipamiento. También incluye la información generada durante la interacción entre humanos y sistemas de inteligencia artificial generativa.

2. Zona de aplicación. Aplica en el territorio de todos los países firmantes. Si los países mantienen servidores de cómputo o equipos de desarrollo de sistemas de cómputo subcontratados en otros países, se considerarán propios de esos países.

3. Organización. Los países firmantes conforman un consorcio plural que cuente con representantes de todos ellos y asegure la diversidad de antecedentes sociales, económicos y culturales. Este consorcio se encarga de la aplicación y el monitoreo del Tratado. En específico, el consorcio designa personas técnicas que velen por que los sistemas desarrollados y operados en los países se destinen a fines pacíficos. Este monitoreo de cumplimiento abarca la programación de sistemas, el diseño de hardware y la implementación de sistemas finales. Las inspecciones se les realizará como si fueran parte del país firmante.

4. Firmantes. Los países se comprometen a utilizar la inteligencia artificial sólo con fines pacíficos. También envían informes periódicos sobre el diseño, entrenamiento y aplicación de sistemas basados en inteligencia artificial a la organización, indicando que no se han utilizado con fines distintos de los pacíficos. Los países aseguran que el tratado se aplique en todo su territorio y en los procesos y actividades subcontratadas, tanto dentro como fuera de su territorio.

5. En caso de violación del objetivo del tratado. Al conocer de un país que viola el tratado, el consorcio puede recomendar acciones para ajustar el diseño de los sistemas de cómputo y de las aplicaciones. Si la violación pone en riesgo la paz y la seguridad, el consorcio puede avisar al Consejo de Seguridad de la ONU para que adopte medidas adicionales.

El proceso de innovación tecnológica trae muchos beneficios, pero la tecnología no se manda por sí sola, como en las películas. La tecnología la inventan, diseñan y aplican personas de carne y hueso. De esta manera, la tecnología debe obedecer a incrementar el bienestar de las personas y, sobre todo, a asegurar que se diseñe con fines pacíficos. La firma de un tratado que establece un esquema de gobernanza y un mínimo de salvaguardas es un primer paso para que todas las personas se beneficien de las tecnologías de propósito general. Es necesario que las personas manden a la tecnología y no al revés.

*Académico de la Facultad de Economía y Negocios de la Universidad Anáhuac México

Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.