Más allá del algoritmo; la UNAM analiza las amenazas políticas y afectivas de la IA

El veloz avance de la inteligencia artificial (IA) genera alertas a nivel global debido a sus implicaciones éticas, sociales y emocionales.

De acuerdo con debates desarrollados en el proyecto CITA (Ciencia, Innovación, Tecnología, Academia), impulsado por el Centro de Ciencias de la Complejidad (C3) de la Universidad Nacional Autónoma de México (UNAM) y la Academia Mexicana de Ciencias, la adopción masiva de estos sistemas responde a intereses corporativos y comerciales en lugar del bien común.

Estas advertencias coinciden con los llamados de investigadores internacionales que proponen regular o desacelerar el desarrollo tecnológico ante escenarios de pérdida de control operativo y riesgos directos para la humanidad.

Se han encendido los focos rojos no sólo entre las empresas de IA, sino también entre mucha gente no especializada en este campo de la tecnología. Foto: Especial

Lee también: La IA no sustituye la terapia; esto dice la UNAM sobre sus riesgos en la salud mental

Adopción comercial, riesgo existencial y pérdida de control

Las preocupaciones sobre la IA abarcan desde dinámicas corporativas hasta advertencias sobre la pervivencia humana. De acuerdo con el investigador Evan Hubinger, especialista en alineación de sistemas, existe una probabilidad superior al diez por ciento de que esta tecnología pueda extinguir a la humanidad en la próxima década.

En este sentido, expertos del sector como Jacob Coxon o el director ejecutivo de Anthropic, Dario Amodei, señalan que los modelos avanzan con una rapidez imprevista, alcanzando capacidades para automejorarse o ejecutar tareas de forma autónoma (mecanismos conocidos como agentes de IA), lo que revive inquietudes históricas planteadas desde la década de mil novecientos cincuenta por Alan Turing.

En el ámbito de la UNAM, la investigadora Sarah Abel, del Instituto de Investigaciones Filosóficas, señala que los modelos generativos fueron diseñados con el fin de enriquecer a una élite tecnócrata de Silicon Valley. Asimismo, la especialista resalta la incorporación de dinámicas de misoginia en los algoritmos y advierte cómo la sociedad adopta masivamente estos productos por presiones de productividad o por aislamiento afectivo, desplazando la interacción humana y neutralizando la organización política ciudadana.

Terap-iA

Lee también: ¿Por qué la IA gasta agua?; UNAM responde

Totalitarismo digital, impacto emocional y salud mental

La concentración de poder representa otro de los ejes analizados por los especialistas. De acuerdo con Pedro Salazar Ugarte, investigador del Instituto de Investigaciones Jurídicas de la UNAM, el control económico e ideológico de las grandes empresas tecnológicas sienta las bases de un eventual totalitarismo autónomo.

En su análisis sobre el uso de armamento autónomo y la monetización de datos personales, el jurista explica que las máquinas buscan sustituir los vínculos humanos simboledando empatía, un fenómeno que incide de manera directa en la epidemia de soledad señalada por la Organización Mundial de la Salud (OMS).

Por su parte, María Elena Medina Mora, integrante de la Facultad de Psicología de la UNAM, informa que siete de cada nueve personas que requieren apoyo emocional recurren a plataformas digitales. La académica advierte sobre el incremento de problemas de salud mental en la población estudiantil y destaca que cerca del ochenta por ciento de las personas con padecimientos no recibe tratamiento.

Ante este panorama, los expertos universitarios concluyen que resulta indispensable implementar normativas, restricciones y marcos regulatorios que encaucen la inteligencia artificial hacia la justicia social y el cuidado colectivo.

También te interesará:

Creadora de contenido advierte sobre fraude en el IMSS por parte de DiDi México; pide a usuarios revisar sus semanas cotizadas

Caso Claudia Tacoronte en Morelos; así fue la última publicación de la estudiante

¿Abren los bancos el 15 y 16 de septiembre?; estos son los horarios y días de cierre en México

Únete a nuestro canal ¡ELUNIVERSAL ya está en WhatsApp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.

aov