¿Quién nos protege del algoritmo?

«No podemos permitir que los algoritmos limiten o condicionen el respeto a la dignidad humana…»

Papa Francisco

El poder ya no siempre lleva uniforme, ocupa un palacio o firma una orden. A veces es un algoritmo el que decide si existimos o no para los demás. Imagine que una mañana despierta y descubre que su cuenta de Facebook, Instagram o X fue cerrada. Diez o quince años de fotografías, conversaciones, contactos y recuerdos desaparecieron durante la noche. Pregunta qué ocurrió. Nadie responde. Pregunta qué hiciste mal. Recibe un mensaje automático. La escena parece trivial hasta que recordamos que una parte importante de nuestra vida ocurre dentro de espacios que no nos pertenecen, ni al Estado; ahí conversamos, trabajamos, hacemos política, vendemos, compramos y conservamos nuestra memoria. Las redes sociales dejaron de ser simples páginas de internet. Se convirtieron en plazas públicas. Sólo que las plazas tienen dueño.

En México, un tribunal federal abrió una discusión relevante al considerar que, en determinadas circunstancias, una empresa como Meta puede ejercer un poder tan importante sobre las personas que sus decisiones sean revisadas mediante un juicio de amparo. El caso comenzó cuando la cuenta de Facebook de un abogado fue inhabilitada sin una explicación concreta. Al acudir a la justicia, surgió un tema que nos concierne a todos: ¿puede una persona defenderse constitucionalmente de una empresa privada? La respuesta no es sencilla. Las plataformas tienen derecho a establecer reglas y decidir qué contenidos presentan. Pero sus decisiones también pueden afectar la libertad de expresión, la privacidad, el trabajo y la participación pública de millones de personas. El problema se vuelve todavía más complejo porque muchas de esas decisiones ya no las toma directamente una persona. Las plataformas utilizan sistemas automatizados para observar, clasificar, recomendar, restringir o eliminar contenidos. Cuando una publicación desaparece, muchas veces nadie puede explicar con claridad qué ocurrió.

—¿Por qué eliminaron mi publicación?

—Incumplió las reglas.

—¿Cuál regla?

—Una de nuestras políticas.

—¿Qué parte?

—El sistema la detectó.

—¿Por qué?

Silencio…

No hace falta borrar una cuenta para ejercer poder. También es posible volverla invisible. Un algoritmo puede decidir qué aparece primero en nuestra pantalla y qué queda enterrado entre millones de publicaciones. Puede recomendar una idea miles de veces y dejar otra sin audiencia, sin prohibir formalmente ninguna palabra. Antes temíamos que alguien nos impidiera hablar. Ahora debemos preguntarnos: ¿De qué sirve poder hablar si un algoritmo puede decidir que nadie nos escuche? Esto no significa que las plataformas sean enemigas de la libertad. Gracias a ellas, millones de personas pueden denunciar abusos, transmitir acontecimientos, exhibir corrupción y comunicarse con el mundo. El problema aparece cuando esa capacidad de comunicación queda concentrada en unas cuantas empresas que también controlan lo que vemos, conocemos y discutimos. Las constituciones nacieron de una desconfianza básica: ningún poder debe carecer de límites. Pero nuestros antepasados imaginaron que el poder tendría rostro. No imaginaron una plaza pública propiedad de una empresa ni una máquina capaz de decidir, millones de veces por segundo, qué merece nuestra atención. No se trata de entregar las redes al gobierno ni de convertir cualquier desacuerdo con una plataforma en un asunto constitucional. Se trata de reconocer una idea sencilla: donde existe poder sobre las personas, deben existir límites.

Cuando una decisión puede afectar seriamente nuestros derechos, debería existir una explicación, una persona ante quien reclamar y una puerta que podamos tocar. Durante siglos revisamos: ¿Quién vigila al poder? Hoy el poder también cabe en nuestro bolsillo. Nos acompaña mientras desayunamos, nos escucha y quizá nos ve, conoce nuestros gustos, aprende nuestros miedos y decide qué aparece primero y qué tal vez nunca veremos. Por eso el reto del siglo XXI es también: ¿Quién vigila al algoritmo? Posiblemente estemos en el mayor cerco noticioso de la historia.

Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.