El riesgo de las herramientas digitales

Irene Tello Arista

Más allá de considerarlas libres de toda carencia y prejuicio humano, se debe analizar su uso y los riesgos que conllevan

Durante los últimos días se ha hecho público que la compañía Cambridge Analytica influyó en la campaña presidencial de Estados Unidos diseñando mensajes políticos y publicidad dirigidos a audiencias clave, con la finalidad de influir en la decisión de voto en favor del actual presidente Trump. Para lograr esto, la compañía usó una extensa base de datos de usuarios de Facebook, que ligaba perfiles psicológicos con la localización geográfica de las personas. Este caso ha evidenciado la forma en que las tecnologías digitales han logrado tener injerencia en los procesos políticos, así como las consecuencias negativas que su uso puede tener en la esfera pública. Por otro lado, hace patente que dichas herramientas no pueden ser analizadas sin tomar en consideración los procesos políticos y sociales en los que se insertan.

Estas consideraciones podrían parecer lugares comunes, pero persiste un aura casi mística alrededor de los poderes que las herramientas digitales tienen: desde la percepción de los algoritmos como modelos matemáticos exentos de todo prejuicio humano, como la creencia que el desarrollo de una aplicación logrará acabar con un fenómeno tan complejo como la corrupción, hasta la idea de que todo problema público se resuelve con más y mejores datos.

En México, nos hemos enterado del elevado número de firmas falsas que fueron recopiladas utilizando la aplicación del INE para el registro de candidaturas independientes. La aplicación fue desarrollada con la finalidad de facilitar el registro de apoyos ciudadanos, sin embargo, al finalizar el periodo de validación de firmas, se puede advertir que su uso no impidió la aplicación de estrategias políticas reprobables como la inscripción de registros falsos y la utilización de grandes cantidades de recursos económicos para obtener las firmas. Por otro lado, al realizar la recopilación de firmas a través de una aplicación que sólo podía ser utilizada en teléfonos celulares inteligentes y en zonas con alta conectividad, se exacerbó la brecha digital que existe en el país y se excluyó del proceso a un gran número de ciudadanos.

Otro caso a considerar es el de la Plataforma México, plataforma que recopila bases de datos sobre seguridad pública. Un reportaje de Manuel Espino Bucio publicado hace dos semanas en EL UNIVERSAL dio a conocer que la actualización de la plataforma contiene una base de datos con información sobre el nivel de educación, estado civil, antecedentes penales y lugar de procedencia de los reos acusados por delitos sexuales. Uno de los objetivos de la plataforma es la elaboración de políticas de seguridad pública con base en evidencia. Sin embargo, el uso de estos datos pueden conducir a la estigmatización de áreas en el país que son catalogadas como “zonas expulsoras y creadoras” de delincuentes que dejan de lado variables y dinámicas no consideradas por la Plataforma México, ya que estos datos no toman en cuenta el número de delitos sexuales no denunciados o los casos de delitos sexuales en los que se logra evadir la justicia, debido al acceso que el acusado tiene a un abogado.

Menciono estos casos porque en todos ellos el uso de herramientas digitales tiene consecuencias directas en la vida pública, con resultados ambivalentes. Lo que estos casos muestran es que las bases de datos, las redes sociales, las aplicaciones y los algoritmos no pueden ser analizadas independientemente de los procesos políticos y sociales que moldean su uso. Más allá de considerarlas libres de toda carencia y prejuicio humano, se debe analizar su uso y los riesgos que conllevan.

 

Directora ejecutiva de Impunidad Cero.
@itelloarista

TEMAS RELACIONADOS

Comentarios