El juicio humano ante la inteligencia artificial (I)

La inteligencia artificial genera respuestas casi inmediatas sobre cualquier tema, aun con información incompleta o incorrecta. La rapidez y la aparente seguridad con que las formula pueden generar una confianza injustificada. Lo mismo ocurre cuando se le consulta sobre cuestiones jurídicas o decisiones judiciales.

Esto nos obliga a preguntarnos hasta dónde puede intervenir en la impartición de justicia y si puede sustituir a las personas juzgadoras. Mediante nuestras sentencias resolvemos controversias que afectan la libertad, el patrimonio, las relaciones familiares y el ejercicio de los derechos. Quienes juzgamos debemos comprender esos efectos y asumir la responsabilidad por cada decisión.

Hace unos días dediqué una conferencia a esta cuestión en el séptimo Congreso Internacional Derechos Humanos, DIH y (Des)Orden Mundial, convocado por la Red Internacional de Derechos Humanos y Derecho Internacional Humanitario y la Universidad de Guadalajara. La inteligencia artificial ocupó también un lugar en las conversaciones sobre los problemas sociales y humanitarios actuales.

En este espacio he reflexionado sobre la responsabilidad de juzgar ante la polarización y la falta de escucha. Algunas personas confían más en las respuestas de estos sistemas que en las razones de una sentencia, como si juzgar fuera una labor artesanal condenada a la obsolescencia.

Toda sentencia puede discutirse, y en el mismo sentido, las respuestas de la inteligencia artificial también deben examinarse. La confianza depende de la calidad de las razones. El origen tecnológico de una respuesta no garantiza su corrección.

La inteligencia artificial es una herramienta que hemos creado para ampliar nuestras capacidades. Otras tecnologías que hoy son cotidianas han modificado nuestras formas de trabajar y relacionarnos. Aprender a utilizarlas exigió discutir sus consecuencias. A las juezas y los jueces nos corresponde examinar esta tecnología con objetividad y sin suponer que toda novedad representa, por sí misma, una mejora.

Shoshana Zuboff, en La era del capitalismo de la vigilancia, advierte que los riesgos tecnológicos dependen también de la lógica económica que orienta su desarrollo. La imagen del titiritero y el títere dirige la atención hacia quienes controlan la tecnología. Conviene preguntarnos quién la diseña, qué datos utiliza y quién obtiene beneficios de su uso.

Estas preguntas adquieren especial importancia cuando la tecnología se incorpora a la impartición de justicia. En los tribunales, estos sistemas pueden reproducir prejuicios y perder de vista las circunstancias de cada persona. El sistema COMPAS, utilizado en algunos tribunales de Estados Unidos para estimar el riesgo de reincidencia, ilustra estas preocupaciones. La Corte Suprema de Wisconsin examinó estudios que advertían posibles sesgos contra personas afrodescendientes. Aunque permitió considerar sus evaluaciones, determinó que sus puntuaciones no podían utilizarse para decidir el encarcelamiento ni la severidad de la pena. Una estimación basada en datos generales no puede desplazar el examen de las circunstancias particulares de la persona a quien se juzga.

La posible incorporación de inteligencia artificial en los tribunales exige analizar sus alcances y límites. Es necesario determinar en qué tareas podría intervenir y bajo qué condiciones podría utilizarse. Cualquier aplicación debe sujetarse a normas claras, supervisión humana y salvaguardas que protejan los derechos de las personas y permitan revisar sus resultados. Solo entonces podría evaluarse si ayuda a reducir cargas administrativas y permite dedicar más tiempo al estudio de los expedientes.

Quienes impartimos justicia debemos comprender estas herramientas y evaluar con cuidado sus posibles aplicaciones, sin delegar en ellas nuestro criterio. Preguntarnos si pueden sustituir a las personas juzgadoras nos obliga a examinar qué significa juzgar y qué capacidades humanas exige esa tarea.

(Agradezco la colaboración de Víctor Miranda y Carlos Alonso)

Ministra de la SCJN

Únete a nuestro canal