INTELIGENCIA ARTIFICIAL APLICADA EN PROCESOS JURISDICCIONALES. ELEMENTOS MÍNIMOS QUE DEBEN OBSERVARSE PARA SU USO ÉTICO Y RESPONSABLE CON PERSPECTIVA DE DERECHOS HUMANOS.

En diversos recursos de queja y de revisión en incidentes de suspensión interpuestos contra decisiones de Juzgados de Distrito en amparo indirecto, este Tribunal Colegiado de Circuito empleó herramientas de inteligencia artificial para calcular el monto de una garantía. Al tratarse de una práctica innovadora en procesos jurisdiccionales resultó necesario, bajo un ejercicio de autocontención, definir los parámetros para la aplicación ética y responsable de la inteligencia artificial.

La utilización de herramientas de inteligencia artificial en procesos jurisdiccionales con una perspectiva de derechos humanos, ética y responsable, exige que las personas juzgadoras observen como elementos mínimos los principios de: a) proporcionalidad e inocuidad; b) protección de datos personales; c) transparencia y explicabilidad; y d) supervisión y decisión humanas.

Ante la ausencia de regulación específica para el uso de herramientas de inteligencia artificial las personas juzgadoras deben hacer un ejercicio de autocontención adoptando lineamientos para su aplicación responsable con perspectiva de derechos humanos. Para ello pueden tomar como referencia los esfuerzos de regulación a nivel internacional, como las Directrices Éticas para una Inteligencia Artificial Fiable del Grupo de expertos de alto nivel sobre inteligencia artificial creado por la Comisión Europea; el Reglamento del Parlamento Europeo del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial; y la Recomendación sobre la ética de la inteligencia artificial de la UNESCO y sus principios éticos. Dichas referencias permiten adoptar mejores prácticas para la administración de justicia al introducir innovación tecnológica para una gobernanza administrativa judicial, preservando el núcleo de la función jurisdiccional sin afectar los derechos procesales de las partes. Para ello, cuando utilicen herramientas de inteligencia artificial las personas juzgadoras deben cumplir con los siguientes elementos mínimos: a) la proporcionalidad e inocuidad exige que las herramientas de inteligencia artificial se utilicen únicamente en la medida necesaria y adecuada para alcanzar un fin legítimo, como por ejemplo, facilitar razonamientos numéricos sin que se alcance al razonamiento jurídico en la interpretación o aplicación de las normas; b) deben emplearlas de manera que no se comprometa la protección de datos del expediente judicial; c) la transparencia y explicabilidad imponen que la persona juzgadora no sólo informe que utiliza herramientas de inteligencia artificial, sino que exponga la metodología, los datos empleados y la forma en que se arribó al resultado, a fin de permitir que el procedimiento sea auditado y comprendido por las partes y órganos revisores; y d) la supervisión y la decisión humanas aseguran que la tecnología opere como auxiliar y no como sustituto, manteniendo la deliberación y decisión en el ámbito estrictamente jurisdiccional.