Estado de Derecho

La justicia digital: un camino sin retorno

Algo está cambiando profundamente al sistema de justicia mexicano. Durante demasiado tiempo pasó desapercibido, pero está empezando a notarse.

Durante la XVIII Asamblea General Ordinaria de la Asociación Mexicana de Impartidores de Justicia (AMIJ) del mes pasado, que giró en torno al tema “Los desafíos para una justicia digital en México”, la presidenta del Poder Judicial de la Federación, la ministra Norma Piña, resaltó la necesidad por parte de las personas juzgadoras de mirar al futuro, y pensar en cómo las nuevas tecnologías pueden permitir ampliar el acceso a la justicia, mejorar la gestión de casos, hacer más eficiente la labor de las personas operadoras del sistema de justicia, reducir costos y explorar nuevas formas de resolución de disputas en línea. También subrayó la importancia de integrar estas tecnologías al quehacer judicial con responsabilidad y ética.

Desde el programa de Transparencia en la Justicia de México Evalúa nos parece una muy buena noticia que se otorgue relevancia al tema, pues hemos analizado desde hace varios años el enorme potencial de las nuevas tecnologías de la información para ampliar el acceso a la justicia, reducir los tiempos de resolución y el rezago de juzgados y tribunales y prevenir la corrupción. Pero como lo señalamos en nuestros Lineamientos para transformación digital en la impartición de justicia, estos procesos solamente pueden llegar a buen puerto si cuentan con la voluntad decidida de la más alta autoridad del órgano que pretende impulsarlos, ya que las resistencias internas y los obstáculos a superar en el camino suelen ser importantes.

Las palabras de la ministra Piña y el hecho de que la AMIJ haya dedicado su asamblea anual a este tema (resultado de la visión de su secretario ejecutivo, el magistrado Armando Maitret) no son las únicas señales positivas. Allí está también la Barra Mexicana Colegio de Abogados, que dedicó en 2022 su propio Congreso Nacional al mismo tema. Parece que los principales actores necesarios para que esta transformación se dé de manera exitosa están alineados.

La siguiente vuelta de tuerca: inteligencia artificial

Si bien la justicia digital ya es una realidad en buena parte del país (en nuestro Diagnóstico de implementación de herramientas tecnológicas en los poderes judiciales en México pudimos detectar grandes avances a nivel local), hasta hace poco la integración de la inteligencia artificial (IA) a la impartición de justicia todavía era una asignatura pendiente. En el marco de la Asamblea de la AMIJ, tuve el honor de participar, junto con destacados expertos en la materia, en una mesa de diálogo dedicada a cómo la IA impacta en la manera de impartir justicia.

Existen diferentes tipos de aplicaciones de la IA en la justicia, la mayoría de las cuales busca agilizar y eficientizar el trabajo de los operadores de justicia –funcionarios judiciales, fiscales, defensores y abogados–. Podemos mencionar las siguientes:

• Chatbots o aplicaciones para orientar a las personas y darles asesoría jurídica básica. Han sido desarrolladas tanto por empresas de legaltech como por parte de tribunales que buscan orientar al ciudadano y permitirle acceder a sus servicios sin necesidad de un representante legal u ofrecerle alternativas a la judicialización. Es el caso del Tribunal de Resolución Civil de British Colombia en Canadá, que desarrolló un explorador de soluciones que permite a las personas resolver conflictos vinculados con reclamos de baja cuantía o disputas entre condóminos o asociaciones. El explorador hace preguntas a las personas usuarias para proponerles soluciones a su problema, buscando como prioridad que las partes negocien u ofreciéndoles un conciliador que les ayude a llegar a un acuerdo. Solamente si no lo logran, el asunto se judicializa y se resuelve completamente de manera remota.
• Por otra parte, se han desarrollado sistemas, tanto por parte de despachos legales como de instituciones de justicia –como la Corte Constitucional de Colombia, por ejemplo, con PretorIA– que permiten analizar y clasificar grandes cantidades de texto, realizar resúmenes de documentos y/o identificar patrones, ahorrando horas de trabajo. La precondición para que puedan funcionar sistemas de esta naturaleza es que los documentos a analizar existan en formato electrónico.
• También han surgido sistemas de apoyo para la identificación de jurisprudencia útil, los cuales pueden ser utilizados por litigantes, personas juzgadoras y/o académicas, como por ejemplo el nuevo chatbot JusticIA que apoya a los usuarios en sus consultas al Semanario Judicial de la Federación.
• Existen, a su vez, herramientas de IA predictiva para apoyar las decisiones de ciertos actores del sistema de justicia. Algunas buscan apoyar a los jueces a tomar decisiones sobre las medidas cautelares que tomar a la hora de vincular a proceso a una persona imputada, al predecir su riesgo de fuga, o sobre la sentencia que aplicarle, al evaluar su riesgo de reincidencia. Estos sistemas, sin embargo, han sido cuestionados porque suelen amplificar los sesgos socio-raciales presentes en las bases de datos que permiten entrenar los algoritmos.
• Otras herramientas han sido desarrolladas por grandes despachos o empresas que ofrecen sus servicios a estos despachos para calcular las probabilidades de ganar un juicio, en particular cuando se sabe quién va a ser el juez, o el probable monto que se puede obtener negociando. Si bien estas herramientas pueden ser útiles para guiar a los clientes en su decisión respecto de seguir o no un juicio o buscar un posible acuerdo, no están exentas de problemas. El primero es que algunas personas podrían encontrar dificultades para encontrar un abogado que acepte llevar su caso porque sus probabilidades de ganar son muy bajas, lo cual puede implicar un obstáculo a su acceso a la justicia. Otro problema es que, en algunos países, se ve con malos ojos el hecho de predecir el resultado de un juicio, porque se considera que puede permitir a los litigantes buscar la jurisdicción que les sería más favorable. Por ejemplo, en Francia, este tipo de análisis se prohibió y se decidió omitir el nombre del juez cuando se publican las resoluciones, para impedir que se analice su récord de sentencias. Pero esto representa un retroceso en materia de transparencia y rendición de cuentas.
• Finalmente, en Chile, la Defensoría Penal Pública desarrolló un asistente virtual para apoyar a los defensores en las audiencias donde se determina si una persona imputada seguirá su juicio en libertad o no. Con base en información de los casos presentados por la Fiscalía y los eventuales antecedentes de la persona imputada, la herramienta (que ha sido ‘entrenada’ a partir de decisiones previas de los jueces) predice cómo ese juez resolverá con base en esos hechos y propone al defensor jurisprudencia que puede servir para desarrollar la estrategia de defensa. Esta aplicación busca ayudar a los defensores a priorizar sus casos, con base en las probabilidades que arroja la aplicación. Pero también permite evaluar su desempeño, pues cuando consiguen un resultado distinto a la predicción, se busca entender las razones de este resultado y, en su caso, puede llevar a conversaciones con los defensores para analizar maneras de mejorar su trabajo.

Estas herramientas, que presentan ventajas y desafíos, han sido desarrolladas, muchas veces, gracias a inversiones importantes por parte de instituciones de justicia –poderes judiciales, fiscalías, defensorías–, despachos legales o empresas que ofrecen sus servicios a estas instituciones o despachos, específicamente para atender problemáticas propias.

La ‘democratización’ del acceso a la IA

Sin embargo, una nueva tendencia surgió desde finales del año 2022, con el surgimiento de herramientas de IA generativa, como Chat GPT o Bard. Estas herramientas proponen, a un costo accesible, servicios que, aunque no hayan sido desarrolladas originalmente para este propósito, pueden ser de mucha utilidad para la procuración e impartición de justicia y que, de hecho, ya han empezado a utilizar operadores de justicia en muchas partes del mundo, como lo explicó Juan Corvalán, director fundador del Laboratorio de Innovación e Inteligencia Artificial de la Facultad de Derecho de la Universidad de Buenos Aires, en un conversatorio que organizamos en octubre pasado gracias al apoyo de la Fundación Friedrich Naumann para la Libertad, institución que, por lo demás, ha sido clave para el desarrollo de nuestra línea de investigación sobre justicia digital.

Algunas de estas herramientas pueden realizar transcripciones y resúmenes de audiencias video o audiograbadas; otras ofrecen interpretación simultánea a otro idioma, y algunas más pueden incluso resumir y analizar grandes cantidades de documentos o sugerir argumentación sobre un caso.

Si bien puede implicar facilitar y agilizar sus tareas, el uso de estas herramientas por parte de los operadores de justicia presenta algunos desafíos. Primero, los insumos con los cuales las herramientas de IA generativa trabajan deben estar en línea, por lo que se vuelven accesibles a todas las personas, lo cual puede ser un problema si contienen datos personales.

Otro problema muy importante se refiere a las ‘alucinaciones’ –es decir, los datos falsos, equivocados o inventados– que pueden arrojar estas herramientas. Ya el Consejo Nacional de Justicia de Brasil abrió una investigación en contra de un juez que citó una jurisprudencia inventada por Chat GPT en una de sus sentencias.

Esto demuestra la importancia de que las instituciones de justicia y los despachos de abogacía realicen cursos de capacitación para que sus operadores conozcan mejor el potencial y las limitaciones de estas herramientas, pero también para que puedan “vencer sus miedos”, como lo subrayaron Laura Márquez, cofundadora del Centro de Innovación para el Acceso a la Justicia, y Pablo Pruneda Gross, coordinador de la línea de Investigación de Derecho e Inteligencia Artificial del Instituto de Investigaciones Jurídicas de la UNAM, durante la mesa organizada por la AMIJ. Al respecto, la UNESCO desarrolló cursos de capacitación para operadores de justicia, así como un kit de herramientas para poder judiciales que pueden ser de mucha utilidad.

Pero, sobre todo, urge que estas instituciones regulen el uso de estas herramientas por parte de sus operadores, para que sepan cómo pueden usarlas y qué no deben hacer. En este sentido, el laboratorio dirigido por Juan Corvalán desarrolló unas Directrices de uso de la IA generativa de texto y ChatGPT en la Justicia que pueden servir de inspiración para las instituciones interesadas.

Antídoto contra la corrupción

Estas conversaciones no solamente deben interesarnos a todos los que trabajamos en o estudiamos el sistema de justicia, sino también a nuestros gobernantes y legisladores. La razón es clara: frente a la queja recurrente del titular del Ejecutivo y de muchos integrantes del Legislativo con respecto a los problemas de corrupción que existen en el Poder Judicial, la justicia digital, con todo su potencial para prevenir la corrupción, puede ser un instrumento de defensa. Tal potencial se puede expresar por medio de la implementación de plataformas para presentar escritos y/o consultar el expediente de manera remota, que pueden reducir los contactos entre funcionarios judiciales y empleados a los estrictamente necesarios, contactos que pueden dar pie a la solicitud de dádivas. La justicia digital también puede reducir las posibilidades de manipulación de los expedientes (ya que un expediente electrónico no se puede alterar o desaparecer sin dejar una huella digital trazable) pero también de la asignación de los asuntos (siempre y cuando se desarrolle un sistema confiable y auditable).

Esto no solamente es algo que encontramos en nuestros estudios; en ello también coinciden varios especialistas en el tema del combate a la corrupción, como Sean Hagan, profesor en la Facultad de Derecho de la Universidad de Georgetown y exconsejero Jurídico del FMI, durante un Study Tour sobre el tema de “Parar la corrupción: asegurar la integridad y transparencia gubernamental” organizado por la Fundación Naumann hace unos meses, en el que tuve la oportunidad de participar.

Por todas estas razones, es alentador que todos los actores del sistema de justicia estén considerando la justicia digital como una prioridad, y que la AMIJ esté considerando desarrollar un grupo de trabajo permanente sobre el tema. Sería deseable que, en lugar de reducir el presupuesto del Poder Judicial Federal,1 el Ejecutivo y el Legislativo impulsaran esta agenda.

__________________

1 En el Dictamen de la Comisión de Presupuesto y Cuenta Pública con Proyecto de Decreto de Presupuesto de Egresos de la Federación para el ejercicio fiscal 2024, uno de los argumentos para reducir el presupuesto del Poder Judicial Federal era relativo a los gastos excesivos de la institución en materia de equipos de cómputo y sistemas informáticos.

Laurence Pantin. Coordinadora del programa de Transparencia en la Justicia de México Evalúa. Agradece la revisión de Pablo García. X: @lpantin.

Puedes encontrar el artículo original aquí: https://eljuegodelacorte.nexos.com.mx/la-justicia-digital-un-camino-sin-retorno/