Justicia digital vs justicia inteligente: entre la eficiencia y el riesgo de deshumanización
El Poder Judicial de Querétaro se encuentra a punto de dar un paso histórico con la incorporación de Inteligencia Artificial (IA) en sus procesos judiciales. De acuerdo con Braulio Guerra Urbiola, magistrado presidente del Tribunal Superior de Justicia (TSJ), este año podrían implementarse los primeros juicios con el uso de algoritmos, inspirados en modelos internacionales como el de Estonia. Hay una diferencia abismal entre incorporar procesos digitales y utilizar Inteligencia Artificial, pues la Ciudad de México fue la primera en implementar digitalidad en Poderes Judiciales con el expediente electrónico y la economía en trámites al crear la ventanilla única digital para casi todo. De hecho, el ejemplo permitió que Claudia Sheinbaum, en su momento como Jefa de Gobierno, fuese reconocida por esto.
La digitalización judicial no es un concepto nuevo. Desde finales del siglo pasado, la tecnología ha sido utilizada para agilizar y mejorar la impartición de justicia, pero hoy estamos ante una nueva evolución: la justicia algorítmica. Guerra Urbiola insiste en que la IA no sustituirá a jueces ni magistrados, sino que actuará como un instrumento para optimizar procesos, mejorar la velocidad de resoluciones y reducir el uso de papel. En un país donde la impunidad y la burocracia judicial han sido piedras angulares del descrédito institucional, la promesa de una justicia más rápida suena tentadora.
El hecho es que la justicia algorítmica tiene muchos riesgos implícitos, puesto que lo modelos de programación suelen contener sesgos qué abonan a la injusticia, discriminación, misoginia y modelos conservadores, elitistas y hasta racistas.
La aplicación de Inteligencia Artificial en la justicia plantea retos que no pueden ser ignorados. La automatización de decisiones judiciales, incluso con supervisión humana, puede derivar en sesgos algorítmicos que perpetúan desigualdades. Un claro ejemplo de estos riesgos se encuentra en el caso de la “jurisprudencia algorítmica” en Brasil, donde el sistema denominado Sócrates, pese a sus avances, ha generado preocupaciones sobre la falta de transparencia en sus criterios de decisión.
En México, la justicia ya enfrenta problemas sistémicos de desigualdad y discriminación. Si la implementación de IA en el Poder Judicial no se diseña con una perspectiva de derechos humanos, podría terminar reproduciendo las mismas fallas estructurales que ya existen en el sistema. Además, en un contexto donde la mayoría de la población no tiene acceso a herramientas digitales ni conocimientos tecnológicos avanzados, se corre el riesgo de excluir a ciertos sectores de la sociedad del acceso a la justicia.
Guerra Urbiola ha expresado su intención de trabajar con universidades y expertos para desarrollar algoritmos judiciales en Querétaro. No obstante, la IA aplicada a la justicia no puede ser vista sólo como una herramienta para optimizar procesos; también debe garantizar imparcialidad, transparencia y respeto a los derechos humanos. La regulación jurídica de estos sistemas es un tema urgente, y si bien el magistrado ha planteado la necesidad de reformas legislativas, es indispensable que en este debate participen también organizaciones de la sociedad civil y expertos en derechos digitales.
La justicia algorítmica puede ser una aliada para la eficiencia, pero también un arma de doble filo si no se maneja con responsabilidad. Antes de arrancar este “auto” de la IA judicial, es fundamental garantizar que su funcionamiento no sacrifique principios esenciales del debido proceso. La tecnología debe estar al servicio de la justicia, no al revés.
Por cierto, Querétaro tiene una de las mejores calificaciones en Estado de Derecho, pero a pesar de ello, al igual que todos los Poderes Judiciales Locales, esta llamado a renovarse por voto popular. Ojalá que quienes lleguen continúen con este esfuerzo, pues aunque al inicio sea un reto implementar realmente procesos de toma de decisiones automatizadas, el hecho es que la Inteligencia Artificial no es corrupta, no asignará un asunto a un juzgador que tenga relaciones o intereses respecto del mismo y tampoco hará valoraciones de fondo que favorezcan a una de las partes solo por tratarse de esa persona. La Inteligencia artificial puede ser una herramienta para construir Estado de Deercho, aplicación estricta de la ley y cerrar la puerta a procesos de sobornos. Pero siempre con transparencia algorítmica y respeto a la dignidad humana, pues en lo más sensible, los humanos pueden tener criterios y sensibilidades mientras que la IA podría estar impedía a reconocer desigualdades estructurales como la opresión de clase o de género.
Si la Inteligencia Artificial en la justicia mexicana no se regula con criterios de equidad y transparencia, corremos el riesgo de consolidar un sistema que discrimina de manera automatizada y perpetúa desigualdades. ¿Queremos una justicia eficiente o una justicia justa? Porque no siempre son lo mismo.