Por Leslie Vanessa Ventura Hernández[1]

Esta investigación analizará porqué los tribunales deben adaptar sus criterios para tutelar derechos como la privacidad, el debido proceso y la dignidad humana frente a los riesgos de esta tecnología.

La actual revolución tecnológica, impulsada por la inteligencia artificial, plantea desafíos sin precedentes para los sistemas democráticos y el Estado de Derecho. A medida que estas tecnologías se integran en la administración pública y la vida privada, se generan tensiones con las garantías fundamentales, exigiendo una interpretación evolutiva de la norma.

Es importante señalar que frente a los avances tecnológicos, los principios constitucionales fundamentales, tales, como el derecho a la defensa, la tutela judicial efectiva y el principio de igualdad ante la ley no pueden interpretarse de manera estática.

En el contexto guatemalteco, esto exige una lectura evolutiva del texto fundamental, permitiendo que las garantías ya establecidas permeen y limiten el uso de algoritmos, asegurando que la justicia siga siendo accesible, transparente y respetuosa de los derechos de todos.

Es necesario profundizar en cómo el principio de legalidad se podría ver afectado por la opacidad de los algoritmos y es que los ciudadanos tienen el derecho de conocer las razones detrás de las decisiones judiciales y administrativas, especialmente si estas son tomadas por sistemas automatizados. Como bien señala la doctrina contemporánea, la falta de transparencia en las herramientas predictivas genera una asimetría procesal insalvable, donde la caja negra del algoritmo sustituye la motivación razonada de la sentencia y anula la posibilidad de una contradicción precisa y efectiva.^[2]Esto exige que las regulaciones garanticen la trazabilidad de los procesos y la posibilidad de auditar los criterios utilizados para emitir una resolución.

La implementación de estas herramientas introduce obstáculos críticos en el debido proceso, principalmente la falta de explicabilidad de las decisiones esto implica que, aunque sabemos qué datos entran y qué resultado sale, no podemos rastrear ni entender cómo el sistema llegó a esa decisión específica,^[3] ya que los ciudadanos tienen el derecho a saber porque se les juzga o se les niega un derecho. Asimismo,existe el peligro latente de perpetuar o amplificar sesgos discriminatorios si los sistemas son entrenados con datos históricos viciados, lo cual exige un control riguroso para salvaguardar las garantías y derechos constitucionales inherentes a las personas.

A nivel de legislación y práctica judicial en Guatemala, el uso de la inteligencia artificial plantea importantes desafíos, pues se ha aprobado normativa interna en el Organismo Judicial para que se utilice como apoyo técnico en procesos internos, pero nunca sustituyendo el criterio objetivo de los juzgadores. Es decir, ninguna decisión judicial puede quedar en manos de un sistema automatizado, por lo que el personal debe revisar todo contenido para evitar que se generen sesgos o discriminación, asegurando así que se mantenga la transparencia y el respeto a los derechos fundamentales.

Bajo esta premisa, el control de convencionalidad debe de regir como un filtro inquebrantable ante cualquier intento de delegación de la función jurisdiccional en sistemas de inteligencia artificial. La aplicación del derecho convencional no se limita a un ejercicio a un ejercicio silogístico; por el contrario, exige un juicio de proporcionalidad y un análisis axiológico que tan solo la sensibilidad humana puede ponderar. Delegar esa facultad en un algoritmo implicaría desmantelar las garantías del debido proceso consagradas en el artículo 8 de la Convención Americana sobre Derechos Humanos, el cual presupone el derecho a ser juzgado por un tribunal independiente, humano y dotado de discernimiento ético.^[4] Esto es así porque la obligación de realizar un control de convencionalidad vincula a los jueces a garantizar que las herramientas tecnológicas no vulneren el corpos juris interamericano, asegurando que la protección de los derechos fundamentales prevalezca sobre la eficiencia técnica.

Es imperativo que el desarrollo y adopción de la automatización del proceso judicial debe concebirse estrictamente como una herramienta de soporte técnico y no como un agente de deliberación jurídica. Esta postura coincide plenamente con los estándares internacionales, los cuales enfatizan el principio de “control por parte del usuario”, determinando que los jueces deben mantener la total autonomía y libertad para apartarse de cualquier solución propuesta por una herramienta automatizada.^[5] Admitir lo contrario implicaría desmantelar el núcleo de la tutela judicial efectiva, pues los algoritmos carecen de la capacidad de ponderación ética y del análisis axiológico que exige la interpretación constitucional de los derechos humanos.^[6] Por lo tanto, el control de convencionalidad debe regirse como un filtro inquebrantable ante cualquier intento de delegación de la función jurisdiccional en sistemas de inteligencia artificial para operativizar este límite en el contexto local^[7], es imperativo que el desarrollo y adopción de estas tecnologías en el sector justicia se rijan por un marco de gobernanza algorítmica. Ello implica no solo la fiscalización de los códigos fuente y bases de datos utilizados por el Organismo Judicial, sino también el establecimiento de auditorías periódicas e independientes. Este marco debe Promover la transparencia proactiva del Estado y que la misma no pueda verse mermada por cláusulas de confidencialidad tecnológica de proveedores privados cuando lo que está en juego es la libertad o el patrimonio de los ciudadanos.

En conclusión, el verdadero desafío para el control constitucional en Guatemala no radica en rechazar la modernización tecnológica, sino en subordinarla a los mandatos de la Carta Magna. La justicia digital será legítima únicamente si es capaz de justificar y explicar sus procesos analíticos ante la ciudadanía. La tecnología debería ser el vehículo para agilizar la administración de los tribunales, manteniendo siempre el factor humano como el único garante de la equidad, la dignidad y la verdadera justicia material. El factor humano es insustituible en la justicia porque las leyes y los algoritmos operan bajo una lógica formal y abstracta, incapaz de comprender el sufrimiento, la dignidad o la vulnerabilidad. “La justicia material a diferencia de la mera legalidad formal exige evaluar” las particularidades de cada caso concreto, algo que requiere empatía, intuición moral y discernimiento ético. Teniendo en cuenta que la ley se diseña para la generalidad, el factor humano actúa como un corrector necesario para flexibilizar la norma cuando su aplicación estricta  generaría una injusticia flagrante. Si bien los sistemas automatizados predicen y clasifican basándose en datos del pasado su principal limitación es carecer de conciencia y de la capacidad para realizar juicios de valor complejos sobre la dignidad humana. Un algoritmo calcula, pero no comprende el significado del castigo, la redención o la piedad. Esto se debe a que la verdad jurídica no solo se compone de hechos fríos, sino del contexto social, las motivaciones psicológicas y las asimetrías de poder. Interpretar el lenguaje no verbal, la credibilidad de un testimonio o la coacción requieren una sensibilidad y una experiencia que solo posee un juzgador humano.

En definitiva, la justicia sin el criterio humano se reduce a una burocracia ciega o a un cálculo estadístico, despojando al proceso judicial de su dimensión ética y protectora de los derechos fundamentales. En ese orden de ideas el verdadero control constitucional en la era digital no debe de entenderse como un rechazo, como lo indicamos anteriormente sino el resguardo de la dignidad humana. El desafío radica en diseñar un modelo de coexistencia donde la tecnología optimice la gestión operativa, pero la última palabra impregnada de ética, empatía y discernimiento axiológico, permanezca siempre bajo el sagrado monopolio de la judicatura humana. Solo así se garantiza que la modernización tecnológica no diluya las garantías constitucionales, sino que consoliden un Estado de Derecho verdaderamente justo, transparente, ético y humano.

La verdadera encrucijada actual entre la inteligencia artificial y el derecho sustantivo no exige la exclusión de la técnica, sino su estricta subordinación a los mandatos de la Carta Magna.

A lo largo de este análisis, se ha evidenciado que la automatización algorítmica carece de las facultades inherentes al juicio humano, tales como la ponderación ética, la compasión ante la vulnerabilidad y la comprensión profunda del tejido social y cultural. Esto se debe a que los modelos de algorítmicos operan estrictamente bajo la lógica de la correlación de datos históricos, lo que les impide capturar las sutilezas de la dignidad humana y las particularidades de los casos difíciles. Mientras las maquinas buscan la optimización estadística, el juzgador humano persigue la equidad, un valor abstracto que no puede ser cuantificado y que requiere de una sensibilidad moral ajena a cualquier código informático.

Delegar el razonamiento jurídico a sistemas automatizados conlleva el riesgo latente de petrificar y perpetuar los sesgos estructurales ya existentes en los datos  de entrenamiento. La inteligencia Artificial carece de la capacidad de cuestionar la justicia de una norma o de un precedente ante una nueva realidad social; una limitación crítica, dado que la evolución del derecho depende precisamente de la facultad humana de reinterpretar los principios fundamentales a la luz de los derechos humanos. Por consiguiente, la tecnología debe de concebirse únicamente como una herramienta de soporte optimizadora y jamás como un sustituto del criterio deliberativo, ya que la justicia exige un nivel de empatía y responsabilidad ética que solo un ser humano puede asumir.

En el contexto guatemalteco, la implementación de estas herramientas tecnológicas dentro del Organismo Judicial debe condicionarse a un control constitucional y de convencionalidad preventivo y permanente. Ello implica la exigencia de una transparencia proactiva, así como la revisión, verificación y control de manera clara y transparente de los sistemas y de manera innegociable, la preservación del factor humano como el único garante de la equidad y la justicia material. En definitiva, el éxito de la justicia digital no se medirá por la celeridad de sus procesamientos automatizados, sino por su capacidad de salvaguardar el núcleo que protege la dignidad de las personas ante el poder del algoritmo.

[1] Licenciada en Ciencias Jurídicas y sociales, Universidad Rafael Landívar, Guatemala.

[2] Nieva Fenoll, Jordi, Inteligencia Artificial y Proceso Judicial, Madrid, Marcial Pons, 2018, p. 65.

[3]O’Neil, Cathy, Armas de destrucción matemática: Cómo el Big Data aumenta la desigualdad y amenaza la democracia, Madrid, Capitán Swing, 2016, p.45.

[4] Corte IDH. Caso Almonacid Arellano y otros Vs. Chile. Excepciones Preliminares, Fondos, Reparaciones y Costas. Sentencia de 26 de septiembre de 2006. Serie C No. 154, párr. 124. (donde se establece la obligación del Poder Judicial de ejercer un control de convencionalidad entre las normas internas y la Convención Americana).

[5] Comisión Europea para la Eficiencia de la Justicia (CEPEJ), Carta Ética Europea sobre el uso dela Inteligencia Artificial en los sistemas judiciales y su entorno, Consejo de Europa, Estrasburgo, 2018, p.12.

[6] Ferrajoli, Luigi, Derechos y Garantías: Ley del más débil, 7ª. edición, Madrid, Trotta, 2018, p.82.

[7] Corte Interamericana de Derechos Humanos, Caso Ríos Ávalos y otro Vs. Paraguay (Fondos, Reparaciones y Costas), sentencia de 19 de agosto 2021, párr. 115.