Por María Alejandra Mancebo Antúnez[1]

Resumen

El presente ensayo propone una lectura crítica sobre la transformación del poder punitivo estatal ante la irrupción de las tecnologías predictivas y la Inteligencia Artificial (IA). Se analiza el tránsito desde el garantismo procesal hacia un modelo de control automatizado que, bajo la máscara del progreso técnico, actualiza permanentemente el Derecho Penal del Enemigo. Tomando como prisma axiológico la Encíclica Magnifica Humanitas (2026) de León XIV, el texto desmitifica la neutralidad científica de las métricas algorítmicas. Se argumenta que el «Leviatán Digital» erosiona el derecho a la intimidad mediante un extractivismo de datos calificado como el rostro inédito del colonialismo actual, anulando simultáneamente el principio de proporcionalidad ante la opacidad de la «caja negra» corporativa. Ante este panorama, se fundamenta éticamente la exigencia procesal de «desarmar la inteligencia artificial», proponiendo el retorno hacia un antropocentrismo situado que rescate el encuentro intersubjetivo en el debido proceso.

Palabras clave

Populismo penal algorítmico, Magnifica Humanitas, debido proceso, caja negra, dignidad ontológica.

Exordio. Del Estado de Derecho al Estado Algorítmico, una encrucijada

epocal

El Derecho Procesal Constitucional no puede permitirse el lujo de la indiferencia ante la res novae de nuestro tiempo. La digitalización frenética y la omnipresencia de la Inteligencia Artificial (IA) no son meros accesorios de una modernización burocrática destinada a la eficacia administrativa; constituyen, en rigor, una mutación estructural que estremece los cimientos mismos de nuestra cultura jurídica, cuestionando los postulados más elementales sobre los que erigimos nuestra convivencia democrática.

 Con excesiva frecuencia, tanto en el rigor de las aulas como en la praxis de los tribunales, se abordan estas tecnologías desde una mirada peligrosamente instrumental y periférica, asumiendo, con una ingenuidad que roza la irresponsabilidad científica, que los modelos predictivos actúan como simples herramientas asépticas destinadas a dinamizar los tiempos procesales y depurar el error humano.

Sin embargo, esta fascinación acrítica responde a una mitología contemporánea que pretende camuflar la expansión desmedida del poder punitivo estatal bajo el ropaje de una asepsia científica inmaculada. La realidad, cuando se observa desde la trinchera penal lejos de la estridencia de las promesas corporativas, es notablemente más oscura. Estamos edificando, ante nuestra mirada pasiva, un modelo de control social que, por su vocación de omnisciencia y su capacidad de anticipación algorítmica, transforma el pacto democrático de derecho en una versión sofisticada de un aparato absolutista.

Este nuevo Leviatán ya no requiere de la fuerza bruta, de la coacción física o del despliegue visible de la autoridad para imponer su orden; ahora opera a través de la colonización invisible de la conducta. Nos enfrentamos a un Leviatán Digital que se alimenta de nuestra información, que perfila nuestra identidad y que, finalmente, pretende predecir nuestra existencia.

 Este coloso, que promete una seguridad absoluta a cambio de la renuncia progresiva a nuestras esferas de libertad, se presenta como el «progreso ineludible», cuando en realidad es el desmantelamiento silencioso de las garantías fundamentales. Ante este escenario, la pregunta que el jurista contemporáneo debe formularse no es cómo hacer más eficiente este Leviatán, sino cómo recuperar los límites constitucionales que impidan que la justicia aquella facultad humana de discernir con compasión sea sustituida por el frío veredicto de un procesamiento de datos sin alma.

Andamiaje Teórico El Leviatán Digital y la crisis ontológica de la justicia penal

La construcción del poder punitivo contemporáneo ha sufrido una metamorfosis radical. Thomas Hobbes, en su tratado de 1651, configuró al Estado como un Leviatán, un gigante monumental nacido del consenso para transitar de la anarquía al orden civil. No obstante, el Leviatán de nuestra era ha mutado en una entidad post-estatal y tecnocrática. Este «Leviatán Digital» no se edifica sobre la voluntad humana representativa, sino sobre un entramado invisible de algoritmos, Big Data y sistemas de IA que ejercen una vigilancia panóptica sin precedentes, perfilando y prediciendo la conducta humana mucho antes de que esta se exteriorice como hecho punible.

La dogmática penal clásica, heredera de la Ilustración y consolidada a través del garantismo, erigió el proceso penal sobre el pilar del Derecho Penal del Hecho: la potestad punitiva estatal solo es legítima cuando se activa ante acciones u omisiones concretas, tipificadas previamente, y nunca en función de la personalidad o la propensión estadística del sujeto. Este postulado, baluarte del constitucionalismo, está siendo desmantelado por el populismo penal algorítmico, el cual, bajo el pretexto de una supuesta seguridad científica, transita subrepticiamente hacia un Derecho Penal del Autor digital.

Al procesar al ciudadano por «perfiles de riesgo» generados por una máquina, el sistema ignora su biografía, su contexto y su libertad. Como señala Günther Jakobs en su teorización del Derecho Penal del Enemigo, el Estado despoja al individuo de su condición de ciudadano, tratándolo como una fuente de peligro a neutralizar, una lógica que ahora se automatiza y masifica a través de sistemas de patrullaje predictivo que resucitan el determinismo criminológico del siglo XIX, revistiéndolo de una falsa neutralidad matemática.

Frente a esta construcción fría y racional, la Encíclica Magnifica Humanitas (2026) del Papa León XIV emerge no como un documento piadoso, sino como un prisma de resistencia dogmática de primer orden. El Sumo Pontífice interpela un modelo civilizatorio que ha supeditado la existencia a la dictadura de la utilidad y el rendimiento numérico. La encíclica nos presenta la imagen bíblica de la Torre de Babel como la analogía perfecta del proyecto punitivo de nuestra era: una estructura colosal concebida desde la soberbia de la autosuficiencia tecnológica, que sacrifica la dignidad de la persona para traducir el misterio de la libertad y el drama ético de la culpabilidad en un flujo incesante de datos explotables.

El «síndrome de Babel» al que alude el texto pontificio es, precisamente, la uniformidad que aplana las diferencias. En el proceso penal, la inmediación aquel contacto directo y humano entre juez y procesado es el muro de contención contra este aplanamiento. Cuando el juzgador delega su capacidad de discernimiento en una métrica estadística, la justicia se deshumaniza.

Como advierte León XIV: «las inteligencias artificiales no viven una experiencia… ni poseen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias«. Confiar la libertad o la peligrosidad de un individuo a un algoritmo es una abdicación ética que diluye la responsabilidad, convirtiendo al proceso judicial en una simulación carente de compasión, piedad y, sobre todo, de verdad jurídica.

Y es ahí donde la Encíclica Magnifica Humanitas (2026) nos coloca ante una categoría analítica disruptiva para el Derecho Penal contemporáneo: el concepto de «rostro inédito del colonialismo digital». Esta noción supera la visión tradicional de la soberanía estatal para advertirnos sobre una nueva forma de dominación que no se ejerce sobre el territorio físico, sino sobre el biografema del ciudadano. El Papa León XIV denuncia una realidad insoslayable: el poder ya no se contenta con someter el cuerpo del sujeto procesado; ahora se apropia de su esencia, transformando la inabarcable complejidad de la vida personal en mera información explotable.

En el sistema penal contemporáneo, nuestra intimidad, nuestras redes de afecto, nuestros hábitos de consumo y nuestros desplazamientos cotidianos han dejado de ser espacios de privacidad para operar como las nuevas «tierras raras del poder». Así como el colonialismo histórico saqueó recursos físicos, el extractivismo algorítmico actual saquea la experiencia humana. Al procesar a un individuo bajo esta lógica, el Estado en alianza con corporaciones tecnológicas vulnera frontalmente el imperativo categórico kantiano: la persona deja de ser tratada como un fin en sí misma para convertirse en un simple insumo, una unidad de entrenamiento para algoritmos corporativos que carecen de ética, pero que dictan sentencias sobre la libertad humana.

Es que esta transformación es profundamente peligrosa porque despoja al dato de su carga existencial. En el Derecho Penal, el hecho histórico aquel evento que dio origen al conflicto jurídico es un acontecimiento único, irrepetible y cargado de intención. Sin embargo, al convertir la biografía en Big Data, el sistema penal reduce la trayectoria vital del sujeto a una serie de variables correlacionadas

 La «esencia biográfica» de la persona queda así atrapada en una red de predicciones que, al ser alimentadas por el extractivismo, terminan por preconfigurar el destino procesal del individuo antes incluso de que este haya comparecido ante la autoridad. Es una forma de colonialismo cognitivo: se nos expropia nuestra propia historia para que un sistema opaco decida, mediante una probabilidad estadística, si somos dignos o peligrosos.

De allí que la resistencia constitucional ante este fenómeno debe partir de una premisa innegociable: la persona humana es un sujeto que trasciende la suma de sus datos. La Encíclica Magnifica Humanitas nos recuerda con vehemencia que la dignidad ontológica de cada hombre y cada mujer ese valor que la encíclica define como un don que precede y excede al individuo no puede ser cuantificada ni mercantilizada. Cuando el Estado utiliza perfiles extraídos de manera opaca para perseguir un delito, no solo está ejerciendo una función punitiva; está ejerciendo una violencia estructural que despoja al individuo de su valor intrínseco.

Al instrumentalizar la vida del ciudadano como un insumo estadístico, el sistema penal rompe el pacto de protección que debería regirlo. La técnica, en su vertiente extractiva, ignora que el ser humano no es un output de un proceso computacional, sino un sujeto con historia, con capacidad de arrepentimiento y con derecho a la opacidad, es decir, a no ser transparentado ni escaneado constantemente por el Estado. La lucha contra este colonialismo digital no es una batalla secundaria; es la lucha por evitar que el Derecho Penal se convierta en una sucursal de la ingeniería de datos, donde la justicia ha sido sustituida por la predicción y el garantismo por la gestión eficiente de individuos etiquetados como «activos de riesgo».

Esta asimetría epistémica, donde el Estado posee información sobre el ciudadano que este ni siquiera sabe que existe, quiebra el principio de igualdad de armas. La opacidad de la «caja negra» es el instrumento técnico que garantiza esta asimetría. La imposibilidad de reconstruir la lógica interna del algoritmo, sumada a las cláusulas de secreto comercial corporativo, genera una indefensión constitucional ante la cual el Derecho Procesal debe responder con el principio de contradicción algorítmica: ninguna sugerencia técnica debe ser valorada si el código y sus pesos variables no son plenamente auditables por la defensa.

Ante la tentación totalitaria de la Babel científica ese afán de construir un orden jurídico desde el orgullo de la autosuficiencia técnica, la respuesta del Derecho Procesal Constitucional no puede ser la renuncia cobarde a la tecnología ni el abandono del progreso. La solución reside en la subordinación dogmática de la técnica al principio de Antropocentrismo Situado.

Este concepto, que emana de la esencia más pura de la Magnifica Humanitas, no es una abstracción, sino un imperativo operativo que nos obliga a recuperar el carácter sagrado del proceso judicial como un espacio de encuentro intersubjetivo, donde el derecho deja de ser una fría gestión de expedientes para convertirse en un ejercicio de comunión humana. El Antropocentrismo Situado, a diferencia de la soberbia del humanismo tradicional, nos sitúa como seres finitos y relacionales, cuya dignidad no deriva de nuestra capacidad de cálculo, sino de nuestra condición de seres llamados a la comunión y al cuidado del otro.

Frente al populismo que busca soluciones rápidas, el garantismo constitucional debe proponer el «camino de Nehemías»: la reconstrucción comunitaria de los muros de las garantías, la escucha recíproca y el reconocimiento de la fragilidad. El jurista contemporáneo debe ser un «arquitecto sabio» que ingrese en los laboratorios de programación judicial y en los espacios legislativos para levantar diques éticos infranqueables.

Ningún cálculo, por sofisticado que sea, podrá jamás simular un corazón que se entrega con justicia o una conciencia capaz de discernir el bien y el mal. La dignidad ontológica de cada hombre y cada mujer ese valor que la encíclica define como un don que precede y excede al individuo debe seguir siendo la piedra angular inamovible de nuestro ordenamiento procesal. Desarmar la IA es, en última instancia, un acto de fe en la justicia humana frente a la tiranía del número.

La tensión entre el utilitarismo competente y el garantismo, se observa al contrastar la doctrina alemana, representada por figuras como Jakobs, con las prácticas de predictive policing anglosajonas, observamos una coincidencia alarmante. Mientras que en el ámbito anglosajón el debate se ha centrado en la supuesta eficiencia de sistemas como el COMPAS, la doctrina iberoamericana ha comenzado a advertir una disonancia insalvable: la IA no erradica el prejuicio humano, sino que lo optimiza. Los sistemas predictivos, entrenados con bases de datos judiciales marcados por sesgos de clase y raciales, no hacen más que cristalizar la selectividad penal del pasado, presentándola como una verdad estadística incuestionable.

Esta automatización de la discriminación destruye la igualdad de armas procesales. Mientras el garantismo de Luigi Ferrajoli nos recuerda que la función del Derecho Penal es minimizar la violencia punitiva estatal, el populismo algorítmico busca maximizar la eficiencia del control. Esta tensión es irreconciliable. Una justicia que no es capaz de explicar su propio proceso de decisión no es justicia, es un acto de fuerza automatizado que el Derecho Procesal Constitucional debe denunciar como una regresión autoritaria.

Como respuesta, propongo la necesidad de una Lex Ferenda que regule el uso de estas herramientas bajo estándares internacionales de Derechos Humanos. Esta Ley debe basarse en tres ejes fundamentales: Ningún sistema de IA podrá ser utilizado por el sistema judicial si no ha sido sometido a una auditoría técnica realizada por un comité de expertos independientes, ajenos a los intereses de las empresas desarrolladoras.

 Es obligatoria la transparencia del código fuente y de los bancos de datos de entrenamiento. En un Estado de Derecho, el secreto comercial no puede estar por encima de la libertad personal. Lo que no es auditable, no es admisible. Y que La ley debe prohibir taxativamente que cualquier decisión que afecte la libertad personal pueda ser adoptada exclusivamente por sistemas automatizados. El algoritmo es auxiliar, nunca sustituto.

Desenlace. Hacia una resistencia constitucional frente a la tiranía del algoritmo

 La tentación del Leviatán Digital, que pretende reducir la majestad de la justicia a un simple cálculo probabilístico de rendimiento y control social, no es un fenómeno accesorio; es un desafío ontológico que nos obliga a asumir un compromiso intelectual inaplazable.

No somos, bajo ninguna circunstancia, espectadores resignados ante las ruinas de las garantías procesales. Como nos recuerda León XIV en Magnifica Humanitas, estamos ante un «cambio de época» donde la tecnología, si se desvincula de la ética, se vuelve contra el hombre. Nuestra misión, asumiendo la potencia transformadora de la parábola de Nehemías esa tarea de reconstrucción paciente y comunitaria de los muros de la libertad, consiste en ingresar con valentía, no como técnicos, sino como juristas y filósofos, en los laboratorios de programación y en los espacios de decisión legislativa. Nuestra labor no es meramente técnica; es una misión de salvaguarda: debemos levantar diques éticos que impidan que el corazón de la justicia se marchite, asfixiado por la lógica del dato, mientras la tecnología progresa de forma desbocada.

Es imperativo comprender, con la lucidez que la encíclica nos exige, que el problema no reside en la tecnología per se, sino en el uso que hacemos de ella cuando olvidamos nuestra vocación humana. Si no discernimos que esta época puede ser utilizada tanto para el bien como para una tiranía digital que utiliza la excusa del «progreso» para implementar, de manera permanente, un Derecho Penal del Enemigo, habremos claudicado.

La mercantilización de la vida no es un destino inevitable, sino una opción política que debemos cuestionar. Si permitimos que el Derecho se convierta en una Babel de algoritmos, habremos renunciado a nuestra condición de sujetos para convertirnos en meros objetos de predicción estadística. La institucionalización de la opacidad algorítmica no es un avance del sistema, sino su vaciamiento ético absoluto.

Una justicia que no es capaz de fundamentar su decisión en la palabra humana, en la dialéctica del proceso y en la compasión ante el rostro del otro, deja de ser justicia para convertirse en pura administración de violencia sistematizada. Por ello, sostengo una llamada a la insurgencia constitucional: en este tiempo, ser más humanos es, en sí mismo, un acto de resistencia.

 Defender el garantismo hoy es una defensa irrenunciable de nuestra propia humanidad frente a la despersonalización del poder. Reivindico un Derecho Procesal que tenga el coraje de cuestionar la omnipotencia de la máquina, que exija la transparencia radical como presupuesto democrático y que coloque, por encima de cualquier optimización de la eficiencia, la innegociable dignidad ontológica de la persona.

La tecnología debe ser, sin concesiones, un instrumento supeditado a la voluntad del hombre, y jamás el arquitecto de nuestro destino. La historia nos juzgará no por la sofisticación de nuestros sistemas, sino por nuestra capacidad de proteger al sujeto más débil del proceso frente al poder sancionatorio del Leviatán.

Mi compromiso, y el de todo jurista que comprenda la magnitud de este desafío, es mantener encendida la llama de una justicia humana, prudente y situada; una justicia que, incluso en la era de la inteligencia artificial, sepa reconocer que el valor supremo de nuestra civilización no es el dato, sino el misterio, la fragilidad y la inabarcable dignidad de cada rostro que comparece ante un tribunal.

 La resistencia comienza hoy, mediante una reflexión crítica que no se deja doblegar por la tiranía del número, apostando siempre por la libertad y por la redención como fines últimos de nuestro ordenamiento jurídico. Como bien señala la encíclica, el verdadero progreso nace de un corazón abierto al otro, pues ningún sistema de cálculo, por sofisticado que sea, podrá jamás simular un corazón que se entrega con justicia.

Referencias Bibliográficas

Beck, U. (1986). La sociedad del riesgo. Hacia una nueva modernidad. Barcelona: Editorial Paidós.

Cancio Meliá, M. (2003). Derecho Penal del Enemigo. Madrid: Civitas.

Christie, N. (1981). Los límites del dolor. México: Fondo de Cultura Económica.

Cuerda Riezu, A. (2012). «Inconstitucionalidad de la prisión permanente revisable y de las penas muy largas de prisión». En: Otrosí, Núm. 12.

Davis, A. Y. (2003). Democracia de la abolición. Prisiones, racismo y violencia. Madrid: Trotta.

Ferrajoli, L. (2006). Garantismo. Una discusión sobre derecho y democracia. Madrid: Trotta.

Garland, D. (2005). La cultura del control. Barcelona: Gedisa.

Hobbes, T. (1651). Leviathan, or The Matter, Forme and Power of a Common-Wealth Ecclesiasticall and Civil. Londres: Andrew Crooke.

León XIV. (2026). Carta Encíclica Magnifica Humanitas: Sobre las Res Novae de la técnica, la dignidad humana en la era digital y la civilización del amor. Ciudad del Vaticano: Tipografía Vaticana.

Pérez Álvarez, F.; García Alfaraz, A. I. y Díaz Cortés, L. M. (2016). Serta: in memoriam Louk Hulsman. Salamanca: Ediciones Universidad de Salamanca.

Rousseau, J. J. (1985). El contrato social. Madrid: Alba.

Sánchez Baena, G. (2020). Populismo Punitivo. Un análisis acerca de los peligros de aupar la voluntad popular por encima de las leyes e instituciones. Bilbao: Ed. Deusto.

Valverde Molina, J. (2010). La cárcel y sus consecuencias. Madrid: Ed. Popular.

[1] Código ORCID: 0009-0007-6867-0202