GOBERNANZA DE LA INTELIGENCIA ARTIFICIAL JURÍDICA TRANSPARENCIA, EXPLICABILIDAD Y LÍMITES
- Visto por: 66
Resumen:
Este artículo examina si el riesgo de ritualización que la jurisprudencia constitucional colombiana advierte en materia de transparencia algorítmica, un riesgo que este artículo denomina una "nueva ordalía", categoría propia y no una expresión de la propia Corte ni de la literatura existente, es un problema exclusivo de la explicabilidad técnica o un patrón general en la gobernanza de la inteligencia artificial jurídica. A partir de un corpus combinado de 162 referencias seleccionadas, 50 de la literatura internacional sobre opacidad algorítmica y explicabilidad (XAI), y 112 de un corpus sistemático sobre razonamiento jurídico artificial construido mediante PRISMA 2020 sobre Scopus y Web of Science, de las cuales 111 quedan efectivamente citadas, se examina ese patrón en cinco dominios: la jurisprudencia colombiana misma (Sentencias T-323/2024 y T-067/2025), la explicabilidad técnica, la supervisión humana de sistemas de apoyo judicial, la adopción de inteligencia artificial generativa, y la atribución de responsabilidad y personalidad jurídica. Los hallazgos muestran que la sustitución de sustancia por ritual no es un riesgo aislado de la transparencia algorítmica. Reaparece, con la misma lógica de fondo, en la supervisión humana capturada por el sesgo de automatización, en la aceptación acrítica de resultados generativos, y en el reconocimiento formal de personalidad jurídica como sustituto de una capacidad de responsabilidad que no existe. Se concluye que la jurisprudencia colombiana ofrece, hasta ahora, el intento más explícito de bloquear ese patrón en la práctica, incluso sin nombrarlo como tal, y que su criterio de adecuación: inteligibilidad, impugnabilidad, fidelidad, puede generalizarse como estándar para evaluar cualquier mecanismo de control humano sobre sistemas de inteligencia artificial jurídica.