IA en la justicia: Corte Constitucional aprobó el uso de ChatGPT como herramienta, pero nunca como remplazo

La Corte Constitucional de Colombia emitió su primer fallo relacionado con el uso de inteligencia artificial (IA) en el ámbito judicial. Este pronunciamiento, que marca un nuevo capítulo en la regulación de la tecnología en la justicia, establece parámetros claros para el uso de herramientas como ChatGPT dentro de la Rama Judicial, al destacar que la IA no puede reemplazar a los jueces, pero puede servir como apoyo en determinadas funciones.

El fallo, presentado por el magistrado Juan Carlos Cortés, marca una referencia global al abordar el uso de IA en el sistema judicial. La Corte Constitucional declaró que, aunque las tecnologías emergentes pueden ofrecer soporte en tareas administrativas y documentales, no deben ser utilizadas para la toma de decisiones judiciales.

Ahora puede seguirnos en Facebook y en nuestro WhatsApp Channel.

La decisión, aprobada por la Sala Segunda de Revisión, llega en un momento en que el debate sobre la regulación de la IA está en pleno auge a nivel internacional. La Corte estableció que, si bien herramientas como ChatGPT y otras tecnologías similares pueden ser útiles, su utilización en la Rama Judicial debe ser cuidadosamente regulada para evitar que se comprometan principios fundamentales de justicia y derechos humanos.

En este sentido, la Corte ordenó al Consejo Superior de la Judicatura que, en un plazo máximo de cuatro meses, elabore y divulgue un manual o lineamiento específico sobre el uso de la IA generativa, con énfasis en el uso de ChatGPT. Este lineamiento deberá ajustarse a los criterios y principios establecidos en el fallo para garantizar que su implementación sea adecuada y ética.

“El uso de herramientas de IA en el sistema judicial debe atender el criterio esencial de no sustitución de la racionalidad humana,” afirmó el magistrado Cortés en el fallo. “La IA no puede reemplazar el proceso de interpretación de hechos, valoración de pruebas y toma de decisiones judiciales, ya que esto violaría el principio del juez natural y el debido proceso probatorio.”

Entre los criterios que deberán seguirse, la Corte destacó la importancia de prevenir riesgos asociados con la IA, como imprecisiones y sesgos que puedan afectar la justicia. También se enfatiza la necesidad de mantener la independencia e imparcialidad judicial, evitando que las tecnologías inteligentes influyan en las decisiones judiciales.

“La implementación de la IA debe garantizar la independencia e imparcialidad judicial, asegurando que ningún poder, ya sea estatal o privado, pueda influir en la consideración del caso,” señala el fallo.

El pronunciamiento de la Corte también abrió la puerta a una posible evolución en el uso de IA en el sistema judicial. La Corte considera que el desarrollo de un sistema de IA especializado en jurisprudencia colombiana podría tener implicaciones positivas para la eficiencia de la administración de justicia.

“Si Colombia tuviera su propio sistema de IA generativa especializado en jurisprudencia y normativa, este podría ayudar a la materialización del derecho de acceso a la justicia, proporcionando acceso a líneas jurisprudenciales actualizadas y análisis de problemas jurídicos,” indica el fallo.

Sin embargo, esta posibilidad viene acompañada de la necesidad de un control riguroso para evitar que la IA comprometa los principios fundamentales de transparencia y protección de datos. “Es crucial que cualquier implementación de automatización cognitiva en la Rama Judicial se haga dentro del marco de respeto a los derechos fundamentales, especialmente el debido proceso, y con un estricto control sobre los riesgos asociados,” agregó la Corte.

Con este fallo, la Corte Constitucional no solo establece un precedente en la regulación de la IA en la justicia, sino que también marca el inicio de un debate global sobre cómo integrar tecnologías avanzadas en el sistema judicial sin comprometer sus principios relevantes. La tarea ahora recae en el Consejo Superior de la Judicatura para desarrollar y aplicar estos lineamientos, asegurando que la justicia siga siendo un proceso humano y equitativo en la era digital.