En los últimos meses se ha generado un verdadero debate frente al uso de la inteligencia artificial para la emisión de decisiones judiciales en Colombia. Esto, hasta el punto en el que recientemente se abrió una investigación disciplinaria en contra de un juez que utilizó ChatGPT para redactar una condena por un caso de abuso sexual.
El tema generó que la Comisión Nacional de Disciplina Judicial evaluara a fondo el tema y emitiera una decisión en la que se fijan pautas y límites claros para el uso de esta herramienta digital en la revisión de casos judiciales y expedición de sentencias.
Con ponencia del magistrado Mauricio Fernández Rodríguez Tamayo, la Comisión aseguró que el uso de la IA tiene sus ventajas, pero, como toda tecnología, debe ser utilizada con responsabilidad y sin abusar de la misma.
Igualmente, los funcionarios de la Rama Judicial deberán reseñar específicamente y de manera clara que en el mencionado fallo se utilizó alguna herramienta de IA para la redacción o edición.
“El funcionario o empleado judicial que utilice herramientas de inteligencia artificial, en el ejercicio de sus funciones, deberá informar de manera expresa y verificable su utilización, especialmente cuando dicha herramienta haya tenido incidencia en actuaciones o decisiones relacionadas con un proceso judicial”, señala la decisión.
Sin embargo, se deja en claro que estas herramientas solamente pueden ser utilizadas para la revisión de jurisprudencia o la búsqueda de contextos claros, y jamás sustituirán el análisis de los jueces o magistrados.
“Las herramientas de inteligencia artificial no pueden sustituir el raciocinio jurídico del juez ni de los funcionarios judiciales, ni reemplazar las competencias que constitucional y legalmente les han sido asignadas”, resalta la decisión de la Comisión.
En el fallo se advierte que toda información que produzca la IA debe ser verificada y contrastada antes de ser plasmada en el fallo.
“El funcionario judicial no podrá fundamentar argumentos o decisiones judiciales generadas por IA sin realizar una comprobación rigurosa de su exactitud, pertinencia y fiabilidad”, aclara.
En las decisiones judiciales se debe especificar de manera inmediata, clara y sucinta la forma en cómo se utilizaron las herramientas de IA y los datos que se obtuvieron de la misma.
“Cuando se utilicen textos generados por IA, deberá indicarse claramente su origen, garantizando la adecuada identificación, citación y diferenciación del contenido generado por la herramienta frente al elaborado por el funcionario judicial.
Estas son las principales pautas
- En particular, cuando el uso de la IA impacte actuaciones dentro de un expediente, deberá dejarse constancia del nombre de la herramienta utilizada, su modelo y la empresa proveedora. Al respecto, se precisa que las herramientas de IA implementadas por la Rama Judicial son Copilot Chat provista por la empresa Microsoft y Microsoft Copilot 365. Además, existen otras autorizadas como, por ejemplo, ChatGPT, Google Gemini, Open AI API, Anthoropic Claude, Meta AI.
- La fecha en que fue utilizada.
- La manifestación de lectura, comprensión y aceptación de los términos y condiciones de uso de la herramienta.
- La manifestación de lectura, comprensión y aplicación de los términos y condiciones del uso de la herramienta.
- La explicación del propósito para el cual fue empleada, el modo en que fue utilizada y las instrucciones o Prompts empleados.
- La identificación precisa de las apartes del documento que correspondan a contenido generado por la herramienta.
- La inteligencia artificial no puede ser utilizada para valorar medios probatorios, realizar juicios de valor, establecer hechos ni resolver problemas jurídicos.
- Tampoco puede emplearse para aplicar las normas del ordenamiento jurídico, motivar o adoptar decisiones judiciales con base exclusiva en las respuestas generadas por dichas herramientas.
- Las decisiones judiciales deben ser el resultado del análisis autónomo, crítico y razonado del funcionario judicial, quien mantiene plena responsabilidad sobre su contenido.
- Las decisiones judiciales deben ser el resultado del análisis autónomo, crítico y razonado del funcionario judicial, quien mantiene plena responsabilidad sobre su contenido.
- Toda información generada por herramientas de IA debe ser contrastada y verificada mediante fuentes jurídicas confiables.
- Se debe evitar el uso de herramientas cuyos datos de entrenamiento, funcionamiento o procesamiento de información no sean verificables o transparentes.