SEMANA: Esta semana, usted participó en varios eventos académicos en Colombia, entre ellos, la cumbre de los 30 años de la Corporación Excelencia en la Justicia. ¿Por qué acompañar este aniversario?
Juan Carlos Campo Moreno: He sido invitado y me hacía muchísima ilusión. La verdad que conozco el rol que está asumiendo la Corporación Excelencia en la Justicia desde hace bastante tiempo y tengo una relación muy buena con el doctor Hernando Herrera. Después de que me ofreció la posibilidad de estar en Bogotá, se han ido concatenando muy diversos proyectos en la universidad, la academia, cosas que me hacen tremendamente feliz y me llenan de orgullo, y creo que obedece a esa buena sintonía en la que nos movemos.
Tengo una relación magnífica con la Corte Constitucional por razones también lógicas: hemos estado con la presidenta, la doctora Paola Meneses. Tenemos una relación fluida porque prácticamente tenemos problemas similares a los que enfrentarnos —inteligencia artificial, tensiones entre los poderes—, y bueno, en ese sentido me siento muy orgulloso de que me encuentren como en mi casa.
SEMANA: Usted está como en el corazón de muchos de los problemas jurídicos más grandes de España y ha estado en muchas posiciones de poder en los últimos años. Por ejemplo, acaba de ser ministro de Justicia. Y viene aquí a hablar de la inteligencia artificial. ¿Por qué ese tema?
J.C.C: Es una buena pregunta y curiosa, pero es verdad que por decisión del presidente del Tribunal Constitucional español soy el encargado de todo lo que supone el mundo digital y ahora de la inteligencia artificial.
Entonces, bueno, he estado aprendiendo y aportando. Hemos tenido en Brasil, precisamente, la Conferencia Iberoamericana, donde también defendí el problema que puede suponer o que implica la inteligencia artificial en el ámbito de los poderes judiciales, y aquí he abordado, tanto en la cumbre como ha sido el eje central del discurso para recibir el honoris causa de la Universidad Politécnico Grancolombiano... Y es un tema que creo que nos debería preocupar a todos.
Hoy la inteligencia artificial no es una herramienta, no es una cuestión técnica, es una cuestión de poder y, por tanto, cuando afecta a los derechos fundamentales, un constitucionalista y un magistrado del Tribunal Constitucional tiene mucho de qué preocuparse.
SEMANA: El mundo del derecho no es ajeno a esa preocupación de todas las profesiones de que la inteligencia artificial pueda reemplazarnos. Usted visitó varias universidades. Hoy hay menos jóvenes, además también hay menos interés por el derecho que hace décadas. ¿Usted le ve salida a eso?
J.C.C: Claro que tendremos salida. Hay que ser optimistas. Pero también es cierto que tenemos que ponernos las pilas y tenemos que ser conscientes de que esto no es la era digital, esto es otra cosa. Y efectivamente es muy preocupante, porque tiene unos aspectos que nadie va a dudar que son extraordinarios: avances en salud, avances en educación, avances en tecnología, perfecto.
Pero no nos podemos olvidar —y esto el Renacimiento nos lo dejó muy claro— de que el ser humano, el ciudadano, es el centro. Y, por tanto, tenemos que tener mucho cuidado en no ser sustituidos por la máquina. ¿Qué ocurre? Que la IA, que insisto tiene cosas positivas, tiene otras que son muy inciertas o claramente negativas, o por lo menos que nos deberían provocar mucha preocupación.
SEMANA: ¿Qué nos debería provocar mucha preocupación?
J.C.C: Por ejemplo, estamos hablando de quién controla los datos, el algoritmo; en la opacidad no hay explicabilidad, no hay transparencia, no hay revisión, no hay la capacidad de determinar siempre la responsabilidad. En suma, entiendo que el juego de la inteligencia artificial no se puede abordar como un problema técnico, sino que es un problema de abordarlo como un poder.
Por eso los tribunales constitucionales tenemos mucho que decir sobre esta cuestión, porque habrá que redefinir todo este juego de los derechos fundamentales para que no se vean pisoteados o alterados por el juego de la inteligencia artificial. Porque si la inteligencia artificial va a venir para que tengamos una devaluación en nuestra libertad, nuestros derechos fundamentales y, en suma, nuestra dignidad, deberíamos hacérnoslo mirar.
SEMANA: Es un dilema muy complejo...
J.C.C: Insisto: creo que hay que valorar muy positivamente lo que tiene, rehuir de la tecnofobia y rehuir igualmente de la tecnosolución. Tenemos que buscar las partes positivas y que no mermen la condición del ser humano. Por ejemplo, en materia de justicia está clarísimo que lo que no puede hacer es sustituir al juez. No lo puede sustituir porque lo que aporta el juez es su carácter deliberativo, y esto no lo va a hacer la máquina.
SEMANA: ¿Qué consecuencias puede tener una IA sin control?
J.C.C: Primero, puede tener un sesgo algorítmico, de tal modo que los males de las sociedades actuales se puedan consolidar y consumar con la inteligencia artificial y ya no sea gobernable. Es imprescindible que nunca se sustituya a la persona; por eso es clave que podamos utilizar las capacidades que ofrece la inteligencia artificial, pero por otro lado seamos capaces de frenar. Por eso incluso me he pronunciado en que deberíamos ser cautos en su utilización hasta ir probando todos los elementos, porque hay una cuestión que es muy preocupante: el impacto en los derechos fundamentales. Porque, insisto, al ser una forma de poder —que es para lo que nacen los tribunales constitucionales—, se ven armados porque no se sabe cómo se va a explicar.
SEMANA: ¿Qué se puede hacer?
J.C.C: Es necesario no solo lo que están haciendo algunas empresas de inteligencia artificial —que es crear sus propios, llamémosles, códigos de conducta, donde quizás Anthropic fue la primera que lo hizo, pero lo están haciendo todas—. Pero la verdad es que no existe un marco regulatorio. O sea, es una especie de desideratum, de condiciones, de frontispicio, de deseo, de utopía. Pero yo lo que quiero es un ámbito normativo que establezca todos estos miedos de los que estamos hablando.
En este sentido, la Unión Europea ha aprobado un reglamento en el año 2024 que establece, en función del daño que pueda provocar, más medidas. En ese sentido hay actuaciones tremendamente prohibidas para la inteligencia artificial, como puede ser, por ejemplo, la regulación de caracteres personales, todo el tema relacionado con el mundo sexual, la protección de los menores... Y después hay una degradación con más matices.
SEMANA: ¿Cómo funciona ese marco de la Unión Europea?
J.C.C: Hay dos parámetros de actuación. Por un lado, toda la regulación de los mercados y los productos; y, por otro lado, la protección de los datos. Y después siempre se pretende una tercera línea: la armonización de las legislaciones de los 27 países. En ese sentido, se establece una oficina de control —España ya la tiene desde el año 2022, la Agencia Española de Inteligencia Artificial— para constatar y vigilar que se estén siguiendo las pautas, y después ya en cada ámbito pues se van tomando medidas. Por ejemplo, el Consejo General del Poder Judicial ha dictado también a principios de este año una segunda instrucción de obligado cumplimiento para los jueces en orden a la utilización de las distintas inteligencias artificiales, y una de las primeras cosas que dice es que, a los efectos de resolución de un asunto, no se puede utilizar nunca una inteligencia artificial que no haya sido aportada por la administración prestacional (Ministerio o comunidades autónomas cuando tienen asumidas las competencias en materia de justicia) o el propio Consejo General del Poder Judicial, que se eleva a la máxima categoría de autorización de estos aplicativos.
SEMANA: ¿Qué ocurre después?
J.C.C: Que después se establecen sugerencias a los jueces en orden a que está prohibido que la máquina los sustituya, toda una serie de principios que vienen a consolidarse en eso que hemos hablado: de legalidad, de transparencia, de exigibilidad, de revisión, de ver siempre a la persona humana detrás... Siempre, o sea, que no haya sustitución del hombre por la máquina y, por último, la responsabilidad.
SEMANA: La Unión Europea ha avanzado mucho en esas regulaciones, pero al otro lado están Estados Unidos y China, dos potencias muy grandes con muchos menos controles. ¿Ahí qué se puede hacer?
J.C.C: No hay concierto, todo está disperso y no hay un acuerdo global sobre lo que se debe hacer. Además, estamos en unos momentos de dificultad, tenemos varias guerras abiertas, tenemos tensiones ... Pero quiero aclarar que Europa no se mete en la tecnología usada, solo se mete en su uso.
Y por eso, aunque sea una máquina, un aplicativo o una inteligencia artificial creada en China, en Estados Unidos o donde sea, si se va a aplicar en Europa tiene que aceptar esa normativa establecida en el reglamento, y eso es lo que puede hacer. Evidentemente esos problemas están ahí, pero por lo menos se le intenta poner freno y coto.
SEMANA: Muchos hablan de que la inteligencia artificial terminará teniendo un rol muy grande en las guerras...
J.C.C: Bueno, la inteligencia artificial está en nuestras vidas, nos guste o no nos guste. O sea, cuando alguien tiene un aparato de esos que limpia la casa, eso significa una inteligencia artificial que ha cartografiado tu casa. La gente vive tranquila, pero la casa está cartografiada, por lo cual hay un sitio en algún lado en la nube que tiene todas las dimensiones de tu casa: las horas que está abierta, la hora a la que lo pones (que se supone que estás o no estás)... Y vas jugando con el juego algorítmico y determina tu personalidad. Y este es el gran problema que hay: o sea, la inteligencia artificial está. Entonces, la pregunta no es cómo nos va a afectar, que ya sabemos que nos está afectando. La cuestión es cómo hacemos para que no se afecten los derechos fundamentales que nos hemos dado en las constituciones. Esa es la clave. Y en ese sentido es donde van estas regulaciones a las que he hecho referencia.
SEMANA: ¿Cómo protege la Unión Europea a los niños de los riesgos de la IA?
J.C.C: Está prohibida. Todo el reglamento europeo lo prohíbe, pero no solo eso, sino también, por ejemplo, la utilización de sistemas de inteligencia artificial que determinen el estado de ánimo en el trabajo —que hace poco fue una historia porque intentaba utilizar biométricamente las sensaciones de las personas—. Eso está prohibido, el scoring está prohibido. Pero no nos engañemos. Las legislaciones del mundo entero van a una velocidad muy cortita, llamémosle a paso de tortuga, y la IA va en Fórmula 1 con un cohete, con lo cual es complicado. Entonces, lo que hay que tener muy claro y muy férreo son los valores.
Quisiera preguntarle por el tema de... O sea, un tema muy doloroso que se está viviendo hoy. Quisiera que me diera un contexto de esta situación que ha pasado con el accidente de trenes. España ha vivido pues de manera recurrente o tiene un accidente previo muy cercano. Hoy, ¿cuál es el debate acerca de la responsabilidad?
SEMANA: No quisiera dejar de preguntarle por un tema que ha causado mucho impacto y dolor en España: el accidente de los trenes la semana pasada. ¿Qué debate hay sobre lo que ocurrió?
J.C.C: Me coge aquí esa tragedia... Lo primero, hay que lanzar un mensaje de solidaridad con las víctimas, de pesar por lo ocurrido y, bueno, como siempre creo que tiene que ocurrir, que se investiguen las causas.
No sé si se están visualizando; parece que ha habido las primeras noticias, pero sería prematuro y es mejor no hacerlo. En cualquier caso, ahora mismo lo que toca es atender a esas víctimas, a los familiares, y que ojalá puedan salvar muchas vidas, porque desde luego es una desgracia que efectivamente ha tenido un asunto recurrente hace escasamente un año, menos de un año, y nos llena de luto.
SEMANA: ¿En España a quién le corresponde investigar qué pasó?
J.C.C: Bueno, todas las investigaciones judiciales le corresponden al Poder Judicial, lo que pasa es que se apoyarán en muchos informes que realicen los ingenieros técnicos de todas las empresas que trabajan en esta cuestión viaria. Eso no es problema, eso está bien establecido y lo que cabe esperar es que se esclarezcan las causas y, en el caso de que algunas se puedan evitar, se pongan los remedios, cosa que se está haciendo desde siempre y desde cualquier gobierno. Nadie tiene interés en que ocurran este tipo de desgracias. Ahora mismo creo que lo que hace falta es mandar un mensaje de unidad, de apoyo a esas víctimas.
SEMANA: Hay también mucha controversia en España alrededor del tema migratorio. ¿Cómo se soluciona ese conflicto?
J.C.C: El tema de los migrantes es un tema que no es en absoluto español, es en absoluto del mundo, en donde de zonas menos favorecidas o menos privilegiadas pues se intenta buscar una suerte de vida, buscar otros cauces. ¿Que esto debe hacerse controladamente? Sin duda. ¿Por qué España tiene de vez en cuando el foco?
Bueno, pues porque es frontera con otro continente, y es precisamente un continente deprimido —bueno, una parte deprimido—, con lo cual es lógico. Pero esto pueden comentarlo lo mismo los italianos o ¿qué vamos a hablar de Estados Unidos con la frontera con México? Donde hay una frontera puede haber permeabilidad y puede haber problemas, evidentemente, si son de unas características especiales. Pero bueno, ahí hay una respuesta bastante uniforme de la Unión Europea y volvemos a lo mismo: hay que distinguir lo que es el drama humano y, después, que esa migración debe venir regulada precisamente para facilitar toda la cuestión. Pero desde luego —e invoco las palabras del Papa— creo que la migración lo que no puede ser nunca es un conflicto, porque de lo que estamos hablando es de un drama humano.
SEMANA: En ese estallido social que hemos visto las últimas semanas, con imágenes tan impactantes como las de París, pero replicadas a otras ciudades de Europa en Grecia, Portugal. ¿Qué tanto pesa el tema migrarorio?
J.C.C: No, no creo que sea un problema de la migración. Creo que analizar los problemas de Francia, de Milán en Italia, o con algo de diferencia pero también muy preocupante en Barcelona o Bilbao... Lo que muestra es que está pasando algo.
Hay un sector joven que tiene una serie de problemas y entiende que la resolución de esos problemas no está teniendo cauces adecuados, y en vez de articular lo que tiene que articularse en la democracia —que es la capacidad de que, si no te gusta un gobernante, votar a otro—. La violencia nunca es un resorte para solucionar nada, con lo cual lo veo con una enorme preocupación y una enorme tristeza.
SEMANA: Y frente al tema de vivienda, que es como uno de los motores que ha alimentado el inconformismo en España, ¿cuál es la situación?
J.C.C: Bueno, hay un problema real de la vivienda y es que está cara, no hay viviendas públicas, no se construyen... Hay una necesidad anual de viviendas que no es capaz de cubrirse y es necesario articular —desde mi humilde punto de vista, y no estoy en absoluto sugiriendo nada, pero sí es una reflexión mía— un gran pacto de Estado, porque además competencialmente la materia de vivienda la tienen las comunidades autónomas.
Por tanto, es necesario articular todo un proyecto global para que el Estado por un lado, las comunidades autónomas que también son Estado, y la municipalidad que también es Estado, puedan articular la solución a un grave problema. Y esto genera muchos problemas, porque no es solo el problema de la falta de vivienda. Es que eso determina un modus vivendi, determina que la juventud no pueda emanciparse, que con una vivienda cara te tengas que ir a sitios muy alejados de tu centro de trabajo donde desarrollas tu vida, con lo cual produce fenómenos ya de desarraigo, fenómenos sociales. Y, por tanto, creo que es uno de los grandes temas donde debería haber un gran acuerdo para abordarlo, porque además nadie tiene la solución ni varitas mágicas.
Esto es un ponerse a trabajar en un proyecto a largo plazo y, bueno, hay fuerzas políticas que parece que podrían llegar a estar en ello, pero ahora mismo es cierto que el problema está ahí. No es un problema tampoco exclusivo de España, aunque quizás también tiene unas características especiales y posiblemente esté más agudizado que en otros países de nuestro entorno.
SEMANA: Para finalizar, usted estuvo esta semana en nuestras cortes, universidades, compartiendo con muchos juristas. ¿Qué de nuestro sistema le genera admiración?
J.C.C: He estado en los tres poderes. Soy juez desde hace 40 años, he estado en el Poder Legislativo —he sido portavoz de justicia 3 años o 3 años y medio—, y en los ejecutivos he sido secretario de Estado de Justicia, fui vocal del Consejo General del Poder Judicial y ministro. Pienso que en Colombia hay una gran institucionalidad. Es verdad que tengo buena relación tanto con la Corte Suprema como, quizás más intensa, con la Corte Constitucional. Y efectivamente conozco bien la universidad, las universidades que son muy ricas. Colombia es un país muy preparado universitariamente, lo que preludia un gran futuro para esta nación, y creo que hay una gran preocupación por sacar el país adelante. Como todos, hay problemas de todos los tipos, pero desde luego creo que es un país admirable y encomiable.