Colombia enfrenta al desafío de regular la IA. Debe hacerlo con inteligencia y no con miedo

La inteligencia artificial (IA) ya no es una promesa del futuro: forma parte de nuestra realidad cotidiana. Su influencia va mucho más allá de mejorar procesos; está transformando la manera en que entendemos los derechos, las relaciones jurídicas y el poder mismo. Por eso, Colombia no puede quedarse quieta ni mirar hacia otro lado.

Existe un desafío urgente y complejo: construir una regulación que proteja los derechos fundamentales, sin frenar la innovación ni cerrar las puertas al crecimiento económico. Este no es solo un debate técnico. Es, sobre todo, una conversación política, ética y jurídica que requiere una respuesta normativa seria, valiente y a la altura del momento que se vive.

Ante la anterior premisa, Hernando Padilla, director socio de Philippi Prietocarrizosa Ferrero DU & Uría (PPU) Colombia, afirma: “Actualmente, estamos en un momento crítico para la regulación de la IA. El avance de la IA generativa y de otras técnicas como machine learning y deep learning presenta retos importantes para la sociedad y los derechos individuales de las personas. Es indudable que debe buscarse el balance entre mantener protegido al ser humano y el desarrollo de nuevas tecnologías”.

Así lo corrobora José Miguel de la Calle, socio de Garrigues, al destacar que “el marco regulatorio de la inteligencia artificial en Colombia debe buscar un equilibrio entre la protección de derechos fundamentales y el fomento a la innovación. De hecho, estos objetivos son inseparables y complementarios”. Un ejemplo ilustrativo es la sentencia de la Corte Suprema de Justicia en 2023, en el caso de Uber, donde se reconoció que el acceso a los avances en tecnologías de la información y la comunicación constituye una manifestación del derecho humano al disfrute del progreso científico. Proteger este acceso es fundamental, sin comprometer derechos como la privacidad o la libertad de expresión.

Este equilibrio es aún más importante para países como Colombia, que no lideran el desarrollo tecnológico, sino que participan como economías emergentes. Una regulación excesivamente restrictiva podría desincentivar la innovación y limitar las oportunidades de crecimiento del sector. Para evitarlo, es esencial que cualquier marco normativo se articule con el régimen de protección de datos personales –que en sí mismo es un derecho fundamental– y que su diseño se construya a partir de un proceso deliberativo amplio e inclusivo que involucre a autoridades, industria, academia y sociedad civil.

Una regulación que pretenda “contener” la IA será rápidamente desbordada. Pero una ausencia normativa genera riesgos inaceptables: decisiones automatizadas sin transparencia, sesgos algorítmicos con efectos discriminatorios, vigilancia masiva, supresión del consentimiento informado o afectación al debido proceso.

Juan Sebastián Gómez, asociado de PPU, cree que el eje fundamental de la regulación de la IA es encontrar ese justo equilibrio entre ambos objetivos. Ahora, ¿cómo lograrlo? El experto expone tres ideas:

• Una regulación basada en riesgos, como la aprobada en la Unión Europea, que exija mayores requisitos para los sistemas de alto riesgo, mientras que para los de riesgo bajo o nulo apenas se establezcan algunas obligaciones menores.
• Procurar por una gobernanza ética que involucre a todos los actores interesados (Estado, empresas, expertos técnicos, académicos y usuarios) y que busque la alfabetización digital para que las personas comprendan cómo funciona la IA y entiendan los daños que puedan causar.
• Y la tercera, como la IA es global, las soluciones deben ser coordinadas a nivel internacional. Debe haber apoyo de organismos supranacionales y multilaterales para evitar que haya fragmentación tecnológica y legal.

El camino no está en prohibir ni en dejar hacer sin control, dice. Lo que Colombia necesita es una regulación que habilite, que acompañe el desarrollo tecnológico sin perder de vista los principios que deben guiarnos: legalidad, proporcionalidad, responsabilidad algorítmica, no discriminación y supervisión humana. Además, esa regulación debe reconocer que no todos los usos de la inteligencia artificial implican el mismo nivel de riesgo.

El enfoque europeo del “riesgo escalonado” puede ser una fuente de inspiración, pero no debe adoptarse de forma automática. Colombia tiene sus propias realidades, desafíos y oportunidades. Por eso, cualquier modelo debe ser adaptado con criterio, sensibilidad y visión local.

Sectores a priorizar

Padilla, de PPU, argumenta que en la exposición de motivos del más reciente proyecto de ley para regular la IA en Colombia, presentado por el Gobierno nacional a finales de julio de este año, se destacaron cuatro sectores en los cuales la IA puede tener un gran impacto: salud, educación, agricultura y seguridad y justicia.

De estos debe resaltarse la salud y la justicia. La IA en salud puede mejorar diagnósticos, hacer más eficientes los tratamientos y la gestión hospitalaria. Sin embargo, también puede implicar riesgos elevados por el uso de datos sensibles de los pacientes y decisiones automatizadas que afecten la vida e integridad de las personas. Por tanto, una regulación diferenciada puede incentivar el uso de la IA en el sector salud mientras se garantiza la transparencia y la privacidad de las personas.

Por su parte, en el sector judicial, la IA es clave para la gestión inteligente de la administración de justicia y la reducción de tiempos en la toma de decisiones de los jueces. Igualmente, la IA en la justicia puede ayudar a reducir el error humano en la toma de decisiones, y de esta manera tener una justicia más eficaz y pronta. Sin embargo, su uso también aumenta los riesgos al reducir al factor humano de la administración de justicia. Pero también es importante resaltar que el uso de la IA para la toma de decisiones judiciales supone grandes riesgos en temas de discriminación, sesgos e igualdad.

Para De la Calle, de Garrigues, el sector para priorizar es el judicial. “El sector justicia debe ser una de las prioridades en la implementación de una regulación diferenciada de la inteligencia artificial en Colombia. El uso de la IA en este ámbito puede mejorar significativamente la eficiencia en la gestión de casos y la asignación de recursos, siempre que se garantice transparencia, trazabilidad y respeto al debido proceso. Dada la congestión judicial y la necesidad de fortalecer el acceso a la justicia, una regulación clara y específica en este campo sería altamente beneficiosa”, puntualiza.