filbo 2022

El matemático de Oxford Marcus du Sautoy sobre Inteligencia artificial y artes: “Entender estos algoritmos nos da el control”

Por: Alejandro Pérez Echeverry

El talentoso divulgador británico presentará en la FILBo ‘Programados para crear. Cómo está aprendiendo a escribir, pintar y pensar la inteligencia artificial’, un libro que hilvana de manera fascinante los lados más esperanzadores de la fusión de capacidades entre hombre y máquina sin omitir sombras o sesgos. SEMANA habló con él antes de su visita al país.


La imagen apocalíptica de la inteligencia artificial (IA) retratada en una película como Terminator 2 perdura, ese es el poder del cine, pero en 2022 es evidente que, sin necesidad de una guerra contra las máquinas, la IA ya hace presencia existencial. Si no lo cree así, piense en su Spotify, su Facebook, su Google, su teléfono, su e-mail, y posiblemente, dentro de un par de décadas, su auto, su nevera y su casa, como solo algunas de las aplicaciones prácticas que usted conoce; todas involucran algoritmos que aprenden de sus interacciones (y las de millones y millones más) y se ajustan a diferentes fines, a sus gustos, a sus impulsos, a sus acciones (aunque todavía no pueden reconocer cuando es su hija quien escoge las canciones, y hay que ayudarle).

Ahora piense en que las aplicaciones que usted desconoce son muchas más. Se trata de un tema vasto, con peligros amplificados por Hollywood (y la naturaleza humana), pero lleno de aspectos asombrosos que prueban que, antes que eliminarse unos a otros, las inteligencias humanas y artificiales alcanzan una colaboración poderosa si se les permite. Y emociona comprobarlo al sumergirse en los campos en los que estas tecnologías han germinado (partiendo de juegos como el ajedrez y el go para lograr avances impresionantes) y al explorar también varios de los que está experimentando actualmente, tan transgresores y agitadores de debate como los de la creación artística y la discriminación de valor estético.

Esa idea está en la base de Programados para crear. Cómo está aprendiendo a escribir, pintar y pensar la inteligencia artificial (Acantilado), un excepcional libro que Marcus du Sautoy, un matemático estrella de la Universidad de Oxford, dotado de una especial sensibilidad artística y talento excepcional para aterrizar historias complejas al contarlas, publicó en inglés en 2019 y que llega a Colombia en el marco de la Feria Internacional del Libro de Bogotá. En charla con SEMANA, desde su estudio en el Reino Unido, donde se ven muchísimos libros y una bella guitarra eléctrica, el autor confesó su emoción y agradecimiento por poder asistir. Esto dijo.

SEMANA: Publicó el libro hace tres años, ¿hubiera querido incluir algún nuevo avance?

MARCUS DU SAUTOY: El tema se mueve a gran velocidad, ese era uno de los peligros de escribir un libro así, pero me sorprendió lo poco que ha sucedido. Sí me hubiera gustado incluir en el libro un hecho que tiene que ver con las matemáticas. En el libro me pregunto si la IA podía probarse en matemáticas, y era muy escéptico, porque si bien la IA puede hacer la computación maravillosamente, no la creía capaz de aplicar una cualidad creativa e imaginativa que es vital para los matemáticos. Pero en diciembre de 2021, se informó que DeepMind (un equipo de trabajo que presenta en el libro por muchos logros) ayudó a apoyar una de mis grandes teorías en el libro, según la cual este es un tema de colaboración, no de competencia.

La IA es una herramienta, un compañero que puede hacer cosas que nosotros los humanos no somos tan buenos en hacer; y nosotros podemos hacer cosas en las que ella no es tan buena. Entonces, una IA logró establecer nuevas conexiones entre dos escenarios distintos del mundo matemático, y sugirió un vistazo: “Creo que aquí hay algo, veo esta especie de patrón emerger”. Lo interesante es que no fue capaz de probar que el patrón siempre estaría, pero sí analizó muchísima data y dijo “Aquí hay algo”. Los humanos tomaron esa sugerencia y observación, que jamás hubieran imaginado conectar, y probaron algo.

SEMANA: ¿Por qué escoge un matemático ilustre el camino de la divulgación? ¿Lo sorprendió algo de ese camino?

M.S.: En parte, se trata de retribuir algo a toda aquella gente que me emocionó de niño y me hizo ver lo maravilloso que era este tema, que se piensa aburrido, seco, técnico. Además, si tienes una idea y te la guardas, no crece, no se vuelve ese algo hermoso, se queda chiquita. Para mí, es un rol importante del ser científico vivir esa combinación entre descubrimiento y comunicación; y esa comunicación debe hacer este descubrimiento algo respirable, vivible, que interactúa con el mundo y estimule nuevos descubrimientos. Mientras más compartes estas historias, estas ideas respiran más y dan vida a nuevas ideas.

"Si tienes una idea y te la guardas, no crece, no se vuelve ese algo hermoso, se queda chiquita. Para mí, es un rol importante del ser científico vivir esa combinación entre descubrimiento y comunicación"

Sobre las sorpresas, una queda algo ilustrada en este libro sobre IA. Cuando era joven me quedaba difícil escoger un camino, me gustaban la música, el teatro, las ciencias, las matemáticas. Y escogí las matemáticas, pero lo que he descubierto es que las matemáticas son el pegamento que une todas estas cosas. La sorpresa para mí ha sido trabajar con gente de las artes creativas, y coincidir en muchos intereses, en patrones, en estructuras, en historias. Me di cuenta de que muchos miramos a detalles comunes, en general provenientes de la naturaleza, pero producimos lenguajes distintos. El mío es el matemático, pero el musical puede ser el correcto para expresar ciertas cosas, o los visuales, o la narración. Y todos ofrecen miradas nuevas y diferentes para explorar ideas.

"Cuando era joven me quedaba difícil escoger un camino, me gustaban la música, el teatro, las ciencias, las matemáticas. Y escogí las matemáticas, pero lo que he descubierto es que las matemáticas son el pegamento que une todas estas cosas."

SEMANA: Con fluidez usted hilvana historias, personajes y una que otra explicación matemática. ¿Pulió su técnica con el tiempo?, ¿es específica a este libro?

M.S.: Soy matemático, no escritor natural, así que tuve que aprender. Afortunadamente, el editor de mi primer libro era historiador y me ayudó muchísimo a escribir una historia que resonara con alguien que, como muchos allá afuera, no tienen trasfondo matemático. Me pedía usar la historia de las personas, de las épocas, y ver cómo de eso emergían las matemáticas.

En ese primer libro aprendí del poder de la historia y de las historias como ventana a algo quizás más complejo, como los números. Sí trato de escribir hilvanando estas dos y no me alejo de retar a la audiencia a ir un poco más lejos. La gente me lo dice, y a veces quizá pierdo algunos lectores por eso, pero la mayoría aprecia el respeto que les doy: “Voy a intentar explicarles esto, y si no funciona, no se preocupen, porque yo los recojo”. Y entran en ese ritmo de mis libros. Yo te voy a mostrar un poco de eso que pasa debajo del mantel, y si no lo entiendes todo, no importa.

"Voy a intentar explicarles esto, y si no funciona, no se preocupen, porque yo los recojo"

Es decir, cuando leemos Shakespeare (no que me compare con él) no lo entendemos, no de primera. Y hay cosas en las que vale la pena pasar el tiempo para entenderlas, las más difíciles, las más exigentes, las que te recompensan. Se trata de transmitir también la emoción y las dinámicas de hacer matemáticas. Estas no son fáciles, no son obvias, pero cuando llegas a algo hay una inyección de adrenalina que viene de “ver” esa novedad.

SEMANA: Los algoritmos son una parte esencial de su tema y de la vida de la gente del siglo XXI, ¿qué explica la importancia de conocerlos?

M.S.: Por un lado, muchísimo de nuestra vida está controlado por algoritmos, cosas que conocemos y cosas que no. Mi sensación es que mientras más se comprende lo que está sucediendo en este campo, debajo del mantel, más control se tiene. Se dice tradicionalmente que “o entiendes el código, o el código te entiende a ti y te empuja”.

"Se dice tradicionalmente que o entiendes el código, o el código te entiende a ti y te empuja."

Los algoritmos ponen nerviosa a mucha gente por esa idea de que los controlan mucho, pero la evidencia apunta a que mientras más se interactúa con ellos, más aprenden. Esto tiene lados negativos, sin duda. Entre los positivos, en el caso de estos algoritmos de recomendaciones (en televisión o música), se descubren cosas inesperadas que muy probablemente jamás hubieras descubierto por tu cuenta en las librerías o discotiendas.

Uno de mis temores originales era que a todos nos iban a recomendar los mismos diez libros, sugerir las mismas diez canciones, que estos algoritmos llevarían a una convergencia al común denominador más bajo. Pero ese no ha sido el caso. Estos algoritmos son muy sensibles a cambios sensibles, en matemáticas los denominaríamos “caóticos”, algo así como el clima, sensibles a hechos que pueden llevarlos a otra dirección. Así que podemos tener gustos similares, pero, en nuestras diferencias, los algoritmos llegarán a áreas muy distintas.

SEMANA: ¿Es posible que una creación computarizada emocione como una pintura de Rembrandt?

M.S.: Cada artista comienza por entrenar el arte del pasado, y uno de los temores asociados a los algoritmos, en lo que tiene que ver con un Rembrandt, con Bach, con Coltrane, es “¿No va a arrojar más de lo mismo?, ¿no será más que un pastiche que se vea ‘rembrandesco’ y nada más?”, y estas son dudas justas. Los algoritmos musicales se entrenan con Bach y muestran que puede ejecutar una pieza “à la Bach”.

Pero lo que me intriga, más allá de eso, es si son capaces de ir a nuevos lugares, de sorprendernos. ¿Pueden cambiar la historia? Así como Picasso se entrenó en ese arte del pasado y rompió el molde, vemos algoritmos (GAN, Generative Adversarial Networks) casi programados para romper el molde. Entienden el estilo del pasado, entienden corrientes distintas en las artes visuales (se convierten en casi historiadores del arte, si les muestras ‘x’ cuadro detectan que es puntillista o cubista). Pero luego, el algoritmo está programado para armar algo que no encaje en esos estilos. Y entonces busca por fuera de los parámetros.

"Hay algoritmos que está reflejando la creatividad en el cerebro humano, con una combinación de la efervescente sensación de “Vamos a tratar esto o aquello” y el efecto del discriminador, el que te recuerda que es importante descartar cosas."

En el pasado, muchos algoritmos artísticos te sacaban 2.000 pinturas, sin capacidad de discernir lo que valía la pena. Por eso necesita de lo que llamamos un algoritmo discriminador, el que dice: “No, eso es demasiado. No, eso es basura. Eso no les va a gustar” o, por el contrario, “ese camino lucía interesante, volvamos”. Y ese tipo de algoritmo está reflejando la creatividad en el cerebro humano. Esta es una combinación de la efervescente sensación de “Vamos a tratar esto o aquello” y el efecto del discriminador, el que te recuerda que es importante descartar cosas.

SEMANA: Su libro está lleno de luces, pero es un mundo en guerra en el que todo lo que emociona en este campo también da algo de temor. ¿Cómo percibe el otro lado?

M.S.: Es cierto, y debemos estar muy pendientes del rol que los algoritmos van a desempeñar en manipularnos, por ejemplo, políticamente. Sabemos que elecciones han sido influenciadas por algoritmos que captan palabras claves buscadas y desde ahí te bombardean. Y, en tiempos de guerra, mi mayor preocupación es la IA en el combate. Como se tiene un veto sobre las armas químicas, se debería hacer algo al respecto en este campo, implementar algo que no permita el uso de armamento de IA sin un ser humano capaz de detener una decisión que se esté tomando. Porque incluso, en un nivel mucho menor, hemos visto algoritmos que aprenden mal, con sesgos integrados. Unos que para aplicaciones de trabajo rechazan a todas las mujeres porque lo que entendían como humano era hombre. Se debe tener mucho cuidado con los algoritmos y sus consecuencias inesperadas.

"Como se tiene un veto sobre las armas químicas, se debería hacer algo al respecto en este campo, implementar algo que no permita el uso de armamento de IA sin un ser humano capaz de detener una decisión que se esté tomando"

Eso, por un lado, es justo mencionarlo. Por otro lado, hay mucha narrativa distópica sobre la IA. Hollywood nos lanza escenarios de la IA arrasando con la humanidad. La mayoría de las narrativas siguen esa tendencia sobre su poder y sobre el miedo que debe producir. Y si algo, Elon Musk y Stephen Hawking, entre otros, han sumado madera a esa fogata. Pero por eso quería hacer de este un libro positivo. Sentía que había demasiadas historias sobre los peligros de la IA. Hablo de esto hacia el final del libro, cuando menciono la literatura. Una IA entrenada en las historias que contamos resulta ser mucho más empática con la humanidad porque entiende nuestro mundo emocional y por eso se sintoniza más con él.

El ideal que quisiéramos es el del una IA empática, de nuestro lado, que entiende. El miedo actual es que se crea una IA encargada de proyectos limitados y no entiende el gran trasfondo, y que por eso puede cometer errores.

SEMANA: ¿Por qué escribir este libro?

M.S.: Porque entender estos algoritmos nos va a dar el control sobre hacia dónde ir con esta nueva tecnología. No deberíamos tomarla como si fuera una caja negra y confiar ciegamente en ella.