TENDENCIA

Más tecnología, menos cerebro

La automatización hace la vida más fácil, pero un nuevo libro señala que esto tiene un precio muy alto: está volviendo estúpidas a las personas.

11 de octubre de 2014

La semana pasada dos médicos noruegos recibieron el Premio Nobel de Medicina por haber descubierto, en 2005, un grupo de células del cerebro que ayudan a orientar a los animales, incluido el hombre, tal y como lo haría un sistema de posicionamiento global o GPS. Resulta paradójico que, en esa misma semana, el escritor Nicholas Carr haya presentado su nuevo libro, The Glass Cage, en el que señala que ese sistema natural de navegación estaría en peligro de extinguirse gracias a la automatización, es decir, al uso de computadores, programas y aplicaciones en la vida diaria.

Aunque nadie duda de que las máquinas hacen la vida más fácil y productiva, Carr argumenta que esas mejoras vienen con un precio: el deterioro del desempeño de esas funciones humanas. Lo asombroso es que los computadores ya no solo hacen las actividades físicas repetitivas y monótonas sino las que definen al ser humano: la capacidad de analizar, de conocer y, sobre todo, de crear. “La automatización altera la forma en que actuamos, aprendemos y lo que conocemos”, dice Carr, también autor del libro The Shallows, finalista del premio Pullitzer y best-seller en 2010.

Aunque la relación ambigua de fascinación y odio ante la tecnología es muy antigua, el escritor señala que este momento es más preocupante porque la automatización hoy es más generalizada e invisible. Carr ofrece casos como el de los inuits, indígenas del círculo polar ártico que hasta hace muy poco se orientaban por la dirección de los vientos, las estrellas, el comportamiento de los animales y las corrientes de agua. Eso cambió cuando los jóvenes empezaron a adquirir motos de nieve y GPS para abrirse camino en ese territorio plano y uniforme. Y en la medida en que esos aparatos comenzaron a proliferar, también lo hicieron los reportes de extravíos, accidentes y hasta muertes de miembros de dicha comunidad. La razón es simple: las nuevas generaciones, que ya tienen el conocimiento para navegar con su GPS interno, quedan a la deriva si el aparato que usan se congela o se queda sin batería. Esto sucede porque lo que parece un instinto es, según Carr, “una habilidad ganada a pulso que requiere del mismo esfuerzo que hoy el propio ‘software’ nos está ahorrando”.

Algo similar sucede con volar un avión, uno de los oficios más automatizados de la sociedad moderna. Gracias a programas sofisticados, en un vuelo normal los pilotos solo toman el control durante “un gran total de tres minutos”, señala Carr. Dedican el resto del tiempo a ingresar datos y supervisar controles desde su ‘cabina de cristal’ donde se limitan a ser simples “operarios de sistemas”. Y aunque estos programas han disminuido la cantidad de accidentes aéreos, están originando un nuevo tipo de catástrofes como la de Air France en 2009. Sometidos a una falla de los sensores de velocidad, los pilotos no supieron entender la situación ni mucho menos corregirla y el avión se clavó en el Atlántico. Según los expertos consultados por Carr, la automatización de todo el proceso de vuelo ha erosionado la habilidad de los pilotos y opacado sus reflejos y cuando algo inusual sucede, en lugar de arreglar el problema cometen errores fatales. “Se nos está olvidando volar”, dijo Rory Kay un capitán veterano de United en una entrevista. Algo similar pasará con las habilidades para conducir cuando los carros automatizados de Google invadan las calles.

Los médicos también sienten las consecuencias negativas de la automatización ahora que usan programas sofisticados para leer información del paciente y hacer diagnósticos. Algunos estudios muestran que quienes usan algoritmos para encontrar masas sospechosas en mamografías, como los radiólogos, han perdido la capacidad de observar otras anormalidades por confiar en lo que el sistema les muestra. Los arquitectos no se escapan a este fenómeno. Ellos hoy cuentan con programas sofisticados que solo necesitan ingresar ciertas medidas como, por ejemplo, la proporción entre el tamaño de una ventana y la dimensión del espacio, para que la máquina haga un diseño. Aunque se trata de un salto tecnológico importante, Witold Rybczinski, arquitecto y crítico entrevistado por Carr, dice que la productividad del computador tiene un precio en esta profesión: “Le ha dado al individuo menos tiempo para pensar”.

Esto sucede porque cuando se trabaja con computadores los seres humanos entran en dos fallas congnitivas. La primera es la complacencia, que ocurre cuando los sistemas le hacen creer que con ellos la vida es más segura porque son infalibles, lo cual no es cierto, como se ha demostrado en muchas ocasiones. La otra es el sesgo, pues la confianza en el software es tan fuerte que la gente ignora otras fuentes de información valiosas, como la que trasmiten los oídos y ojos. “Ambas fallas son síntomas de una mente que no está siendo retada”, dice Carr.

Lo inquietante es que la automatización en la actualidad no solo se circunscribe a ciertas profesiones sino a casi todas las actividades de la vida diaria asistidas hoy por programas y aplicaciones del teléfono celular, una extensión del cuerpo tal y como lo fue el martillo en el pasado. Aplicaciones aparentemente inocentes como Autocorrect estarían afectando la memoria. Los psicólogos han encontrado que esta se forma por el simple hecho de imaginar una palabra en la mente, pero cuando el computador corrige de entrada un error de ortografía o da una serie de opciones de palabras, el cerebro siente que ya no es necesario aportar la imagen de la palabra correcta. “Nos volvemos peores editores cuando sabemos que un corrector digital está encendido”.

Y esto sin tener en cuenta que la automatización apenas comienza a desarrollarse. La promesa de los expertos en este campo es que en el futuro se podrán programar actividades complicadas como el reconocimiento de patrones, percepción sensorial y conocimiento conceptual, como lo que plantea Google con su carro sin chofer. En este los computadores tendrán que hacer el trabajo del cerebro humano para dar desde una curva normal hasta un timonazo imprevisto.

Muchos ven la automatización como un beneficio y consideran exagerada la angustia de Carr. Incluso piensan que está haciendo a la gente más inteligente, como apunta Josh Dzieza, editor de The Verge, al señalar que cada vez que sale una herramienta nueva, automatizada o no, “se abren nuevas posibilidades y se cierran otras, unas habilidades se acaban y otras florecen”. Pero, como lo refleja una entrevista a Amit Singhal, ejecutivo de Google, en el periódico londinense The Observer, lo opuesto es más acertado. Cuando el periodista le preguntó si en la medida en que el software de este buscador se ha ido perfeccionado las preguntas de los usuarios también se habían vuelto más precisas, él respondió: “Todo lo contrario. Mientras más precisa es la máquina, más perezosas son las preguntas”.

La razón de lo anterior es que las aplicaciones de hoy no promueven el aprendizaje ni el compromiso con el conocimiento. Para Carr, llegar a ser expertos requiere superar la ineficiencia, lentitud e improductividad, todo lo contrario a lo que promete la automatización. De ahí que en un futuro los computadores sacarán de la ecuación al ser humano y este se volverá un operario pasivo que vigilará monitores. La paradoja es que el individuo es muy malo para esa actividad porque no puede sostener la atención continua por más de una hora.

Carr no se opone a la automatización. Más bien plantea la necesidad de preguntarse qué tipo de funciones deberían quedar en manos de las máquinas, cómo se va a pagar el precio de la automatización y otras cuestiones más filosóficas: “¿El trabajo define al hombre?”, “¿Es nuestra esencia el conocimiento?” Como dice el autor, si esas preguntas no se hacen ahora se corre el riesgo de que quien las responda sea Google.