Un carro autónomo de Uber mató a una transeúnte cuando no la identificó como un obstáculo.

TENDENCIA

La dictadura del algoritmo

La robotización disparó una carrera mundial por la inteligencia artificial, el ingrediente clave en la economía de los próximos años. Pero hay un lado oscuro del que la industria no quiere hablar.

Álvaro Montes
30 de junio de 2018

El mundo recibe cada día más dosis de automatización y robótica. Los partidos del Mundial son vigilados por el VAR, y cada vez que el balón traspasa la línea de meta, el “ojo de águila” hace vibrar el reloj del árbitro y este sabe que hubo gol. Los chatbots se vuelven cada vez más populares y no queda prácticamente un ser humano que atienda en los canales de soporte de los bancos, sino que una tal Sofía o una Carla responden–torpemente, hay que decirlo– las consultas desesperadas de los clientes. Y la cosa se pondrá peor. Recientemente el audio de una llamada telefónica entre un robot de Google y una empleada de una peluquería dio la vuelta al mundo. La voz femenina artificial (que sonaba muy humana, y allí se encuentra el avance más notable) reservó una cita para corte de cabello, y la empleada solo se enteró que había conversado con una máquina días después, por las noticias. Sundar Pichai, el CEO de Google, presentó con orgullo el audio para mostrar los beneficios de su nuevo asistente digital Google Duplex, que hace tareas por el usuario cuando este se encuentra muy ocupado.

Puede leer: Los riesgos de vivir hiperconectados

Los titulares de la prensa anunciaron que Google había aprobado por primera vez en la historia el test de Turing, en el que una máquina logra conversar sin que el usuario se entere de que no habló con un humano. Por décadas los investigadores en inteligencia artificial (IA) han considerado a ese test su santo grial y la medida aceptada de cuán inteligente puede llegar a ser una máquina. Pero en realidad falta bastante. Hasta ahora Siri, Alexa y Google Assistant, lo más avanzado en procesamiento del lenguaje natural, entienden mal cinco de cada diez órdenes de voz, especialmente cuando el usuario tiene prisa, va conduciendo o se ha tomado unos vinos con el almuerzo.

Duplex, una tecnología experimental no disponible para uso público, apenas puede hacer eso, hacer reservas de mesas y turnos por teléfono, porque todavía falta bastante trecho antes de construir robots que puedan sostener conversaciones generales, abiertas y naturales. John Hennesy, presidente de la junta directiva de la casa matriz de Google, admitió que realmente no superaron la prueba de Turing, “pero es un indicio de lo que viene”. Y ya se sabe que las empresas quieren utilizarlo para el mercadeo digital con un solo propósito: vender más. Estas voces costarán menos que los empleados de los call centers, jamás se cansarán ni pedirán vacaciones. Pero, sobre todo, aprenderán y mejorarán su desempeño con cada llamada, gracias a los nuevos enfoques de machine learning (aprendizaje de máquina) y redes neuronales (una especie de imitación del modelo de funcionamiento del cerebro humano).

Le recomendamos: Inteligencia artificial: Bendición o apocalipsis

Pero hay más titulares vendedores que productos maduros para el consumo masivo. Los carros autónomos, por ejemplo, que ya ruedan experimentalmente en algunas ciudades pequeñas y tranquilas, necesitan todavía varios hervores antes de estar listos para el mercado. En marzo un vehículo de Uber tomó una decisión atroz: atropellar y matar a una dama, no obstante que sus sensores la detectaron. Ese caso resucitó la vieja discusión acerca de la ética de los robots, e impulsó a MIT a seguir su línea de investigación en “moral de máquinas”. Hace poco, un dispositivo Alexa de Amazon, de esos que escuchan todo lo que se habla en casa, grabó una conversación íntima de una pareja en Portland, y la envió a personas en la lista de contactos del esposo. Al parecer, confundió ciertas palabras de la conversación con la orden “enviar mensaje” y violó la privacidad de clientes que pagaron 179 dólares por este dispositivo que gana popularidad en el mundo.

Hace poco, un dispositivo de Amazon confundió una orden, grabó una conversación privada y la envió por ‘e-mail‘ a todos los contactos de una pareja.

El año pasado, varios personajes dieron la alarma sobre un futuro robotizado, pero pocos los tomaron en serio. Stephen Hawking dijo que temía más a la inteligencia artificial que a los agujeros negros; Bill Gates propuso un impuesto a los robots porque generan desempleo; y Tim Berners Lee, el creador de la Web, preguntó si un robot que administra portafolios de inversiones – de los que están en auge en el sector financiero– incluye preocupaciones éticas o ambientales al momento de decidir en dónde pone el dinero, bajo un algoritmo enfocado en obtener la máxima ganancia.

Vivimos bajo el dominio de los algoritmos, que son las secuencias de pasos con los que las máquinas toman decisiones. Un algoritmo de Netflix nos dice qué película queremos ver; uno de Twitter organiza el timeline de cada usuario; uno de Google decide qué resultado aparece primero en las búsquedas. Cuando una cámara difumina el fondo en una selfi o cuando Waze sugiere cierto restaurante en la ruta, un algoritmo acaba de hacer su trabajo. Son ‘recetas’ guardadas por estas empresas con el mayor sigilo, y las grandes tecnológicas apuestan todo a un mundo gobernado por algoritmos. Hay plataformas de IA que ayudan a los médicos a diagnosticar el cáncer, como hace Watson de IBM; pero ¿necesitamos robots que destapen botellas de cerveza por nosotros u ollas que avisen cuando la sopa está lista?

Le sugerimos: Policía en China usa gafas de reconocimiento facial para identificar sospechosos

Una carrera por la IA ha empezado en la economía mundial: compiten desde las grandes tecnológicas hasta los países más poderosos, con China y Estados Unidos a la cabeza de la disputa por el control de la llamada economía algorítmica. Y aquí se llega al meollo del afán de Donald Trump por declarar la guerra comercial contra China. El gigante asiático es el dueño del 22 por ciento de las patentes de la industria de inteligencia artificial, y hasta diciembre último, más de 2.000 compañías chinas trabajaban en desarrollos de IA, según reportó oficialmente el Ministerio de Industria y Tecnología Informática de ese país.

La inteligencia artificial es prioridad en el Plan Quinquenal de Informatización, una de las banderas del presidente Xi Jinping, y mientras las tecnológicas norteamericanas avanzan en procesamiento del lenguaje natural, con sus Siris y Alexas, empresas chinas como Baidu o SenseTime se convierten en las estrellas de moda con avances que tienen sorprendida a la industria mundial. SenseTime, por ejemplo, tiene fama por un software que controla los 20 millones de cámaras con las que se vigila a los ciudadanos y es la plataforma de videovigilancia más apreciada en el mundo. Baidu (el Google chino), Alibaba (el Amazon chino) y Tencent invierten cantidades enormes en desarrollos de inteligencia artificial y lideran el negocio de plataformas para los vehículos autónomos, las ciudades inteligentes, internet de las cosas y los servicios de salud automatizados, entre otros renglones que serán claves en la economía del futuro cercano.

En la economía algorítmica los grandes negocios basan su éxito en explotar los datos de sus clientes. De allí el auge de big data e inteligencia artificial, porque ahora hay máquinas capaces de procesar descomunales cantidades de información para identificar patrones de consumo y definir estrategias de mercadeo asombrosamente efectivas. Los algoritmos Page Rank permitieron a Google dominar el mercado publicitario global. Así que quien controle los datos puede controlar los mercados. Con la ley de protección de datos (GDPR), el pasado 25 de mayo, Europa se la jugó por tratar de ejercer algún control sobre el negocio de los datos de las empresas más poderosas del momento, que son norteamericanas y asiáticas.

Puede leer: ¿Podrían los robots volverse más humanos?

Es fácil verificar que los algoritmos están todavía en pañales en materia ética: el de Facebook censuró el cuadro La libertad guiando al pueblo porque encontró un par de pezones que interpretó como pornografía. Sin embargo, la industria tiene claro que la IA marca el camino y confía en que en algún momento podrá corregir todas estas deficiencias. Las empresas ya se benefician de los avances en IA, pero los consumidores todavía no. n