Así es como el sistema de anuncios de Facebook discrimina por raza y género

El camino de Facebook en el último año ha sido turbulento y resbaloso. Un nuevo reporte determinó que la orientación de los anuncios de la red social puede discriminar por raza y género, incluso cuando los anunciantes solicitan que sus publicaciones se muestren a una amplia audiencia.

Los autores de la investigación son seis miembros de la Universidad Northeastern de Boston (Estados Unidos), la Universidad del Sur de California y el colectivo de políticas públicas Upturn.

Le puede interesar: Escándalo en Facebook: se filtraron millones de datos a la nube de Amazon

Los hallazgos llegan en un momento fatigoso para Facebook porque hace algunos días el Departamento de Vivienda y Desarrollo Urbano de Estados Unidos (HUD, por sus siglas en inglés), acusó a la compañía de “alentar, habilitar y causar discriminación en la vivienda”, aun cuando la firma decía que estaba tomando medidas para prevenir la discriminación en anuncios de vivienda en su plataforma.

La demanda fue interpuesta porque en la red social los anunciantes pueden excluir categorías enteras de personas que ven anuncios de viviendas. La opción da la posibilidad a los creadores de los anuncios de decidir no mostrarlo a parejas con hijos, a personas no estadounidenses, a no cristianos, a personas con discapacidades o a hispanos, entre una inmensidad de clasificaciones.

Esta segmentación, de acuerdo con el Gobierno de Estados Unidos, viola la Ley de Vivienda Justa de ese país, que prohíbe la discriminación contra ciertos grupos protegidos.

Facebook ha intentado limpiar su nombre restringiendo en Estados Unidos las herramientas que permitían segmentar por edad, género y código postal. Sin embargo, la demanda del Departamento de Vivienda es más amplia, acusando al gigante tecnológico de discriminar a las minorías a través de los algoritmos con el fin de maximizar clics y vistas, lo que deriva directamente en sus ingresos.

Vea también: Zucked, el nuevo libro de los escándalos de privacidad de Facebook

Volviendo al informe que ubica a Facebook como una compañía que promueve la discriminación, los investigadores invirtieron unos US$8.500 en la implementación de docenas de anuncios en la plataforma para determinar si la segmentación estaba desviando ciertos anuncios hacia ciertos grupos.

En el trabajo de campo, observaron a quién llegaron las publicaciones, estableciendo que, por ejemplo, se entregaba un anuncio con la misma imagen a menos personas negras si se afirmaba que se refería a una propiedad en venta, en vez que a una en alquiler.

Igualmente, encontraron una orientación cuestionable basada en el género: los puestos de trabajo para los empleados de los supermercados y los conserjes solían ser entregados a las mujeres, mientras que los anuncios de los leñadores tenían más probabilidades de ser entregados a los hombres.

El problema en el centro de los resultados de la investigación no es que Facebook esté sesgando deliberadamente los resultados de los anuncios a lo largo de las líneas raciales y de género, sino que sus sistemas y algoritmos de segmentación de anuncios podrían hacerlo automáticamente.

La investigación ofrece pruebas convincentes de que la red social está utilizando la "visión artificial", por lo que las computadoras potentes escanean imágenes y reconocen lo que representan.

Esto es algo que ha sido asumido por mucho tiempo pero nunca probado. Los investigadores establecieron el uso de la visión artificial al cambiar la transparencia de las imágenes que usaban en sus anuncios, de modo que fueran visibles para las máquinas, pero no para los humanos. De lo contrario, los anuncios idénticos con diferentes imágenes de familias blancas y negras se enviarían a diferentes grupos de personas.

La publicidad se basa en gran medida en tratar de llegar a grupos particulares de personas. Los vendedores de carros de lujo quieren vender a personas con altos ingresos, por ejemplo, que tienen más probabilidades de ser blancas que negras. Pero la capacidad de los algoritmos para llegar a la audiencia deseada al procesar grandes cantidades de datos personales está causando una creciente consternación.

Le sugerimos: Facebook es un "gánster digital": parlamentarios británicos

Los  sistemas especializados de Facebook son demasiado complejos para ser entendidos a primera vista.  Esto hace que sea más difícil trazar una línea clara entre los anuncios que son claramente discriminatorios.