Uber se enfrenta a serias acciones legales por la presunta discriminación racial indirecta contra un conductor que afirma que fue despedido después de que el software de reconocimiento facial utilizado por la compañía no lo reconociese y, por lo tanto, no pudiese desempeñar su trabajo.
Problemas en la identificación de rostros
En un recurso legal ante un tribunal laboral presentado hace tan solo unos días, el conductor de la famosa empresa de vehículos VTC, que pidió no ser identificado, alegó que la subsidiaria británica de Uber desactivó su cuenta después de no reconocerlo en dos fotografías separadas, dejándolo sin poder trabajar.
El Sindicato de Trabajadores Independientes de Gran Bretaña (IWGB), que presentó el recurso en nombre del conductor, aseguró que había podido verificar al menos 35 despidos similares entre sus miembros desde el inicio de la pandemia de coronavirus, hace casi dos años, y advirtió de que "cientos, sino miles de conductores más", podrían verse afectados.
Todo está en manos del algoritmo
El sindicato ya lleva varios meses pidiéndole a Uber que deje de usar su "algoritmo racista" y restablezca a los conductores despedidos injustamente como resultado de los supuestos errores del software. En un comunicado, Uber afirmó que su software de reconocimiento facial fue "diseñado para proteger la seguridad de todos los que usan la aplicación Uber al ayudar a garantizar que el conductor correcto esté detrás del volante".
Además, la compañía sentenció que el sistema incluye una revisión humana sólida para asegurarse de que este algoritmo no tome decisiones precipitadas y erróneas y deje a conductores sin identificar, como ha sido el caso del anunciante. En el recurso del tribunal laboral el conductor, que trabajó para Uber desde 2016 hasta que fue despedido el pasado mes de abril, alega que nunca se le ofreció la opción de una verificación manual de las fotos que acreditaban que era él, sino que todo se dejó en manos del algoritmo de Uber.
Uber ha utilizado la verificación de identidad en tiempo real en el Reino Unido desde abril de 2020, después de que el regulador de transporte de Londres, TfL, expresara su preocupación por la seguridad de los pasajeros de la compañía. El software creado por Microsoft funciona comparando un selfie tomado por el conductor cuando comienza a trabajar con una foto que la compañía tiene en el archivo. Dice que todos los conductores pueden optar por verificaciones automatizadas a través de un algoritmo o verificaciones manuales realizadas por humanos.
En su página web, Uber afirma que en caso de que la verificación de identidad en tiempo real no pueda verificar la foto de un conductor, ambas imágenes se enviarán a un "equipo de especialistas" que verificará manualmente la identidad de dicho conductor.
¿Son racistas los algoritmos?
El reconocimiento facial es una tecnología cada vez más utilizada por las empresas para una serie de aplicaciones, desde desbloquear smartphones hasta la identificación de conductores, como en el caso de Uber. Sin embargo, se ha demostrado que estos sistemas tienen dificultades para identificar con precisión a las personas de piel oscura, lo que ha llevado a numerosas críticas y acusaciones de racismo.
En 2018, una investigación llevada a cabo por Joy Buolamwini, del MIT Media Lab, y Timnit Gebru, de Microsoft Research, arrojó luz sobre este problema. En el estudio, se descubrió que los sistemas de reconocimiento facial de tres grandes empresas - IBM, Microsoft y Megvii - mostraban un sesgo significativo, siendo menos precisos al identificar a las mujeres de piel oscura en comparación con los hombres de piel clara. El estudio encontró que el sistema tenía tasas de error de hasta el 35% al identificar a mujeres de piel oscura, mientras que la tasa de error para los hombres de piel clara era inferior al 1%.
Estos hallazgos ilustran la gravedad del sesgo racial en el reconocimiento facial y sus posibles repercusiones. En el caso de Uber, por ejemplo, esto podría implicar que un número desproporcionado de conductores de raza negra se vea afectado por errores del sistema, resultando en despidos o la incapacidad de trabajar.
¿Por qué se produce el sesgo racial en los algoritmos de reconocimiento facial?
Uno de los factores que contribuyen al sesgo racial en el reconocimiento facial es el conjunto de datos utilizado para entrenar los algoritmos. Si el conjunto de datos es predominantemente blanco, el sistema puede no ser capaz de identificar con precisión a las personas de piel oscura.
Otro factor es la iluminación. Las fotografías de personas con piel oscura pueden no tener tanto contraste como las de personas con piel clara, lo que puede hacer más difícil para los sistemas de reconocimiento facial identificar correctamente las características faciales.
Las implicaciones de este problema son profundas y abarcan desde los inconvenientes individuales, como los enfrentados por los conductores de Uber, hasta cuestiones de derechos civiles y sociales más amplias. Es imperativo que las empresas que utilizan esta tecnología tomen medidas para corregir este sesgo, ya sea a través de la mejora de los conjuntos de datos, la implementación de pruebas de sesgo más rigurosas o la utilización de métodos de verificación manual adicionales.
