Los conductores trans están siendo bloqueados de sus cuentas de Uber

Uber podría estar ansioso por adoptar tecnología de punta en su búsqueda por el dominio de la carretera, pero un incidente reciente que involucró a un conductor transgénero y la función de seguridad de reconocimiento facial de la aplicación de viaje compartido expone una de las muchas trampas de confiar en algoritmos informáticos. Janey Webb, una conductora trans de Uber en Iowa, se quedó sin acceso a la aplicación el mes pasado cuando la función no la reconoció, lo que provocó que perdiera días de trabajo e ingresos. informes de la CNBC .

El sistema de reconocimiento facial de Uber, Comprobación de identidad en tiempo real , se lanzó en septiembre de 2016 y requiere que los conductores envíen selfies intermitentes para verificar su identidad. Usando Microsoft Cognitive Services, la función de seguridad compara la selfie con la foto del conductor que Uber mantiene en el archivo (proporcionada en el momento del registro del conductor y el proceso de verificación inicial con la aplicación), y suspende temporalmente la cuenta del conductor si las fotos no coinciden. .

Eso suena como una buena característica de seguridad, a menos que, como en el caso de Webb, seas trans y estés en proceso de transición. CNBC informa que Webb comenzó a trabajar para Uber en octubre de 2017, casi al mismo tiempo que comenzó la transición. Los cambios en su apariencia finalmente levantaron una bandera roja en el algoritmo de verificación de identificación en tiempo real.

Webb le dijo a CNBC que tomó medidas para documentar diligentemente su transición dentro de la aplicación para evitar problemas con la función de seguridad y para mantener actualizados a los posibles pasajeros. Pero esto no fue suficiente. Justo antes del fin de semana del cuatro de julio, notoriamente cargado de tráfico, la cuenta de Webb se congeló y se le pidió que manejara dos horas hasta el único centro de soporte en persona de Uber en Iowa para resolver el problema. Supuestamente le dijeron que el problema podría volver a surgir.

“No se puede esperar que una persona trans actualice su licencia cada tres meses solo para evitar ser desactivada”, dijo Webb a CNBC. Uber aún no ha respondido a la solicitud de comentarios de ellos.

Sin embargo, más allá de Uber, el problema de Webb con Real-Time ID Check toca las crecientes preocupaciones sobre el futuro de la tecnología de reconocimiento facial y los algoritmos informáticos en general, que en general no han tenido en cuenta a las comunidades marginadas. Google se asoció con GLAAD para ayude a construir una IA inclusiva LGBTQ después de descubrir que términos inocuos como soy gay se registraban automáticamente como negativos cuando los usuarios publicaban en plataformas de redes sociales como Twitter y Facebook.

El año pasado, estalló la controversia cuando YouTubers transgénero descubrieron que los investigadores que trabajaban en la tecnología de reconocimiento facial había usado sus videos para proporcionar datos para la IA, para ayudar a enseñarle a reconocer las caras de las personas que se someten a transiciones médicas. Esto se hizo sin el conocimiento o consentimiento de los YouTubers.

Muchas personas en comunidades marginadas siguen desconfiando de la IA y la tecnología de reconocimiento facial en general. En septiembre del año pasado, un informe de la Universidad de Stanford que afirmaba que la tecnología de reconocimiento facial podría identificar a alguien como LGBTQ+ causó controversia, tanto por la supuesta hallazgos erróneos en el informe, y por la noción de que la tecnología podría usarse para sacar a la luz a las personas LGBTQ+.

Académicos como Sherry Turkle, profesora del Instituto Tecnológico de Massachusetts, dijeron en un entrevista con NBC OUT que las personas queer harían bien en enfrentarse a esa tecnología de reconocimiento facial con escepticismo. La información podría usarse para ayudar a los gobiernos a crear registros de personas LGBTQ+, una medida que algunos paises ya están ejecutando.

'En primer lugar, ¿quién posee esta tecnología y quién tiene los resultados?' Turkle dijo. 'El problema ahora es que 'tecnología' es un eslogan que realmente significa 'mercancía'. Lo que significa es que su tecnología puede determinar mi sexualidad al mirarme a la cara, y usted puede comprar y vender esta información con fines de control social.

Es probable que el debate ético sobre esta tecnología continúe calentándose a medida que funciones como la verificación de identidad en tiempo real se vuelvan comunes. La suspensión de la cuenta de Webb tuvo un impacto material en sus ingresos y no será la última mujer trans en tener una experiencia así. La IA está creciendo a un ritmo acelerado, generando datos acumulativos a medida que lo hace, que solo se volverán más difíciles de retroceder y cambiar con el tiempo. Pero a ambos lados de la debacle, parece haber consenso en una cosa: las consecuencias para las personas marginadas deben estar al frente y al centro.