I conducenti trans vengono bloccati dai loro account Uber

Uber potrebbe essere desideroso di abbracciare la tecnologia all'avanguardia nella sua ricerca del dominio della strada, ma un recente incidente che ha coinvolto un guidatore transgender e la funzione di sicurezza di riconoscimento facciale dell'app Rideshare espone una delle tante insidie ​​dell'affidarsi agli algoritmi del computer. Janey Webb, un'autista trans Uber in Iowa, si è trovata bloccata fuori dall'app il mese scorso quando la funzione non l'ha riconosciuta, facendole perdere giorni di lavoro e reddito. Rapporti CNBC .



Il sistema di riconoscimento facciale di Uber, Controllo ID in tempo reale , lanciato a settembre 2016 e richiede ai conducenti di inviare selfie intermittenti per verificare la propria identità. Utilizzando Microsoft Cognitive Services, la funzione di sicurezza confronta il selfie con la foto del conducente che Uber conserva in archivio (fornita al momento della registrazione del conducente e del processo di verifica iniziale con l'app) e sospende temporaneamente l'account del conducente se le foto non corrispondono .

Sembra un'ottima funzionalità di sicurezza, a meno che, come nel caso di Webb, tu non sia trans e in fase di transizione. La CNBC riferisce che Webb ha iniziato a lavorare per Uber nell'ottobre 2017, più o meno nello stesso periodo in cui ha iniziato la transizione. I cambiamenti nel suo aspetto alla fine hanno sollevato una bandiera rossa nell'algoritmo del controllo dell'ID in tempo reale.



Webb ha detto alla CNBC di aver adottato misure per documentare diligentemente la sua transizione all'interno dell'app per evitare problemi con la funzione di sicurezza e per mantenere aggiornati i potenziali passeggeri. Ma questo non era abbastanza. Poco prima del noto fine settimana del quarto luglio, notoriamente molto trafficato, l'account di Webb è stato bloccato e le è stato chiesto di guidare per due ore fino all'unico centro di assistenza di persona di Uber in Iowa per risolvere il problema. Presumibilmente le è stato detto che il problema potrebbe ripresentarsi.



'Non ci si può aspettare che una persona trans aggiorni la propria licenza ogni tre mesi circa solo per evitare di essere disattivata', ha detto Webb alla CNBC. Uber non ha ancora risposto alla richiesta di commento di loro.

Al di là di Uber, tuttavia, il problema di Webb con il controllo dell'ID in tempo reale tocca le crescenti preoccupazioni sul futuro della tecnologia di riconoscimento facciale e degli algoritmi informatici in generale, che in generale non hanno tenuto conto delle comunità emarginate. Google ha collaborato con GLAAD per aiuta a costruire un'IA inclusiva LGBTQ dopo aver scoperto che termini innocui come I'm gay si registravano automaticamente come negativi quando gli utenti pubblicavano su piattaforme di social media come Twitter e Facebook.

L'anno scorso, sono scoppiate polemiche quando gli YouTuber transgender hanno scoperto che i ricercatori che lavoravano sulla tecnologia di riconoscimento facciale aveva usato i loro video per fornire dati per l'IA, per aiutarla a insegnarle a riconoscere i volti delle persone che stanno subendo transizioni mediche. Ciò è stato fatto senza la conoscenza o il consenso degli YouTuber.



Molte persone nelle comunità emarginate rimangono sospettose dell'IA e della tecnologia di riconoscimento facciale in generale. Nel settembre dello scorso anno, un rapporto della Stanford University secondo cui la tecnologia di riconoscimento facciale potrebbe identificare qualcuno come LGBTQ+ ha causato polemiche, sia per il presunto risultati errati nel rapporto e per l'idea che la tecnologia potrebbe essere utilizzata per escludere le persone LGBTQ+.

Accademici come Sherry Turkle, professoressa al Massachusetts Institute of Technology, ha detto in un intervista con NBC OUT che le persone omosessuali avrebbero ragione a incontrare una tale tecnologia di riconoscimento facciale con scetticismo. Le informazioni potrebbero essere utilizzate per aiutare i governi a creare registrazioni di persone LGBTQ+, una mossa che alcuni paesi sono già in esecuzione.

'Prima di tutto, chi possiede questa tecnologia e chi ha i risultati?' ha detto Turkle. 'Il problema ora è che 'tecnologia' è uno slogan che in realtà significa 'merce'. Ciò significa che la tua tecnologia può distinguere la mia sessualità dal guardarmi in faccia e puoi acquistare e vendere queste informazioni con scopi di controllo sociale.'

È probabile che il dibattito etico su questa tecnologia continui a scaldarsi man mano che funzionalità come il controllo dell'ID in tempo reale diventano comuni. La sospensione dell'account di Webb ha avuto un impatto materiale sul suo reddito e non sarà l'ultima donna trans ad avere un'esperienza del genere. L'intelligenza artificiale sta crescendo a un ritmo rapido, costruendo dati cumulativi mentre lo fa, che diventerà solo più difficile tornare indietro e cambiare con il tempo. Ma su entrambi i lati della debacle, sembra esserci consenso su una cosa: le conseguenze per le persone emarginate dovrebbero essere al centro.