La saga legale dell’incidente mortale di Uber con l’auto a guida autonoma è finita
The legal saga of Uber's fatal accident with the self-driving car is over.
Sono passati più di cinque anni da quando una vettura a guida autonoma di Uber ha investito e ucciso una donna di nome Elaine Herzberg mentre attraversava la strada con la sua bicicletta a Tempe, in Arizona. La morte di Herzberg ha trasformato istantaneamente ciò che era stato un enigma filosofico in un problema legale palesemente reale: chi viene accusato per un incidente mortale su strada nell’era incerta e di transizione delle auto a guida autonoma, quando gli esseri umani sono essenzialmente babysitter di sistemi AI imperfetti e ancora in fase di apprendimento? È l’azienda con l’auto difettosa? O la persona al volante che avrebbe dovuto intervenire?
Venerdì abbiamo avuto una risposta: è la persona seduta al volante. In un tribunale dell’Arizona, l’operatrice di prova durante l’incidente, Rafaela Vasquez, protagonista di un approfondito articolo di WIRED dell’anno scorso, si è dichiarata colpevole di un capo di imputazione per pericolo per la sicurezza altrui ed è stata condannata a tre anni di libertà vigilata, senza scontare alcuna pena detentiva. In Arizona, il pericolo per la sicurezza altrui viene definito come “mettere a rischio la vita o l’integrità fisica di un’altra persona in modo imprudente”.
Nel caso dell’Arizona, l’accordo di patteggiamento evita a tutte le parti l’incertezza di un processo: se una giuria avesse ritenuto Vasquez colpevole del reato originario di omicidio colposo di cui era stata accusata, avrebbe affrontato una condanna da quattro a otto anni di prigione statale. Vasquez ha dichiarato a WIRED che il carcere era particolarmente preoccupante per lei come donna transgender, dato che ha dichiarato di essere stata vittima di abusi sessuali nei primi anni 2000 mentre era detenuta tra uomini. Ma l’accordo lascia anche irrisolta la pretesa di Vasquez, avanzata in documenti legali, secondo cui non era distratta come sostenuto dai pubblici ministeri. Nel caso, le è stato contestato di aver guardato lo show televisivo The Voice sul suo cellulare personale al momento dell’incidente, ma lei afferma di essere invece stata impegnata a monitorare la piattaforma Slack dell’azienda sul dispositivo che utilizzava per lavoro.
Per quanto riguarda Uber, il patteggiamento evita all’azienda un’ulteriore esposizione imbarazzante delle gravi carenze del suo programma di auto a guida autonoma, già evidenziate in una lunga indagine condotta dalla National Transportation Safety Board. Il team legale di Vasquez aveva mostrato l’intenzione di spostare la responsabilità su Uber, sostenendo che Vasquez era stata messa in una situazione di fallimento. (Uber non ha risposto immediatamente a una richiesta di commento venerdì.)
In documenti presentati prima del processo, gli avvocati di Vasquez hanno citato le conclusioni della NTSB contro Uber: l’auto non ha riconosciuto Herzberg come pedone e quindi non ha attivato i freni. La NTSB ha anche rilevato che Uber aveva una “cultura della sicurezza inadeguata”, facendo poco per proteggere gli operatori di prova dal noto fenomeno della “complacenza dell’automazione”, ovvero la tendenza degli esseri umani a prestare meno attenzione a processi automatici che richiedono poca interazione. Nei mesi precedenti all’incidente, Uber aveva eliminato il requisito che ci fossero due piloti di prova in ogni auto, cosa che secondo gli operatori aveva mantenuto un maggior livello di attenzione e rispetto della politica aziendale che vietava l’uso dei telefoni cellulari. Invece, nei mesi precedenti all’incidente, gli operatori solitari facevano spesso lo stesso percorso monotono durante turni di diverse ore, lasciati a controllare autonomamente l’uso dei telefoni cellulari. Uber vietava agli operatori di utilizzare i dispositivi mentre erano alla guida, ma aveva anche lasciato loro i telefoni a portata di mano in macchina per poter ricevere messaggi sulla piattaforma Slack dell’azienda. Prima dell’incidente del 2018, diversi altri operatori di prova erano stati licenziati per violazione della politica sui telefoni cellulari.
- Il ritorno di Sergey Brin a Google potrebbe cambiare il futuro dell...
- Robot sottomarini per rivoluzionare l’estrazione mineraria in...
- Queste tute spaziali antimicrobiche potrebbero risolvere i problemi...
La dichiarazione di Vasquez secondo cui stava monitorando Slack sul suo telefono di lavoro è emersa dai documenti legali molto tempo dopo la pubblicazione del rapporto della NTSB, che ha indicato la sua distrazione come “probabile causa” dell’incidente. Gli avvocati di Vasquez sostengono che Vasquez stava solo ascoltando The Voice, come consentito agli operatori, e sostengono che gli investigatori hanno confuso quale telefono stesse guardando Vasquez nei secondi precedenti alla fatalità. Come ha affermato l’avvocato della difesa Albert Morrison in tribunale venerdì, “Non stava guardando The Voice, vostra eccellenza. Stava facendo ciò che le era stato chiesto di fare da Uber, ovvero monitorare i sistemi dell’auto. Tuttavia, giudice, lei ha ammesso che tale comportamento è stato imprudente. Lo ha riconosciuto qui oggi e si assume la responsabilità di ciò.”
Anche se Vasquez e Uber potrebbero trovare una certa conclusione nell’accordo di patteggiamento, l’esperto di guida autonoma Bryant Walker Smith afferma che la NTSB dovrebbe riesaminare la questione di Slack per scoprire la verità. “Non voglio che la storia del primo incidente mortale con un veicolo autonomo sia una bugia. O che sia oggetto di controversie”, afferma Walker Smith, professore di legge presso l’Università della Carolina del Sud. “Dovremmo ottenere risposte.” Guardare uno spettacolo suggerirebbe una certa responsabilità per Vasquez, sostiene; guardare Slack solleva interrogativi sulla politica e le pratiche di Uber.
I presunti problemi del programma di auto a guida autonoma di Uber erano così gravi che un ex responsabile delle operazioni della divisione di camion a guida autonoma, Robbie Miller, aveva scritto una email di denuncia agli alti dirigenti nei giorni precedenti all’incidente mortale in Arizona, mettendo in guardia sulla scarsa sicurezza e sulle pratiche della divisione automobilistica. Dopo che l’articolo di WIRED su Vasquez è stato pubblicato l’anno scorso, Miller ha dichiarato a WIRED di sperare che Vasquez portasse il caso in tribunale anziché accordarsi. (Miller è attualmente direttore della sicurezza presso l’azienda di trasporto autonomo Pronto AI.)
“Spero che lei lo combatta”, disse Miller all’epoca. “Penso che lei abbia una certa responsabilità in questa situazione, ma penso davvero che ciò che le stanno facendo non sia giusto. Penso che sia stata semplicemente messa in una situazione molto difficile in cui molte altre persone, nelle stesse circostanze, avrebbero commesso lo stesso errore.”
Secondo quanto riportato nei documenti presentati in tribunale da Vasquez, un altro ex dipendente di Uber, un responsabile di programma tecnico nella divisione delle auto a guida autonoma, è andato così lontano da chiamare la polizia di Tempe dopo l’incidente, affermando che l’azienda aveva ignorato i rischi. Altri dipendenti intervistati da WIRED erano anche preoccupati del fatto che Vasquez dovesse portare tutta la colpa penale. (Un anno dopo l’incidente, i pubblici ministeri dell’Arizona hanno scagionato Uber da responsabilità penali.)
La dichiarazione di colpevolezza di Vasquez si unisce a una risoluzione simile avvenuta quest’estate nel sud della California, dove un autista è stato perseguito penalmente per non aver disattivato la modalità Autopilot della sua Tesla in un incidente del 2019 che ha causato la morte di due adulti – il primo caso del genere negli Stati Uniti. Secondo quanto testimoniato da un rappresentante di Tesla, Kevin George Aziz Riad aveva una mano sul volante mentre la sua Tesla, a 74 miglia all’ora, attraversava un semaforo rosso e colpiva un’auto, uccidendo due persone a bordo. A giugno ha dichiarato di non contestare due accuse di omicidio colposo con veicolo a motore ed è stato condannato a due anni di libertà vigilata, evitando il carcere.
La dichiarazione di colpevolezza di Vasquez arriva in un’estate piena di preoccupazioni per i pericoli dell’intelligenza artificiale. La California è diventata il luogo di una battaglia su se i robotaxi a guida autonoma di Cruise e Waymo possano offrire un servizio a tempo pieno al pubblico, con le autorità di San Francisco che sostengono che la tecnologia non sia ancora pronta o sicura. Ma come sostengono da tempo i sostenitori della guida autonoma, anche lo status quo non è esattamente sicuro: la missione del settore è quella di eliminare gli errori umani dalla guida, che ogni anno causano la morte di oltre 40.000 persone negli Stati Uniti. In questo caso, la colpa nella morte di Tempe è stata anche troppo umana: una combinazione di imprudenza umana nel programma di test difettoso di Uber e della mancata attenzione di Vasquez alla strada.
Oltre all’aula di tribunale, Uber ha affrontato una rivoluzione: l’incidente segnò l’inizio della fine dell’unità di guida autonoma dell’azienda, che alla fine fu chiusa e ceduta. Tuttavia, Uber ha acquisito una quota della società che ha acquisito la sua divisione e Uber ha annunciato che offrirà auto Waymo sulla sua piattaforma di ride-hailing in Arizona entro la fine dell’anno, assicurandosi così una posizione nel futuro della guida autonoma senza sviluppare un’auto propria. (“Non sono sicuro che sia una grande storia di rimorso e conseguenze”, dice Walker Smith.) Herzberg non c’è più e Vasquez ha affrontato da sola cinque anni di purgatorio legale, con altri tre anni di libertà vigilata davanti a lei. “Mi disturba”, ha detto Miller, il whistleblower, a WIRED riguardo alla persecuzione di Vasquez. “Sembra semplicemente facile scaricare la colpa su di lei.”
