Rite Aid vietato utilizzare la tecnologia di riconoscimento del viso l’incubo di uno shopper

Dura per 5 anni.

Rite Aid non può più utilizzare la tecnologia di riconoscimento facciale AI. Lasciatemi spiegare perché.

Rite Aid, la catena farmaceutica che recentemente ha richiesto protezioni dal fallimento del capitolo 11, si è nuovamente cacciata nei guai. Questa volta è la Federal Trade Commission (FTC) a dar loro fastidio. In un annuncio fatto martedì, la FTC ha rivelato che a Rite Aid è stato proibito di utilizzare la tecnologia di riconoscimento facciale per sorveglianza nei prossimi cinque anni.

Secondo una denuncia presentata dalla FTC, Rite Aid aveva utilizzato la tecnologia di riconoscimento facciale basata sull’intelligenza artificiale dal 2012 al 2020 nel tentativo di identificare i clienti che potrebbero essere coinvolti in furti o altri comportamenti problematici. Tuttavia, la FTC sostiene che Rite Aid “non ha preso misure ragionevoli per prevenire danni ai consumatori”.

Le false affermazioni e le conseguenze non intenzionali di Rite Aid

📷 Immagine: Negozio Rite Aid

Immaginate di fare tranquillamente shopping da Rite Aid, solo per essere monitorati, molestati e accusati di furto dai dipendenti solo perché la tecnologia di riconoscimento facciale del negozio vi ha erroneamente etichettati come teppisti. Sembra una scena tratta da un romanzo distopico, vero? Purtroppo, questo incubo è diventato realtà per molti clienti di Rite Aid, in particolare donne e persone di colore, con le comunità nere e asiatiche colpite più duramente.

La FTC ha scoperto che Rite Aid non ha mai informato i visitatori del negozio del suo utilizzo della tecnologia di riconoscimento facciale o della raccolta delle loro informazioni biometriche. In realtà, i dipendenti erano specificamente “discoraggiati” dal condividere qualsiasi informazione sulla politica di monitoraggio dell’azienda. Di conseguenza, una volta che un cliente veniva segnalato dal sistema di riconoscimento facciale, i dipendenti lo seguivano in giro per il negozio, lo perquisivano, gli ordinavano di andarsene, chiamavano la polizia e persino lo accusavano pubblicamente di furto o altri illeciti, a volte di fronte a amici e parenti.

Nel corso degli anni, decine di migliaia di immagini di consumatori di Rite Aid sono state raccolte attraverso varie fonti come telecamere di sicurezza, fotocamere dei telefoni dei dipendenti e copertura mediatica sulla stampa. Sorprendentemente, la FTC ha rivelato che sono stati effettuati migliaia di abbinamenti sbagliati, con clienti erroneamente segnalati in base a corrispondenze fatte in luoghi completamente diversi, talvolta attraversando decine di negozi diversi negli Stati Uniti. È come se il sistema avesse una propria mente, determinato a trasformare clienti innocenti in criminali.

La FTC interviene per proteggere i consumatori

In risposta all’uso imprudente della tecnologia di riconoscimento facciale da parte di Rite Aid, la FTC ha emanato diverse misure per garantire la sicurezza dei consumatori. Innanzitutto, a Rite Aid è severamente vietato utilizzare la tecnologia di riconoscimento facciale in qualsiasi forma nei prossimi cinque anni. Inoltre, Rite Aid è tenuta a cancellare tutti i video, le foto e i dati biometrici memorizzati.

Tuttavia, se Rite Aid decide di utilizzare il riconoscimento facciale per scopi di sicurezza una volta che il divieto verrà revocato, dovrà informare i clienti, implementare un programma completo di sicurezza dei dati e sottoporsi a valutazioni e revisioni indipendenti. Queste misure mirano a ripristinare la fiducia e a prevenire incidenti simili in futuro.

Il futuro della tecnologia di riconoscimento facciale

📷 Immagine: Tecnologia di riconoscimento facciale

Il caso di Rite Aid solleva diverse importanti questioni sull’etica e i limiti della tecnologia di riconoscimento facciale. Come possiamo trovare un equilibrio tra la protezione della sicurezza del consumatore e il rispetto dei diritti alla privacy? Questo incidente evidenzia la necessità urgente di regole e linee guida più chiare sull’uso di tale tecnologia.

Serve anche come promemoria che i sistemi AI sono tutto fuorché infallibili. Come esseri umani, dobbiamo essere consapevoli dei limiti e dei pregiudizi insiti nell’intelligenza artificiale. Le conseguenze degli abbinamenti falsi positivi possono essere gravi, colpendo individui innocenti e perpetuando la discriminazione nelle comunità.

Muovendoci avanti, è fondamentale che le aziende e le organizzazioni mettano in primo piano la trasparenza, la responsabilità e l’uso responsabile della tecnologia di riconoscimento facciale. Solo con adeguate salvaguardie e regolamenti possiamo sfruttare i potenziali benefici di questa tecnologia senza sacrificare la fiducia e la privacy dei consumatori.

Contenuti Q&A aggiuntivi:

Ora affrontiamo alcune domande potenziali che i lettori potrebbero avere:

Domanda: Rite Aid è l’unica azienda che utilizza la tecnologia di riconoscimento facciale per la sorveglianza?

Risposta: Rite Aid non è l’unica azienda che utilizza la tecnologia di riconoscimento facciale per scopi di sorveglianza. Molte altre aziende, come i negozi al dettaglio, gli aeroporti e persino i produttori di smartphone, hanno implementato questa tecnologia per migliorare le misure di sicurezza. Tuttavia, incidenti come quello che coinvolge Rite Aid mettono in evidenza l’importanza dell’uso responsabile ed etico dei sistemi di riconoscimento facciale e la necessità di regolamentazioni più rigorose.

Domanda: Quali sono i potenziali pericoli della tecnologia di riconoscimento facciale?

Risposta: La tecnologia di riconoscimento facciale può comportare vari pericoli, tra cui preoccupazioni per la privacy, pregiudizi intrinseci e identificazioni errate. Le informazioni biometriche delle persone, come i loro volti, possono essere raccolte e memorizzate senza il loro consenso o conoscenza, sollevando gravi questioni di privacy. Inoltre, gli algoritmi di riconoscimento facciale possono manifestare pregiudizi, portando a identificazioni errate e discriminazioni potenziali nei confronti di determinati gruppi di persone. L’incidente con Rite Aid sottolinea l’importanza di affrontare questi pericoli e garantire l’adozione di adeguate misure di salvaguardia.

Domanda: Esistono normative che regolamentano l’uso della tecnologia di riconoscimento facciale?

Risposta: Sebbene alcune regioni e paesi abbiano iniziato a introdurre normative sulla tecnologia di riconoscimento facciale, il quadro normativo è ancora in evoluzione. Negli Stati Uniti, ad esempio, al momento non esistono leggi federali specifiche che regolamentano l’uso dei sistemi di riconoscimento facciale. Tuttavia, diversi stati, tra cui California, Illinois e Washington, hanno emanato normative per proteggere la privacy dei consumatori e regolamentare l’uso dei dati biometrici. Organismi internazionali, come l’Unione Europea, stanno inoltre lavorando per stabilire linee guida e regolamenti in questo settore.

Riferimenti:

Ora, non essere timido! Condividi i tuoi pensieri sul disastro del riconoscimento facciale di Rite Aid e sul problema più ampio della tecnologia e della privacy sui social media. Iniziamo una conversazione e lavoriamo verso un futuro in cui la tecnologia rispetti i nostri diritti mantenendoci al sicuro.

🙋 Immagine: Persone che discutono di tecnologia