L’esclusione delle voci indigene nell’IA è la ripetizione della storia

Esclusione voci indigene nell'IA storia ripetizione

L’arena globale della progettazione e implementazione dell’IA continua a diversificarsi, con un crescente interesse per l’IA generativa facile da usare che ne guida la crescita. Ancora in incubazione: il ruolo dell’IA nel promuovere spazi accessibili, sia online che offline.

Meggan Van Harten è una leader strategica e partner presso Design de Plume, un’agenzia creativa di proprietà indigena e guidata da donne con sede in Canada. L’etica aziendale e di progettazione di Design de Plume incorpora ciò che Van Harten chiama un “caleidoscopio” di diverse prospettive mondiali: indigenità, inclusività, diversità, equità, sostenibilità e accessibilità. L’azienda è nata dopo la prima carriera di Van Harten come graphic designer, quando lei e i suoi cofondatori hanno cercato di aggiungere una prospettiva sulla progettazione digitale mancante nel mainstream.

Design de Plume integra questi principi direttamente nel quadro dei servizi e delle soluzioni, come la progettazione del sito, ad esempio il suo recente lavoro con il Indigenous Protected and Conserved Areas (IPCA) Knowledge Basket, una piattaforma digitale di condivisione delle informazioni per i percorsi di conservazione guidati dalle comunità indigene in Canada. L’azienda ha ricevuto il premio 2023 DNA Paris Design Award per il progetto.

Nel suo lavoro come stratega e relatrice pubblica, Van Harten tiene d’occhio l’accessibilità indigena in modo specifico. La designer con sede in Ontario afferma che l’esclusione dei modelli culturali e linguistici dei popoli indigeni negli standard di accessibilità ha lasciato enormi lacune nella rendere le comunicazioni accessibili alle comunità indigene.

E anche con l’esplosione dell’IA che apre una nuova ondata di cosiddetta innovazione tecnologica e automazione, il divario non si sta riducendo, anzi, sembra ampliarsi.

• Cosa aspettarsi dall’evento di Google Pixel 8
• Tutto ciò che devi sapere sull’intervista disastrosa della CE...
• Una frontiera pionieristica e un’idea geniale della tecnologi...

Come collaboratori nella progettazione di tecnologie e spazi digitali, Van Harten e i suoi colleghi invitano più persone a valutare l’intero sistema di accessibilità al fine di domandarsi come le tecnologie assistive, i servizi web e persino gli strumenti basati sull’IA (come le trascrizioni in diretta e la generazione di immagini) possano essere più significativi per i gruppi indigeni e inclusivi delle loro esigenze.

In una conversazione su questo lavoro e questa missione, Van Harten ha parlato con Chase DiBenedetto di ENBLE dei fallimenti nella creazione di IA, della necessità di standard di accessibilità in continua evoluzione e di come l’incorporazione delle prospettive indigene dovrebbe essere uno dei primi passi nell’innovazione tecnologica.

ENBLE: Cosa significa “incorporare l’indigenità” nel tuo lavoro?

Van Harten: C’è questa idea di “Vedere con due occhi”, utilizzando contemporaneamente il meglio dei principi occidentali e delle conoscenze indigene. Stai usando entrambi gli occhi per completare questo compito. Fa parte della cultura di Design de Plume, ma anche della cultura di fare una buona progettazione: prendere il meglio di entrambi i mondi. Mi piace il termine “Tazza aperta” o “Tazza vuota”: lasciare che gli altri ti riempiano di conoscenza in modo che tu possa dare una buona soluzione alla fine della giornata. Questo non è un concetto nuovo. Può sembrare nuovo per l’America aziendale, ma in realtà non lo è. È davvero fondamentale per il modo indigeno di conoscere.

Ad esempio, il modo in cui conduciamo le nostre sessioni di coinvolgimento con i clienti. Parliamo sempre di creare un ambiente più inclusivo, in cui nessuno comandi o sia superiore agli altri e ogni voce sia rappresentata equamente. In questo modo siamo in grado di creare un ambiente più inclusivo e concentrarci su questa idea di risolvere i problemi del progetto insieme. Come agenzia, non arriviamo con tendenze di progettazione o strumenti di progettazione che hanno funzionato in passato. Ciò potrebbe non essere vero per ogni gruppo di prime nazioni o gruppo indigeno che incontri. Devi essere davvero aperto a diventare uno spazio sicuro e aperto per collaborare con le persone.

Hai scoperto che i gruppi indigeni sono spesso esclusi dalla progettazione accessibile, soprattutto nello sviluppo di nuovi strumenti basati sull’IA.

Per quanto riguarda l’IA, è stato estremamente difficile. C’è così tanto pregiudizio nella tecnologia, nel modo in cui viene sviluppata. I popoli indigeni non vengono consultati quando si tratta di trovare soluzioni. Quello che intendo è che se vengono coinvolti, lo sono solo alla fine del progetto e viene chiesto loro: “Questo va bene?”. Questo non è un buon coinvolgimento. È necessario coinvolgere queste persone fin dall’inizio, spiegare loro il problema, coinvolgerle nella risoluzione dei problemi e compensarle per questi sforzi. Alcune delle difficoltà con la sottotitolazione, ad esempio, come il riconoscimento vocale automatico, sono state estremamente difficili.

Puoi approfondire come la sottotitolazione in diretta o il riconoscimento vocale automatico in generale non soddisfano queste comunità?

Ad esempio, ho appena scaricato una trascrizione di una presentazione in diretta che ho fatto e ha cambiato una parola da “Anishinaabe”, che è un grande gruppo di persone indigene, in “Honest Nabi”. Quindi ha completamente distorto la lingua. Ho menzionato un gruppo di persone e non è riuscito nemmeno a capire quello. Anche se c’è una traduzione diretta in inglese… il modo in cui le lingue indigene funzionano è molto intenzionale, ogni lettera e combinazione di lettere ha dei sub-messaggi. Ci sono così tante sfumature intenzionali in quella parola specifica che vengono perse, specialmente nel caso della sottotitolazione in diretta.

[In un recente articolo di ENBLE sul rapporto sullo stato del riconoscimento automatico del linguaggio parlato del 2023 di 3PlayMedia, l’azienda di servizi di accessibilità] ha affermato che il riconoscimento automatico del linguaggio parlato è accurato al 90 percento, ma deve essere più vicino al 99 percento. Ma quando si tratta di lingue indigene, è letteralmente accurato al 0 percento. Questa è la dura realtà in cui viviamo. Il modo in cui stiamo sviluppando la tecnologia, i sistemi di progettazione, tutte queste cose, sta contribuendo a una cultura di ulteriore genocidio e cancellazione culturale delle lingue.

Il concetto di design universale, o l’idea che i prodotti e gli spazi dovrebbero essere creati tenendo pienamente presente l’accessibilità fin dall’inizio, è una soluzione?

C’è molto in termini di sviluppo di standard, leggi di conformità, ecc. Ma le fondamenta non esistono per i popoli indigeni. Nello spazio dell’accessibilità, le persone menzionano spesso che la conformità all’ADA (o, nel mio caso, all’AODA) è il punto di partenza, non il limite massimo. Per i popoli indigeni, è solo un’enorme lacuna. Cadono semplicemente in questo vortice. Non ci sono sistemi per la lingua accessibile nelle loro lingue, e non c’è modo di sviluppare strumenti basati su due lingue contemporaneamente.

Quello che è così frustrante è che le idee ci sono. Gli strumenti sono buoni, in un certo senso. È bello avere i sottotitoli. È terribile che il sistema non riesca a capire, mentre lo sto dettando al sistema, ciò che sto cercando di dire veramente.

Ritengo che con l’avvento dell’IA generativa e gli investimenti fatti per la sua costante innovazione, questo problema dovrebbe essere stato considerato ormai.

Assolutamente. Perché non posso parlare con l’IA in anticipo? Se devo presentare in questa lingua, lascia che ti insegni come dirlo. Ma non posso farlo. Al momento, la soluzione migliore sono le trascrizioni in diretta e i sottotitoli in diretta [umani]. È fantastico, ma molte organizzazioni non hanno i fondi per offrire sottotitoli in diretta. Quindi l’avvertimento che devo dar loro è che i sottotitoli [automatici] non avranno senso.

C’è una ragione strutturale per questa completa disconnessione?

C’è un grande focus sul supporto all’accessibilità monolingue, quindi hai un documento in inglese o un documento in francese e ti verrà letto in inglese o in francese. Ma cosa succede all’interno dei circoli delle lingue indigene dove, a causa del genocidio e della discriminazione, parte della lingua è andata persa? Anche se sviluppi un sistema e dici, “Ora possiamo leggere questa pagina interamente in inglese e questa pagina in quest’altra lingua indigena”, potresti comunque perdere completamente il concetto, perché non c’è un buon modo per incorporare entrambe le lingue nello stesso documento. Al momento, non c’è modo di farlo con nessuna tecnologia di accessibilità, perché il focus è su un modo di pensare occidentale, che considera tutto separato.

Hai riscontrato questo problema di focalizzazione singola in altri casi d’uso popolari dell’IA, come la generazione di immagini o i chatbot?

Il software di generazione di immagini è stato molto interessante nello spazio del design. Si sente molto parlare di questa cosa che può “Photoshoppare così bene. Sembra così bello.” Ma è pura sciocchezza, specialmente quando si tratta di rappresentare la cultura indigena e i principi indigeni.

Hai un esempio?

In diverse culture delle Prime Nazioni in Canada, abbiamo qualcosa chiamato Ruota della Medicina. C’è molto significato in quel simbolo, ed è pensato per essere uno strumento di guarigione. Ho usato il software di generazione di immagini e ho suggerito “ruota della medicina indigena”. Questo è tutto. Non è complicato. Se metti questo su Google, otterrai una legittima Ruota della Medicina.

Ma ciò che viene restituito dal software di generazione di immagini è letteralmente spazzatura. Ne ho viste in cui c’è un piatto, con molti pezzi diversi sul piatto. Pensavo che forse lo interpretasse come cibo. Il cibo può essere medicina, giusto? Il cibo può essere guarigione. Ma quando ho ingrandito l’immagine, ho visto che erano gusci di lumaca. E quella è una sigaretta. Solo pezzi casuali di texture che sono stati tirati per renderlo un’immagine “figa”, ma hanno perso completamente l’intenzionalità e i principi culturali indigeni.

Ho visto anche lo stesso problema con gli strumenti di generazione di testo alternativo… Penso che sarebbe davvero accessibile per le persone se potessero usare cose come generatori di testo alternativo, per avere almeno una buona base di partenza. Ma non puoi avere quella base di partenza se non c’è una fondazione di intenzionalità e inclusione.

Quindi sono preoccupato che l’AI stia cercando il mio lavoro? No, per nulla.

Sembra che insieme a questa fervente innovazione dell’AI, ci sia questa cultura simultanea di paura creata attorno alle capacità dell’AI.

Se diciamo che l’AI sta creando una cultura della paura, lo sta facendo perché non rappresenta le persone.

Parliamo di arrivare a un punto in cui un assistente AI “comprende” completamente le lingue o la cultura indigene mentre fornisce un servizio. Cosa implica questo?

Penso che la comprensione sia una competenza collaborativa. Una delle cose davvero interessanti dell’AI adesso è poter conversare con essa, aiutarla e farla crescere. Quindi avere questo strumento prontamente disponibile in più sistemi aiuterebbe la comprensione. Potresti dirgli, “Ehi, ciò che stai dicendo è effettivamente dannoso e perpetua uno stereotipo. Dovremmo smettere di dirlo.” Mi piacerebbe vederlo applicato su larga scala a questi sistemi.

Ma anche prima di rilasciare un prodotto e aspettarsi che il mondo lo risolva interagendo con esso, coinvolgere le persone nelle fasi iniziali per influenzarlo. Coinvolgere un gruppo diversificato di persone per parlare con quell’AI, in modo che possa capire che su internet c’è molta spazzatura che assorbirà o che le persone forniranno.

In realtà, potrebbe mai esistere uno strumento completamente inclusivo e completo come questo? O è qualcosa che non dovrebbe essere affidato alla tecnologia o ai servizi basati sull’IA? Le soluzioni che coinvolgono gli esseri umani sono sufficienti?

Credo che se si costruisce la tecnologia in modo più inclusivo e si è disposti a seguire anche un percorso distruttivo e a ripensare al modo in cui ci si è avvicinati in precedenza, sia possibile.

Una delle principali questioni di cui dovrebbero parlare – come governo, come aziende o come queste grandi potenze nella tecnologia – è chi sono disposti ad escludere? I popoli indigeni sono [uno dei] gruppi di popolazione in più rapida crescita in Nord America. Quindi, non sviluppando queste soluzioni tenendo a mente l’indigenità e l’inclusività, stiamo escludendo questo enorme gruppo di persone. Non spetta ai popoli indigeni risolvere ogni problema. Spetta alle persone che hanno i fondi per realizzarlo effettivamente e che sono disposte a ripensare ai loro processi per progredire in modo corretto.

Un computer non può fingere empatia. Non può comprendere l’empatia. E la stessa cosa si applica alle persone. Se non sono empatiche, non capiranno perché questo è significativo, perché stiamo parlando di questo problema specifico. Ma è proprio il livello umano di empatia che ci permetterà effettivamente di affrontarlo e risolverlo.