Le deepfake delle elezioni in Slovacchia dimostrano che l’IA rappresenta un pericolo per la democrazia
Deepfakes nelle elezioni slovacche dimostrano pericolo IA per democrazia
A soli due giorni dalle elezioni in Slovacchia, è stato pubblicato su Facebook un file audio. In esso si sentono due voci: presuntamente quelle di Michal Šimečka, che guida il partito liberale Progressiva Slovacchia, e di Monika Tódová del quotidiano Denník N. Sembra che stessero discutendo su come truccare le elezioni, in parte comprando voti dalla minoranza rom emarginata del paese.
Šimečka e Denník N hanno immediatamente denunciato l’audio come falso. Il reparto di fact-checking dell’agenzia di stampa AFP ha dichiarato che l’audio mostrava segni di manipolazione tramite intelligenza artificiale. Tuttavia, la registrazione è stata pubblicata durante una moratoria di 48 ore prima dell’apertura delle urne, durante la quale i mezzi di comunicazione e i politici dovrebbero rimanere in silenzio. Ciò significava che, secondo le regole elettorali slovacche, era difficile smentire ampiamente il post. E, poiché il post era audio, ha sfruttato una falla nella politica dei media manipolati di Meta, che stabilisce che solo i video falsi – in cui una persona è stata modificata per dire parole che non ha mai detto – violano le sue regole.
Le elezioni erano una corsa serrata tra due favoriti con visioni opposte per la Slovacchia. Domenica è stato annunciato che il partito pro-NATO Progressiva Slovacchia aveva perso contro SMER, che ha fatto campagna per ritirare il sostegno militare al suo vicino, l’Ucraina.
Prima del voto, il capo digitale dell’UE, Věra Jourová, ha dichiarato che le elezioni slovacche sarebbero state un caso di prova per valutare quanto le elezioni europee siano vulnerabili all’”arma di manipolazione di massa da milioni di euro” utilizzata da Mosca per interferire nelle elezioni. Ora, a seguito di queste elezioni, i paesi di tutto il mondo esamineranno ciò che è successo in Slovacchia per indizi sulle sfide che potrebbero affrontare. La vicina Polonia, che uno studio recente dell’UE ha suggerito essere particolarmente a rischio di essere presa di mira dalle disinformazioni, andrà alle urne tra due settimane. L’anno prossimo, il Regno Unito, l’India, l’UE e gli Stati Uniti si apprestano a tenere elezioni. I fact-checker che cercano di contrastare le disinformazioni sui social media in Slovacchia affermano che la loro esperienza mostra che l’IA è già sufficientemente avanzata per disturbare le elezioni, mentre loro non hanno gli strumenti per combatterla.
“Non siamo pronti come dovremmo,” afferma Veronika Hincová Frankovská, responsabile del progetto presso l’organizzazione di fact-checking Demagog.
- L’India sta utilizzando leggi antiterrorismo per prendere di ...
- Meno è molto di più quando si tratta di intelligenza artificiale, a...
- Acquista questa e-bike ora a meno di $900
Durante le elezioni, il team di Hincová Frankovská ha lavorato a lungo, dividendo il loro tempo tra la verifica delle affermazioni fatte durante i dibattiti televisivi e il monitoraggio delle piattaforme dei social media. Demagog è un partner di fact-checking per Meta, il che significa che lavora con l’azienda di social media per scrivere etichette di fact-check per sospette disinformazioni diffuse su piattaforme come Facebook.
L’IA ha aggiunto una nuova sfida al loro lavoro. Tre giorni prima delle elezioni, Meta ha informato il team di Demagog che un audio di Šimečka che proponeva di raddoppiare il prezzo della birra se avesse vinto stava guadagnando popolarità. Šimečka ha definito il video un falso. “Ma ovviamente il fact-checking non può basarsi solo su ciò che dicono i politici,” afferma Hincová Frankovská.
Era difficile dimostrare che l’audio fosse stato manipolato. Hincová Frankovská aveva sentito parlare di post generati dall’IA, ma il suo team non aveva mai dovuto effettuare il fact-check di uno. Hanno rintracciato l’origine della registrazione, scoprendo che era stata pubblicata per la prima volta su un account Instagram anonimo. Poi hanno iniziato a chiamare esperti per chiedere se consideravano probabile che la registrazione fosse falsa o manipolata. Infine, hanno testato un classificatore vocale basato sull’IA realizzato da un’azienda americana chiamata Eleven Labs.
Dopo qualche ora erano pronti a confermare che ritenevano che la registrazione fosse stata alterata. La loro etichetta, che è ancora visibile su Facebook in lingua slovacca quando i visitatori trovano il post, dice: “I fact-checker indipendenti affermano che la foto o l’immagine è stata modificata in un modo che potrebbe ingannare le persone.” Gli utenti di Facebook possono quindi scegliere se vogliono comunque vedere il video.
Sia l’audio sulla birra che quello sulle truffe elettorali rimangono visibili su Facebook, con l’etichetta di fact-check. “Quando il contenuto viene verificato, lo etichettiamo e lo posizioniamo in basso nel feed, in modo che meno persone lo vedano, come è successo in entrambi questi esempi,” afferma Ben Walter, portavoce di Meta. “I nostri standard comunitari si applicano a tutti i contenuti, indipendentemente dal fatto che siano creati dall’IA o da una persona, e prenderemo provvedimenti contro i contenuti che violano queste regole.”
Queste elezioni sono state una delle prime votazioni rilevanti a tenersi dopo l’entrata in vigore del regolamento sui servizi digitali dell’UE ad agosto. Il regolamento, volto a proteggere meglio i diritti umani online, ha introdotto nuove norme che avrebbero dovuto costringere le piattaforme a essere più proattive e trasparenti nei loro sforzi per moderare le disinformazioni.
“La Slovacchia è stata un caso di prova per vedere cosa funziona e in quale ambito sono necessari miglioramenti,” afferma Richard Kuchta, analista di Reset, un gruppo di ricerca che si concentra sull’impatto della tecnologia sulla democrazia. “Secondo me, [la nuova legge] ha messo pressione sulle piattaforme per aumentare le capacità di moderazione dei contenuti o fact-checking. Sappiamo che Meta ha assunto più fact-checker per le elezioni slovacche, ma vedremo se è stato sufficiente.”
Accanto alle due registrazioni audio deepfake, Kuchta ha anche assistito alla pubblicazione su social media di altri due video che presentavano impersonazioni audio AI, realizzate dal partito di estrema destra Republika. Uno di questi impersonava Michal Šimečka, mentre l’altro impersonava il presidente, Zuzana Čaputová. Questi audio includevano dichiarazioni che le voci erano false: “Queste voci sono fittizie e la loro somiglianza con persone reali è puramente casuale”. Tuttavia, questa dichiarazione compare solo dopo 15 secondi del video di 20 secondi, dice Kuchta, in quello che lui ha percepito come un tentativo di ingannare gli ascoltatori.
Le elezioni slovacche sono state osservate attentamente in Polonia. “Naturalmente, la disinformazione generata dall’IA è qualcosa di cui abbiamo molto paura, perché è molto difficile reagire rapidamente”, afferma Jakub Śliż, presidente del gruppo di fact-checking polacco Pravda Association. Śliż afferma di essere anche preoccupato dalla tendenza in Slovacchia di confezionare la disinformazione in registrazioni audio, anziché in video o immagini, perché la clonazione della voce è così difficile da identificare.
Come Hincová Frankovská in Slovacchia, anche Śliż non dispone di strumenti affidabili per identificare ciò che è stato creato o manipolato utilizzando l’IA. “Gli strumenti disponibili ti danno un punteggio di probabilità”, afferma. Ma questi strumenti soffrono di un problema della scatola nera. Non sa come decidono che un post è probabilmente falso. “Se ho uno strumento che utilizza un’altra IA per dirmi in modo magico che questo è generato dall’IA all’87 percento, come dovrei comunicare questo messaggio al mio pubblico?” dice.
In Polonia non circola ancora molto contenuto generato dall’IA, dice Śliż. “Ma le persone stanno utilizzando il fatto che qualcosa può essere generato dall’IA per screditare fonti reali”. Mancano due settimane prima che gli elettori polacchi decidano se il partito conservatore al potere Legge e Giustizia dovrebbe rimanere al governo per un terzo mandato senza precedenti. Questo fine settimana, una folla gigantesca si è radunata a Varsavia a sostegno dell’opposizione, con il governo della città a controllo dell’opposizione che stima che la folla abbia raggiunto il picco di 1 milione di persone. Ma su X, precedentemente noto come Twitter, gli utenti hanno suggerito che i video della marcia fossero stati manipolati utilizzando l’IA per far sembrare la folla più numerosa.
Śliż ritiene che questo tipo di contenuto sia facile da verificare incrociando diverse fonti. Ma se le registrazioni audio generate dall’IA iniziano a circolare in Polonia nelle ultime ore prima del voto, come è successo in Slovacchia, sarà molto più difficile. “Come organizzazione di fact-checking, non abbiamo un piano concreto su come affrontarlo”, dice. Quindi, se succede qualcosa del genere, sarà doloroso.”
