Come l’IA ingannerà gli elettori nel 2024 se non facciamo qualcosa ora
Come l'Intelligenza Artificiale ingannerà gli elettori nel 2024 se non agiamo subito
Lo scorso settembre, ho indagato su cosa farebbe l’IA generativa alle nostre elezioni. Una delle sorprese più grandi è stato quanto l’IA generativa influenzerà probabilmente le elezioni locali.
Anche: Come Microsoft intende proteggere le elezioni dai deepfakes
Dopo aver letto l’articolo, il prof. Robert Crossler mi ha contattato per discutere delle questioni che circondano le elezioni nella nostra società digitalizzata. Crossler, professore associato di sistemi informativi presso la Washington State University, è estremamente qualificato per discutere questo argomento. Il suo recente articolo su Government Information Quarterly analizza la misurazione dell’effetto dell’allineamento politico, delle piattaforme e del consumo di fake news sulla preoccupazione degli elettori per i processi elettorali.
Il lavoro di Crossler è stato finanziato dalla National Science Foundation e dal Dipartimento della Difesa. È stato presidente del Gruppo di interesse speciale AIS sulla sicurezza e la privacy delle informazioni dal 2019 al 2020. Nel 2013 ha inoltre ricevuto il premio Design Science dell’Information Systems Society per il suo lavoro sulla privacy delle informazioni.
Io e Crossler abbiamo avuto una discussione affascinante via email. Quello che segue è il contenuto della nostra discussione. Le mie domande sono in grassetto. Le uniche modifiche riguardano la punteggiatura.
- Cosa aspettarsi da CarPlay completamente nuovo, ancora elencato com...
- Risparmia $400 sul Roborock S8 Pro Ultra grazie a un’offerta ...
- Questo tagliaerba robot funziona davvero ed è ancora scontato del 3...
ENBLE: In che modo l’IA generativa può essere utilizzata per influenzare gli elettori o gli esiti delle elezioni, e quali sono i potenziali rischi associati al suo utilizzo in questo contesto?
Robert Crossler: L’IA generativa può essere utilizzata per polarizzare ulteriormente gli elettori. Se c’è una questione su cui un partito vuole convincere un’altra persona, allora l’IA generativa può essere utilizzata per creare una narrazione che supporti questo argomento. Il potenziale rischio è che gli elettori credano a qualcosa che non è vero, ma sentano fortemente che sia vero perché hanno visto materiale molto realistico che supporta il punto di vista che gli è stato fatto credere.
L’IA generativa ha il potenziale per indirizzare specificamente le comunicazioni alle persone in base alla conoscenza facilmente acquisita che le persone mettono nella sfera pubblica. Questa è una tecnica che già vediamo utilizzata per attacchi di social engineering dal punto di vista della cybersecurity.
Con l’IA generativa, gli strumenti potrebbero essere utilizzati per personalizzare i messaggi politici in base a ciò che l’IA generativa può facilmente determinare che sono gli interessi e i fattori motivanti degli elettori. La capacità di farlo su larga scala ha il potenziale per passare da obiettivi basati sulla demografia a obiettivi basati su una comprensione molto più dettagliata dell’utente.
Anche: Come utilizzare Bing Chat (e in che cosa si differenzia da ChatGPT)
ENBLE: Quali considerazioni etiche riguardano l’uso dell’IA generativa nel processo elettorale, e come dovrebbero affrontare questi problemi i responsabili delle politiche e il pubblico?
RC: Vorrei sapere la risposta a questa domanda. Ma questa è esattamente la domanda che dovrebbe essere posta e a cui dovrebbe essere data risposta. Eticamente, credo che la tecnologia non debba essere utilizzata per distorcere la verità, o meglio ancora inventare verità alternative. Tuttavia, utilizzare la politica per stabilire e poi applicare considerazioni etiche in un contesto tecnologico in continua evoluzione è una questione difficile da affrontare correttamente.
Anche se è possibile ottenere che i politici concordino su uno standard etico per l’uso dell’IA generativa, non sono sicuro di come ciò si applichi più si allontana dai politici. Ad esempio, i gruppi di azione politica, in che modo questo si applicherebbe a loro?
In che modo limitare il loro utilizzo di questa tecnologia ostacolerebbe i loro diritti del Primo Emendamento? Non sono un esperto legale, ma ogni volta che il governo cerca di dire alle persone cosa possono e non possono dire, comincio a preoccuparmi.
ENBLE: Puoi condividere eventuali risultati o intuizioni della tua ricerca che abbiano implicazioni per una comprensione più ampia del ruolo della tecnologia nel processo democratico?
RC: Uno dei risultati emersi dalla mia ricerca è il ruolo dei social media, in particolare Facebook, nella diffusione di notizie false. Di conseguenza, io personalmente evito di utilizzare Facebook e do poca credibilità a ciò che leggo in altri contesti sui social media. Incoraggio gli altri a non lasciarsi influenzare da un modo di pensare particolare basato su ciò che trovano nei social media.
Questo è particolarmente importante considerando gli algoritmi che i social media utilizzano per coinvolgere gli utenti. Questi algoritmi sono progettati per mostrarti più contenuti simili a quelli con cui interagisci e meno contenuti contrastanti. Il risultato è una sorta di camera di risonanza, in cui le stesse informazioni vengono confermate, ma le informazioni contrarie non vengono necessariamente condivise.
ENBLE: Qual è il ruolo degli attori stranieri nella diffusione di notizie false e nella generazione di intelligenza artificiale?
RC: Microsoft ha fornito informazioni che supportano l’argomento secondo cui la Cina utilizza l’AI nei social media per influenzare gli elettori statunitensi. La Cina e la Russia utilizzano la generazione di deepfake con AI per controllare la narrazione sulla guerra in Ucraina. Stiamo vedendo l’AI utilizzata per cercare di controllare le narrazioni sul conflitto tra Hamas e Israele.
Dato ciò che ha riportato Microsoft e come gli attori stranieri utilizzano l’IA generativa in relazione alla narrazione della guerra, sembra ragionevole concludere che ciò si amplificherà avvicinandoci alle elezioni del 2024.
ENBLE: In che misura gli attori stranieri costituiscono una minaccia per il nostro processo elettorale? Utilizzano specificamente l’IA generativa per aumentare la loro influenza o efficacia?
RC: Penso che gli attori stranieri costituiscano una grande minaccia per il nostro processo elettorale. Gli attori stranieri hanno sempre cercato di favorire determinate persone al potere che sarebbero più allineate alla loro agenda. La propaganda è sempre stata parte del processo. L’IA generativa fornisce uno strumento che consente un messaggio più mirato e specifico che potrebbe avere un’influenza ancora maggiore rispetto ai metodi tradizionali della propaganda.
Un problema correlato che ritengo importante considerare, mentre analizziamo il processo elettorale e il potenziale potere degli attori stranieri (ma anche interni), è la mancanza di volontà dei contendenti politici di impegnarsi in dibattiti. Se i politici non si espongono pubblicamente per impegnarsi in conversazioni, allora le persone cercheranno altrove le informazioni. Più ci allontaniamo dalla fonte primaria di informazioni, più è probabile che le informazioni che ci vengono fornite siano manipolate da strumenti di intelligenza artificiale generativa.
ENBLE: Come differenzi le comunicazioni politiche legittime dai contenuti potenzialmente manipolativi generati da sistemi di IA durante le campagne elettorali?
RC: A seguito delle ultime elezioni e della disinformazione che ha caratterizzato quel ciclo elettorale, ho iniziato a fare due cose. In primo luogo, cerco di triangolare le informazioni che ricevo, cioè cerco di consumare informazioni provenienti da diverse fonti che possano avere diverse tendenze nella loro narrazione. Più riesco a triangolare le informazioni, più sicuro mi sento della loro veridicità.
In secondo luogo, non mi permetto di formare un’opinione immediatamente quando vengo a conoscenza di un nuovo problema. Questo è particolarmente importante quando le informazioni che ricevo appaiono diverse rispetto a ciò che già sapevo o possono essere di rilevanza politica. Aspettando di formare un’opinione, mi viene garantito il tempo sufficiente per triangolare con ulteriori informazioni che possano confermare (o meno) le informazioni originali.
ENBLE: Ci sono tipi particolari di tecnologia generativa di intelligenza artificiale che sono più diffusi o influenti nel contesto elettorale?
RC: Lo vedo dal punto di vista della ricchezza dei media, con un contesto più ricco che ha una maggiore influenza. Ad esempio, un video è più ricco rispetto a qualcosa che è solo testo. Ciò che rende il mondo dell’IA generativa molto più efficace è la capacità di utilizzare insieme vari tipi di contenuti generativi.
Anche se un video può essere un mezzo piuttosto ricco per comunicare con le persone e convincerle molto, avere un testo creato che accompagna il video aiuta a triangolare le informazioni che si stanno cercando di trasmettere a qualcuno.
Anche: Rilevamento deepfake in tempo reale: come Intel Labs usa l’IA per combattere le false informazioni
ENBLE: Come può il pubblico essere meglio informato sull’uso dell’IA generativa nelle elezioni e quale ruolo giocano i media e le istituzioni educative nella promozione della consapevolezza?
RC: L’uso dell’IA generativa è stato imposto a noi circa un anno fa, nel novembre del 2022, e sta ancora cambiando radicalmente. Incoraggerei il pubblico a essere paranoico e cercare interazioni personali anziché credere a ciò che vedono online.
Credo che questo sia il momento in cui i media possono emergere e mostrarsi scettici su tutto, utilizzando gli strumenti investigativi per rivelare la verità. L’importanza di raccontare correttamente la storia dovrebbe essere più importante del raccontare la storia per primo. Man mano che i media costruiscono una reputazione nel far luce sulla verità, indipendentemente da un eventuale pregiudizio che potrebbero portare, forniranno un punto di riferimento su cui gli elettori possono fare affidamento. Mi piacerebbe che un media adottasse questo approccio nella sua modalità di riportare le notizie. Essere i primi potrebbe portare ad essere sbagliati e a perdere credibilità.
Le istituzioni educative dovrebbero utilizzare questo come un’area in cui incoraggiare gli studenti a pensare criticamente. Valutare criticamente le notizie mentre entriamo in un nuovo ciclo di elezioni presidenziali aiuterà a creare un elettorato più informato. Mi piacerebbe anche vedere emergere conversazioni civili che permettano alle persone con opinioni diverse di discutere di ciò che vedono con gli altri e farlo in uno spazio pubblico. La chiave di tutto questo è una conversazione civile, e se riusciamo a creare un ambiente che la favorisca, potrà solo contribuire a chiarire le verità in questo processo elettorale.
Anche: La maggior parte degli americani pensa che l’IA minacci l’umanità, secondo un sondaggio
ENBLE: Come vedi l’evoluzione dell’intersezione tra tecnologia, democrazia ed elezioni nei prossimi anni e quali potenziali sfide o opportunità prevedi?
RC: Vedo solo che la nostra capacità di discernere la verità diventerà sempre più difficile man mano che la tecnologia avanza. Questo include la democrazia e le elezioni. Una parte di me si chiede se inizieremo a distanziarci dalla tecnologia per scoprire la verità. Ciò consentirebbe di ridurre l’input nel nostro processo di valutazione di ciò che sta accadendo.
Tuttavia, la tecnologia ha permesso a coloro che non hanno voce di rivelare le verità su ciò che sta accadendo nel loro mondo. Lo abbiamo visto in tutto il mondo, soprattutto con i social media, dove le persone possono condividere ciò che altri potrebbero voler sopprimere. Come risultato, sono state apportate modifiche.
La sfida più grande che deve essere affrontata, e forse lo è da coloro che possiedono la tecnologia di IA generativa, è informare il mondo quando qualcosa viene creato con tale tecnologia. Senza sapere cosa viene creato con questa tecnologia, sarà sempre più difficile per gli esseri umani distinguere il vero dal falso.
ENBLE: Come continuerà l’IA generativa ad influenzare il processo elettorale oltre le elezioni del 2024?
RC: Credo che vedremo alcune delle applicazioni più creative di IA generativa durante il ciclo delle elezioni del 2024. Dopo che sarà completo, queste tecniche probabilmente saranno migliorate e resi migliori. Vorrei sapere quale sarà il percorso per prevenire ciò o come sarà.
Spero che ciò diventi un argomento di discussione tra i nostri politici, poiché credo che sia un’area in cui i partiti possono collaborare. Il potere manipolatore dell’IA generativa ha il potenziale per influenzare tutti in modo uguale. Pertanto, riunendo le menti migliori e più brillanti, sono fiducioso che sia possibile sfruttare ciò che di buono c’è in queste tecnologie e limitare l’influenza di ciò che è dannoso.
Inoltre: Non lasciarti ingannare dalle app fake di ChatGPT: Ecco cosa dovresti cercare
ENBLE: Qual è la tua più grande paura riguardo all’intelligenza artificiale generativa e alle elezioni? Spiega perché questa è la tua principale preoccupazione.
RC: La mia più grande paura riguardo all’intelligenza artificiale generativa è che le scelte di chi rappresenta l’America saranno rimpiante dopo il fatto. Non sono a conoscenza di alcun meccanismo che consenta agli americani di annullare facilmente le scelte fatte il giorno delle elezioni. Se una voce riesce a trovare un modo per manipolare e controllare l’esito di un’elezione, e successivamente, attraverso la governance, diventa evidente cosa è successo, come reagiscono le persone?
Perché questa è la mia paura? L’influenza osservata e la capacità di indirizzare le persone nel processo di voto tramite i social media è stata estremamente efficace. L’intelligenza artificiale generativa ha il potenziale per amplificare questa influenza in modi incredibili. C’è un punto in cui questo livello di influenza fa sì che le persone rispondano in modi imprevisti, sfociando in proteste?
Abbiamo visto tutto questo accadere negli ultimi quattro anni ed è successo anche in Europa. Le tensioni stanno diventando abbastanza alte da far esplodere ulteriormente le cose? A volte sembra così.
ENBLE: Ci sono utilizzi positivi per l’intelligenza artificiale generativa nelle elezioni americane?
RC: L’intelligenza artificiale generativa ha un grande potenziale per incrementare l’efficienza nel processo elettorale. Dal punto di vista amministrativo, può rendere molto più efficace l’elaborazione delle comunicazioni. Immagino che l’intelligenza artificiale generativa potrebbe essere utilizzata per aiutare un candidato a prepararsi per interviste, facendo sì che un agente intelligente gli rivolga domande in preparazione a un dibattito. Ci sono molti modi in cui tutto questo potrebbe essere utilizzato per migliorare le cose.
Recentemente ho appreso di una competenza che permette all’intelligenza artificiale generativa di trasformare una notizia sensazionale in una notizia noiosa. Non vedo l’ora di utilizzarla durante la stagione delle elezioni per eliminare la sensazionalismo che spesso accompagna le notizie politiche.
Cosa ne pensi?
“Eliminare il sensazionalismo.” Sembra un buon punto di arrivo. Vorrei ringraziare Robert per aver dedicato il suo tempo e per avermi accompagnato in una conversazione affascinante. Se hai domande, commenti o opinioni su ciò che abbiamo discusso, lasciali nei commenti qui sotto.
Puoi seguire gli aggiornamenti giornalieri del mio progetto sui social media. Assicurati di iscriverti alla mia newsletter settimanale su Substack e seguimi su Twitter su @DavidGewirtz, su Facebook su Facebook.com/DavidGewirtz, su Instagram su Instagram.com/DavidGewirtz e su YouTube su YouTube.com/DavidGewirtzTV.
