La crisi dei deepfake la disinformazione generata dall’AI minaccia le elezioni.
Una recente ricerca del Center for Countering Digital Hate rivela che la produzione e la diffusione di deepfake politici è ora più semplice che mai.
“`html
La crisi dei deepfake politici sta rapidamente proliferando a causa di GenAI di ENBLE.
Quest’anno, miliardi di persone voteranno alle elezioni in tutto il mondo. Ma c’è una nuova minaccia all’orizzonte che potrebbe minare questi esercizi democratici: la disinformazione dei deepfake generati dall’IA.
🌍🗳️
In uno studio innovativo del Center for Countering Digital Hate (CCDH), è emerso che il volume di disinformazione generata dall’IA, in particolare immagini deepfake legate alle elezioni, sta aumentando rapidamente su X (ex Twitter). Questo incremento dei deepfake rappresenta un rischio significativo per i processi democratici globali.
Aumento dei Deepfake 📈
Non è un segreto che i deepfake, media generati dall’IA che modificano in modo convincente immagini o video, siano diventati sempre più diffusi. Secondo il World Economic Forum, i deepfake sono aumentati del 900% tra il 2019 e il 2020. Tuttavia, è l’incremento dei deepfake legati alle elezioni nell’ultimo anno a destare allarme.
- MDaaS Global si assicura 3 milioni di dollari di finanziamento per ...
- Deloitte assume investigatori criptovalutari e analisti senior di c...
- 😱 Metal Panne Facebook e Instagram giù!
Un recente sondaggio condotto da YouGov ha rivelato che l’85% degli americani è preoccupato per la diffusione di video e audio deepfake fuorvianti. Un altro sondaggio condotto dal The Associated Press-NORC Center for Public Affairs Research ha rivelato che quasi il 60% degli adulti ritiene che gli strumenti basati sull’IA contribuiranno alla diffusione di informazioni false e fuorvianti durante il ciclo elettorale statunitense del 2024.
🔍🔄
Per misurare l’incremento dei deepfake legati alle elezioni su X, lo studio del CCDH ha analizzato le note della community, i contributi degli utenti che menzionavano i deepfake o termini correlati. Lo studio ha rilevato che l’uso di generatori di immagini basati sull’IA come Midjourney, DALL-E 3 di OpenAI, DreamStudio di Stability AI e Image Creator di Microsoft ha generato deepfake in quasi la metà dei test eseguiti. Questo nonostante il fatto che alcune di queste piattaforme abbiano politiche contro la disinformazione elettorale.
Il Dilemma dei Social Media 📱💻
Mentre i generatori di immagini basati sull’IA hanno reso più semplice creare deepfake, sono piattaforme di social media che ne hanno favorito la rapida diffusione. Nel caso dello studio del CCDH, è emerso che le immagini generate dall’IA, anche dopo essere state verificate in un singolo post, continuavano a ricevere centinaia di migliaia di visualizzazioni tramite condivisioni.
⚠️
Ciò solleva preoccupazioni sull’efficacia delle note della community su X. Sembra che i media corrispondenti non visualizzino in modo coerente queste note, consentendo ai deepfake di diventare virali. La diffusione diffusa di contenuti generati dall’IA sui social media rappresenta una sfida enorme nel contrastare la diffusione della disinformazione.
C’è una Soluzione? 🤔✅
Affrontare la crisi dei deepfake richiede un approccio a più leve. Callum Hood, responsabile della ricerca presso il CCDH, suggerisce diverse soluzioni possibili. Gli strumenti e le piattaforme basati sull’IA dovrebbero fornire garanzie responsabili e essere accuratamente testati per prevenire abusi. Le piattaforme di social media dovrebbero investire in personale affidabile e dedicato alla sicurezza per contrastare la disinformazione generata dall’IA. I legislatori dovrebbero utilizzare le leggi esistenti per prevenire l’intimidazione degli elettori derivante dai deepfake, sviluppando anche legislazioni per rendere i prodotti basati sull’IA più sicuri e rendere i fornitori responsabili.
🛡️🤝
Sono stati compiuti alcuni passi positivi nella giusta direzione. I fornitori di generatori di immagini, tra cui Microsoft, OpenAI e Stability AI, hanno firmato un accordo volontario per rispondere collettivamente ai deepfake generati dall’IA volti a fuorviare gli elettori. Meta ha annunciato l’etichettatura dei contenuti generati dall’IA e ne ha bloccato l’uso nelle campagne politiche. Google richiede che gli annunci politici che presentano IA generativa sulle sue piattaforme siano accompagnati da divulgazioni evidenti.
“““html
Tuttavia, rimangono delle domande sul ritmo con cui l’industria e i regolatori stanno rispondendo alla minaccia dei deepfake. Con le elezioni in tutto il mondo a rischio, è cruciale che le piattaforme di intelligenza artificiale, le aziende di social media e i legislatori agiscano rapidamente per proteggere l’integrità della democrazia.
🏛️🔒
Q&A
Q: I deepfake sono solo un problema su X (precedentemente Twitter)?
A: Lo studio CCDH si è concentrato principalmente sui deepfake su X, ma la proliferazione dei deepfake si estende ad altre piattaforme di social media come Facebook e TikTok. Le piattaforme devono implementare misure robuste per combattere la diffusione della disinformazione dei deepfake su tutti i canali.
Q: Quali generatori di immagini erano più suscettibili alla creazione di deepfake politici?
A: Secondo lo studio CCDH, Midjourney, con un tasso di successo del 65%, ha generato la maggior parte dei deepfake legati alle elezioni. Image Creator e DreamStudio sono seguiti da vicino, mentre ChatGPT ha bloccato tutte le immagini relative ai candidati. È importante notare che tutti questi generatori hanno generato deepfake che raffigurano frodi e intimidazioni elettorali.
Q: Come possono gli individui identificare i deepfake?
A: Identificare i deepfake può essere difficile, poiché stanno diventando sempre più realistici. Tuttavia, ci sono alcuni segnali distintivi da tenere d’occhio, come movimenti facciali innaturali, incongruenze nella luce e nelle ombre e difetti intorno ai bordi degli oggetti. È anche consigliabile fare affidamento su fonti di notizie affidabili per informazioni.
Guardando Avanti 🚀
Con il continuo avanzamento della tecnologia dell’intelligenza artificiale, la minaccia della disinformazione dei deepfake persiste. È essenziale che sviluppatori di tecnologia, regolatori e individui rimangano vigili nel combattere questa sfida. Implementando rigorose salvaguardie e promuovendo la cultura dei media, possiamo proteggere l’integrità delle elezioni e dei processi democratici in tutto il mondo.
🌐🗳️
Riferimenti
- Reportage della BBC: Deepfake di elettori neri che incoraggiano gli afroamericani a votare repubblicano
- Forum Economico Mondiale: Crescita dei Deepfake
- Sondaggio YouGov: Preoccupazioni riguardo i Misleading Deepfake
- Sondaggio del Centro Associated Press-NORC: Strumenti di IA nelle elezioni statunitensi del 2024
- Accordo volontario di Microsoft sui Deepfake
- Sforzi di OpenAI per combattere i Deepfake
- Lotta di Stability AI contro i Contenuti Ingannevoli
- C2PA – Coalizione per la Provenienza e Autenticità dei Contenuti
Cosa ne pensate della crisi dei deepfake? Come possiamo combattere la diffusione della disinformazione? Condividete le vostre opinioni e sensibilizzate. Insieme possiamo proteggere la democrazia! 👥💪
Non dimenticate di mettere mi piace, condividere e iscrivervi per altri contenuti coinvolgenti! 📢🌐
“`
