Probabilmente creati con la tecnologia ElevenLabs, i deepfake delle chiamate robot che imitano Joe Biden.
La scorsa settimana, le telefonate robotiche di deepfake di Joe Biden ai votanti del New Hampshire sono state attribuite agli strumenti sviluppati dalla startup di intelligenza artificiale ElevenLabs.
L’ascesa delle Deepfake Robocalls: come la tecnologia AI sta scuotendo la politica
Gli strumenti della startup AI, ElevenLabs, sono stati accusati dell’ultima ondata di deepfake robocalls che mirano agli elettori del New Hampshire, lasciando sia i cittadini che gli esperti preoccupati per il potenziale abuso della tecnologia AI nella politica.
Il pericolo nella voce digitale
Alcuni elettori dello stato affermano di aver ricevuto chiamate da nientemeno che il Presidente degli Stati Uniti stesso, che li incitava a non votare alle elezioni primarie. Mentre non è ancora chiaro chi sia direttamente responsabile di queste chiamate ingannevoli, due squadre di esperti audio hanno puntato il dito contro ElevenLabs, una startup di clonazione vocale la cui tecnologia si ritiene sia dietro l’inganno.
L’azienda di sicurezza Pindrop, specializzata nell’identificazione dell’audio sintetico, ha analizzato le chiamate e ha trovato prove convincenti che le collegavano a ElevenLabs o a un sistema simile. Gli strumenti AI dell’azienda, inizialmente commercializzati per audiolibri e videogiochi, possono ora essere utilizzati dal pubblico per clonare la voce di chiunque mediante la presentazione di un campione audio. Sebbene ElevenLabs incoraggi gli utenti a ottenere il permesso prima di clonare la voce di qualcuno, permettono la clonazione senza permesso per scopi non commerciali, compresi “discorsi politici che contribuiscono ai dibattiti pubblici”.
In risposta alle accuse, il CEO di ElevenLabs, Mati Staniszewski, ha rilasciato una dichiarazione sottolineando l’impegno dell’azienda nel prevenire il cattivo uso degli strumenti audio AI e si è impegnato a collaborare con le autorità per intraprendere azioni contro l’abuso della loro tecnologia.
Smentire la tendenza delle Deepfake
Sfortunatamente, questo incidente non è la prima volta che gli strumenti di ElevenLabs sono stati implicati nella propaganda politica delle deepfake. Lo scorso anno, sono stati scoperti account TikTok che utilizzavano voci generate dall’IA, compresa quella di Barack Obama, per diffondere teorie cospiratorie utilizzando la tecnologia di ElevenLabs. Questi incidenti mettono in luce il lato oscuro dei contenuti generati dall’IA e sollevano dubbi sulla crescente necessità di regolamentazioni del settore.
- La transizione del Giappone dai supporti fisici Addio ai floppy dis...
- Presentando Apple Vision Pro un visore a realtà mista con grande po...
- La California sta considerando un disegno di legge che darebbe ai g...
La scorsa settimana, immagini deepfake sessualmente esplicite di Taylor Swift sono diventate virali, suscitando un’azione tempestiva da parte delle piattaforme online per bloccare le ricerche e limitare la diffusione di queste immagini dannose. Poiché le deepfake continuano a evolversi e rappresentano una minaccia per la privacy delle persone e per la reputazione dei personaggi pubblici, le richieste di regolamentazioni più severe, come quelle avanzate dal congressista Tom Kean, guadagnano slancio nel tentativo di proteggere gli individui dal potenziale danno causato dai contenuti generati dall’IA.
Guardando avanti: il futuro delle deepfake
Anche se l’ascesa delle deepfake è indubbiamente motivo di preoccupazione, rappresenta anche un’opportunità per comprendere meglio e affrontare le sfide poste dalla tecnologia AI. Gli incidenti legati agli strumenti di ElevenLabs evidenziano l’urgente necessità di quadri normativi che trovino un equilibrio tra la protezione delle persone dal danno e la promozione dell’innovazione nel campo dell’IA.
Man mano che la tecnologia continua a progredire, è fondamentale che i legislatori, gli esperti del settore e la società nel suo complesso siano al passo con le tendenze emergenti e anticipino i potenziali rischi. Investendo nella ricerca e sviluppando efficaci misure di sicurezza, possiamo mitigare i rischi associati alle deepfake e sfruttare il potere della tecnologia AI per il cambiamento positivo.
🤔 Contenuti domande e risposte
Q: Come può essere regolata la tecnologia delle deepfake? A: Regolare la tecnologia delle deepfake richiede un approccio multifattoriale che coinvolga quadri normativi, progressi tecnologici e consapevolezza pubblica. I legislatori devono emanare leggi che impongano pene per l’uso malintenzionato delle deepfake, preservando al contempo la libertà di espressione. Soluzioni tecnologiche, come algoritmi di rilevamento delle deepfake e metodi di autenticazione, possono aiutare a individuare i contenuti manipolati. Inoltre, educare il pubblico sull’esistenza e sui potenziali pericoli delle deepfake è fondamentale per garantire un consumo e una diffusione responsabili dei media digitali.
Q: La tecnologia delle deepfake può essere utilizzata per scopi benefici? A: Sebbene la tecnologia delle deepfake abbia attirato l’attenzione per il suo potenziale di inganno e manipolazione, ha anche possibilità di applicazioni positive. Ad esempio, nell’industria dell’intrattenimento, le deepfake possono essere utilizzate per far rivivere personaggi storici nei film o creare personaggi virtuali realistici. Inoltre, la tecnologia ha prospettive promettenti in campo medico, dove può essere utilizzata per migliorare la comunicazione con i pazienti e potenziare la logopedia per le persone con disabilità comunicative.
Q: Come possono gli individui proteggersi dalle truffe deepfake? A: Per proteggerti dal cadere vittima delle truffe deepfake, è essenziale affrontare i contenuti digitali con scetticismo. Verifica la fonte di qualsiasi messaggio audio o video sospetto e astieniti dal condividere informazioni non verificate. Sii cauto nel fornire informazioni personali via telefono o attraverso altri media. Implementa pratiche di sicurezza solide, come l’uso dell’autenticazione a due fattori e l’aggiornamento regolare delle password. Rimani informato sulle tendenze emergenti dei deepfake e impara a individuare segni di manipolazione per evitare di diventare un bersaglio.
Riferimenti
- Tech Palestine Launches to Provide Tools to Help Support Palestinians (TechCrunch)
- Wired Headphones in Mini Revival (ENBLE)
- Boeing 737 Max Crisis Reignites Arguments on Infant Safety in Planes (ENBLE)
- Startup Uses AI to Give Speech-Impaired People Voices Back (ENBLE)
- YC’s Tom Blomfield to Talk About Raising Money and Tech Regrets (TechCrunch)
James Jones
Giornalista Freelance
James Jones è un giornalista, podcaster e specialista di pubblicazione digitale con una vasta esperienza di oltre 10 anni nella creazione di contenuti accattivanti su varie riviste online del settore sportivo e tecnologico. Avendo lavorato per importanti editori online e comparso su rinomati media, James porta una grande competenza e conoscenza alla sua scrittura. Con una laurea in giornalismo e un ricco portafoglio di successi, James continua a informare i lettori sulle ultime notizie del settore attraverso i suoi articoli su ENBLE.com.
Connettiti con James su LinkedIn
Ti è piaciuto questo articolo? Condividi le tue opinioni e diffondi la voce sui social media! Discutiamo dell’impatto della tecnologia deepfake sulla politica e sul futuro dell’IA nella nostra società. 📢🌐
Nota: Le immagini originali che accompagnano l’articolo sono state incluse.
