L’esplosione dell’IA generativa potrebbe alimentare una nuova corsa agli armamenti internazionale
L'esplosione dell'IA generativa potrebbe causare una nuova corsa agli armamenti internazionale.
I governi di tutto il mondo si stanno affrettando ad abbracciare gli algoritmi che hanno conferito un certo grado di intelligenza a ChatGPT, apparentemente affascinati dall’enorme vantaggio economico atteso dalla tecnologia.
Due nuovi rapporti pubblicati questa settimana mostrano che anche gli Stati nazionali stanno probabilmente affrettandosi ad adattare la stessa tecnologia in armi di disinformazione, in quello che potrebbe diventare una preoccupante corsa agli armamenti AI tra le grandi potenze.
Ricercatori del RAND, un think tank non profit che fornisce consulenza al governo degli Stati Uniti, indicano prove di un ricercatore militare cinese con esperienza in campagne di informazione che discute pubblicamente come l’AI generativa potrebbe aiutare tale lavoro. Un articolo di ricerca, datato gennaio 2023, suggerisce l’utilizzo di modelli di linguaggio ampi come una versione ottimizzata del BERT di Google, un precursore dei modelli di linguaggio più potenti e capaci che alimentano chatbot come ChatGPT.
“Non c’è alcuna prova che venga fatto in questo momento”, afferma William Marcellino, esperto di AI e ricercatore senior di comportamento e scienze sociali al RAND, che ha contribuito al rapporto. “Piuttosto qualcuno sta dicendo: ‘Ecco una strada da seguire'”. Lui e altri al RAND sono allarmati dalla prospettiva che le campagne di influenza ottengano una nuova scala e potenza grazie all’AI generativa. “Creare un sistema per creare milioni di account falsi che si fanno passare per taiwanesi, americani o tedeschi e che promuovono una narrativa statale, penso che sia qualitativamente e quantitativamente diverso”, afferma Marcellino.
- Il governo del Regno Unito nega di aver cambiato idea sul piano di ...
- GoPro svela la sua ultima action camera, la Hero12 Black | ENBLE
- Ecco i migliori smartwatch per bambini, secondo i genitori
Le campagne di informazione online, come quella condotta dall’Internet Research Agency della Russia per minare le elezioni statunitensi del 2016, esistono da anni. Hanno principalmente dipeso dal lavoro manuale, con operatori umani che lavorano al computer. Ma gli algoritmi AI sviluppati negli ultimi anni potrebbero potenzialmente produrre in massa testo, immagini e video progettati per ingannare o persuadere, o persino svolgere interazioni convincenti con le persone sui social media. Un recente progetto suggerisce che lanciare una campagna del genere potrebbe costare solo qualche centinaio di dollari.
Marcellino e i suoi coautori notano che molti paesi, inclusi gli Stati Uniti, stanno quasi certamente esplorando l’uso dell’AI generativa per le proprie campagne informative. E l’ampia accessibilità degli strumenti di AI generativa, inclusi numerosi modelli di linguaggio open source che chiunque può ottenere e modificare, abbassa la soglia per chiunque voglia lanciare una campagna di informazione. “Diversi attori potrebbero utilizzare l’AI generativa per la manipolazione dei social media, compresi attori non statali tecnicamente sofisticati”, scrivono.
Un secondo rapporto pubblicato questa settimana, redatto da un altro think tank focalizzato sulla tecnologia, il Special Competitive Studies Project, avverte anche che l’AI generativa potrebbe presto diventare un modo per le nazioni di dimostrare potenza l’una all’altra. Esso esorta il governo degli Stati Uniti a investire pesantemente nell’AI generativa perché la tecnologia promette di potenziare diverse industrie e fornire “nuove capacità militari, prosperità economica e influenza culturale” per la nazione che la padroneggia per prima.
Come il rapporto del RAND, l’analisi del SCSP trae anche alcune conclusioni pessimistiche. Avverte che il potenziale dell’AI generativa è destinato a innescare una corsa agli armamenti per adattare la tecnologia all’uso da parte delle forze armate o negli attacchi informatici. Se entrambi hanno ragione, ci stiamo dirigendo verso una corsa agli armamenti nello spazio delle informazioni che potrebbe rivelarsi particolarmente difficile da contenere.
Come evitare lo scenario incubo di internet che viene invaso da AI bot programmati per la guerra delle informazioni? Richiede che gli esseri umani parlino tra di loro.
Il rapporto del SCSP raccomanda che gli Stati Uniti “dovrebbero guidare l’impegno globale per promuovere la trasparenza, favorire la fiducia e incoraggiare la collaborazione”. I ricercatori del RAND raccomandano che i diplomatici statunitensi e cinesi discutano dell’AI generativa e dei rischi legati alla tecnologia. “Potrebbe essere nel nostro interesse comune non avere un internet completamente inquinato e incredibile”, afferma Marcellino. Penso che sia qualcosa su cui tutti possiamo essere d’accordo.
