Google svela lo strumento di watermarking AI mentre la pressione politica aumenta
Google unveils AI watermarking tool amid increasing political pressure
Mentre i governi aumentano le richieste di etichettatura dei contenuti generati da intelligenza artificiale, Google DeepMind ha rilasciato una potenziale soluzione: uno strumento di watermarking.
Chiamato SynthID, il sistema sfrutta l’apprendimento profondo per incorporare timbri digitali nei pixel delle immagini. Secondo DeepMind, i watermark sono impercettibili all’occhio umano, ma rilevabili con un algoritmo.
Il laboratorio di ricerca con sede nel Regno Unito ha dichiarato che il watermark non compromette la qualità dell’immagine. Rimane anche rilevabile dopo modifiche, come l’aggiunta di filtri, il cambio di colori e il ritaglio.
Il concetto assomiglia ai watermark applicati a film e foto stock. Ma in questo caso, l’obiettivo non è proteggere i titolari dei diritti dalle contraffazioni, ma gli spettatori dall’inganno.
“Sebbene SynthID non sia una soluzione miracolosa per la disinformazione, è una soluzione tecnica promettente per alcune delle attuali questioni urgenti di sicurezza dell’IA”, ha detto Demis Hassabis, co-fondatore e CEO di Google DeepMind, su X.
- Samsung ha lanciato la sua app di ricette alimentata da intelligenz...
- Lo Shark FlexStyle viene fornito con una carta regalo gratuita di 3...
- Ottieni un Apple iPad 2021 con uno sconto di 50 dollari su Walmart ...
SynthID arriva in un momento di crescente preoccupazione per l’IA generativa. In tutto il mondo, i governi hanno lanciato l’allarme riguardo alle immagini manipolate che minano le elezioni, distorcendo la realtà e ingannando il pubblico.
I rischi sono stati recentemente esposti in un video della campagna presidenziale di Ron DeSantis. A prima vista, le immagini sembravano mostrare foto genuine di Donald Trump che abbraccia e bacia Anthony Fauci, che ha guidato la risposta alla pandemia COVID-19 della Casa Bianca. Ma gli esperti forensi ritengono che le immagini siano deepfake.
La Cina ha già imposto regole rigorose su questa tecnologia. A gennaio, il paese ha reso obbligatorio etichettare i contenuti prodotti con intelligenza artificiale. Regole simili stanno anche venendo implementate nell’UE.
“Dobbiamo etichettare tutto ciò che è generato da intelligenza artificiale applicando loro dei watermark”, ha detto il Commissario Thierry Breton a giugno.
Anche gli Stati Uniti stanno spingendo le aziende a identificare i contenuti realizzati con l’IA. Dopo un incontro alla Casa Bianca il mese scorso, Google e altre sei grandi aziende tecnologiche si sono impegnate a sviluppare sistemi di watermarking.
SynthID è un passo verso il conseguimento degli impegni, ma il sistema rimane sperimentale. Inizialmente, lo strumento sarà disponibile solo per alcuni clienti paganti del settore di cloud computing di Google. Funziona anche solo su contenuti prodotti con l’art generator Imagen.
Ciò potrebbe cambiare in futuro. Secondo Google, SynthID potrebbe essere esteso ad altri modelli di intelligenza artificiale. L’azienda ha anche annunciato piani per integrare lo strumento con altri prodotti.
I governi e i regolatori seguiranno da vicino i progressi. Con le elezioni in avvicinamento negli Stati Uniti, in India e nel Regno Unito, la minaccia rappresentata dall’IA si avvicina sempre di più.
