Il nuovo strumento di Google può rilevare immagini generate da intelligenza artificiale, ma non è così semplice
Il nuovo strumento di Google rileva immagini di IA, ma non è semplice.
Lo strumento può rilevare le immagini generate dall’intelligenza artificiale anche dopo la modifica, il cambio di colori o l’aggiunta di filtri.
Le immagini generate da strumenti di intelligenza artificiale stanno diventando sempre più difficili da distinguere da quelle create dagli esseri umani. Le immagini generate dall’IA possono diffondere disinformazione in quantità massive, portando a un uso irresponsabile dell’IA. A tal scopo, Google ha presentato un nuovo strumento chiamato SynthID che può differenziare le immagini generate dall’IA da quelle create dagli esseri umani.
Lo strumento, creato dal team di DeepMind, aggiunge un impercettibile watermark digitale alle immagini generate dall’IA, come una firma. Lo stesso strumento può successivamente rilevare questo watermark per indicare quali immagini sono state create dall’IA, anche dopo modifiche come l’aggiunta di filtri, la compressione, il cambio di colori e altro ancora.
Inoltre: Come Google e UCLA stanno incoraggiando l’IA a scegliere l’azione successiva per una migliore risposta
SynthID combina due modelli di deep learning in un unico strumento. Uno aggiunge visivamente il watermark al contenuto originale in modo impercettibile all’occhio umano e l’altro identifica le immagini con il watermark.
- Tesla ha abbassato i prezzi dei suoi veicoli elettrici Model S e X
- OpenAI pubblica una nuova guida per insegnanti per ChatGPT nelle aule
- Meta non sta applicando la propria politica sugli annunci politici,...
Attualmente, SynthID non può rilevare tutte le immagini generate dall’IA, poiché è limitato a quelle create con lo strumento di testo-immagine di Google, Imagen. Ma questo è un segno di un futuro promettente per un’IA responsabile, specialmente se altre aziende adottano SynthID nei loro strumenti di IA generativa.
Inoltre: Il riassunto di ricerca basato sull’IA di Google ora ti indirizza alle sue fonti online
Lo strumento verrà gradualmente reso disponibile ai clienti di Vertex AI che utilizzano Imagen ed è disponibile solo su questa piattaforma. Tuttavia, Google DeepMind spera di renderlo disponibile in altri prodotti Google e a terzi al più presto.
