Illuminando Nightshade – uno strumento che viene dall’ombra
Illuminando Nightshade - uno strumento nato dall'ombra
Ben Zhao, un professore dell’Università di Chicago, ha aiutato un team a creare un programma di intelligenza artificiale chiamato Nightshade. Zhao sostiene di aiutare solo gli artisti a trovare un modo per fermare coloro che utilizzano i loro modelli senza il permesso del creatore. Dice: “La speranza è che aiuti a ribilanciare il potere delle aziende di intelligenza artificiale a favore degli artisti, creando un deterrente potente contro la mancanza di rispetto del copyright e della proprietà intellettuale degli artisti”. Immagino che il fatto che Zhao utilizzi una vulnerabilità di sicurezza nell’intelligenza artificiale generativa non importi molto. Zhao non è nemmeno preoccupato che ci sia un rischio che la tecnica di avvelenamento dei dati possa essere utilizzata a fini maliziosi. Dice che gli attaccanti dovrebbero “raccogliere migliaia di campioni avvelenati per infliggere danni concreti a modelli potenti”.
Risaputo è il fatto che “Nightshade” è una bacca rosso o nera velenosa e un fiore viola su una pianta che è parente della patata – ed estremamente velenosa. Perciò, il nome intelligente è “Nightshade”, da Zhao e il suo team.
Un professore all’Università di Cornell, Vitaly Shmatikov, dice che non abbiamo ancora visto attacchi al machine learning, ma sarà solo una questione di tempo. Molti altri definiscono il lavoro di Zhao e del suo team “fantastico”. Come dice Gautam Kamath, professore assistente all’Università di Waterloo: “Le vulnerabilità dell’intelligenza artificiale non scompaiono magicamente per nuovi modelli e diventeranno più gravi”. Tuttavia, altri sostengono che questa piccola (grande) pillola avvelenata finalmente farà sì che le persone “ci pensino due volte” prima di toccare il lavoro degli artisti senza consenso. Un’artista ha confidato che finalmente avrà fiducia nel poter mettere di nuovo il suo lavoro online.
Lo strumento è attualmente nella fase di ricerca, ma il team lo integrerà con tutti gli altri strumenti creati per proteggere le opere d’arte rubate.
Lo strumento di scraping cambierà i pixel di un’immagine digitale, “imbrogliando” il sistema di intelligenza artificiale nell’interpretazione errata della resa. Come ha detto il MIT Technology Review, farà apparire un’immagine di un animale come un altro – ad esempio, un cane apparirà come un gatto e una casa potrebbe diventare un cavallo.
- Amazon aggiunge il supporto per le Passkeys, consentendo accessi pi...
- Secondo le ultime notizie, Apple introdurrà presto l’intellig...
- Specifica della Materia 1.2 Aggiornata supporta nuovi tipi di dispo...
Image di anteprima: Foto di Davide Baraldi; Pexels; Grazie!
