Google amplia il programma di ricompense per i bug, includendo anche scenari di attacco AI.
Google espande il programma di reward per le vulnerabilità, incluso anche l'utilizzo di scenari d'attacco in AI.
Nel campo della cybersecurity, le minacce cambiano rapidamente. Aggiungi alla miscela la tecnologia IA generativa in rapida evoluzione e le preoccupazioni per la sicurezza si evolvono di minuto in minuto. Google è uno dei più grandi attori del settore della tecnologia dell’intelligenza artificiale e riconosce la necessità di adattarsi a questa minaccia.
Google sta espandendo il suo programma esistente di ricompense per le vulnerabilità (VRP) per includere vulnerabilità specifiche dell’IA generativa, considerando le sfide uniche che l’IA generativa comporta, come pregiudizi, manipolazioni del modello, interpretazioni erronee dei dati e altri attacchi avversari.
Anche: Cybersecurity 101: tutto su come proteggere la tua privacy e rimanere al sicuro online
Il VRP è un programma di bug bounty che premia i ricercatori esterni per il test e la segnalazione di vulnerabilità software nei prodotti e servizi di Google. Ora, questo includerà anche prodotti di IA generativa. Alcuni dei prodotti di IA generativa più popolari di Google includono Bard, Lens e altre integrazioni di IA in Search, Gmail, Docs e altro ancora.
Man mano che l’IA generativa viene sempre più integrata in diversi strumenti e programmi di Google, aumentano i rischi potenziali e Google ha già team interni di fiducia e sicurezza che lavorano per prevedere questi rischi. Con l’ampliamento del programma di bug bounty per includere l’IA generativa, Google cerca di incoraggiare la ricerca sulla sicurezza dell’IA per garantire che l’IA responsabile diventi la norma.
- Le 9 migliori offerte Apple nella vendita del Black Friday di Best ...
- Google Pixel 8a notizie, prezzo presunto, data di rilascio e altro ...
- Google Pixel 8 vs. Pixel 7 Quale è la scelta migliore?
Anche: Oltre alle password: 4 passaggi fondamentali per la sicurezza che probabilmente stai dimenticando
Google ha anche offerto ulteriori informazioni sui criteri di ricompensa per la segnalazione di bug nei prodotti di IA in modo che gli utenti possano facilmente determinare ciò che rientra nell’ambito e ciò che non rientra.
I ricercatori di sicurezza esterni sono incaricati di individuare queste vulnerabilità in cambio di un guadagno finanziario, il che dà a Google, l’azienda alla base del programma di bug bounty, l’opportunità di correggere queste minacce prima che gli attori malintenzionati le sfruttino. Ciò garantisce un prodotto più sicuro per gli utenti.
Oltre all’inclusione dell’IA generativa nel suo VRP, Google ha introdotto il Framework AI protetto per supportare la creazione di applicazioni di AI responsabili e sicure. Ha anche annunciato di collaborare con l’Open Source Security Foundation per garantire l’integrità delle catene di approvvigionamento dell’IA.
Anche: WormGPT: cosa sapere sul cugino malizioso di ChatGPT
Gli utenti che desiderano partecipare al programma di bug bounty di Google possono inviare direttamente un bug o una vulnerabilità di sicurezza all’azienda. Nel 2022, Google ha emesso oltre 12 milioni di dollari in premi agli esperti di sicurezza come parte del suo programma di bug bounty.
