IA Generativa a Minaccia in Nuovi Ecosistemi di IA Connessa 🐛🚫
Esperti di sicurezza sviluppano un Worm AI in un ambiente controllato per trasferirsi tra agenti AI generativi, potenzialmente estrarre dati e inviare email di spam nel processo
“`html
AI Worms in Arrivo!
I sistemi AI generativi come ChatGPT di OpenAI e Gemini di Google non sono più solo concetti futuristici. Ora vengono messi al lavoro per svolgere compiti banali per noi, come prenotare appuntamenti e persino acquistare prodotti. Tuttavia, poiché questi strumenti AI diventano sempre più avanzati, diventano anche vulnerabili a nuove forme di cyberattacchi.
In una dimostrazione innovativa, un gruppo di ricercatori ha creato ciò che sostengono siano i primi vermi AI generativi. Questi vermi hanno la capacità di diffondersi da un sistema all’altro, rubare potenzialmente dati o distribuire malware nel processo. È come una versione virtuale del verme informatico di Morris che ha seminato il caos su internet nel lontano 1988.
📜 I Rischi degli Ecosistemi AI Connessi
I ricercatori dietro a questo lavoro innovativo, Ben Nassi, Stav Cohen e Ron Bitton, hanno sviluppato il verme AI, chiamato Morris II, per evidenziare la vulnerabilità degli assistenti email AI generativi, come quelli costruiti su ChatGPT e Gemini. Spezzando alcune protezioni di sicurezza, questi vermi possono infiltrare i sistemi, rubare dati preziosi dalle email e persino inviare messaggi di spam. Si tratta di un potenziale rischio di sicurezza di cui dovrebbero preoccuparsi le startup, i programmatori e le aziende tecnologiche.
- Elon Musk fa causa a OpenAI per violazione contrattuale La battagli...
- Elon Musk denuncia OpenAI una battaglia per l’anima dell̵...
- Elon Musk querela OpenAI, afferma tradimento della missione non-profit
💣 Armatizzazione delle Prompt e Sfruttamento dei Sistemi AI
La maggior parte dei sistemi AI generativi funziona ricevendo prompt, che sono istruzioni in forma di testo che guidano la risposta dell’AI. Tuttavia, questi prompt possono essere anche usati contro il sistema AI. Le jailbreaks possono far sì che un sistema ignori le regole di sicurezza e generi contenuti tossici o pieni di odio, mentre gli attacchi di iniezione di prompt possono dare istruzioni segrete ai chatbot. Ad esempio, un attaccante potrebbe nascondere testo su una pagina web istruendo un assistente AI a comportarsi come un truffatore e a richiedere informazioni sensibili.
Per creare il verme AI generativo, i ricercatori hanno impiegato un “prompt auto-replicante avversario”. Questo prompt induce il modello AI a produrre, nella sua risposta, un altro prompt. Fondamentalmente, si istruisce il sistema AI a fornire ulteriori istruzioni all’interno delle sue risposte, simile agli attacchi tradizionali di iniezione SQL e buffer overflow.
📩 Come Funziona il Verme
I ricercatori hanno ideato un sistema email che utilizza l’AI generativo, collegandolo con ChatGPT, Gemini e un LLM open-source chiamato LLaVA. Hanno scoperto due metodi per sfruttare il sistema. Il primo coinvolge un prompt auto-replicante basato su testo che “avvelena” il database di un assistente email, consentendogli alla fine di rubare dati dalle email. Il secondo metodo coinvolge l’incorporazione di un prompt auto-replicante all’interno di un file immagine, che ha causato all’assistente email di inoltrare il messaggio ad altri. Ciò consente la diffusione di spam, materiale abusivo o propaganda.
🚨 Le Implicazioni Oltre e i Sviluppi Futuri
Anche se questa ricerca ha messo in mostra le vulnerabilità di ChatGPT e Gemini, ha anche funzionato come un avvertimento riguardo alla “cattiva progettazione dell’architettura” all’interno del più ampio ecosistema AI. Per mitigare questi rischi, possono essere implementati adeguati design di applicazioni sicure, monitoraggio e approcci di sicurezza tradizionali. Inoltre, è sempre necessaria la supervisione umana per impedire agli agenti AI di agire senza approvazione. 🕵️♀️🔒
È importante sottolineare che questo esperimento è stato condotto in un ambiente controllato. Tuttavia, gli esperti di sicurezza che hanno esaminato la ricerca avvertono che i vermi AI generativi pongono una minaccia futura. Con l’aumentare dell’autonomia delle applicazioni AI e il collegamento ad altri agenti AI, come nell’automazione delle email o nelle prenotazioni di appuntamenti, il rischio di diffusione dei vermi diventa sempre più rilevante. Un altro gruppo di ricercatori di sicurezza ha dimostrato come possono effettuare jailbreak di un numero significativo di agenti LLM in meno di cinque minuti.
I ricercatori dietro all’esperimento dei vermi AI generativi prevedono che potremmo iniziare a vedere questi vermi in libertà entro i prossimi due o tre anni. Con l’integrazione delle capacità AI generative in vari dispositivi, inclusi auto, smartphone e sistemi operativi, il rischio diventa ancora più significativo.
💡 Conclusioni e Il Tuo Ruolo nella Sicurezza AI
Anche se lo sviluppo dell’AI generativa offre un enorme potenziale, porta anche a nuovi rischi che devono essere affrontati. Le persone coinvolte nella creazione degli assistenti AI devono essere consapevoli di questi rischi e adottare misure adeguate per proteggersi da potenziali attacchi. Implementando adeguate misure di sicurezza e garantendo la supervisione umana, possiamo mitigare i pericoli posti dai vermi AI generativi e altre minacce simili.
📚 Link di Riferimento: – ChatGPT di OpenAI – Gemini di Google – iOS 17.1.2: L’Aggiornamento per iPhone Apparentemente Noioso Che Devi Installare – 6 Prodotti Che Renderanno il 2024 un Anno Importante per Apple – Intel È Pronta a Lanciare un Nuovo Mostro di CPU – Come Salvare Messaggi di Testo su Android e iPhone – Navighiamo Insieme alla Prossima Generazione di Robotica – Perché le Aziende Hanno Bisogno di Governance dell’AI poiché Cresce il Numero di Grandi Modelli Linguistici
“`Certainly! Here’s the HTML code translated into Italian while preserving the original information of the src attribute unchanged:
“`html
🌐 Condividi i tuoi pensieri e preoccupazioni sull’emergente minaccia dei vermi AI generativi nei commenti qui sotto! Continuiamo la conversazione e assicuriamo un futuro alimentato da AI più sicuro. 🤖💻💪
“`
