Potremmo perdere irreversibilmente il controllo dell’IA autonoma’, avvertono i migliori accademici
I migliori accademici ammoniscono che potremmo perdere il controllo irreversibilmente sulle IA autonome
Lettere aperte che avvertono sui rischi dell’IA si stanno accumulando, con i principali tecnologi e ricercatori che lanciano l’allarme sullo sviluppo incontrollabile, sulle minacce esistenziali e sulla mancanza di regolamentazione.
Adesso, proprio una settimana prima del summit sull’IA a Londra, una nuova lettera chiede alle aziende e ai governi di garantire l’uso sicuro ed etico dell’IA. Tra i firmatari ci sono numerosi accademici europei, tre vincitori del premio Turing e persino i cosiddetti padrini dell’IA, Yoshua Bengio e Geoffrey Hinton.
Non a caso, lo scorso maggio, Hinton ha lasciato Google per parlare liberamente dei pericoli imminenti dell’intelligenza artificiale. Ad aggiungersi all’atmosfera distopica, un mese prima, Elon Musk ha avvertito che l’IA potrebbe portare alla “distruzione della civiltà” e Sundar Pichai di Google ha ammesso che i pericoli lo “tengono sveglio di notte”.
Nella lettera, pubblicata martedì, i firmatari hanno sottolineato che sebbene le capacità della tecnologia possano avere un impatto estremamente positivo sull’umanità, la mancanza di investimenti nella sicurezza e nella mitigazione dei danni potrebbe avere l’effetto esattamente opposto.
Hanno osservato che l’IA ha già superato le capacità umane in alcuni ambiti, avvertendo che potrebbero emergere “abilità e comportamenti imprevisti” senza programmazione esplicita.
- Ecco come ottenere lo Shark FlexStyle al prezzo più basso possibile
- Come preordinare gli occhiali AR XREAL Air 2 e XREAL Air 2 Pro
- I potenti nuovi processori di Qualcomm eccellono nell’intelli...
“Senza la dovuta cautela, potremmo perdere irreversibilmente il controllo dei sistemi di IA autonomi rendendo inefficace l’intervento umano”, si legge nella lettera. Ciò potrebbe portare a una serie di pericoli preoccupanti e in rapido aumento, tra cui il cybercrime e la manipolazione sociale fino alla perdita su larga scala della biosfera… e all’estinzione.
Dati gli interessi in gioco, i firmatari invitano le aziende a destinare almeno un terzo del loro budget R&D alla sicurezza e all’etica dell’IA. Inoltre, esortano i governi a far rispettare gli standard e le normative e a facilitare la collaborazione internazionale al fine di evitare imprudenze e abusi.
Il prossimo AI Act dell’UE sarà il primo regolamento specifico sull’IA al mondo che cercherà di stabilire un chiaro insieme di regole sullo sviluppo della tecnologia. Ma nonostante gli avvertimenti, il settore aziendale ha sollevato altre preoccupazioni, temendo che la regolamentazione possa soffocare l’innovazione.
In effetti, trovare un equilibrio tra regolamentazione e progresso dell’IA sembra essere una delle sfide più difficili che i governi devono affrontare oggi. Ma la difficoltà presentata non significa (né dovrebbe significare) che la sicurezza e la governance sono di secondaria importanza.
“Per guidare l’IA verso risultati positivi e lontano dalla catastrofe, dobbiamo avere la saggezza di adottare un percorso responsabile”, concludono gli accademici.
