Accecato dalla grande tecnologia, il summit sull’AI del Regno Unito sta trascurando le grandi questioni
Accecato dalla tecnologia avanzata, il summit sull'intelligenza artificiale nel Regno Unito sta ignorando le questioni cruciali
I leader mondiali e i titani della tecnologia stanno attualmente scendendo nel sud dell’Inghilterra per un vertice sulla sicurezza dell’IA, ma l’evento appariscente non sta impressionando tutti.
Nei prossimi due giorni, circa 100 grandi personaggi parteciperanno all’evento nella storica Bletchley Park, una tenuta di campagna a circa 90 km a nord di Londra. Durante la seconda guerra mondiale, il sito ospitava i decifratore che riuscirono a decifrare il famigerato dispositivo di crittografia Enigma della Germania nazista. Ora, 80 anni dopo, il governo britannico vuole dimostrare che il Regno Unito è ancora una superpotenza tecnologica, ma i piani hanno destato preoccupazione.
I critici hanno varie preoccupazioni. Si preoccupano che gli organizzatori del vertice siano affascinati dall’IA di “frontiera”, da nomi famosi e da paure esagerate, trascurando nel contempo questioni più urgenti e inclusive.
Una sorprendente aggiunta dell’ultimo minuto all’agenda ha alimentato i loro sospetti. Lunedì, il Primo Ministro Rishi Sunak ha rivelato di avrà una “conversazione” con Elon Musk su X.
Musk aggiunge ulteriore prestigio a una lista di ospiti di star.
- I migliori VPN nel novembre 2023
- Svelate le nuove linee guida per le criptovalute nel Regno Unito
- Le regole statunitensi sull’esportazione mettono a rischio le...
Tra gli invitati ci sono molti pesi massimi della politica, tra cui la Vice Presidente degli Stati Uniti Kamala Harris, la Presidente della Commissione Europea Ursula von der Leyen, il Segretario Generale delle Nazioni Unite Antonio Guterres e il Vice Ministro Cinese Wu Zhaohui.
Presenti anche vari titani della tecnologia, come il Presidente di Microsoft Brad Smith, il CEO di OpenAI Sam Altman e il capo di Meta AI Yann LeCun. Ma l’evento non è per tutti.
“Il mio timore è che il vertice si concentri su minacce esistenziali che fanno notizia.
Gran parte del settore tecnologico ritiene che solo giganti dell’industria e leader politici siederanno al tavolo della conferenza di Sunak.
Il dott. Hector Zenil, fondatore della start-up sanitaria Oxford Immune Algorithmics, teme che l’evento sarà dominato dall’IA generativa e dalla big tech. Ha chiesto a Sunak di coinvolgere una maggiore rappresentazione commerciale e accademica.
“Se il Vertice sulla Sicurezza dell’IA vuole essere considerato un successo, o almeno sulla giusta strada per creare un consenso sulla sicurezza, la regolamentazione e l’etica dell’IA, il governo britannico deve sforzarsi di creare un campo di gioco equo per tutte le parti coinvolte nel discutere i futuri casi d’uso della tecnologia”, ha detto Zenil.
“Il vertice non può essere dominato da quelle aziende con un’agenda e una narrazione specifiche incentrate sugli interessi commerciali, altrimenti le attività di questa settimana saranno considerate una costosa e fuorviante operazione di marketing”.
https://twitter.com/RishiSunak/status/1719055211451306003?ref_src=twsrc%5Etfw
Le opinioni di Zenil sono comuni nel settore. Tra gli addetti ai lavori che condividono le sue preoccupazioni c’è Victor Botev, CTO e co-fondatore di Iris.ai, una start-up con sede ad Oslo.
Ex ricercatore di intelligenza artificiale presso l’Università di Chalmers e ora leader aziendale, Botev desidera una rappresentazione più ampia sia dell’accademia che dell’industria durante l’incontro.
“È fondamentale che qualsiasi consultazione sulla regolamentazione dell’IA includa prospettive che vanno oltre i giganti tecnologici”, ha detto. “Le piccole aziende di intelligenza artificiale e i sviluppatori open-source spesso sono pionieri di nuove innovazioni, ma le loro voci sulla regolamentazione rimangono inascoltate. Il vertice ha perso una grande opportunità includendo solo 100 ospiti, principalmente leader mondiali e grandi aziende tecnologiche”.
I venture capitalist hanno sollevato preoccupazioni simili.
“In futuro, dobbiamo anche avere più voci delle startup stesse. Il focus del vertice sulla sicurezza dell’IA sulle grandi aziende tecnologiche e l’esclusione di molte comunità nel campo delle startup nell’IA è deludente”, ha dichiarato Ekaterina Almasque, General Partner di OpenOcean VC europea.
“È fondamentale che le voci dell’industria siano incluse nella definizione delle regole che avranno un impatto diretto sullo sviluppo tecnologico”.
Apocalissi dell’IA di frontiera
La luccicante lista degli ospiti è stata accompagnata da un’agenda altrettanto drammatica. Secondo i critici, questa combinazione è una distrazione da questioni più urgenti.
Si nota che il programma si concentrerà esclusivamente su sistemi di IA “di frontiera”, un termine vago per modelli di IA avanzati e a uso generale. In un recente rapporto governativo, il termine “IA di frontiera” è stato applicato quasi interamente a grandi modelli linguistici (LLM), in particolare ChatGPT di OpenAI.
Zenil sospetta che il focus sia stato influenzato dai CEO che sono investiti in questo settore. Vuole che il governo adotti una visione più ampia.
“È assolutamente fondamentale che il Regno Unito abbia una strategia coerente per l’IA che comprenda tutti gli aspetti della tecnologia e diversi modelli. Soprattutto, questo è importante perché nessun approccio diventerà la ‘soluzione magica’ per l’adozione dell’IA”, ha detto.
“Se il Summit sull’IA a Bletchley Park e il comitato consultivo sull’IA sono dominati da individui con un particolare focus di ricerca o commerciale sull’IA, allora sarà più difficile sviluppare quadri normativi che riflettano tutti i potenziali casi d’uso.”
Un’altra causa di preoccupazione è il focus del summit su minacce ipotetiche “estreme” e scenari apocalittici. Sunak ha personalmente sottolineato queste possibilità catastrofiche.
“Nei casi più improbabili ma estremi, c’è persino il rischio che l’umanità perda completamente il controllo dell’IA attraverso il tipo di IA a volte definita ‘superintelligenza’”, ha detto la scorsa settimana.
Alcuni critici sostengono che tali prospettive apocalittiche siano esagerate. Alcuni biasimano i media per ingigantire i pericoli, mentre altri sostengono che i dirigenti tecnologici esagerino i rischi per nascondere i problemi reali e attuali che stanno creando.
Questi soggetti sono più preoccupati delle minacce tangibili del cambiamento climatico, dei pregiudizi contro i gruppi emarginati e degli attacchi informatici. Notano, ad esempio, che uno studio recente ha trovato che l’IA di Google potrebbe presto consumare tanta energia elettrica quanto l’Irlanda.
Almasque, della società di venture capital OpenOcean, teme che le priorità del summit siano distorte.
“Sembra probabile che si concentri principalmente sui rischi più grandi e a lungo termine dell’IA e molto meno su ciò che deve essere fatto, oggi, per creare un ecosistema di IA in crescita”, ha detto. “È come se una startup si preoccupasse del prezzo di offerta pubblica iniziale prima di aver raccolto finanziamenti iniziali.”
Questi timori sono condivisi da Natalie Cramp, CEO della società di dati Profusion, che ha precedentemente consigliato il governo britannico. È diffidente rispetto alla fissazione su un futuro immaginario.
“La mia paura è che il summit sulla sicurezza dell’IA si concentri su minacce esistenziali che attirano l’attenzione a discapito dei problemi più banali che hanno la capacità di causare danni molto gravi in questo momento”, ha detto Cramp.
L’avvicinamento al summit ha amplificato le discordie. Prima dell’evento, Sunak ha rivelato che una componente fondamentale del suo piano sarà un nuovo “istituto di sicurezza dell’IA” unico al mondo.
La dott.ssa Asress Gikay, docente senior di IA presso la Brunel University London, non è rimasta impressionata dall’annuncio. Gikay è scettica rispetto all’obiettivo dell’istituto di promuovere accordi internazionali. Sospetta che Sunak abbia motivazioni occulte.
“Il Primo Ministro sembra essere più concentrato nel fare dichiarazioni politiche su obiettivi irrealistici e irraggiungibili anziché affrontare problemi più urgenti e realizzabili, come l’investimento nell’IA nazionale e lo sviluppo di un solido quadro politico e normativo per un’IA responsabile a livello nazionale”, ha detto.
Cogliendo le opportunità
In mezzo al pessimismo, c’è anche ottimismo sul potenziale del summit sull’IA. La partecipazione di grandi nomi e l’attenzione dei media internazionali suggeriscono che il Regno Unito possa essere un attore chiave nello sviluppo globale. Il settore dell’IA in piena espansione nel paese aggiunge credibilità all’evento, mentre il suo approccio pro-innovazione alla regolamentazione offre un punto di differenziazione rispetto alla governance dell’Unione Europea. La posizione internazionale unica della Gran Bretagna potrebbe anche fungere da ponte tra gli Stati Uniti, l’Unione Europea e la Cina.
Emad Mostaque, CEO di Stability AI – che sviluppa il modello di testo-immagine Stable Diffusion – è tra i sostenitori di alto profilo del summit.
“Il Regno Unito ha l’opportunità unica di diventare una superpotenza dell’IA e assicurare che i benefici dell’IA siano accessibili a tutti, non solo alle grandi aziende tecnologiche”, ha affermato.
Botev, co-fondatore di Iris.ai, è più cautamente ottimista. È entusiasta del potenziale del summit, ma preoccupato che il governo possa prendere una decisione affrettata per una notizia di prima pagina.
“Con la comunità globale dell’IA che osserva, il Regno Unito dovrebbe resistere a questa tentazione”, ha detto. “Il summit è un’opportunità per il Regno Unito di delineare una direzione globale per la governance dell’IA, garantendo il progresso senza compromettere la sicurezza. Con cura e saggezza, il Regno Unito può sviluppare regolamentazioni lungimiranti che promuovono l’innovazione e allo stesso tempo stabiliscono fiducia”.
