Gli Stati Uniti non sono riusciti a passare una regolamentazione sull’intelligenza artificiale. New York City sta intervenendo
Gli Stati Uniti non sono riusciti ad approvare una legge sull'intelligenza artificiale. C'è invece un provvedimento in atto a New York City.
Mentre il governo federale degli Stati Uniti lotta per regolare in modo significativo l’IA – o addirittura funzionare – New York City sta colmando il vuoto nella governance.
La città ha introdotto questa settimana un Piano d’azione sull’IA che il sindaco Eric Adams definisce il primo del genere nel paese. Il set di circa 40 iniziative di politica è progettato per proteggere i residenti da danni come pregiudizi o discriminazioni causate dall’IA. Include lo sviluppo di standard per l’IA acquistata dagli enti governativi e nuovi meccanismi per valutare il rischio dell’IA utilizzata dai dipartimenti della città.
La regolamentazione sull’IA di New York potrebbe presto espandersi ancora di più. La consigliera comunale Jennifer Gutiérrez, presidente del comitato tecnologico dell’organo di governo, ha presentato oggi una proposta di legge che creerebbe un Ufficio per l’Integrità dei Dati Algoritmici per supervisionare l’IA a New York.
Se istituito, l’ufficio offrirebbe ai cittadini un luogo in cui presentare reclami riguardanti i sistemi decisionali automatizzati utilizzati dalle agenzie pubbliche, funzionando come un arbitro per gli algoritmi nei cinque distretti. Valuterebbe anche i sistemi di IA prima della loro implementazione da parte della città per prevenire pregiudizi e discriminazioni.
Alcuni senatori degli Stati Uniti hanno suggerito di creare una nuova agenzia federale per regolare l’IA all’inizio di quest’anno, ma Gutiérrez dice di aver capito che non ha senso aspettare azioni a Washington, DC. “Abbiamo una responsabilità unica perché qui c’è molta innovazione”, afferma. “È davvero importante per noi prendere l’iniziativa”.
- OpenAI sta lavorando su uno strumento per rilevare le immagini gene...
- L’IA sta diventando più potente, ma anche più segreta
- I rapporti bancari mostrano che i consumatori statunitensi rimangon...
La consigliera comunale di New York Jennifer Gutiérrez vuole che la città crei un ufficio per regolare l’IA.
Fotografia: William Alatriste
Gutiérrez sostiene l’obbligo di test per gli algoritmi utilizzati dal governo cittadino perché l’IA sta iniziando ad essere ampiamente utilizzata, secondo lei. I dipartimenti della città sono interessati all’utilizzo di software di intelligenza artificiale per compiti amministrativi come valutare il rischio che un bambino sia vittima di abusi o le velocità di apprendimento degli studenti. È anche cauta riguardo alla predilezione del sindaco Eric Adams per la tecnologia come cani robotici e IA per fare telefonate automatiche in lingue che non parla. New York City ha una reputazione di campo di prova per la tecnologia di sorveglianza, dall’incremento recente nell’uso di droni all’uso discutibile del riconoscimento facciale in edilizia abitativa e stadi, e da parte della polizia.
New York era in anticipo sul governo federale per la regolamentazione dell’IA anche prima di questa settimana. Nel 2018 è stata istituita una task force per valutare l’uso della tecnologia. Una legge che richiede la verifica di algoritmi di assunzione utilizzati dalle imprese per prevenire pregiudizi è entrata in vigore all’inizio di quest’anno. Ma alcune protezioni sono state ridimensionate. Nel gennaio 2022, Adams ha annullato un ordine esecutivo firmato dal suo predecessore, Bill de Blasio, che aveva creato un ufficio per la gestione e la politica degli algoritmi per collaborare con le agenzie della città nell’implementazione equa dell’IA. Un rapporto emesso dall’ufficiale nel 2020 ha rivelato che le agenzie cittadine utilizzavano 16 tipi di algoritmi che potevano avere un impatto potenzialmente significativo sui diritti delle persone, ma non ha esaminato ogni modello di IA utilizzato dal Dipartimento di Polizia di New York City.
Gutiérrez afferma di non avere ancora una comprensione completa degli algoritmi utilizzati dalle agenzie della città. Un’ audit pubblicata a febbraio dal contralor dello stato di New York ha rilevato che la città ha un approccio ad hoc e incompleto alla governance dell’IA. Ha avvertito che questo significa che la città non può “garantire che l’uso dell’IA da parte della città sia trasparente, accurato, imparziale e eviti impatti disparati”.
Julia Stoyanovich, una ricercatrice di intelligenza artificiale e direttrice del Centro per un’IA Responsabile presso la New York University, ha contribuito a compilare quel rapporto e dice di sostenere la legislazione proposta da Gutiérrez, purché l’agenzia risultante lavori come organismo indipendente ed esterno. Questo verrà determinato se il disegno di legge otterrà sponsor nel consiglio comunale e andrà avanti verso l’approvazione.
Stoyanovich è meno complimentare sulla scelta della città di pubblicare il Piano d’Azione sull’IA questa settimana lo stesso giorno in cui la città ha ampliato un assistente virtuale chiamato MyCity, che è progettato per rispondere alle domande delle piccole imprese su cose come le autorizzazioni e le licenze di cui hanno bisogno. Trova problematico che il progetto sia sfuggito alle disposizioni del Piano d’Azione sull’IA, come la ricerca di contributi pubblici. Il portavoce dell’ufficio del sindaco, Jonah Allon, dice che l’assistente virtuale è stato rilasciato allo stesso tempo per fungere da test di pressione per il processo di valutazione delineato nel piano, che affronterà gli usi esistenti e futuri dell’IA.
New York potrebbe essere stata tra le prime a regolamentare l’IA, ma non è stata coerente, afferma Stoyanovich. “Specialmente considerando che siamo stati i primi a cominciare, mi fa davvero male vedere che non siamo molto lontani cinque o sei anni dopo il nostro inizio e non ci sono principi di governance dell’IA all’interno del governo cittadino”, dice.
In alcuni luoghi degli Stati Uniti, stati, città e funzionari si sono mossi per regolamentare l’IA, l’idea di richiedere che i sistemi siano valutati per valutare i potenziali danni prima della messa in uso è diventata un approccio comune. È presente in un ordine esecutivo firmato dal governatore della California Gavin Newsom il mese scorso e in un accordo volontario stipulato dal presidente Biden con importanti aziende di intelligenza artificiale a luglio. Un punto comune di disaccordo è se tali valutazioni possano essere effettuate internamente o da un terzo indipendente. È atteso che la Casa Bianca rilasci un ordine esecutivo che riguarda la regolamentazione dell’IA nelle prossime settimane, secondo fonti vicine alla questione hanno riferito a ENBLE. Poiché la Camera continua a faticare nel eleggere un nuovo presidente in questa settimana, il Congresso sembra improbabile che discuterà o approverà una legislazione sull’IA a breve termine.
