Heidy Khlaaf, direttore dell’ingegneria della sicurezza presso Trail of Bits, discute sull’IA. #ENBLE

Heidy Khlaaf, in evidenza nella serie di TechCrunch sulle donne nell'Intelligenza Artificiale, è direttrice di ingegneria presso l'azienda di sicurezza informatica Trail of Bits.

“`html

Donne in AI: Un’intervista con Heidy Khlaaf

Benvenuti alla prossima edizione della nostra serie di interviste Women in AI! Oggi abbiamo il piacere di parlare con Heidy Khlaaf, direttore ingegneria presso Trail of Bits, un’azienda di sicurezza informatica. L’esperienza di Heidy consiste nell’valutare software e implementazioni di AI all’interno di sistemi “critici per la sicurezza” come centrali nucleari e veicoli autonomi.

🤖 Come è Iniziato il Viaggio di Heidy Khlaaf nel Mondo dell’AI

La passione di Heidy per la robotica è nata in giovane età e, all’età di 15 anni, ha iniziato a programmare. Ha visto la robotica e l’AI come inseparabili, con il potenziale di automatizzare compiti nella produzione e aiutare gli anziani eliminando il pericoloso lavoro manuale. Interessante il fatto che il dottorato di Heidy è in un diverso sotto-campo dell’informatica. Crede che avere una solida base teorica in informatica permetta di prendere decisioni istruite e informate sulla idoneità dell’AI e sui suoi potenziali rischi.

🏆 Di Cosa Heidy Khlaaf è Più Fiera

Come esperto di ingegneria della sicurezza, Heidy si vanta di utilizzare il suo background per fornire contesto e critiche nel campo emergente della sicurezza dell’AI. Mentre la sicurezza dell’AI cerca di adattare e citare tecniche di sicurezza consolidate, la mancanza di definizioni coerenti o intenzionali compromette l’integrità di queste tecniche. I paper di ricerca di Heidy, come “Verso Valutazioni del Rischio e Garanzie Comprensive per Sistemi Basati su AI” e “Un Quadro di Analisi dei Pericoli per la Sintesi di Codice da Modelli di Linguaggio Estesi”, smontano false narrazioni sulla sicurezza e sulle valutazioni dell’AI. Offre anche passaggi concreti per colmare il divario sulla sicurezza nell’AI.

Heidy è ben consapevole delle sfide che le donne affrontano nell’industria tecnologica dominata dagli uomini, compreso l’AI. Nonostante i notevoli progressi e contributi delle donne nell’AI, spesso si trovano ai margini delle conversazioni che definiscono giustamente. I tassi di trattenimento e il rapporto delle donne che ricoprono posizioni di leadership sono rimasti in gran parte stagnanti. Heidy crede che riconoscere questa mancanza di progresso sia cruciale per capire i cambiamenti necessari. Piuttosto che fare affidamento esclusivamente su iniziative di diversità, equità e inclusione (DEI), ritiene che costruire una forte comunità personale fornisca un supporto prezioso in una società in cui persistono pregiudizi e scetticismo verso le donne tecniche.

🌟 Consigli per le Donne che Entrano nel Campo dell’AI

Il consiglio di Heidy alle donne che vogliono entrare nel campo dell’AI è semplice ma potente. Le esorta a non appellarsi all’autorità e invece trovare un lavoro in cui credono sinceramente, anche se contrasta con le narrazioni popolari. Poiché i laboratori di AI detengono attualmente considerevole potere politico ed economico, c’è una tendenza ad accettare tutto ciò che i “leader di pensiero” dell’AI affermano come fatto. Tuttavia, molte di queste affermazioni spesso coinvolgono un linguaggio di marketing che esagera le capacità dell’AI a fini di profitto. Heidy sottolinea l’importanza di sfidare affermazioni esagerate prive di sostegno scientifico, specialmente per le donne più giovani che potrebbero provare il sindrome dell’impostore e dubitare della propria integrità scientifica.

🔍 Questioni Urgenti che Affronta l’AI Oggi

Mentre l’AI continua a evolversi, Heidy ritiene cruciale capire che da sola non può mai essere l’unica soluzione ai nostri problemi, sia tecnologici che sociali. Inserirsi l’AI in vari sistemi senza considerarne l’efficacia attraverso diversi domini comporta seri rischi. Invece, l’AI dovrebbe potenziare le capacità umane anziché sostituirle. Purtroppo, c’è una disattenzione verso i rischi e le modalità di fallimento dell’AI, che possono causare danni tangibili. Di recente, un sistema di AI chiamato ShotSpotter ha portato erroneamente un agente a sparare a un bambino, evidenziando i potenziali pericoli se l’AI non viene utilizzata in modo responsabile.

🚨 Utenti di AI: Attenzione alla Sua Non Affidabilità

È essenziale che gli utenti di AI siano consapevoli della non affidabilità degli algoritmi di AI. Gli algoritmi di AI spesso presentano alti tassi di errore in applicazioni che richiedono precisione, accuratezza e criticità della sicurezza. Questi algoritmi perpetuano anche i pregiudizi e le discriminazioni umane, poiché le loro uscite si basano su dati storici e inferenze statistiche piuttosto che sul ragionamento, prove fattuali o causazione. Riconoscere queste limitazioni è vitale per utilizzare l’AI in modo responsabile ed etico.

🛠️ Costruire l’AI Responsabilmente

Per garantire lo sviluppo responsabile dell’AI, Heidy suggerisce di costruire affermazioni verificabili che proteggano i diritti e la sicurezza delle persone. Queste affermazioni dovrebbero essere specifiche per le applicazioni regolamentari, di sicurezza, etiche o tecniche e non devono essere falsificabili. Creare regolatori indipendenti per valutare i sistemi di AI rispetto a queste affermazioni è cruciale per la protezione del pubblico e dei consumatori. I sistemi di AI non dovrebbero essere esenti dai processi di audit standard stabiliti per garantire l’integrità di altri prodotti e sistemi.

“““html

💼 Investitori e Intelligenza Artificiale Responsabile

Gli investitori svolgono un ruolo importante nel promuovere lo sviluppo responsabile e l’uso dell’IA. Invece di finanziare esclusivamente laboratori di IA, gli investitori dovrebbero coinvolgersi e finanziare organizzazioni che stanno istituendo e promuovendo pratiche di audit per l’IA. Mentre i laboratori di IA potrebbero avere i loro team di sicurezza, è essenziale che auditori e regolatori indipendenti contribuiscano a costruire la fiducia pubblica. Una valutazione indipendente garantisce l’accuratezza, l’integrità e l’analisi imparziale dei sistemi di IA, beneficiando in ultima analisi l’intera società.

🌐 Riferimenti:

Grazie per averci accompagnato in questa intervista con Heidy Khlaaf! Se hai apprezzato questo articolo, condividilo con i tuoi amici sui social media e continua la discussione sull’inserimento delle donne nell’IA. Resta sintonizzato per altre interviste entusiasmanti della nostra serie Donne in IA! 🎉💻🙌

“`

Coinbase è crollato quando Bitcoin ha raggi...
Addio al pulsante di chiusura L’inevi...
La navicella spaziale Starship di SpaceX mi...
L’IA di Microsoft, Copilot, porta la ...
L’ascesa e caduta di 888 nel mercato ...
L’evoluzione degli NFT OpenSea si all...
Tech

Tech