Donne nell’IA Riflettori su Sarah Kreps
Sarah Kreps, presente nella serie di TechCrunch sulle donne nell'IA, è una professore di governo presso l'Università di Cornell.
“`html
AI Donna Sarah Kreps, Professoressa di Governo a Cornell | ENBLE
Per dare alle accademiche e ad altre donne focalizzate sull’AI il loro meritato – e tardivo – momento di gloria, ENBLE sta lanciando una serie di interviste incentrate su donne straordinarie che hanno contribuito alla rivoluzione dell’IA. Pubblicheremo diversi articoli nel corso dell’anno mentre il boom dell’AI continua, mettendo in evidenza lavori chiave che spesso passano inosservati. Leggi altri profili qui.
Incontra Sarah Kreps: Campionessa dell’AI in Politica e Sicurezza
Sarah Kreps non è una comune scienziata politica. È anche una veterana dell’U.S. Air Force, un’analista e una professoressa di governo alla Cornell University. La sua esperienza risiede nella politica estera e nella difesa degli Stati Uniti, e porta una prospettiva unica alla rivoluzione dell’IA.
Le recenti ricerche di Kreps si concentrano su tecnologie AI come il GPT-4 di OpenAI, specificamente nel campo politico. In un articolo di opinione stimolante per The Guardian, ha evidenziato il potenziale e i rischi dell’AI mentre sempre più denaro viene investito nello sviluppo di questa. Secondo Kreps, la corsa all’AI, sia tra le aziende che tra i paesi, si intensificherà, presentando nuove sfide in termini di politiche sull’AI.
🔍 Domande e Risposte: Approfondimenti da Sarah Kreps
- Tenda da tetto ‘Treehouse’ di Rivian Un’avventura...
- 💡 Un’analisi approfondita del pitch deck di Astek Diagnostics...
- Creatori di spyware preoccupati dopo le sanzioni degli USA contro l...
Approfondiamo l’esperienza di Sarah Kreps e otteniamo preziosi insight in questa sessione di domande e risposte.
Q: In breve, come hai iniziato con l’AI? Cosa ti ha attratto in questo campo?
A: Il mio viaggio nel mondo delle tecnologie emergenti con implicazioni per la sicurezza nazionale è iniziato durante il mio tempo come ufficiale dell’Air Force. Ero coinvolta in sistemi radar e satellitari avanzati, tra cui il dispiegamento del drone Predator. Quando sono passata all’accademia, è stato naturale per me esplorare le implicazioni della sicurezza nazionale delle tecnologie emergenti. Con il dibattito sui droni che si spostava verso domande sull’autonomia, sono rimasta affascinata dall’intersezione tra AI e politica.
Anni dopo, il mio interesse è cresciuto quando OpenAI ha presentato la loro nuova capacità GPT-2. La possibilità di generare disinformazione credibile su larga scala e di manipolare la psicologia degli elettori americani attraverso il microtargeting mi ha affascinato. Come una delle prime collaboratrici accademiche di OpenAI, ho studiato il possibile abuso della tecnologia GPT, indagando sulla sua credibilità come generatore di contenuti politici. I risultati hanno inequivocabilmente indicato che queste nuove tecnologie rappresentano rischi significativi per la nostra democrazia.
Q: Di quale lavoro nell’ambito dell’AI sei più orgogliosa?
A: Condurre un esperimento sul campo spicca come uno dei miei traguardi più orgogliosi nel campo dell’AI. Siamo stati i primi a dimostrare il potenziale disruptivo dell’AI in un contesto di agenda legislativa. Ma ho anche lavorato su strumenti, insieme agli studenti di informatica della Cornell, mirati ad aiutare i legislatori nell’elaborare e rispondere ai cittadini utilizzando l’AI. Anche se non abbiamo portato questi strumenti sul mercato, è stata un’utile esplorazione interdisciplinare. Anche se la società potrebbe non essere stata pronta al momento, la successiva crescita dell’AI in vari settori suggerisce che le domande etiche che abbiamo sollevato erano valide.
Q: Come affronti le sfide delle industrie tecniche e dell’AI dominate dagli uomini?
A: Come ricercatrice, non ho affrontato significative sfide legate al genere. Tuttavia, è chiaro che industrie come l’AI, con la loro composizione prevalentemente maschile, possono essere intimidatorie per alcune donne. Il mio consiglio sarebbe quello di cercare mentori, sia maschili che femminili, sviluppare competenze e lasciar parlare tali competenze da sole. Affrontare le sfide, rimanere resilienti e non sottovalutare mai le proprie capacità.
Q: Quali consigli daresti alle donne che vogliono entrare nel campo dell’AI?
A: Ci sono ampie opportunità per le donne nel campo dell’AI. La chiave è investire nello sviluppo delle competenze e coltivare fiducia. Le donne hanno il potenziale per prosperare nell’AI, e dovrebbero abbracciare l’avventura con tutto il cuore.
Q: Quali sono alcune delle questioni più pressanti che l’AI deve affrontare mentre evolve?
A: Una delle questioni più pressanti che mi preoccupano riguarda i valori con cui allineiamo l’AI. La comunità dell’AI tende a concentrarsi sugli aspetti tecnici, come la “superalignazione”, senza affrontare appieno a quali valori e con quali valori stiamo allineando l’AI. Ad esempio, il problematico lancio di Google Gemini ha rivelato i rischi di allineare l’AI con un ristretto insieme di valori sviluppatori. Grandi modelli di linguaggio vengono programmati con specifici pregiudizi che possono influenzare il pensiero delle persone sulla politica e su argomenti sensibili. Anche se queste questioni potrebbero non rappresentare rischi esistenziali, conferiscono un potere considerevole alle grandi aziende responsabili di questi modelli AI.
Q: Di quali questioni dovrebbero essere consapevoli gli utenti dell’AI?
“““html
A: Con l’AI che diventa ubiquitaria, gli utenti devono adottare un approccio “affidati ma verifica”. Credere ciecamente ai contenuti generati dall’IA può portare a disinformazione e manipolazione. È essenziale verificare l’autenticità delle informazioni correlate all’IA utilizzando fonti alternative prima di presumere la loro accuratezza. La società ha già appreso questa lezione attraverso esperienze con i social media e la disinformazione.
Q: Qual è il modo migliore per costruire l’IA in modo responsabile?
A: In un recente articolo che ho scritto per il Bulletin of the Atomic Scientists, ho discusso dell’importanza che gli scienziati agiscano come migliori custodi pubblici nel processo di sviluppo dell’IA. Lo sviluppo responsabile richiede di affrontare non solo passaggi tecnici ma anche questioni etiche più ampie. Dobbiamo mettere in discussione i valori e le supposizioni che guidano lo sviluppo dell’IA per garantire che si allinei agli interessi e al benessere della società nel suo complesso.
🔮 Osservando al Futuro: Il Futuro dell’IA e Oltre
Mentre il campo dell’IA continua a evolversi, esperti come Sarah Kreps svolgono un ruolo cruciale nel plasmarne la traiettoria. Le intuizioni di Kreps fanno luce sulle sfide e opportunità che l’IA porta alla politica, alla sicurezza e alla società.
Per saperne di più su Sarah Kreps, il suo lavoro innovativo e altre donne straordinarie nel campo dell’IA, rimanete sintonizzati sulla serie di interviste di ENBLE.
Riferimenti:
- ENBLE: Serie di Interviste sulle Donne nell’IA
- Il GPT-4 di OpenAI e la Sfera Politica
- The Guardian: Colonna di Opinioni di Sarah Kreps
- Il Ruolo dell’IA ed Etica nella Costruzione di GPT-2 e GPT-3
- Responsabilità nello Sviluppo dell’IA: Un Articolo di Sarah Kreps
Non dimenticate di condividere questo articolo con i vostri amici e colleghi! Portiamo più attenzione sulle donne straordinarie che stanno plasmando il futuro dell’IA. 🌟
“`
