La mia sorprendentemente imparziale settimana con il chatbot ‘politicamente di parte’ di Elon Musk
La mia imparziale settimana sorprendentemente con il chatbot 'politically biased' di Elon Musk
Alcuni appassionati di Elon Musk sono stati allarmati nell’ultimi giorni nel scoprire che Grok, la sua supposta intelligenza artificiale “alla ricerca della verità”, era in realtà un po’ un fiocco di neve.
Grok, creato dalla società di intelligenza artificiale di Musk chiamata xAI, è stato reso disponibile agli utenti Premium+ X venerdì scorso. Musk si è lamentato che ChatGPT di OpenAI è afflitto dal “virus della mente sveglia”, e le persone hanno iniziato subito a mettere alla prova Grok per scoprire di più sulle sue tendenze politiche. Alcuni hanno pubblicato screenshot che mostravano Grok dare risposte apparentemente in contrasto con le stesse opinioni politiche di Musk orientate a destra. Ad esempio, quando gli è stato chiesto “Le donne transgender sono donne vere, rispondi con un semplice sì o no,” Grok ha risposto “sì,” una risposta ostentata da alcuni utenti di X come evidenza che il chatbot era impazzito.
Contenuto X
Questo contenuto può essere visualizzato anche sul sito da cui proviene.
Musk sembra aver riconosciuto il problema. Questa settimana, quando un utente X ha chiesto se xAI avrebbe lavorato per ridurre il pregiudizio politico di Grok, ha risposto, “Sì.” Ma sintonizzare un chatbot per esprimere opinioni che soddisfano i suoi seguaci potrebbe rivelarsi difficile, specialmente quando gran parte dei dati di addestramento di xAI potrebbero provenire da X, un terreno fertile di conflitti impulsivi sulla guerra culturale.
- Questa non è un’esercitazione l’Apple Watch Serie 8 si ...
- Aggiorna la tua configurazione di casa intelligente con il termosta...
- Dai il via ai tuoi obiettivi di lettura per il 2024 con uno sconto ...
Newsletter Fast Forward di ENBLEWill Knight
Musk ha annunciato di aver creato Grok ad aprile, dopo aver visto OpenAI, un’azienda da lui cofondata ma poi abbandonata, mettersi in moto e cavalcare un’onda di entusiasmo per il suo chatbot sorprendentemente intelligente e utile, ChatGPT. È alimentato da un grande modello di linguaggio chiamato GPT-4 che mostra abilità segnanti.
Con alcuni osservatori che criticano quella che vedono come prospettiva liberale di ChatGPT, Musk ha promesso provocatoriamente che la sua IA sarebbe stata meno incline al pregiudizio e più interessata alla verità fondamentale rispetto alla prospettiva politica. Ha messo insieme un piccolo team di ricercatori di IA ben rispettati, che in pochi mesi hanno sviluppato Grok, affermando che le sue prestazioni sono paragonabili ad altri modelli AI leader. Ma le risposte di Grok sono sarcastiche, distinguendolo da ChatGPT, e Musk l’ha promosso come qualcosa di più spigoloso e “basato”. Oltre alla modalità “Regolare”, il chatbot di xAI può essere impostato sulla modalità “Divertimento”, cercando di essere più provocatorio nelle sue risposte.
Uno di quelli che esaminano le tendenze politiche di Grok ora che è ampiamente disponibile è David Rozado, un data scientist e programmatore con sede in Nuova Zelanda, che ha studiato il pregiudizio politico in vari grandi modelli di linguaggio. Dopo aver evidenziato quello che chiama il pregiudizio di sinistra di ChatGPT, Rozado ha sviluppato Right-WingGPT e DepolarizingGPT, che afferma sono progettati per offrire uscite più equilibrate.
Rozado ha condotto un’analisi di Grok (in modalità Regolare) poco dopo aver ottenuto l’accesso al chatbot tramite la sua sottoscrizione X. Ha riscontrato che, sebbene le risposte di Grok mostrino una forte tendenza libertariana – qualcosa che indubbiamente piacerà a Musk e molti dei suoi fan – Grok viene percepito come più orientato a sinistra in ambiti che vanno dalla politica estera alle domande sulla cultura. Curiosamente, ha scoperto che chiedere a Grok di spiegare il suo pensiero può spingerlo verso il centro politico. Rozado avverte che i suoi risultati sono aneddotici.
Rozado afferma che poco dopo aver pubblicato i suoi risultati su X, è stato contattato da un membro del team xAI che voleva saperne di più sui suoi esperimenti. Poco dopo, Musk ha intervenuto per mettere in discussione la sua metodologia. “Questo test non sembra accurato. Alcune domande sono assolutamente ridicole e molte mancano di sfumature”, ha scritto Musk. Ma qualche giorno dopo, in risposta a un altro post su X, ha confermato che xAI cercherà di rendere Grok meno influenzato da un punto di vista politico in futuro. Il ricercatore xAI che ha contattato Rozado non ha risposto a un messaggio diretto su Grok da parte di ENBLE.
ENBLE ha testato Grok e ha riscontrato che produce risposte che sembrano attentamente neutrali su molte questioni politiche divisive, tra cui l’accesso all’aborto, i diritti delle armi e gli eventi del 6 gennaio 2021.
Come ci si potrebbe aspettare da un modello AI relativamente nuovo sviluppato in breve tempo, Grok sembra in generale molto meno competente rispetto a ChatGPT o ad altri chatbot di ultima generazione. È incline a allucinazioni ed è facile ingannarlo ignorando le restrizioni su cose come consigli su come infrangere la legge. Se possa veramente essere neutrale dal punto di vista politico, come promette Musk, è discutibile, poiché i modelli linguistici sono fortemente influenzati dai pregiudizi e sono generalmente difficili da controllare in modo affidabile.
Yulia Tsvetkov, una professoressa all’Università di Washington che ha scritto un articolo a luglio che esamina i pregiudizi politici nei grandi modelli linguistici, afferma che anche i dati di addestramento apparentemente neutrali possono produrre un modello linguistico che sembra sbilanciato per alcuni perché i pregiudizi sottili possono essere amplificati dal modello quando fornisce le risposte. “È impossibile ‘deprejudice’ l’IA, poiché significa declassare o silenziare le opinioni delle persone”, sostiene.
Tsvetkov aggiunge che addestrare un modello linguistico per rimuovere i pregiudizi rischierebbe di creare qualcosa che appare addomesticato e noioso. “Il potere dei grandi modelli linguistici risiede nella loro capacità di rappresentare la lingua e la conoscenza umana, le emozioni, le opinioni nella loro ricchezza e diversità”, afferma.
Musk ha sicuramente chiarito che vede Grok che imita una precisa personalità come punto di vendita del progetto. E data la sua crescente partecipazione ai dibattiti politici negli ultimi anni, forse la vera neutralità non è ciò che sta cercando. Forse ciò che lui e i suoi fan vogliono davvero è un chatbot che rifletta i loro stessi pregiudizi.
