Chatbot di Intelligenza Artificiale e il Super Bowl Fittizio
I chatbot di Microsoft e Google stanno fabbricando statistiche del Super Bowl 2024, evidenziando i limiti attuali della tecnologia GenAI.
Google e Microsoft stanno inventando le statistiche del Super Bowl.
Se avevi bisogno di ulteriori prove che GenAI tende a inventarsi le cose, il chatbot Gemini di Google, precedentemente noto come Bard, pensa che il Super Bowl del 2024 sia già accaduto. Ha persino (fittizie) statistiche per supportare questa affermazione.
Secondo un thread di Reddit, Gemini, alimentato dai modelli GenAI di Google dello stesso nome, sta rispondendo alle domande sul Super Bowl LVIII come se la partita si fosse conclusa ieri – o settimane prima. Come molti bookmaker, sembra preferire i Chiefs ai 49ers (mi dispiace, fan di San Francisco).
Gemini si concede una certa libertà creativa, in almeno un caso riportando le statistiche di un giocatore che suggeriscono che il quarterback dei Kansas Chief Patrick Mahomes abbia percorso 286 yard segnando due touchdown e un intercetto, rispetto alle 253 yard corse e un touchdown di Brock Purdy.
Ma non è solo Gemini. Il chatbot Copilot di Microsoft, anch’esso, insiste sul fatto che la partita sia terminata e fornisce citazioni errate a supporto di questa affermazione. Ma – forse in risposta a un pregiudizio nei confronti di San Francisco! – afferma che i 49ers, non i Chiefs, hanno trionfato “con un punteggio finale di 24-21”.
È tutto piuttosto sciocco – e forse ormai risolto, dato che questo giornalista non è stato in grado di replicare le risposte di Gemini nel thread di Reddit. (Sarei sorpreso se anche Microsoft non stesse lavorando a una soluzione.) Tuttavia, questo episodio illustra anche i limiti significativi dei GenAI attuali – e i pericoli di riporre troppa fiducia in essi.
- Il nuovo saldi di Best Buy offre l’iPad Air al prezzo più bas...
- ENBLE Mobility Il Futuro dei Trasporti
- 🌱 Il Giro Mozzafiato del Finanziamento dei Semi Indizi dagli Invest...
I Limiti del GenAI
I modelli GenAI non hanno una vera intelligenza. Vengono alimentati con un numero enorme di esempi, solitamente provenienti dal web pubblico, e imparano quanto sia probabile che si verifichino determinati dati (ad esempio, testo) basandosi su pattern, inclusi il contesto dei dati circostanti.
Questo approccio basato sulla probabilità funziona in modo sorprendente su larga scala. Ma mentre la gamma di parole e le loro probabilità probabilmente porteranno a un testo sensato, non è certo. Le LLM possono generare qualcosa di grammaticalmente corretto ma privo di senso, ad esempio – come l’affermazione sul Golden Gate. Oppure possono spararci delle bugie, propagando inesattezze presenti nei dati di addestramento.
Non è malizioso da parte delle LLM. Non hanno malizia, e i concetti di vero e falso sono privi di significato per loro. Hanno semplicemente imparato ad associare determinate parole o frasi a determinati concetti, anche se tali associazioni non sono accurate.
Ecco perché Gemini sta diffondendo notizie false sul Super Bowl.
Verifica delle Affermazioni dei Chatbot GenAI
Google e Microsoft, come la maggior parte dei venditori di GenAI, riconoscono prontamente che il loro GenAI non è perfetto e è soggetto a errori. Ma questi riconoscimenti si presentano sotto forma di piccoli caratteri che possono essere facilmente ignorati.
La disinformazione sul Super Bowl sicuramente non è l’esempio più dannoso di GenAI che perde la bussola. Questo primato probabilmente spetta a chi incita alla tortura o scrive convincemente teorie del complotto. Tuttavia, ci ricorda utilmente di verificare le affermazioni dei chatbot GenAI. C’è una buona possibilità che non siano vere.
Domande e Risposte: Cos’altro devi sapere?
Q: I chatbot GenAI come Gemini e Copilot possono essere considerati affidabili per ottenere informazioni accurate?
A: No, non bisogna fidarsi ciecamente di queste chatbot GenAI per ottenere informazioni accurate. Sebbene i chatbot GenAI abbiano fatto progressi significativi, possono ancora generare informazioni false o inaccurate. È importante verificare autonomamente tutte le informazioni fornite da questi chatbot.
Q: Quali sono altri rischi associati ai chatbot GenAI?
A: Oltre a generare disinformazione, i chatbot GenAI possono anche avallare pratiche dannose o non etiche, propagare teorie del complotto o amplificare prospettive di parte. Questi rischi sottolineano la necessità di consumare le informazioni generate da modelli GenAI con cautela e spirito critico.
Q: Come possono gli utenti garantire l’affidabilità delle informazioni provenienti dai chatbot GenAI?
A: Gli utenti dovrebbero considerare le risposte dei chatbot GenAI come spunti per ulteriori investigazioni anziché come risposte definitive. Incrociare le informazioni con fonti affidabili, organizzazioni di fact-checking o applicare il pensiero critico può contribuire a garantire l’affidabilità delle informazioni.
Q: Ci sono sviluppi in corso per affrontare i limiti dei chatbot GenAI?
A: Ricercatori e sviluppatori lavorano continuamente per migliorare i modelli GenAI e affrontare i loro limiti. Gli sforzi sono concentrati sull’aumentare la comprensione dei modelli, le capacità di verifica dei fatti e sulla riduzione della generazione di informazioni false o fuorvianti.
Guardando al Futuro
Man mano che il campo dell’intelligenza artificiale continua a progredire, è cruciale riconoscere i limiti e i potenziali rischi associati ai chatbot GenAI e a tecnologie simili. Sebbene mostrino capacità impressionanti, non sono fonti infallibili di informazioni. Un approccio cauto e critico è necessario per navigare le complessità di questo mondo guidato dalla tecnologia.
Con la ricerca e gli sviluppi in corso, possiamo sperare in modelli GenAI più affidabili e fidati in futuro. Fino ad allora, godiamoci gli equivoci divertenti di Gemini e Copilot mentre trattiamo le loro risposte con una giusta dose di scetticismo.
🔗 Links di Riferimento:
- Google Riportatamente Cambia Nome a Bard Gemini e Pianifica il Lancio di un’App Dedicata
- Google Bard Advanced in Arrivo, Probabilmente Gratis
- Google Aggiunge Panoramica con Intelligenza Artificiale a Multisearch Lens
- Microsoft Vuole Aggiungere il Tasto Copilot alla Tastiera del PC
- DownPayments Vuole Offrire Finanziamenti Senza Interessi agli Investitori Immobiliari
Ora, caro lettore, è il tuo turno! Hai mai incontrato un chatbot che ha fornito informazioni sorprendentemente errate? Condividi le tue esperienze più divertenti con i chatbot nei commenti qui sotto e ridiamo insieme! Non dimenticare di condividere questo articolo con i tuoi amici sui social media e diffondere la gioia! 💻🤖😄
