Cos’è il Progetto Q*? Lo sconcertante progresso dell’IA, spiegato | ENBLE
Cosa è il Progetto Q*? Lo stupefacente avanzamento dell'intelligenza artificiale, spiegato | ENBLE
Tra il turbinio di speculazioni intorno all’improvviso licenziamento e reintegrazione del CEO di OpenAI Sam Altman, c’è stata una questione centrale che ha suscitato polemiche. Perché Altman è stato licenziato dal consiglio inizialmente?
Potremmo finalmente avere parte della risposta, e ha a che fare con la gestione di un misterioso progetto OpenAI con il nome in codice interno “Q*” – o Q Star. Le informazioni sono limitate, ma ecco tutto ciò che sappiamo finora su questi sviluppi potenzialmente rivoluzionari.
Cos’è il Progetto Q*?
Prima di andare avanti, va notato che tutti i dettagli sul Progetto Q* – inclusa la sua esistenza – provengono da un singolo rapporto. I reporter di Reuters hanno dichiarato il 22 novembre di aver ricevuto le informazioni da “due persone a conoscenza della questione”. Secondo l’articolo, il Progetto Q* era un nuovo modello che eccelleva nella risoluzione di problemi matematici, qualcosa in cui i modelli di lingua di grandi dimensioni come ChatGPT hanno avuto difficoltà. Si diceva che fosse ancora limitato alla risoluzione di problemi di matematica di scuola elementare, ma come punto di partenza sembrava promettente.
Non sembra così pericoloso, giusto? Beh, non così veloce. L’esistenza di Q* avrebbe spinto parecchi ricercatori dello staff a scrivere una lettera al consiglio per lanciare l’allarme sul progetto, sostenendo che potesse “minacciare l’umanità”.
Oltre a ciò, non si sa molto altro su quanto grande sia il progetto Q*, quali sono i suoi obiettivi o da quanto tempo è in sviluppo.
- Ora è un momento fantastico per approfittare di un’offerta de...
- Acquista un iPad di 9a generazione a un prezzo mai così basso duran...
- 3 modi semplici per migliorare rapidamente le prestazioni di Fortni...
Q* è davvero il motivo per cui Sam Altman è stato licenziato?
Dal principio delle speculazioni sul licenziamento di Sam Altman, uno dei principali sospetti era il suo approccio alla sicurezza. Altman è stato quello che ha spinto OpenAI a allontanarsi dalle sue radici di organizzazione non profit e a muoversi verso la commercializzazione. Questo è iniziato con il lancio pubblico di ChatGPT e il successivo lancio di ChatGPT Plus, entrambi hanno dato il via a questa nuova era di intelligenza artificiale generativa, facendo sì che altre aziende, come Google, rendessero pubblica anche la loro tecnologia.
I preoccupazioni etiche e sulla sicurezza legate a questa tecnologia che è disponibile al pubblico sono sempre state presenti, nonostante l’eccitazione su come abbia già cambiato il mondo. Anche le preoccupazioni più ampie su quanto velocemente si stia sviluppando la tecnologia sono ben documentate, soprattutto con il salto da GPT-3.5 a GPT-4. Alcuni pensano che la tecnologia si stia muovendo troppo velocemente senza una regolamentazione o un controllo sufficienti, e secondo il rapporto di Reuters, “commercializzare i progressi senza comprendere le conseguenze” è stato indicato come uno dei motivi del licenziamento iniziale di Altman.
Non sappiamo se Altman è stato specificamente menzionato nella lettera sul Q* sopra citata, ma viene anche citato come uno dei motivi per la decisione del consiglio di licenziare Altman – decisione che è stata poi revocata.
È degno di nota che solo pochi giorni prima del suo licenziamento, Altman ha menzionato in un summit sull’intelligenza artificiale di essere “nella stanza” un paio di settimane prima quando è stato compiuto un importante “frontier of discovery”. Il momento concorda che questo potrebbe riferirsi a una svolta nel progetto Q*, confermando così il coinvolgimento intimo di Altman nel progetto.
Mettendo insieme i pezzi, sembra che le preoccupazioni sulla commercializzazione siano presenti fin dall’inizio e il suo trattamento di Q* sia stato solo la goccia che ha fatto traboccare il vaso. Il fatto che il consiglio fosse così preoccupato per lo sviluppo rapido (e forse anche per l’atteggiamento di Altman nei confronti di esso) da licenziare il suo CEO stellare è scioccante.
Il fatto che Altman sia ora di nuovo al comando lascia in sospeso lo stato attuale di Q* e il suo futuro.
È davvero l’inizio dell’AGI?
AGI, che sta per intelligenza artificiale generale, è ciò verso cui OpenAI si sta dirigendo fin dall’inizio. Sebbene il termine significhi cose diverse per persone diverse, OpenAI ha sempre definito AGI come “sistemi autonomi che superano gli esseri umani nella maggior parte dei compiti economicamente preziosi”, come afferma il rapporto di Reuters. Nulla in quella definizione fa riferimento a “sistemi auto-consapevoli”, che è spesso ciò che si presume che AGI significhi.
Tuttavia, a prima vista, gli avanzamenti nella matematica dell’IA potrebbero non sembrare un grande passo in quella direzione. Dopotutto, abbiamo avuto computer che ci aiutano con la matematica per molte decadi ormai. Ma i poteri conferiti a Q* non sono solo un calcolatore. Essere alfabetizzati in matematica richiede una logica e un ragionamento simili a quelli umani, e i ricercatori sembrano pensare che sia una grande cosa. Con la scrittura e il linguaggio, a un LLM è permesso essere più fluido nelle sue risposte, spesso fornendo una vasta gamma di risposte a domande e suggerimenti. Ma la matematica è l’opposto esatto, dove spesso c’è una singola risposta corretta a un problema. Il rapporto di Reuters suggerisce che i ricercatori di intelligenza artificiale credono che potrebbe addirittura essere “applicata alla ricerca scientifica innovativa”.
Ovviamente, Q* sembra essere ancora agli inizi dello sviluppo, ma sembra essere il maggior avanzamento che abbiamo visto da GPT-4. Se l’eccitazione è da credere, dovrebbe certamente essere considerato un passo importante sulla strada verso l’AGI, come definito da OpenAI. A seconda del tuo punto di vista, questo può essere motivo di ottimismo o di angoscia esistenziale.
