Come fermare un altro crollo di OpenAI

Come evitare un'altra crisi di OpenAI

OpenAI ha bisogno di un intervento chirurgico al cuore aperto. Il nuovo consiglio di amministrazione dello sviluppatore di ChatGPT e il suo CEO temporaneamente licenziato ma ora ripristinato, Sam Altman, hanno detto la scorsa settimana che stanno cercando di risolvere la struttura aziendale insolita che ha permesso a quattro membri del consiglio di attivare un’esperienza quasi mortale per l’azienda.

La startup è stata fondata nel 2015 come organizzazione non profit, ma sviluppa intelligenza artificiale all’interno di una subsidiaria a profitto limitato responsabile nei confronti del consiglio non profit, incaricato di garantire che la tecnologia sia “ampiamente benefica” per l’umanità. Per stabilizzare questa struttura insolita, OpenAI potrebbe prendere spunto da aziende più durature con una disposizione simile, incluso l’introduzione di un secondo consiglio per aiutare a bilanciare la sua missione fondante con il perseguimento del profitto per gli investitori.

OpenAI ha rinviato il commento per questa storia al nuovo presidente del consiglio, Bret Taylor. Il veterano tecnologico ha dichiarato a ENBLE che il consiglio si concentra sulla supervisione di una revisione indipendente delle recenti crisi e sul miglioramento delle norme di governance. “Siamo impegnati in una struttura di governo che tenga conto di tutti gli stakeholder”, afferma Taylor. “E stiamo lavorando attivamente per sviluppare un consiglio ampliato che abbia le esperienze diverse necessarie per attuare cambiamenti importanti e sovrintendere efficacemente all’organizzazione”.

Altman ha dichiarato la scorsa settimana a ENBLE che il consiglio avrà bisogno di tempo per dibattere, fare ricerche e testare a pressione eventuali cambiamenti.

Se prendiamo la missione di OpenAI alla lettera, le conseguenze non potrebbero essere più alte. L’azienda mira a sviluppare tecnologie di intelligenza artificiale che rendano le macchine capaci di competere o superare quelle umane, influenzando potenzialmente quasi ogni lavoro nel mondo. Anche se non raggiunge tale obiettivo, il modo in cui OpenAI si governa potrebbe determinare chi prospera e chi soffre a causa della diffusione di tecnologie di intelligenza artificiale che plasmano il mondo come ChatGPT. Allo stesso tempo, concorrenti come Google e Amazon non sono vincolati alle stesse limitazioni strutturali di OpenAI.

• Come Proteggere il Tuo Brand durante un Periodo di Crisi Economica
• Genshin Impact ritorna come il Gacha Game più redditizio per l̵...
• Your digital journey awaits! Get ready to dive into the world of cu...

“Vuole essere una startup che ha solo qualche base etica? O vuole essere una duratura istituzione pubblica che costruisce l’IA al servizio dell’umanità?”, chiede Mark Surman, presidente della Mozilla Foundation. “Devono essere chiari con se stessi e con il mondo su ciò che vogliono davvero essere”.

Migliaia di aziende in tutto il mondo, tra cui OpenAI, il rivenditore Ikea e il produttore di farmaci Novo Nordisk, sviluppatore di Ozempic, sono strutturate secondo quello che alcuni professori di economia aziendale chiamano fondazioni aziendali, in cui un’organizzazione non profit controlla un’azienda che si è completamente dedicata al capitalismo. Alcuni miliardari utilizzano questo modello per ridurre le loro tasse personali; altri progetti lo utilizzano per privilegiare obiettivi non commerciali, che è quello che OpenAI afferma di fare.

L’implementazione tecnica esatta può variare ampiamente, ma Mozilla è un esempio stabile di combinazione di una missione umanitaria con attività a scopo di lucro. Avviata nel 2003, la sua fondazione ha alcune sussidiarie a scopo di lucro che includono Mozilla Corporation, che sviluppa il browser web Firefox e riceve pagamenti consistenti da parte di Google per la promozione del suo motore di ricerca, e Mozilla.ai, una startup che cerca di promuovere la concorrenza open source rispetto a OpenAI.

A differenza di OpenAI, l’organizzazione non profit di Mozilla non può licenziare i dirigenti responsabili del lavoro a scopo di lucro. Ogni unità a scopo di lucro ha il proprio consiglio di amministrazione, con membri selezionati annualmente dal consiglio della fondazione non profit. “Sono lavori diversi, una miscela diversa di competenze”, dice Surman. “Se hai funzioni diverse, ha senso avere una separazione dei poteri”.

I diversi consigli, con caratteristiche e missioni distinte, sono anche finalizzati a garantire una maggiore autonomia alle iniziative commerciali. Mozilla cerca di inserire persone che conoscono la filantropia, le tecnologie open source, le questioni sociali e le politiche tecnologiche nel consiglio non profit, afferma Surman. Nei consigli a scopo di lucro, si cerca invece esperienza nel venture capital o nel marketing e nell’innovazione aziendale.

I diversi consigli di Mozilla si sono riuniti talvolta per discutere grandi cambiamenti nella tecnologia, come l’emergere dell’IA generativa, che ha portato alla creazione di Mozilla.ai. Tuttavia, il consiglio della fondazione non profit ha l’autorità finale nel supervisionare i bilanci e ha il diritto di rimuovere i membri del consiglio a scopo di lucro. Sebbene quest’ultima possibilità non sia mai stata esercitata, ci sono state intense divergenze in alcune occasioni tra gli obiettivi di Mozilla definiti come obiettivi di movimento e quelli di mercato, afferma Brian Behlendorf, uno sviluppatore di software che fa parte del consiglio della fondazione fin dalla sua fondazione ed è anche uno dei cofondatori dell’Apache Software Foundation.

Nel 2015, dopo aver consultato il consiglio non profit, la Mozilla Corporation ha chiuso un progetto che stava sviluppando un sistema operativo mobile open source che aveva speso centinaia di milioni di dollari ma faticava a conquistare i produttori di smartphone. “Per essere competitivi, dovevi fare software proprietario e stringere accordi che non riguardavano la creazione di beni pubblici”, afferma Behlendorf. “Un dispiacere, ma non abbiamo visto un modo per realizzare la missione e il Manifesto Mozilla”. Quel documento fondamentale impegna il progetto a mantenere Internet aperta e accessibile a tutti.

Risolvere il problema della governance di OpenAI è in qualche modo più complesso di qualsiasi cosa abbia mai affrontato Mozilla, che ha donatori esterni ma nessun investitore. OpenAI deve servire la sua missione generale di aiutare l’umanità, mentre cerca anche di tranquillizzare gli investitori che, dopo la recente crisi, chiedono un maggior controllo sulla direzione dell’organizzazione. Questo vale soprattutto per Microsoft, che ha impegnato 13 miliardi di dollari per l’azienda.

La scorsa settimana, il CEO di Microsoft, Satya Nadella, ha chiarito che considerava inaccettabile essere stato sorpreso dalla rimozione di Altman dal consiglio, che è stato comunicato al principale sostenitore di OpenAI solo pochi minuti prima dell’annuncio pubblico. “Non esiste OpenAI senza che Microsoft si impegni in modo profondo a collaborare con questa azienda per la loro missione”, ha detto Nadella nel podcast della giornalista Kara Swisher della scorsa settimana. “Come partner, penso che tu meriti di essere consultato su decisioni importanti”.

OpenAI ha annunciato la scorsa settimana che Microsoft avrebbe ottenuto un posto nel suo consiglio come osservatore non votante. Questa mancanza di controllo diretto potrebbe aiutare a evitare l’attenzione da parte dei regolatori antitrust statunitensi sulle regole contro i consigli di amministrazione interconnessi, in cui gli sovrapposizioni tra i membri a pieno titolo del consiglio di grandi rivali sono considerate una minaccia alla concorrenza leale. La scorsa settimana, il presidente del consiglio di OpenAI, Taylor, ha scritto che il panel “formerà un consiglio qualificato e diversificato di individui eccezionali le cui esperienze collettive rappresentano l’ampiezza della missione di OpenAI – dalla tecnologia alla sicurezza alla politica”.

Un setup come quello di Mozilla, che crea un consiglio separato per la parte a scopo di lucro di OpenAI, potrebbe fornire un modo facile per Microsoft, gli altri investitori e forse anche i dipendenti di avere una voce reale in cima senza indebolire l’autorità dell’organizzazione non profit.

La rivolta dei dipendenti e degli investitori per il licenziamento di Altman ha fornito efficacemente una prova generale su come un tale consiglio secondario potrebbe fungere da salvaguardia durante le crisi, afferma Ronaldo Lemos, ex membro del consiglio della Mozilla Foundation. “Questo avvicinamento è stato cruciale per stabilire il reale allineamento attuale all’interno dell’organizzazione”, afferma Lemos, direttore scientifico dell’Institute for Technology and Society a Rio de Janeiro.

Mozilla si occupa anche di altri controlli sulla sua branca commerciale. La fondazione possiede i marchi registrati “Mozilla” e potrebbe, in un caso estremo, revocare le licenze alle sussidiarie per utilizzarli. “È la cosa che li tiene onesti”, afferma Surman della fondazione.

Le tasse di licenza pagate dalle sussidiarie di Mozilla contribuiscono a finanziare contributi e altri lavori di beneficenza della fondazione, il cui budget per il personale dedicato ammonta a 30 milioni di dollari all’anno. OpenAI condivide oggi il personale tra bracci non profit e for-profit, come mostrano le dichiarazioni fiscali. Se il consiglio attraverso l’organizzazione non profit avesse un proprio team di ricerca e politiche, potrebbe ottenere una protezione aggiuntiva per esercitare una supervisione indipendente.

Cambiamenti strutturali significativi non sono l’unico modo per rafforzare la governance di OpenAI. Durante l’ultima situazione di crisi, investitori e altri osservatori hanno sollevato preoccupazioni riguardo alle qualifiche dei direttori di OpenAI per sovrintendere al progetto e alla persistenza delle vacanze nel consiglio per mesi. OpenAI potrebbe stabilire regole specifiche per la composizione del consiglio e la pianificazione della successione, molto probabilmente nel suo statuto, se non l’ha già fatto. Queste potrebbero definire i criteri secondo i quali un membro viene considerato indipendente e il processo di selezione dei direttori indipendenti.

“Probabilmente la cosa più importante sarebbe avere membri esperti in materia di affari nel consiglio”, afferma Peter Molk, professore di diritto dell’Università della Florida che studia il design delle organizzazioni. “OpenAI non è una classica organizzazione no profit, come un museo o una biblioteca locale: ha una grande presenza sul mercato, firma enormi contratti, concorre con i giocatori principali”.

Il consiglio potrebbe inoltre introdurre o ampliare politiche relative alle comunicazioni o ai conflitti di interesse dei direttori. Altman ha personalmente investito in decine di startup, tra cui alcune con rapporti con OpenAI, ed è un consulente apprezzato dagli imprenditori. Blake Resnick, CEO di Brinc, azienda produttrice di droni per la sicurezza pubblica, afferma che Altman “è il primo a fare un controllo su Brinc, mi ha tirato fuori dal garage dei miei genitori ed è stato continuamente di supporto”.

Altman ha di recente cercato finanziamenti per una nuova impresa per sviluppare chip computer per l’esecuzione di software di intelligenza artificiale ed è stato collegato a una società che sviluppa un dispositivo con strumenti di intelligenza artificiale generativa integrati. Ha dichiarato a The Information in luglio che in generale aderisce all’approccio di evitare conflitti diretti con il suo lavoro in OpenAI e di rivelare tutto, e alcuni investitori non associati a OpenAI dicono a ENBLE che gli impegni esterni di Altman, sulla carta, non destano preoccupazione. OpenAI ha dichiarato nelle dichiarazioni fiscali di avere una politica conflitti di interesse che richiede la divulgazione annuale. Ma gli impegni vari di Altman potrebbero aver limitato la sua attenzione sulle questioni del consiglio; avrebbe detto a quanto pare affiliati mentre lottava per tornare CEO che avrebbe dovuto gestire meglio i direttori di OpenAI prima che lo cacciassero.

Anche una semplice politica di comunicazione avrebbe potuto contribuire ad attenuare le tensioni tra Altman e il suo consiglio, o avrebbe potuto rendere la crisi recente meno grave.

Altman si è scontrato con l’ex direttore di OpenAI Helen Toner dopo che quest’ultima ha pubblicato un’analisi di ricerca il mese scorso in cui criticava le decisioni di lancio del prodotto di OpenAI. Una persona vicina al consiglio afferma che la disputa era “una cosa piccola che avrebbe potuto essere risolta facilmente” senza una politica. Ma la mancanza di dettagli nell’annuncio iniziale del licenziamento di Altman ha reso il gesto inaspettato discutibile.

OpenAI è stata fondata con la promessa di essere più trasparente e aperta rispetto ai giganti tecnologici che hanno storicamente dominato l’intelligenza artificiale. Ma mentre Mozilla ha pubblicato i suoi statuti, le dichiarazioni fiscali e altre informazioni finanziarie considerate di dominio pubblico online, OpenAI non ha pubblicato documenti comparabili. Le copie a cui ENBLE ha avuto accesso tramite agenzie governative contengono anche errori apparenti.

La relazione annuale sulla tassa di franchising di OpenAI depositata presso lo stato del Delaware quest’anno elenca “Holden Karnofsku”, erroneamente orrendo il cognome del suo direttore Karnofsky, un lungo esecutivo filantropo, che secondo altri resoconti si è dimesso nel 2021. Nella presentazione non viene menzionato il cofondatore di OpenAI, Ilya Sutskever, che era stato nel board dal 2017 fino alla sua uscita dopo il ritorno di Altman come CEO il mese scorso. I resoconti degli anni precedenti contengono anche apparenze di inesattezze e talvolta non coincidono con le dichiarazioni di OpenAI alle autorità fiscali statunitensi dell’IRS. L’imprenditore John Loeber, che ha esaminato attentamente i documenti pubblici di OpenAI il mese scorso, definisce questa incongruenza “incomprensibile”.

Non sono state fatte accusazioni di comportamenti scorretti ai leader di OpenAI, ma rendere consapevolmente una falsa dichiarazione nelle presentazioni costituirebbe spergiuro. Il portavoce del Dipartimento di Stato del Delaware, Rony Baltazar, afferma che per legge una società è obbligata “a aggiornare informazioni pertinenti, inclusa la composizione del suo consiglio di amministrazione” nelle relazioni annuali, ma ha rifiutato di commentare ulteriormente.

Man mano che si avvicina la stagione delle presentazioni per il 2024, un primo compito per OpenAI 2.0 potrebbe essere mettere in ordine le sue dichiarazioni, con la possibilità di formare un secondo consiglio come prossimo passo.

Ulteriori informazioni fornite da Will Knight.

• artificial intelligence
• ChatGPT
• OpenAI
• Silicon Valley
• Startups