Zoom è coinvolto in un pasticcio sulla privacy dell’IA
Zoom coinvolto in pasticcio sulla privacy IA
Qualcuno legge i termini e le condizioni dei servizi software? Gli avvocati sì, ma anche loro possono annoiarsi. Così, fino a poco tempo fa, nessuno si era accorto che Zoom aveva modificato i suoi Termini di Servizio (ToS) nel marzo 2023. Secondo i nuovi termini, Zoom si riservava il diritto di utilizzare i tuoi dati video, audio e chat per i suoi programmi di intelligenza artificiale (AI).
Privacy? Sicurezza? Cosa sono?
Inoltre: Non siamo pronti per l’impatto dell’IA generativa sulle elezioni
Per essere precisi, i nuovi termini concedevano a Zoom i diritti su qualsiasi “dato, contenuto, file, documento o altro materiale (collettivamente, ‘Input del cliente’) nell’accesso o nell’utilizzo dei Servizi o del Software, e Zoom può fornire, creare o mettere a disposizione, a sua esclusiva discrezione o come parte dei Servizi, determinati derivati, trascrizioni, analisi, output, visualizzazioni o set di dati derivanti dall’Input del cliente (insieme all’Input del cliente, ‘Contenuto del cliente’).”
Che cosa significano questi diritti sul “Contenuto del cliente”? Innanzitutto, “Zoom può redistribuire, pubblicare, importare, accedere, utilizzare, archiviare, trasmettere, rivedere, divulgare, conservare, estrarre, modificare, riprodurre, condividere, utilizzare, visualizzare, copiare, distribuire, tradurre, trascrivere, creare opere derivate e elaborare il Contenuto del cliente”.
- Beats Studio Pro si espande in oltre 20 paesi aggiuntivi
- Apple non è obbligata a cambiare le regole dell’App Store al ...
- Gli Apple AirPods sono impermeabili? Tutto ciò che devi sapere | ENBLE
Ma aspetta, c’è di più. Concedi anche a Zoom “una licenza perpetua, mondiale, non esclusiva, priva di royalty, sublicenziabile e trasferibile e tutti gli altri diritti necessari o necessari per redistribuire, pubblicare, importare, accedere, utilizzare, archiviare, trasmettere, rivedere, divulgare, conservare, estrarre, modificare, riprodurre, condividere, utilizzare, visualizzare, copiare, distribuire, tradurre, trascrivere, creare opere derivate e elaborare il Contenuto del cliente e per eseguire tutti gli atti relativi al Contenuto del cliente: (i) come può essere necessario per Zoom per fornirti i Servizi, incluso il supporto ai Servizi; (ii) per lo sviluppo di prodotti e servizi, il marketing, l’analisi, l’assicurazione della qualità, l’apprendimento automatico, l’intelligenza artificiale, la formazione, i test, il miglioramento dei Servizi, del Software o degli altri prodotti, servizi e software di Zoom”.
Inoltre: Come bloccare il nuovo crawler web di addestramento IA di OpenAI dal raccogliere i tuoi dati
La reazione a tutto ciò, quando le persone del forum di Ycombinator, l’acceleratore di start-up tecnologiche, lo hanno scoperto, è stata, diciamo così, infelice. O, come ha scritto un commentatore, “Io, per uno, non accogliamo favorevolmente i nostri signori distopici”.
Dopo tutto il trambusto di questo fine settimana, Zoom ha modificato i suoi Termini di Servizio. Ora, Zoom promette: “Nonostante quanto sopra, Zoom non utilizzerà il contenuto audio, video o chat del cliente per addestrare i nostri modelli di intelligenza artificiale senza il tuo consenso”.
Uh-huh.
La Chief Product Officer di Zoom, Smita Hashim, ha spiegato in un post sul blog che l’azienda non farà effettivamente le cose descritte nei suoi ToS. È vero, Zoom utilizzerà alcuni dei tuoi dati per l’apprendimento automatico. Ma secondo il post del blog, “Per l’IA, non utilizziamo contenuti audio, video o chat per addestrare i nostri modelli senza il consenso del cliente”.
Ma quella clausola aggiunta e il post sul blog significano qualcosa? Sean Hogle, un avvocato specializzato in affari e proprietà intellettuale, non lo pensa. Su Ycombinator, ha scritto: “Gli avvocati di Zoom stanno cercando di fare una mossa astuta con questi Termini rivisti. La nuova frase sul consenso dell’utente richiesto per addestrare le intelligenze artificiali si applica solo al ‘Contenuto del cliente’, non ai ‘Dati generati dal servizio'”. Zoom può utilizzare questi dati, che derivano dalle tue conferenze e dai tuoi materiali, senza il tuo consenso.
Inoltre: ChatGPT Plus può estrarre dati aziendali per ottenere potenti informazioni. Ecco come
Hogle ha continuato: “Ecco il problema. ‘Dati generati dal servizio’ = ‘qualsiasi dato di telemetria, dati di utilizzo del prodotto, dati di diagnostica e contenuti o dati simili che Zoom raccoglie o genera in relazione al tuo o all’uso dei Servizi da parte dei tuoi utenti finali”. Utilizzando questi dati, Hogle ha concluso: “Questa ‘chiarificazione’ non fa nulla di significativo per placare le gravi preoccupazioni sulla privacy dei dati causate dall’uso di Zoom del contenuto video degli utenti catturato”.
Nel suo post sul blog, Hashim ha continuato dicendo: “Non utilizzeremo i contenuti dei clienti, inclusi i registri educativi o le informazioni protette sulla salute, per addestrare i nostri modelli di intelligenza artificiale senza il tuo consenso”. Naturalmente, questi erano già protetti dal Family Educational Rights and Privacy Act (FERPA) e dal Health Insurance Portability and Accountability Act (HIPAA), quindi non è un grosso problema. Il Dipartimento di Giustizia sarebbe intervenuto per questo.
Naturalmente, per utilizzare alcune delle funzionalità di intelligenza artificiale di Zoom, come Zoom IQ, che offre riassunti automatizzati delle riunioni, è necessario accettare che Zoom utilizzi i tuoi dati. Inoltre, non hai alcun controllo sulla privacy di una riunione se stai solo partecipando e la persona che l’ha convocata ha accettato di consentire a Zoom di controllare le tue azioni virtuali per prendere appunti propri.
Poche persone sono felici di questo. Come ha detto l’analista di Constellation Research Dion Hinchcliffe, “Zoom ha sicuramente toccato una grande paura del mercato quando i suoi recenti Termini di servizio gli hanno concesso una licenza essenzialmente illimitata per tutti i contenuti degli utenti (video, audio, testo) che passano attraverso la sua piattaforma… Il grande problema è che la proprietà intellettuale del cliente e le informazioni private delle persone verranno archiviate in tali modelli, dove potrebbero essere utilizzate impropriamente”.
Inoltre: Generative AI e il quarto perché: costruire fiducia con il tuo cliente
Larry Dignan, ex direttore editoriale di ENBLE e attuale direttore editoriale di Constellation Research, ha aggiunto: “Tuttavia, i termini di servizio concedono comunque a Zoom la licenza… I fornitori dovrebbero fare di tutto per prendere la strada più corretta con i dati dei clienti. Coloro che non stabiliscono e mantengono livelli di fiducia molto elevati con i clienti riguardo ai loro dati non potranno godere dei frutti della prossima rivoluzione dell’intelligenza artificiale”.
Anche Allen Drennan, co-fondatore e principale di Cordoniq, una società di riunioni virtuali, è d’accordo. In una e-mail, Drennan ha scritto: “Quando le organizzazioni private caricano informazioni confidenziali interne e proprietà intellettuale in una riunione, non stanno considerando le conseguenze di fornire i loro dati a un fornitore terzo gestito in un cloud che non controllano. La questione non si limita solo a schermi condivisi o documenti confidenziali con più pagine. Si estende anche alle registrazioni delle riunioni e all’audio e al video utilizzati nella riunione. Devi davvero avere il controllo sia della sicurezza che della privacy”.
Hinchcliffe ha aggiunto su Twitter che Zoom ottiene ancora “una licenza ‘perpetua e globale’ su tutti i contenuti degli utenti in modo da poter ‘esaminare, rivelare, preservare, estrarre, modificare, riprodurre, condividere, utilizzare, visualizzare, copiare, distribuire, tradurre, trascrivere, creare opere derivate’. Questo è irragionevole e costituisce un eccesso dei contenuti degli utenti di molto”.
Chi può discutere di questo? Oltre a Zoom, ovviamente.
Inoltre: L’intelligenza artificiale generativa diventerà presto di uso comune, affermano 9 dirigenti su 10 nel settore IT
Nel 2021, Zoom ha accettato di pagare 85 milioni di dollari in un’azione collettiva per la condivisione dei dati degli utenti con parti terze non autorizzate come Facebook, Google e LinkedIn e per avere rappresentato erroneamente la robustezza dei suoi protocolli di crittografia end-to-end.
Nello stesso anno, Zoom ha fatto un accordo con la Federal Trade Commission (FTC), che ha richiesto all’azienda di “implementare un programma di sicurezza completo, esaminare eventuali aggiornamenti del software per individuare difetti di sicurezza prima della loro distribuzione e assicurarsi che gli aggiornamenti non compromettano le funzionalità di sicurezza di terze parti”. La FTC ha anche richiesto a Zoom di non rappresentare in modo errato le sue pratiche di raccolta dati.
Secondo John Davisson, direttore della divisione contenzioso presso il gruppo di difesa Electronic Privacy Information Center (EPIC), in un commento al The Washington Post, ciò “sembra costituire una violazione grave e qualcosa a cui la FTC deve prestare molta attenzione”. La rappresentante Jan Schakowsky (D-Ill.) ha aggiunto: “Zoom ha un pessimo track record nella protezione dei dati dei consumatori e nel mantenere le sue promesse, come dimostrano l’accordo di consenso e il risarcimento del 2021”.
Tutto si riduce a quanto ti senti a tuo agio nel condividere informazioni private con Zoom. Per quanto utile Zoom si sia dimostrato durante la pandemia, la risposta per molte aziende e organizzazioni di fronte a questa nuova minaccia alla privacy dell’IA sembra essere no. Come ha twittato Eliot Higgins, fondatore di Bellingcat Productions: “Facciamo i nostri workshop di formazione su Zoom, quindi Zoom sta pianificando di addestrare la sua IA su tutto il contenuto dei nostri workshop senza alcun compenso, quindi addio Zoom”.
Sono sicuro che non saranno gli unici a dire addio a Zoom.
