I moderatori di Bumble, Grindr e Hinge faticano a mantenere sicuri gli utenti, e loro stessi
I moderatori di Bumble, Grindr e Hinge lottano per garantire la sicurezza degli utenti e la loro stessa incolumità
“Non ero in grado di uscire da solo,” dice Ana. “Avevo così t’ansia che quando uscivo per fare delle commissioni, ho perso conoscenza due volte. È lì che mi sono reso conto di essere molto malato.”
Ana ha iniziato a lavorare per l’app di incontri LGBTQ+ Grindr quando aveva poco più di vent’anni, una tra le centinaia di honduregni assunti dalla società statunitense di outsourcing PartnerHero per lavorare su questo account. Il suo team era basato a San Pedro Sula, la seconda città dell’Honduras, dove si occupavano di compiti che variavano dal banale – supporto tecnico via email e richieste di fatturazione – all’orripilante: segnalazioni degli utenti di aggressioni sessuali, violenza omofobica, abuso sessuale sui minori e omicidi.
La sua salute mentale peggiorava, ma aveva paura che se si fosse lamentata avrebbe avuto difficoltà a trovare lavoro presso altre aziende di outsourcing in Honduras, e la sua malattia rendeva difficile cercare un altro impiego. “Non riuscivo a uscire, perché non potevo lasciare il mio lavoro,” dice. “Non potevo lottare per di più. Non mi sono fatta sentire.”
Ana ha iniziato a lavorare per Grindr come una giovane laureata ambiziosa, pronta a iniziare la sua carriera. È uscita nel 2019 con ansia e depressione, impossibilitata a lavorare per mesi dopo. Dice che successivamente le è stata diagnosticata una sindrome da stress post-traumatico.
Questo articolo è stato pubblicato in collaborazione con The Bureau of Investigative Journalism.
- Sam Altman ha tentato di tornare come CEO di OpenAI, ma la sua rich...
- Il Black Friday Sale di TikTok Shop è pieno di roba molto strana
- L’UE vuole sistemare il lavoro occasionale. Uber ha le sue idee
L’industria degli incontri online è enorme, con un fatturato stimato intorno ai $2.6 miliardi l’anno scorso. Bumble, Grindr e Match Group – il conglomerato che possiede Hinge e Tinder – valgono complessivamente $13 miliardi. Ma le piattaforme sono state a lungo criticate per gli abusi, le molestie e la violenza offline che gli utenti possono subire. Per cercare di migliorare la sicurezza, queste piattaforme impiegano, di solito tramite aziende di outsourcing, una forza lavoro globale di moderatori come Ana, che, insieme ad altre fonti intervistate per questa storia, ha parlato sotto pseudonimo per poter parlare liberamente delle sue esperienze.
The Bureau of Investigative Journalism (TBIJ) ha intervistato più di 40 lavoratori attuali e passati basati in Honduras, Messico, Brasile, India, Filippine, Stati Uniti e Regno Unito che hanno lavorato per conto di Grindr, Bumble e Match Group. Le condizioni all’interno dei gruppi variavano, ma le tendenze erano evidenti. I lavoratori parlavano di problemi di salute mentale, tra cui sintomi di ansia, depressione e stress post-traumatico che associavano al loro lavoro, ma hanno affermato che c’era una mancanza di supporto. Alcuni hanno sollevato preoccupazioni riguardo alla scarsa presenza di personale e agli obiettivi di produttività punitivi, che affermano compromettano la qualità del loro lavoro e, di conseguenza, mettono in pericolo la sicurezza delle persone che utilizzano le app, con segnalazioni di abusi che restano senza risposta per lunghi periodi.
Shervin Talieh, CEO di PartnerHero, ha dichiarato a TBIJ che sono “impegnati ad essere in prima linea per il benessere dei dipendenti nel nostro settore e allo stesso tempo impegnati a sostenere le importanti missioni dei nostri partner e la sicurezza dei loro utenti.” Sarah Bauer, portavoce di Grindr, ha dichiarato che la privacy e la sicurezza sono componenti integrate direttamente nell’app per eliminare l’attività illecita. “Teniamo i nostri partner ai massimi standard di collaborazione, integrità e fiducia e valutiamo regolarmente come i nostri partner soddisfano questi criteri.”
Le persone che utilizzano le app di incontri potrebbero non rendersi conto che se segnalano comportamenti abusivi come molestie o aggressioni sessuali, la loro denuncia potrebbe essere inizialmente esaminata da un dipendente esternalizzato in Honduras, India o Guatemala. La ragione principale per questo outsourcing è il costo.
Grindr ha ridotto le dimensioni del suo team interno per la fiducia e la sicurezza e ora si affida pesantemente ai dipendenti esterni. PartnerHero, che lavora per Grindr, impiega la maggior parte dei suoi dipendenti in Honduras e nelle Filippine, con un team più piccolo in Brasile. L’azienda promuove queste sedi come un’opportunità di “consistenti risparmi di costi” in termini di salari, reclutamento, tasse e strutture. Ha anche sedi più piccole in Germania, Romania e Sudafrica.
Bumble ha gradualmente ridotto la sua rete internazionale di lavoratori autonomi e ha assunto un team di moderatori con sede in India, tramite l’azienda di outsourcing TaskUS, che ha sede in Texas ma recluta la maggior parte del suo personale dalle Filippine. Nel 2022, Hinge ha licenziato la maggior parte dei suoi moderatori con sede negli Stati Uniti e li ha rimpiazzati con 43 agenti impiegati dall’azienda di outsourcing Telus International in Guatemala, secondo fonti interne all’azienda. I salari iniziali per questi agenti sono significativamente inferiori rispetto ai loro omologhi statunitensi.
Il lavoro svolto da questi moderatori è fondamentale. Aiutano a decidere se un utente dovrebbe essere bandito da un’app e se il caso dovrebbe essere “elevato” a specialisti della sicurezza del personale. Le segnalazioni con cui si occupano possono variare da comportamenti pericolosi, violenti e abusivi a molestie, intolleranza, ricatti e spaccio di droga. Una decisione errata su una segnalazione di abusi potrebbe avere gravi conseguenze. TBIJ ha esaminato la segnalazione di una donna su un’aggressione sessuale avvenuta dopo un appuntamento su Hinge, a cui non è stata data risposta. Solo quando la donna l’ha sollecitata – un anno dopo – Hinge ha bandito l’utente in questione.
Ma i lavoratori esternalizzati delle app di incontri affermano che vi è una linea di produzione sottodimensionata e sovraccarica per gestire le segnalazioni degli utenti. La situazione peggiora, aggiungono, a causa delle aziende che stabiliscono obiettivi irraggiungibili. “A volte abbiamo commesso errori che non avevamo considerato o che avremmo potuto evitare se avessimo avuto più personale”, afferma un ex moderatore di Grindr.
Laura, che ha lavorato come specialista della sicurezza per Bumble nel Regno Unito fino al 2022, sostiene che c’era una “enorme arretrato” di casi seri, qualcosa che attribuisce a una “cronica carenza di personale”.
Le FAQ di Bumble affermano che l’obiettivo è risolvere tutte le segnalazioni entro 48 ore. Laura afferma che spesso i tempi di attesa erano molto più lunghi, lasciando senza risposta persino i casi più seri per settimane. Due fonti affermano che il carico di lavoro degli insiemi di segnalazioni delle app di incontri può causare ritardi nella gestione di questioni serie.
“Non c’erano abbastanza persone per gestire la quantità di cose che accadevano”, dice Laura. “Quindi, anziché assumere più persone, ci mettevano sotto pressione per ottenere numeri più alti”.
Gli operatori di Bumble lavorano su “code” di segnalazioni, afferma Laura, e il sistema dell’azienda era colorato. “Se rientravi nell'[obiettivo], tutto era in grigio, se stava diventando brutto diventava arancione, se era davvero brutto diventava rosso… e in pratica era sempre rosso, tutto il tempo”.
Man mano che i dipendenti se ne andavano, il numero degli specialisti per la sicurezza dei membri di Bumble, che lavorano su casi delicati, è passato da 15 persone a un minimo di sette nella primavera del 2023, secondo un ex dipendente, anche se Bumble ha recentemente iniziato ad assumere per coprire le lacune. “Abbiamo visto un sacco di problemi con vari casi che rimanevano nelle nostre code per settimane prima che venisse presa qualsiasi misura”, afferma un membro del personale. “Il team si sentiva davvero sopraffatto dall’arretrato accumulato e sentiva che avrebbe scoperto qualcosa di grave troppo tardi”.
Anche diversi operatori di Grindr di PartnerHero hanno espresso preoccupazione per un arretrato di segnalazioni. Mentre alcuni hanno detto di solito di riuscire a eliminarle rapidamente, il personale che lavorava in altri team non correlati di PartnerHero ha descritto di essere stato chiamato ad aiutare.
I lavoratori di Grindr, Bumble e Hinge dicono di essere stati sottoposti a obiettivi irragionevoli e spesso ci si aspettava che prendessero decisioni complesse su se un utente dovesse essere bandito dalla piattaforma in un minuto o meno.
Laura era uno dei lavoratori intervistati che hanno espresso preoccupazioni per la sicurezza degli utenti. “Quando si trattava di garantire la sicurezza dei membri, non erano tanto le politiche in sé il problema, ma piuttosto l’attuazione”, ha detto. “Poiché eravamo sottodimensionati, le persone potevano aspettare giorni o settimane perché venissero viste le loro segnalazioni… Per qualcosa di grave, significa che la persona segnalata potrebbe essere stata sull’app per tutto quel tempo extra”.
“Obiettivi rigidi non sono appropriati per il tipo di lavoro che facciamo, perché sperimentiamo molti traumi secondari”, dice Laura. “Potrebbe essere come se qualcuno si fosse sfogato completamente con te, parlando di esperienze traumatizzanti che hanno vissuto, come un’aggressione… e tu dovresti rispondere come se fossi un robot”.
Bumble non ha fornito un commento attribuibile.
Kayla Whaling, portavoce di Match Group, ha detto: “La sicurezza è fondamentale per la nostra attività e i nostri continui sforzi per migliorare le nostre funzionalità e le nostre politiche al fine di rendere le nostre piattaforme più sicure per tutti non si fermeranno mai”.
Gestire materiale spesso disturbante in un ambiente ad alta pressione mette a dura prova i moderatori. Gli operatori di PartnerHero intervistati da TBIJ dicono di aver ricevuto poco supporto, alcuni penalizzati e persino licenziati durante crisi di salute mentale associate al loro lavoro.
Gael, un freelance che ha lavorato per Bumble dalla sua casa in Brasile fino a quest’anno, fatica ancora a parlare di due casi di abuso sessuale su minori che gli è stato chiesto di esaminare. “È spiacevole parlare di queste cose, perché riproponi l’immagine”, dice. Quei casi “non mi hanno permesso di dormire bene per alcune settimane dopo”.
Gael sentiva di non aver ricevuto una formazione adeguata per gestire immagini così sconvolgenti. “È come se si aspettassero che tu sia abbastanza intelligente e agile da gestire queste situazioni”, dice.
Dei 14 ex moderatori di Grindr con cui TBIJ ha parlato, praticamente tutti hanno testimoniato le traumatiche condizioni lavorative a cui sono stati sottoposti. Alcuni hanno detto che i sintomi di stress erano ampiamente evidenti tra il personale. “Le emozioni di tutti, prima o poi, hanno iniziato a diffondersi nell’aria”, dice un ex moderatore. “Le persone riuscivano a sentirlo… Hanno notato la tensione, l’ambiente ostile. Era orribile”.
In un certo momento, diversi lavoratori con sede in Honduras sono stati esposti a immagini di abusi sessuali su minori allegati a una e-mail da un utente di Grindr. “Abbiamo avuto tre persone che se ne sono andate quel giorno… Non riuscivano a sopportarlo”, dice un lavoratore.
Un altro lavoratore dice di aver tentato il suicidio più volte durante e dopo il suo periodo in azienda.
PartnerHero ha iniziato a collaborare con Grindr nel 2017 e i lavoratori assunti erano inizialmente reclutati per ruoli generici di supporto clienti. Sebbene fossero sempre tenuti a svolgere compiti legati alla sicurezza degli utenti, col tempo PartnerHero si è assunto la maggior parte della moderazione dei contenuti di Grindr.
I lavoratori di Grindr e Bumble dicono di aver lottato duramente per ottenere i diritti ai benefici per la salute mentale. Questi benefici variavano notevolmente a seconda dell’app e dello status contrattuale del moderatore, e i membri dello staff tendevano a ricevere un supporto migliore rispetto ai lavoratori autonomi e a quelli esternalizzati.
I lavoratori esternalizzati di Grindr presso PartnerHero dicono che, nonostante le loro continue richieste, c’era poco supporto per la salute mentale disponibile per il personale honduregno fino al 2020, quando è stato stipulato un contratto con un terzo per fornire terapia e supporto per la salute mentale sottosidiato aggiunto al piano assicurativo sanitario dell’azienda. Tuttavia, diverse persone che hanno lavorato per PartnerHero dopo l’introduzione di questi benefici dicono che non ne erano a conoscenza. Prima di questo, i membri del team di Grindr dicono di essere stati informati che potevano parlare con un membro del dipartimento delle risorse umane.
I lavoratori di Grindr dicono di aver continuato a fare pressioni sulla direzione per ottenere maggior supporto per la salute mentale e, nel novembre 2022, PartnerHero ha assunto un coordinatore del benessere del personale con una formazione in psicologia clinica. Il CEO di PartnerHero, Talieh, ha detto a TBIJ che tutti i membri del team di Grindr in Honduras ricevono piani medici e di salute mentale e hanno accesso a un programma di assistenza ai dipendenti, con offerte migliorate per i moderatori. “Abbiamo collaborato con Grindr per sviluppare processi e formazione”, aggiunge.
“Rispettiamo quanto possa essere difficile il ruolo di moderatore dei contenuti e abbiamo lavorato in collaborazione con PartnerHero nel corso del nostro rapporto per migliorare costantemente i processi, la formazione e il supporto al team di moderazione”, dice il portavoce di Grindr, Bauer.
Juan Manuel, vicepresidente delle operazioni presso Telus International Guatemala, afferma che l’azienda recluta attentamente i suoi moderatori e “offre una formazione approfondita (continua) e un quadro di benessere olistico di prima classe”.
Presso Bumble, i lavoratori dicono di aver potuto accedere al supporto per la salute mentale tramite un piano assicurativo sanitario privato e un programma di assistenza ai dipendenti. Nel 2022, l’azienda ha ampliato la sua offerta, introducendo un “stipendio per il benessere” che poteva essere utilizzato per rimborsare le sessioni di terapia o altre cure mediche e assumendo un responsabile del benessere, specializzato nell’offrire supporto per la salute mentale ai dipendenti. Tuttavia, Gael e Oscar dicono che questi benefici non erano disponibili per i lavoratori autonomi.
Le condizioni nell’industria della moderazione esternalizzata potrebbero peggiorare, non migliorare. I licenziamenti sono stati una caratteristica centrale dell’industria tecnologica statunitense negli ultimi due anni, a causa dell’aumento dei tassi di interesse e dell’asciugarsi dei finanziamenti del venture capital.
Match Group ha anche deprioritizzato le misure di sicurezza dal 2022, affermano tre fonti che in precedenza ricoprivano ruoli di alto livello nell’azienda. Questi tagli avevano lasciato i team di fiducia e sicurezza sovraccarichi, dicono due delle fonti di alto livello. Whaling di Match Group ha detto: “Abbiamo aumentato gli investimenti in sicurezza e abbiamo introdotto dirigenti di sicurezza di primo piano che hanno continuato a creare nuovi ruoli ed espandere le funzioni di sicurezza esistenti, con un aumento del 30% dei nostri team di fiducia e sicurezza nell’ultimo anno”.
Da quanto dicono le fonti, anche a Grindr è stato ridotto il budget per la moderazione. “Quando le aziende cercano di aumentare i loro [profitti], guardano ai costi operativi”, dice Sarah, un lavoratore che ha lasciato Grindr quest’anno. “Di solito [per] operazioni clienti e moderazione dei contenuti, c’è una somma di denaro molto grande collegata. Quindi questa è di solito la prima cosa che viene considerata per il taglio”.
Sarah afferma che i progetti volti a impedire agli utenti bannati di tornare su Grindr e a ridurre l’esposizione dei moderatori a contenuti angoscianti come materiale di abuso su minori sono stati deprioritizzati a favore dei tagli dei costi e dell’aumento dei ricavi. A Grindr, un team di sicurezza interno già ridotto è stato ulteriormente ridotto dalle dimissioni di massa dopo l’attuazione da parte dell’azienda di una rigida politica di ritorno in ufficio.
Ad agosto, la direzione di Grindr ha dato ai lavoratori due settimane per decidere se lavorare due volte a settimana negli uffici di Chicago, Los Angeles o San Francisco. Circa la metà dei suoi 178 dipendenti ha rifiutato e sono stati costretti a dimettersi, secondo la Communications Workers of America, che rappresenta i lavoratori.
La CWA sostiene che l’attuazione della politica di ritorno in ufficio sia stata una ritorsione alla formazione del sindacato Grindr United nel luglio e ha presentato una denuncia per pratiche sindacali sleali. Grindr afferma che queste affermazioni sono infondate. “Tante persone se ne sono andate”, dice Madison, una lavoratrice di Grindr. “Non c’è quasi nessuno. Non c’è personale sufficiente per risolvere davvero i problemi”.
Ci sono solo tre membri interni del personale di sicurezza rimasti su Grindr, che supervisionano le squadre presso PartnerHero, dicono due fonti, che ora coprono l’intero lavoro di moderazione, incluso le complesse richieste legali e il team di gestione delle crisi, esternalizzati a PartnerHero.
Bauer, il portavoce di Grindr, afferma che l’azienda “continuerà a investire pesantemente” nei processi di automazione che proteggono i moderatori dai contenuti angoscianti. “I nostri team di sicurezza e legali, che sono sufficientemente forniti di risorse, continueranno a esaminare segnalazioni complesse degli utenti se necessario”.
Alcuni degli ex moderatori che hanno lasciato l’industria ora parlano di un enorme senso di sollievo.
Ana dice che la sua salute è migliorata. “Oggi posso uscire e fare alcune commissioni da sola”, dice. “La mia famiglia è ancora preoccupata… ma sto riprendendo gradualmente la mia indipendenza”.
Anche Gael dice di sentirsi ora “molto più leggero”. “Ero molto felice quando ho lasciato il lavoro [su Bumble]. Perché anche se pagava davvero molto bene… stava influenzando molto la mia vita”.
Ma probabilmente altri hanno preso il loro posto. “Queste persone sono considerate usa e getta”, dice un ex dirigente senior di PartnerHero, descrivendo l’industria. “Quindi quando si esauriscono, prendono semplicemente il successivo, e ci sono molte persone… disposte ad entrare”.
Se tu o qualcuno che conosci ha bisogno di aiuto, negli Stati Uniti chiama gratuitamente il numero 1-800-273-8255 per il supporto 24 ore su 24 della National Suicide Prevention Lifeline. Puoi anche inviare il messaggio HOME al 741-741 per il Crisis Text Line. Fuori dagli Stati Uniti, visita l’International Association for Suicide Prevention per i centri di crisi in tutto il mondo.
