Nuovi algoritmi di Pinterest vogliono farti vedere ogni tipo di corpo

Pinterest's new algorithms aim to show you every body type

Quando l’influencer di moda Natalie Craig ha cercato di recente su Pinterest skorts e pantaloni cargo, ha notato qualcosa di diverso rispetto alle sue precedenti esplorazioni sul servizio: donne che assomigliavano a lei erano sparpagliate tra i risultati e senza aggiungere specificatori come “taglia forte” alla sua ricerca.

“Sono alta 5’2″ e porto una taglia 20, quindi devo dire ‘ispirazione per outfit da scuola per persone basse'”, dice Craig della sua solita sfida nel trovare contenuti di moda pertinenti online. “Ora non devo più fare quella ginnastica mentale.”

La nuova e liberatoria esperienza di Pinterest di Craig è stata possibile grazie all’accesso anticipato ad algoritmi aggiornati progettati per evidenziare diverse tipologie di corpo, che l’azienda sta presentando oggi, dopo averli implementati silenziosamente negli ultimi mesi. Sono alimentati in parte da un nuovo sistema di intelligenza artificiale che può riconoscere diverse forme, conformazioni e dimensioni del corpo.

In un’iniziativa innovativa tra le principali piattaforme tecnologiche, Pinterest sta cercando di affrontare direttamente il modo in cui i servizi di social media sintonizzati con gli algoritmi amplificano il pregiudizio di lunga data nei confronti delle donne magre e dalla pelle chiara come standard ultimativo di bellezza. La ricerca accademica e persino gli studi interni delle aziende hanno dimostrato che questo rinforzo ha portato alcuni utenti a lottare nel conciliare il proprio corpo con ciò che vedono in generale online, causando traumi mentali o disturbi alimentari.

Pinterest ha sviluppato la sua tecnologia applicando l’apprendimento automatico a oltre 5 miliardi di immagini di persone di tutte le forme e dimensioni. Annie Ta, responsabile del team di prodotto inclusivo di Pinterest, afferma che l’obiettivo è far sentire gli utenti come se il servizio celebri diverse tipologie di corpo e offra contenuti più pertinenti. “La nostra missione è aiutare le persone a sentirsi ispirate e non puoi sentirlo se non ti senti incluso nell’esperienza del prodotto”, afferma Ta.

• Google Chrome sta subendo un restyling. Vedi come cambierà.
• La revisione della ricerca di Pinterest rende più facile trovare mo...
• Il regalo di compleanno del 15° anniversario di Chrome è un nuovo d...

Le persone che cercano una visione più rappresentativa del corpo umano online, come Craig, sviluppano spesso ricerche specifiche e altri trucchi per trovare immagini pertinenti, ma affermano che rimane frustrante. Le piattaforme tecnologiche hanno in gran parte ignorato il problema. Generatori di immagini di intelligenza artificiale come Dall-E perpetuano stereotipi irrealistici presenti nei dati di addestramento.

Anche altre attività che traggono profitto dalla forma umana non soddisfano tutte le tipologie di corpo: la donna media negli Stati Uniti indossa circa una taglia 18, ma la maggior parte dei marchi di abbigliamento non va oltre. E la ricerca e l’esperienza vissuta mostrano che i pregiudizi contro le persone di taglia più grande sono ampiamente accettati in molti settori della società, compresi l’assunzione, l’assistenza medica, l’istruzione e gli algoritmi. Vengono umiliate, bullizzate e ingiustamente etichettate come non sane, indipendentemente dal contesto. “C’è una cattiveria rivolta alle persone grasse e in particolare alle persone grasse che rifiutano di scusarsi per il loro peso”, afferma Tigress Osborn, una attivista politica dei diritti delle persone grasse che ha consigliato Pinterest sulla sua nuova funzionalità.

Una revisione dello scorso anno del Berkeley Media Studies Group ha scoperto che i principali media hanno pubblicato oltre 18.000 articoli sulla perdita di peso in 12 mesi, ma solo 48 articoli sull'”anti-grossofobia”. Le persone che sono ultra-sottili o di bassa statura non hanno una vita facile neanche loro. La National Association to Advance Fat Acceptance, un’organizzazione no-profit statunitense guidata da Osborn, sta facendo pressione per vietare la discriminazione basata sulla taglia, e questa iniziativa sta guadagnando forza nei consigli comunali e negli organi legislativi statali, compreso un divieto nella città di New York che entrerà in vigore a novembre.

Osborn e Ta di Pinterest sperano che, promuovendo una maggiore diversità di tipologie di corpo ai suoi 465 milioni di utenti mensili, la piattaforma possa contribuire a riformare le percezioni pubbliche sulla dimensione e la conformazione del corpo. “Se sei esposto a più persone provenienti da sfondi diversi, speriamo di costruire un mondo più tollerante e accettante”, afferma Ta.

Potrebbe sembrare idealistico, ma afferma che è anche un buon affare. “Gli inserzionisti vogliono vedere i loro contenuti accanto a contenuti davvero positivi, giusto?” dice Ta. Craig, l’influencer e blogger, si aspetta di fare più acquisti direttamente da Pinterest tramite post che collegano alle pagine di pagamento dei commercianti.

Il nuovo sistema di Pinterest è attualmente attivo solo su post, noti come “pin”, legati alla moda, al trucco e ai matrimoni. Entra in gioco nei risultati di ricerca, nonché nei pin consigliati e correlati offerti agli utenti. Solo le persone negli Stati Uniti, nel Regno Unito, in Irlanda, in Canada, in Australia e in Nuova Zelanda si imbatteranno in una curatela di intelligenza artificiale consapevole delle tipologie di corpo. Anche se la tecnologia è in grado di riconoscere i corpi provenienti da tutto il mondo, l’estensione ad altri paesi sarà soggetta alla considerazione delle norme culturali e delle leggi locali.

Il progetto sulla diversità del corpo si basa sui precedenti lanci pionieristici di Pinterest di algoritmi in grado di riconoscere una gamma di tonalità della pelle e tipologie di capelli. Sono supportati da un accordo raggiunto da Pinterest con il fondo pensione del Rhode Island e altri azionisti un anno fa per risolvere una causa legale che accusava l’azienda di discriminazione nei confronti del personale femminile e nero, provocando uno sciopero virtuale nel 2020 e accuse pubbliche da parte di ex dipendenti.

Tredici delle circa 90 condizioni dell’accordo riguardano l’inclusione dei prodotti, sancendo la posizione di Ta e il finanziamento e la supervisione del suo team di prodotti inclusivi. Ai sensi dell’accordo, Pinterest si è impegnata complessivamente a spendere 50 milioni di dollari in 10 anni per progetti di diversità, equità e inclusione, accumulando una spesa di 5,4 milioni di dollari nel primo anno per consulenti, advisor e formazione, secondo quanto riportato in un documento presentato in tribunale. Megan D’Alessio, una responsabile dell’inclusione e della diversità coinvolta negli sforzi, afferma che l’accordo ha “stimolato e amplificato molto del grande lavoro svolto su Pinterest”.

L’accordo dimostra come l’azione dei soci possa spingere le piattaforme tecnologiche a fare uno sforzo duraturo per affrontare alcune delle loro lacune. Le parti attrici hanno costretto Pinterest a investire per oltre 10 anni perché le aziende troppo spesso spendono rapidamente in programmi di diversità e inclusione senza creare cambiamenti significativi, ha scritto l’avvocato Julie Goldsmith Reiser nel documento presentato in tribunale. In altre aziende tecnologiche, tra cui Microsoft, Meta, Google e Twitter, i licenziamenti e i tagli di bilancio ai team che lavorano allo sviluppo etico o inclusivo dei prodotti hanno rallentato il loro lavoro, secondo ex dipendenti e notizie. Pinterest è qui per restare.

Pinterest ha lanciato i filtri per il tono della pelle nel 2018 dopo che degli stagisti hanno proposto l’idea, ma il lavoro sull’inclusione dei prodotti è rimasto organizzato in modo informale fino al 2020. Quell’anno, mentre le proteste per la giustizia razziale per George Floyd si diffondevano negli Stati Uniti e in altri paesi, Ta ha mobilitato i dipendenti di Pinterest per immaginare nuove caratteristiche dei suoi prodotti. Ha coinvolto ingegneri e altri dipendenti in un nuovo team per l’inclusione dei prodotti, che ora conta più di due dozzine di persone. “Ho passato essenzialmente l’estate del 2020 facendo un tour aziendale”, dice Ta.

Il nuovo gruppo ha lanciato il filtro per il tipo di capelli nel 2021 in sei paesi, con opzioni come riccio e ricciolo. Fino ad ora non c’è ancora una opzione per capelli diradati per le persone che cercano di fare di più con meno, ma l’anno scorso Pinterest ha esteso i filtri per i capelli a nove paesi aggiuntivi. Il gruppo di Ta ha anche esteso la tecnologia per coprire più ricerche e funzionalità in tutta l’azienda. I primi test degli algoritmi aggiornati in alcuni paesi di quest’anno hanno aumentato del 302 percento il numero di ricerche di bellezza e moda in cui gli utenti hanno ricevuto una gamma diversificata di tonalità della pelle nei risultati, rispetto allo stesso periodo dell’anno precedente. Il numero di utenti che utilizzano il filtro per il tipo di capelli è aumentato del 41 percento nel primo trimestre del 2023 rispetto all’anno scorso.

Sui social media e nelle ricerche degli utenti, gli utenti di Pinterest hanno richiesto in modo più ampio una rappresentazione più ampia dei tipi di corpo. “Abbiamo sentito più volte che stiamo promuovendo questo tipo di stereotipo di ‘magro è bello'”, dice Ta. Ben Silbermann, cofondatore di Pinterest e fino a inizio anno CEO dell’azienda, voleva anche agire. “Ben è una persona davvero diretta a volte e mi trovavo a fare una revisione con lui su qualcos’altro e lui mi diceva: ‘Perché non abbiamo ancora sviluppato il tipo di corpo?’ Era così entusiasta”, dice Ta.

Il team di Ta ha iniziato a lavorare sulla funzione alla fine dell’anno scorso. I primi passi sono stati educare gli ingegneri e i designer di Pinterest sulla taglia del corpo e capire cosa esattamente gli utenti volevano. La responsabile DEI D’Alessio, che si descrive come taglia comoda, ha condiviso una lista di podcast, tra cui Maintenance Phase, programmi TV e libri come Belly of the Beast, per saperne di più sulle questioni del corpo. Ha anche fornito al personale di Pinterest una versione intensiva del corso che ha tenuto nel 2021 a Stanford sul design per la liberazione del grasso che incoraggia a riconsiderare gli stigmi legati al peso. L’azienda ha anche riesaminato le proprie politiche interne per assicurarsi che si adattassero al nuovo focus dei prodotti sul tipo di corpo, afferma D’Alessio.

“Le persone vogliono vedere le pieghe della pancia, vogliono vedere le gambe davvero grosse, le rughe, i capelli irregolari e le persone con abilità diverse”.

Katie Elfering, Pinterest

Quando Katie Elfering di Pinterest, una ricercatrice di prodotti assistente, ha analizzato quanto spesso gli utenti cercavano contenuti che mostrassero misure del corpo più grandi, i dati l’hanno rattristata. I log degli utenti hanno rivelato che oltre la metà delle ricerche di moda relative a attributi specifici del corpo facevano riferimento alla taglia “comoda” in diversi grandi paesi di lingua inglese nell’ultimo anno. Gli utenti frustrati stavano facendo del loro meglio per cercare una diversità di corpi. “Vogliono vedere le pieghe della pancia, vogliono vedere le gambe davvero grosse, le rughe, i capelli irregolari e le persone con abilità diverse”, afferma Elfering.

L’influencer e blogger Natalie Craig si aspetta di fare più acquisti su Pinterest ora che vede contenuti più rappresentativi.

Cortesia di Natalie Craig

Pinterest ha collaborato con alcuni utenti statunitensi come Craig negli ultimi mesi in “design jams” per sviluppare idee per aumentare l’inclusione del corpo. Una domanda chiave era se concentrarsi nel far vedere agli utenti i risultati che raffigurano persone con un tipo di corpo simile al proprio, oppure mostrare a tutti una maggiore diversità. Dopo molto dibattito, il team di Pinterest ha deciso che i benefici sociali di esporre tutti a diverse dimensioni del corpo erano più importanti. La caratteristica sarebbe stata diversa per impostazione predefinita. “Vogliamo davvero assicurarci che nei nostri risultati le persone vedano tutti i tipi di corpo e forme e dimensioni”, dice Elfering.

Pinterest non sta ancora lanciando un filtro per il tipo di corpo per permettere agli utenti di concentrarsi su una particolare taglia o forma. Il CTO Jeremy King dice che non è chiaro se gli utenti vogliano quella opzione. “Quando vediamo le persone che fanno pin, fanno pin di tutti i tipi di stili, tutti i tipi di tipi di corpo”, dice, mentre con i contenuti sui capelli e sulla pelle, le persone cercano prodotti che corrispondano alle proprie caratteristiche. Questa decisione ha evitato la difficile sfida di come chiamare le opzioni fornite da un filtro per il tipo di corpo. Nella ricerca che chiedeva agli utenti i termini preferiti per i loro stessi corpi, le persone hanno mostrato poca coerenza, con alcune che usavano la taglia dell’abbigliamento o l’altezza, e altre forme geometriche o forme di frutta.

Le scelte di design di Pinterest dovevano essere combinate con scoperte tecnologiche. Pedro Silva, un ingegnere senior di machine learning a Pinterest, dice che l’azienda ha sviluppato una rete neurale addestrata su migliaia di immagini di una gamma di diversi tipi di corpo, etichettate dal personale.

Il sistema finale prevede essenzialmente, per ogni nuova immagine che analizza, in quale intervallo di corpi cade il corpo all’interno del range di tutti i corpi che il sistema di intelligenza artificiale ha visto in passato. Prima di fare questa previsione, il sistema deve isolare la forma del corpo di una persona in una foto dagli altri elementi visivi, tenendo conto di cappotti larghi, braccia allargate e abiti svolazzanti. Pinterest dice di aver reso la tecnologia funzionante anche su video e corpi di persone con una gamma di espressioni di genere, etnie e abilità fisiche.

Nelle ricerche e in altri luoghi in cui entrano in gioco gli algoritmi di diversità di Pinterest, essi determinano i pin più rilevanti da mostrare a un utente specifico, ma scambiano anche una selezione di pin con lo stesso punteggio di rilevanza che raffigurano diversi tipi di corpo o tonalità della pelle. Pinterest afferma che il numero di ricerche relative alla moda che restituiscono l’intera gamma di tipi di corpo è aumentato del 454 percento nel secondo trimestre rispetto all’anno precedente, quando ha iniziato a introdurre la tecnologia negli Stati Uniti.

Pinterest non è l’unica azienda tecnologica che cerca di rendere gli algoritmi più accettanti della diversità del corpo. Il fornitore di strumenti di progettazione online Canva ha regolato i suoi algoritmi di ricerca per presentare risultati diversi per immagini e altri elementi di contenuto basati su otto fattori, tra cui religione, lingua, sessualità e segni di aspetto come il colore degli occhi e il tipo di corpo. “Siamo 8 miliardi di persone nel mondo e vogliamo arrivare al punto in cui possiamo rappresentare tutti”, dice Silvia Oviedo Lopez, responsabile dei contenuti e della scoperta presso Canva.

Google ha anche preso in considerazione l’inclusività dei propri servizi. Una ricerca interna ha rilevato che le decisioni di moderazione e monetizzazione nei servizi come annunci e video potrebbero essere di parte contro le persone con corpi più grandi, secondo un ex dipendente che ha parlato in forma anonima per discutere questioni riservate. Google ha investito nella formazione alla sensibilità e nella definizione di linee guida migliori per i revisori al fine di garantire che non penalizzassero ingiustamente le persone, ad esempio considerando una persona più grande in costume da bagno a mostrare troppa pelle anche se una persona con un fisico più snello in un outfit simile sta esponendo la stessa percentuale di pelle scoperta. Nate Funkhouser, portavoce di Google, afferma che l’azienda valuta costantemente i suoi sistemi pubblicitari e le linee guida per garantire l’applicazione delle politiche senza pregiudizi.

Pinterest non ha intenzione di adattare i contenuti o le politiche pubblicitarie per promuovere o richiedere la diversità del corpo, dice Ta, ma ha vietato gli annunci correlati alle diete nel 2021, sostenendo che erano una distrazione dall’ambiente positivo che voleva favorire.

Anche se l’accordo legale richiede a Pinterest di intraprendere progetti di prodotti inclusivi, i progetti di diversità all’interno delle aziende tecnologiche possono sembrare meno urgenti per i dirigenti concentrati sui profitti. Google ha promesso aggiornamenti relativi all’inclusività nella ricerca nel maggio 2022, ma l’introduzione è stata lenta. I filtri per il colore dei capelli nelle ricerche di immagini e un aggiornamento del ranking di ricerca per utilizzare una misura più inclusiva delle tonalità della pelle devono ancora essere lanciati, così come un sistema per aiutare i pubblicatori a etichettare i contenuti con attributi come tonalità della pelle, colore dei capelli e struttura dei capelli in modo visibile agli algoritmi di ricerca di Google.

Attualmente, i risultati delle immagini di Google possono essere filtrati per tonalità della pelle per le query relative al trucco e per la struttura dei capelli per le query di styling dei capelli, ma entrambi sono disponibili solo negli Stati Uniti. Una persona a conoscenza dei progetti non autorizzata a discutere questioni interne ha attribuito i tagli dei costi alla riduzione della quantità e della qualità del personale. “Non è una priorità per Google”, dice la fonte. “Sarei sorpreso se fossero in grado di mantenere le promesse fatte.”

Colette Garcia, portavoce di Google, contesta il fatto che la creazione di prodotti inclusivi non sia una priorità per l’azienda. “Questo è un settore di investimento attivo e in corso per i nostri team”, dice. “Continuiamo a introdurre miglioramenti in modo responsabile in modo che i nostri prodotti riflettano le molte dimensioni della diversità”. La nuova funzionalità Virtual Try-On per alcune inserzioni di prodotti nella ricerca è stata progettata per adattarsi a una varietà di forme dell’area superiore del corpo. Ma le ricerche per termini come “moda” continuano a non mostrare persone di taglie forti, dice Osborn del gruppo di difesa delle persone grasse.

Pinterest dichiara di essere impegnata a portare avanti le sue ambizioni per assicurarsi che tutti possano essere serviti e visibili sul suo servizio. Per aumentare la diversità dei contenuti disponibili da mostrare agli utenti, l’azienda ha investito 2,7 milioni di dollari negli ultimi tre anni per finanziare ed educare influencer e editori indipendenti in 12 paesi su come promuovere al meglio i loro contenuti. Le candidature sono aperte oggi per l’ultimo gruppo, che si concentrerà su utenti taglie forti provenienti da sfondi sottorappresentati in Nord America.

Zeny Shifferaw, responsabile del programma, afferma di apprezzare il fatto che non debba più aggiungere “ragazze di colore” come qualificatore per le ricerche di acconciature e desidera che anche gli altri provino la stessa sensazione di inclusione. “Questo è ciò a cui stiamo cercando di arrivare per così tanti gruppi marginalizzati.”

• algorithms
• diversity
• Pinterest
• Search
• Social Media
• women