Motori di ricerca sotto il microscopio facilitano contenuti dannosi?
Fate spazio a TikTok, Ofcom vuole affrontare i motori di ricerca con il nuovo 'Online Safety Act' nel Regno Unito
Un recente rapporto di Ofcom ha rivelato che 1 su 5 risultati di ricerca per contenuti dannosi erano ‘passaggi in un solo clic’ che portavano a materiali ancora più tossici.
🔍🚀🧨
Via libera a TikTok. Ofcom, l’ente regolatore del Regno Unito che applica la Legge sulla sicurezza online, ora ufficiale, sta prendendo di mira un bersaglio ancora più grande: i motori di ricerca come Google e Bing e il ruolo che svolgono nella presentazione di contenuti autolesionistici, suicidi e dannosi con un semplice clic, soprattutto per gli utenti minorenni.
Un rapporto commissionato da Ofcom e prodotto dal Network Contagion Research Institute ha scoperto che i principali motori di ricerca, tra cui Google, Microsoft Bing, DuckDuckGo, Yahoo e AOL, diventano “passaggi in un solo clic” verso tali contenuti facilitando l’accesso rapido e semplice a pagine web, immagini e video – con un risultato di ricerca su cinque relativo a termini di autolesionismo di base che rimanda a ulteriori contenuti dannosi.
Cercare su Terreno Instabile
La ricerca è attuale e significativa perché molto spesso il focus sui contenuti dannosi online si è concentrato sull’influenza e sull’uso dei siti di social media come Instagram e TikTok. Questa nuova ricerca è un primo passo significativo per aiutare Ofcom a comprendere e raccogliere prove sulla presenza di una minaccia potenzialmente molto più grande, con siti come Google.com che attirano più di 80 miliardi di visite al mese, rispetto alla base di utenti attivi mensili di TikTok di circa 1,7 miliardi.
🔍Domanda: Quali danni possono causare i motori di ricerca? Immaginate i motori di ricerca come porte di accesso a un tesoro di conoscenza, ma a volte, i tesori non sono così preziosi. Questa ricerca ha dimostrato che i motori di ricerca possono portarci in angoli oscuri e dannosi di Internet, con contenuti pericolosi legati all’autolesionismo e al suicidio a pochi clic di distanza. È come se ti venisse consegnata la chiave di una libreria proibita in cui fantasia e realtà si scontrano.
- L’ingiusta disgregazione del pacchetto retributivo di Elon Musk
- Wattpad Effettua un Altro Giro di Licenziamenti, Cercando Stabilità...
- Universal Music Group ritirerà la musica da TikTok a causa di una d...
“I motori di ricerca sono spesso il punto di partenza dell’esperienza online delle persone e ci preoccupa che possano rappresentare passaggi in un solo clic per contenuti autolesionistici gravemente dannosi”, ha dichiarato Almudena Lara, Direttore dello sviluppo delle politiche di sicurezza online di Ofcom. “I servizi di ricerca devono comprendere i rischi potenziali e l’efficacia delle loro misure di protezione – in particolare per garantire la sicurezza dei bambini online – in vista del nostro ampio processo di consultazione previsto per la primavera”.
🕵️♂️Domanda: Cosa hanno scoperto i ricercatori? I ricercatori hanno analizzato quasi 37.000 link dei risultati di ricerca su questi cinque motori di ricerca. Hanno cercato intenzionalmente termini di ricerca comuni e più criptici (per eludere i controlli di base) disattivando gli strumenti di filtraggio genitoriale “safe search”, replicando i modi più comuni in cui le persone utilizzano i motori di ricerca e i possibili scenari peggiori. I risultati sono stati tanto spiacevoli quanto ci si potrebbe aspettare!
Non solo il 22% dei risultati di ricerca ha prodotto link in un solo clic a contenuti dannosi (tra cui istruzioni per varie forme di autolesionismo), ma tali contenuti rappresentavano niente meno che il 19% dei primi link nei risultati e addirittura il 22% dei link nelle prime pagine dei risultati. 🤦♀️
Le ricerche di immagini sono state particolarmente gravi, con il 50% di esse che restituiva contenuti dannosi. Le pagine web seguivano al 28%, mentre i video si attestavano al 22%. Una ragione per cui gli algoritmi potrebbero avere difficoltà a filtrare i contenuti dannosi è che potrebbero confondere le immagini di autolesionismo con materiale medico e altri mezzi legittimi. È come cercare di separare le mele buone da quelle cattive senza occhiali!
🔍Domanda: Perché i termini di ricerca criptici sono più efficaci nel trovare contenuti dannosi? I ricercatori hanno scoperto che i termini di ricerca criptici hanno sei volte più probabilità di portare gli utenti a contenuti dannosi. Questo perché gli algoritmi di ricerca faticano a interpretare l’intenzione di tali termini e spesso non riescono a filtrare i risultati dannosi. È come cercare di attraversare un campo minato bendati: le probabilità di calpestare una mina dannosa aumentano drasticamente!
Il fattore AI: una potenziale scatola di Pandora
Una cosa che il rapporto non affronta, ma che è probabile diventi un problema più grande nel tempo, è il ruolo che le ricerche generative di AI potrebbero svolgere in questo settore. Man mano che piattaforme come ChatGPT diventano sempre più diffuse, vengono adottate precauzioni per impedirne l’uso malintenzionato. Tuttavia, la domanda rimane: gli utenti troveranno modi per sfruttarle e quali implicazioni potrebbe avere?
“Stiamo già lavorando per costruire una comprensione approfondita delle opportunità e dei rischi delle nuove tecnologie emergenti, in modo che l’innovazione possa prosperare mentre la sicurezza degli utenti è garantita. Alcune applicazioni di Generative AI rientrano probabilmente nell’ambito dell’Online Safety Act, e ci aspetteremmo che i servizi valutino i rischi legati al suo utilizzo durante la valutazione del rischio”, ha dichiarato un portavoce di Ofcom.
🤖Q: Quale ruolo svolgono le ricerche generative di AI in tutto ciò? Le ricerche generative di AI, alimentate da tecnologie all’avanguardia come ChatGPT, hanno il potenziale per rivoluzionare le esperienze online. Tuttavia, comportano anche dei rischi. Mentre si stanno compiendo sforzi per prevenirne l’abuso a scopi tossici, c’è sempre la possibilità che gli utenti trovino modi per sfruttarle. È come avere un potente genio in grado di concedere sia desideri meravigliosi che terribili maledizioni: tutto dipende da come viene controllato.
La strada da seguire: proteggere gli utenti, specialmente i bambini
Non è solo un quadro nero! Tra le statistiche allarmanti, il rapporto ha individuato anche il 22% dei risultati di ricerca come effettivamente utili. Tuttavia, questo rapporto serve da campanello d’allarme per i fornitori di motori di ricerca, ricordando loro i miglioramenti che devono apportare.
Ofcom prevede di aprire una consultazione sul suo Codice di pratica per la protezione dei bambini in primavera. Questa mira a delineare “i passi concreti che i servizi di ricerca possono intraprendere per proteggere adeguatamente i bambini”, riducendo al minimo le possibilità che incontrino contenuti dannosi legati a argomenti sensibili come il suicidio o i disturbi alimentari su tutta Internet, compresi i motori di ricerca.
💡Q: Quali misure dovranno prendere i fornitori di motori di ricerca per proteggere i bambini? I fornitori di motori di ricerca devono assumersi la responsabilità e garantire la sicurezza dei bambini durante la navigazione. Ciò significa attuare misure più rigide per evitare che contenuti dannosi sfuggano al controllo. È come costruire una solida muraglia fortificata intorno a un regno incantato, proteggendo i suoi giovani abitanti dalle tenebre che si celano all’esterno.
“Le aziende tecnologiche che non lo prendono sul serio possono aspettarsi che Ofcom prenda provvedimenti appropriati in futuro”, ha avvertito un portavoce di Ofcom. Ciò include la possibilità di multe (come ultimo ricorso) e, nei casi estremi, ordini giudiziari che richiedono agli ISP di bloccare l’accesso a servizi non conformi. Gli esecutivi responsabili dei servizi che violano le regole possono anche incorrere nella responsabilità penale.
⚖️Q: Quali azioni intraprenderà Ofcom contro i fornitori di motori di ricerca che non danno priorità alla sicurezza degli utenti? Ofcom è determinata a responsabilizzare le aziende tecnologiche per la sicurezza degli utenti. Sono pronti ad agire, ad esempio imponendo multe ed emettendo ordinanze giudiziarie, per garantire il rispetto delle regole. È come avere una squadra di guardiani vigili pronta a punire coloro che mettono a repentaglio il benessere degli utenti internet.
Fino ad ora, Google ha risposto alle scoperte del rapporto, evidenziando i suoi sforzi e le sue funzionalità di sicurezza. Tuttavia, al momento della stesura di questo testo, non sono state ricevute risposte da parte di Microsoft e DuckDuckGo.
📣Q: Come sta affrontando Google queste preoccupazioni? Google sottolinea il suo impegno nel mantenere le persone al sicuro online. Affermano che lo studio di Ofcom non riflette le protezioni attualmente in vigore su Google Search, che includono funzionalità predefinite come SafeSearch e l’impostazione di sfocatura di SafeSearch, nonché pannelli di risorse di supporto in caso di crisi per guidare gli utenti che cercano informazioni su argomenti sensibili.
In conclusione
I motori di ricerca sono sempre stati il nostro varco verso l’ampia estensione di Internet. Tuttavia, questa ricerca mette in luce i potenziali pericoli che si celano dietro ai risultati di ricerca, soprattutto per gli utenti vulnerabili come i bambini. È fondamentale che i fornitori di motori di ricerca diano priorità alla sicurezza degli utenti e adottino misure concrete per prevenire la diffusione di contenuti dannosi.
Con l’evolversi della tecnologia, sorgeranno nuove sfide, come il ruolo delle ricerche generative di AI. La necessità di regolamentazione e di un uso responsabile delle piattaforme alimentate da AI non può essere sottovalutata.
È tempo di considerare i motori di ricerca non solo come potenti strumenti, ma anche come custodi di un’esperienza online più sicura per tutti. Lavoriamo insieme verso un futuro in cui le nostre ricerche ci conducano a un mondo di informazioni, ispirazione e positività, anziché a un abisso digitale di danni.
Riferimenti:
- Online Safety Act
- TikTok
- Saw Samsung and LG’s New Transparent TVs at CES? There’s a Clear Winner
- eBay to Pay $3 Million to Resolve Criminal Charges in Bizarre Cyberstalking Case
🤗 Quali sono le tue opinioni sull’impatto dei motori di ricerca nel fornire contenuti dannosi? Condividi le tue opinioni ed esperienze nei commenti qui sotto! Non dimenticare di premere il pulsante di condivisione per sensibilizzare sulla questione. Insieme, possiamo rendere internet un posto più sicuro. 💪
