I social media hanno nuovi problemi di moderazione. L’IA ha una soluzione
Social media e moderazione l'IA come soluzione
I social media sono nel mirino dei regolatori europei. Tanto nell’UE quanto nel Regno Unito, nuove leggi molto ampie ora richiedono alle piattaforme di identificare e rimuovere contenuti illegali – o affrontare severe sanzioni.
Unitary, una startup con sede a Londra, ha proposto una soluzione: uno strumento di moderazione alimentato dall’intelligenza artificiale per video e immagini.
Il sistema è progettato per analizzare contemporaneamente segnali multipli. Di conseguenza, Unitary può comprendere sia di che cosa si tratti il contenuto che il contesto in cui appare. Indizi testuali, uditivi e visivi tutti incorporati nell’interpretazione.
Secondo Sasha Haco, CEO di Unitary, lo strumento comprende i contenuti nello stesso modo in cui lo faremmo noi.
“Abbiamo costruito modelli con una comprensione sfumata, in grado di riflettere l’approccio che una persona adotterebbe per comprendere i contenuti e prendere decisioni complesse”, ha detto Haco a TNW.
- L’azienda di elettrolizzatori Hystar costruirà un’enorm...
- Startup gallese per lanciare un satellite di produzione di semicond...
- Tesla lancia il suo Model Y più economico di sempre negli Stati Uniti.
È un approccio che sta attirando un interesse crescente da parte degli investitori. Unitary ha annunciato oggi di aver raccolto 15 milioni di dollari in un round di finanziamento di serie A.
L’iniezione di nuovi capitali arriva in un momento opportuno.
Nuove regole
Poche settimane fa, il Regno Unito ha approvato il disegno di legge sulla sicurezza online (OSB), che richiede alle aziende di social media di tenere lontani dai loro platform i materiali illegali. Chi non intraprende azioni efficaci rischia multe fino a 18 milioni di sterline (20,8 milioni di euro) o il 10% del loro fatturato annuale globale, a seconda di quale sia il più elevato.
Oltre all’OSB, le aziende devono ora conformarsi al Digital Services Act dell’UE, un’altra regolamentazione sulla moderazione dei contenuti. La legge è entrata in vigore il mese scorso.
I due libri di regole hanno ampliato il mercato per Unitary. Utilizzando il sistema di apprendimento automatico, le aziende possono esaminare e categorizzare rapidamente i contenuti online.
I video e le immagini rischiose possono quindi essere segnalati per l’azione. Unitary può anche garantire che i contenuti raggiungano il pubblico giusto – il che potrebbe soddisfare le regole dell’OSB sulla protezione dei minori.
“L’intelligenza artificiale sarà il futuro della moderazione dei contenuti.”
Per identificare i materiali vietati, i clienti di Unitary inviano i contenuti a un’API. I modelli multimodali dell’azienda analizzano quindi le immagini. Infine, il sistema restituisce una classificazione al cliente.
Il cliente determina la mossa successiva. Potrebbero scegliere di rimuovere un pezzo di contenuto, limitare il pubblico o avvertire un utente.
“Ogni piattaforma ha il proprio livello di rischio accettabile – e a seconda delle loro esigenze, potrebbero dare priorità ai falsi positivi rispetto ai falsi negativi, o viceversa”, ha detto Haco. “Collaboriamo strettamente con i nostri clienti per assicurarci di soddisfare il loro specifico set di esigenze.”
Queste esigenze sono destinate a crescere.
L’esplosione dei video
I contenuti video complessi, che costituiscono l’80% del traffico internet, si prevede che aumenteranno la quantità di informazioni online di un fattore di dieci tra il 2020 e il 2025. I revisori umani non sono attrezzati per far fronte alla scala – e agli orrori – della moderazione di tutti quei contenuti.
“Siamo sicuramente convinti che l’intelligenza artificiale sarà il futuro della moderazione dei contenuti”, ha detto Haco. “L’intelligenza artificiale generativa cambierà fondamentalmente il panorama della fiducia e della sicurezza, in termini di tipi di danni, volume dei contenuti e metodi per una moderazione efficace.
Con l’aumento dei contenuti e il rafforzamento delle leggi ad essi relative, la varietà di clienti di Unitary sta anche aumentando. Oltre alle aziende di social media, l’azienda attualmente collabora con piattaforme di verifica annunci, aziende di marketing degli influencer e app di incontri.
Haco, che ha cofondato Unitary nel 2019 insieme al CTO James Thewlis, immagina che la sua startup diventi un servizio fondamentale.
“A lungo termine, ci vediamo come un livello orizzontale di comprensione dei contenuti su Internet. Se Cloudflare è il livello intermediario che fornisce velocità e sicurezza al traffico, Unitary fornisce la sicurezza e la comprensione dei contenuti.”
