YouTube, attenti ai cartoni fake che spaventano figli e genitori

La prima misura è attivare la Modalità con restrizioni, che comunque non garantisce un filtro efficace al 100%. Quando arriverà YouTube Kids il controllo sarà più profondo.

Oltreoceano è montato un caso che riguarda YouTube Kids, la piattaforma pensata per i bambini e da poco rinnovata nelle funzionalità e nella grafica. A sollevarlo è stato prima l’artista James Bridle su Medium, poi il New York Times. I fatti: numerosi video disturbanti, perlopiù cartoon ‘tarocchi’ basati su personaggi notissimi ai più piccoli, sono riusciti a passare i filtri di YouTube Kids – che prima o poi arriverà anche in Italia – e appunto a infilarsi in un recinto considerato sicuro.

La faccenda riguarda personaggi molto noti come i Paw Patrol, la squadra dei cuccioli, coinvolti in situazioni di cannibalismo o violenza (per esempio nella clip di dieci minuti “Paw Patrol Babies Pretend to Die Suicide by Annabelle Hypnotized”), o la celeberrima Peppa Pig beccata a tracannare candeggina. Ma ce ne sono molti altri: da diabolici Topolini ad altri completamente stravolti nelle fattezze e nelle ambientazioni. Un mercato parallelo del finto cartoon, con numerosi canali che pompano sulla piattaforma (e a cascata anche su Kids) contenuti fake e spesso, appunto, inquietanti. Basti imbattersi, uno per tutti, nel canale SuperMickey TV, con personaggi Disney falsificati ed eccessivamente antropomorfizzati, come ha notato The Submarine, che si corteggiano all’interno di scenette pseudosexy. Stessa musica, con protagonisti diversi, su canali come Kids Channel TV e Super Moon TV.

Comprensibile il trauma per i più piccoli, spesso bimbi di pochi anni, e per i genitori che un po’ ovunque, volenti o nolenti, hanno trasformato senza problemi quelle applicazioni (che si tratti di YouTube standard o della versione Kids) in baby-sitter a tempo pieno.

LA SCONFITTA DEGLI ALGORITMI

La situazione è piuttosto complessa. Il più delle volte a produrre questi brevi cartoni che riescono a ingannare gli algoritmi e a traghettarsi su Kids – ma sono disponibili anche su Youtube normale, visto che l’app per i bimbi sfrutta gli algoritmi per selezionare i video adeguati e distinguerli da quelli da non rendere disponibili – sono piccoli e sconosciuti studi di animazione. A quanto pare spesso del Sud-est asiatico (il NY Times ne ha individuato uno in Vietnam, un’altra testata in India) ma a volte ridoppiati e catapultati in molte lingue. Sfruttano il magnetismo di personaggi popolari, li replicano in barba ai diritti d’autore e caricano sui propri canali scenette demenziali, sciocche, triviali e ovviamente prive di un progetto pedagogico alle spalle. Spesso puntellate di passaggi traumatici, violenze, bizzarrie e comunque inadeguati ai più piccoli.

Perché lo fanno? Per accaparrarsi più visualizzazioni possibili (non a caso i titoli sono una mescolanza di parole-chiave attraenti, per intercettare le elementari ricerche dei piccoli utenti) e monetizzare così le pubblicità e le inserzioni sia su YouTube che nella versione per i più piccoli, già in passato toccata da polemiche sulla pubblicità di certi cibi stracarichi di zuccheri. Un business al massacro sulla sensibilità dei bambini in cui è complesso distinguere fra produzioni originali, indipendenti, taroccate, malignamente modificate, ingannevoli e così via.

IL TAM TAM DEI GENITORI

Come si sarà capito, non serve ovviamente che nel Paese in cui ci si trova sia disponibile YouTube Kids per imbattersi in questi cartoni fasulli e a volte davvero inquietanti in cui questi (di solito) simpatici e rassicuranti personaggi come l’Uomo Ragno o Elsa di Frozen finiscono in situazioni fuori luogo, violente o sessuali. Quei contenuti, come si diceva, sono caricati a monte su YouTube, sperando poi di passare, in seconda battuta, anche il filtro di Kids. Quest’ultima applicazione è utilizzata ogni settimana da 11 milioni di visitatori e comprende contenuti “garantiti” da produttori come Disney e Nickelodeon.

Secondo Google la percentuale di video disturbanti sarebbe infinitesimale, meno dello 0,005%. Ma, appunto, qualcosa può andare storto. Tanto che, dopo che sono fioccate numerose pagine sui social in cui i genitori segnalano questi casi, Google ha deciso di prendere di petto la questione.

GOOGLE CORRE AI RIPARI

Già lo scorso agosto la piattaforma video aveva impedito ai creatori di questi fake cartoon di guadagnare da contenuti che facessero un “uso inappropriato dei personaggi per le famiglie”. Adesso queste clip saranno automaticamente bloccate sull’app per i bambini, poiché saranno segnalate come inadeguate anche sull’app-madre.

“Stiamo implementando una nuova policy che vieta a certe fasce d’età la visione di questi contenuti quando vengano individuati” ha spiegato Juniper Downs, a capo delle policy di YouTube. Di conseguenza, anche YouTube Kids dovrebbe ripulirsi in profondità, anche se l’impresa appare titanica, visto che il Tubo scoppia di simili schifezze animate.

L’ATTENZIONE NON BASTA

Il punto ruota (anzi, ruotava) intorno alla selezione di questi contenuti. Se fino a ieri erano fondamentalmente gli algoritmi a decidere cosa dovesse finire sull’app studiata per i più piccoli, adesso pare si debba aggiungere una sorta di cura umana in grado di effettuare un ulteriore controllo. Si vedrà se i nuovi strumenti basteranno a ripulire quella piattaforma e a rendere più sicura quella principale, intervenendo in particolare sulla possibilità di guadagnare da visualizzazioni e pubblicità.

Resta il fatto che la YouTube ”normale”, per così dire, ormai è un far west di clip e video che si susseguono l’uno dopo l’altro in automatico, circondati da ulteriori suggerimenti (per non parlare delle lunghe compilation, non a caso cliccatissime, o di altre categorie di video piuttosto scivolose come le filastrocche, i video senza senso e altri dubbi format tipici come gli “unboxing”) e su cui anche il più attento dei genitori spesso può poco.

I FILTRI DA ATTIVARE

Dunque come difendersi? Quando e se YouTube Kids arriverà, i genitori avranno in mano la possibilità di bloccare certi canali specifici e di disabilitare la ricerca. Per il momento, su YouTube normale, occorre attivare la ‘Modalità con restrizioni’, “un’impostazione facoltativa che consente di escludere contenuti potenzialmente inappropriati per i minori che preferisci non vedere o che non desideri vengano visti da altri membri della tua famiglia su YouTube”, si legge su Google. Funziona per browser o dispositivo, dunque va attivata su ogni gadget che il bambino utilizza.

“La ‘Modalità con restrizioni’ è disponibile in tutte le lingue, ma, date le differenze culturali e di sensibilità tra i vari Paesi, la qualità può variare” mette però le mani avanti Big G. In ogni caso, è importante segnalare i video (ma anche i canali, i commenti, le playlist, i messaggi) che si ritengono inadeguati per richiamare l’attenzione di sistemi automatizzati e moderatori: lo si può fare a questo link. (fonte)