‘Elsagate’ prova que o YouTube é grande demais para controlar?
O escândalo de vídeos violentos e sexuais dirigidos a crianças expõe a dificuldade de confiar em algoritmos
Catrinus Van Der Veen / AFP / Getty Images
Em fevereiro, YouTube anunciado atingiu um marco impressionante: os visitantes agora consumiam o equivalente a um bilhão de horas de vídeo todos os dias.
O tamanho da base de usuários da plataforma é igualmente surpreendente. Mais de 1,5 bilhão de pessoas usam o YouTube, diz O guardião É Roger McNamee, dando-lhe um alcance global comparável ao Islã.
Mas, como dizem, com grande poder vem grande responsabilidade e o recente ElsaGate, um escândalo envolvendo vídeos perturbadores voltados para crianças, levou alguns a se perguntar se o YouTube se tornou um monstro de Frankenstein, fora do controle de seus criadores.
O que é ElsaGate?
Alguns dos canais mais populares do YouTube são voltados para crianças, com criadores especializados em canções de ninar, desenhos animados coloridos e todos os poderosos vídeos de desempacotamento de brinquedos, ganhando milhões de inscritos e bilhões de visualizações.
Mas há um problema. O YouTube está totalmente inundado com vídeos extremamente violentos, inapropriados e sexualmente sugestivos direcionados a crianças, diz Inquistr , e esses vídeos estão chegando às listas de reprodução automática junto com os clipes apropriados para a idade.
O jornalista James Bridle investigou esse fenômeno perturbador, batizado de Elsagate em homenagem ao popular personagem Frozen que aparece em muitos dos vídeos, para um artigo intitulado Something is Wrong on the Internet on Médio este mês.
Ele descobriu que, à medida que os criadores de conteúdo perseguem os espectadores, fórmulas bem-sucedidas - e originalmente inofensivas - para obter visualizações são repetidas indefinidamente em toda a rede em recombinações cada vez mais estranhas e distorcidas.
Em seus extremos, isso inclui uma legião de vídeos inquietantes que parecem ser produzidos, ou, em alguns casos, gerados automaticamente, em resposta a palavras-chave populares. Eles costumam apresentar temas perturbadores e conteúdo sexual ou violento.
Por exemplo, uma pesquisa por dentista Peppa Pig retorna um clipe caseiro em que o personagem infantil popular é torturado, antes de se transformar em uma série de robôs do Homem de Ferro e executar a dança Aprenda as Cores.
ElsaGate gerou uma enxurrada de respostas de pais preocupados, da mídia e dos detetives da Internet dedicados a descobrir quem ou o que está fazendo esses vídeos perturbadores e por quê.
O YouTube se tornou grande demais para ser controlado?
No centro do ElsaGate e de outras controvérsias sobre o conteúdo do YouTube, como vídeos que promovem terrorismo ou violência, está a onipotência dos algoritmos da plataforma.
Ao contrário do que alguns pais podem acreditar, o conteúdo do aplicativo Kids dedicado do YouTube não é selecionado ou mesmo pré-selecionado por humanos. Em vez disso, os vídeos sugeridos aparecem em sua lista de reprodução automática automaticamente com base em palavras-chave compartilhadas ou públicos semelhantes.
O tamanho do catálogo do YouTube vai além da capacidade de supervisão humana. O conteúdo é carregado para a plataforma com o equivalente a 400 horas de vídeo a cada minuto, de acordo com Statista .
A incrível proliferação de vídeos que foram claramente produzidos em resposta a termos de pesquisa comuns mostra até que ponto o YouTube é essencialmente executado por máquinas, diz Medium’s Bridle.
Em uma plataforma onde a visibilidade do conteúdo - e, portanto, o potencial para receita de anúncios - é controlada por algoritmos, mesmo se você for um humano, você tem que acabar personificando a máquina.
ElsaGate expôs uma verdade de longa data sobre o YouTube que não pode mais ser ignorada, diz Polígono : os filtros concebidos para proteger os utilizadores de todas as idades de conteúdos perturbadores, violentos ou ilegais não são adequados.
Os algoritmos são fragmentados, analisados e espancados por criadores de conteúdo, humanos ou automatizados, que se tornaram adeptos de manipular o sistema para garantir que sua saída seja vista.
Em um exemplo particularmente notório, os brincalhões no quadro de mensagens do 4chan conseguiram juntar pornografia em programas infantis e manipular o algoritmo para garantir que os vídeos fossem monetizados e vistos, diz Polygon.
O problema pode ser resolvido?
O YouTube se comprometeu a reprimir a praga de vídeos infantis impróprios que escapam dos filtros de seu aplicativo Kids.
Juniper Downs, diretor de política, disse que um novo sistema anterior às revelações do ElsaGate classificará os vídeos sinalizados pelos usuários como restritos por idade, o que os manterá automaticamente fora do aplicativo YouTube Kids.
Em um nível mais amplo, há sinais de que o YouTube está mudando sua atitude em relação à curadoria de conteúdo para uma abordagem mais prática, motivada pela pressão de governos preocupados com o extremismo online.
Vários ataques terroristas na Europa e nos Estados Unidos foram perpetrados por indivíduos que se acredita terem se radicalizado em parte ao assistir a vídeos de propaganda no YouTube feitos por grupos como o Estado Islâmico e seus simpatizantes.
Os políticos ameaçaram tomar medidas contra as empresas de tecnologia que não reforçam as medidas para remover vídeos com conteúdo extremista. A Alphabet, empresa controladora do YouTube, parece estar levando as ameaças a sério.
Anteriormente, vídeos religiosos ou políticos inflamados eram permitidos no YouTube se não violassem as regras do site sobre conteúdo gráfico ou promoção de violência, embora não fossem qualificados para receita de anúncios.
Um porta-voz do YouTube confirmado para Reuters sua política foi alterada para proibir qualquer vídeo que mostre pessoas ou grupos classificados como terroristas, incluindo material como palestras do recrutador da Al-Qaeda, Anwar al-Awlaki.
No entanto, mesmo que o YouTube desenvolva novas estratégias para corrigir as lacunas, as implicações do ElsaGate permanecem perturbadoras em um nível mais profundo, diz TechCrunch Natasha Lomas.
O meio do YouTube incentiva as fábricas de conteúdo a produzirem alimento para cliques, escreve Lomas, expondo uma geração a uma onda de cultura pop baseada em palavras-chave em vez de coerência. É difícil imaginar algo positivo vindo de algo tão intencionalmente básico e alimentado pelo fundo sendo sistematicamente colocado na frente dos olhos das crianças.
