A pesquisa mostra que a plataforma de vídeo emergente pode recomendar teorias da conspiração e outros conteúdos prejudiciais com mais freqüência do que não.
Fonte: Wired Magazine
“EU REALMENTE NÃO estou esperando que as coisas sempre sejam o que eram ”, diz Sarah. "Não há como voltar atrás." A mãe de Sarah é uma crente do QAnon que primeiro descobriu a teoria da conspiração no YouTube. Agora que o YouTube tomou medidas para regulamentar a desinformação e as teorias da conspiração, um novo site, Rumble, surgiu para tomar seu lugar. Sarah sente que a plataforma afastou a mãe dela.
Rumble é “apenas as piores coisas possíveis sobre o YouTube ampliadas, como 100 por cento”, diz Sarah. (Seu nome foi alterado para proteger sua identidade.) No início deste ano, sua mãe pediu ajuda para acessar Rumble quando seus criadores de conteúdo conservadores favoritos (de Donald Trump Jr. a “Patriot Streetfighter”) migraram do YouTube para o site. Sarah logo se tornou um dos 150.000 membros do grupo de apoio QAnon Casualties enquanto sua mãe mergulhava na perigosa toca do coelho da teoria da conspiração.
Entre setembro de 2020 e janeiro de 2021, as visitas mensais ao local para Rumble aumentaram de 5 milhões para 135 milhões; em abril, eles estavam sentados em pouco mais de 81 milhões. A mãe de Sarah é uma dessas novas usuárias do Rumble e, de acordo com Sarah, agora se recusa a receber a vacina Covid-19. Explicando sua decisão, diz Sarah, sua mãe cita a perigosa desinformação antivax encontrada em muitos vídeos no Rumble.
Rumble afirma que não promove a desinformação ou teorias da conspiração, mas simplesmente tem uma abordagem de liberdade de expressão para a regulamentação. No entanto, nossa pesquisa revela que o Rumble não apenas permitiu que a desinformação prosperasse em sua plataforma, mas também a recomendou ativamente.
Se você pesquisar “vacina” no Rumble, terá três vezes mais chances de receber vídeos recomendados contendo informações incorretas sobre o coronavírus do que informações precisas. Um vídeo do usuário TommyBX apresentando Carrie Madej - uma voz popular no mundo antivax - alega: “Isto não é apenas uma vacina; estamos sendo conectados à inteligência artificial. ” Outros afirmam sem fundamento que a vacina é mortal e não foi devidamente testada.
Mesmo se você pesquisar um termo não relacionado, “lei”, de acordo com nossa pesquisa, você provavelmente receberá uma recomendação incorreta da Covid-19 - cerca de metade do conteúdo recomendado é enganoso. Se você pesquisar por “eleição”, terá duas vezes mais chances de receber recomendações de informações incorretas do que conteúdo factual.
Os dados por trás dessas descobertas foram coletados ao longo de cinco dias em fevereiro de 2021. Usando uma adaptação de um código desenvolvido por Guillaume Chaslot (um ex-funcionário do Google que trabalhou no algoritmo do YouTube), foram coletadas informações sobre quais vídeos Rumble recomenda para cinco palavras neutras : “Democracia”, “eleição”, “lei”, “coronavírus” e “vacina”. O código foi executado cinco vezes para cada palavra, em dias diferentes em horários diferentes, para que os dados refletissem o algoritmo de recomendação consistente de Rumble.
Mais de 6.000 recomendações foram analisadas manualmente. Pode haver divergências sobre o que pode e o que não pode ser classificado como desinformação, portanto, esta investigação errou por excesso de cautela. Por exemplo, se um criador de conteúdo dissesse “Não vou tomar a vacina porque acho que pode haver um chip de rastreamento nela”, o vídeo não foi classificado como desinformação. Considerando que, se um vídeo afirmou que “não é um dispositivo de rastreamento na vacina,” que era. Nossas conclusões são conservadoras.
Dos cinco termos de pesquisa usados, é mais provável que Rumble recomende vídeos que contenham informações incorretas sobre "vacina", "eleição" e "lei". Mesmo para as outras duas palavras “democracia” e “coronavírus”, a probabilidade de Rumble recomendar vídeos enganosos permanece alta.
Esses dados foram rastreados quase um ano após o início da pandemia, depois que mais de 3 milhões de mortes em todo o mundo tornaram muito mais difícil manter que o vírus é falso. É possível que a pesquisa por “coronavírus” no Rumble tenha resultado em muito mais desinformação no início da pandemia.
Os algoritmos de recomendação desempenham um papel significativo na determinação do que os usuários assistem. De acordo com Samuel Woolley, diretor de pesquisa de propaganda da Universidade do Texas em Austin's Center for Media Engagement, os algoritmos “tendem a levar as pessoas desproporcionalmente para o conteúdo extremista”. Os sites de streaming de vídeo freqüentemente promovem a desinformação e teorias da conspiração, porque é lucrativo. “A receita está diretamente ligada ao tempo que as pessoas passam online”, diz Chaslot. É “como heroína”. E a maior parte do crescimento de contas extremas ou enganosas se deve à promoção desses sites - “usuários e criadores têm controle zero sobre o algoritmo”. Sarah acredita que o sistema de recomendação do YouTube apresentou sua mãe à teoria da conspiração QAnon, e agora o de Rumble a está mantendo fisgada.
Quando solicitado a comentar, um porta-voz do Rumble escreveu por e-mail: “O Rumble tem políticas de moderação rígidas que proíbem o incitamento à violência, conteúdo ilegal, racismo, anti-semitismo, promoção de grupos terroristas (designados pelos governos dos EUA e Canadá) e violação de direitos autorais, bem como muitas outras restrições. ”
RUMBLE RECLAMA é bipartidário, mas escolheu a Conferência de Ação Política Conservadora de 2021 para estrear sua nova ferramenta de transmissão ao vivo, onde o orador principal Donald Trump reiterou falsas alegações de que tinha vencido a eleição de 2020. Rumble também tem apoiadores poderosos com opiniões profundamente conservadoras e influenciadores de direita de alto perfil que procuram usar o site para disseminar conteúdo factualmente impreciso. Um dos principais investidores da empresa é o popular influenciador Dan Bongino, que o The New York Times lista como um super divulgador de desinformação .
Chris Pavlovski, fundador e CEO da Rumble, torna suas tendências conservadoras conhecidas nas redes sociais . Tweets recentes envolvem-se diretamente com pensadores e comentaristas conservadores, como o polêmico professor Jordan Peterson e o advogado constitucional Alan Dershowitz. Quando o ex-congressista Ron Paul foi punido pelo YouTube por espalhar desinformação médica , Pavlovski usou sua conta no Twitter para pedir que ele se juntasse ao Rumble. A conta oficial da empresa frequentemente retuíta os tweets pessoais de Pavlovski, sugerindo uma relação próxima entre suas opiniões e a direção comercial de Rumble.
Embora as contas da empresa Rumble sejam privadas, ela parece lucrar com a mudança dos criadores de conteúdo conservadores do YouTube. Em novembro, Pavlovski disse à Fortune que a empresa era financeiramente "autossustentável". Ele tuíta regularmente usando a hashtag #MakeTheSwitch, incentivando os usuários a moverem seu conteúdo para seu site. Em janeiro, após os distúrbios no Capitol, Rumble entrou com um processo antitruste de US $ 2 bilhões contra a empresa-mãe do YouTube , o Google, alegando que o mecanismo de busca promove propositalmente os vídeos do YouTube acima dos de Rumble. (O Google nega o que chama de “alegações infundadas” de Rumble.)
QUALQUER QUE SEJA O POST OFICIAL DE RUMBLE na política, o conteúdo do site e o algoritmo de recomendações ativas estão tendo um impacto negativo na vida de pessoas como Sarah. Ainda assim, um debate acirrou sobre como regular as informações na internet.
Woolley diz que sites como Rumble e Parler não devem e não podem simplesmente ser retirados da Internet, argumentando que governos e organizações como as Nações Unidas e a OTAN deveriam regular esses espaços “em termos de questões específicas”. Se um site hospeda conteúdo extremista ou permite desinformação eleitoral, Woolley diz, “então essas são coisas que eles deveriam regular e litigar”.
Imran Ahmed, CEO do Center for Countering Digital Hate, apóia uma abordagem mais rígida. “Você pode dizer o que quiser, mas não pode dizer onde quiser”, diz ele, “e a liberdade de associação é tão fundamental quanto a liberdade de expressão. As pessoas têm o direito de dizer 'Não quero fazer negócios com você' ”. No final, ele acrescenta,“ a regulamentação está chegando e todas as empresas de mídia social aceitaram isso ”.
Defensores anti-regulamentação de uma defesa de “liberdade de expressão”, diz Woolley, têm uma “visão utópica de como a comunicação existe”. Ele diz que "muitas dessas plataformas digitais que afirmam ser totalmente sobre 'liberdade de expressão' são baseadas em uma premissa falha para começar, porque sempre houve limitações na fala."
“A Internet foi normalizada e cooptada por entidades poderosas”, acrescenta Woolley. “Não é apenas uma organização de base.” Por exemplo, Parler tem financiamento da família Mercer , proeminentes lobistas conservadores dos EUA que estavam envolvidos com Cambridge Analytica. “Quando você começa a descompactar parte do financiamento e das estruturas de poder envolvidas, começa a perceber que a Internet não é o espaço que essas pessoas almejam que seja”, diz Woolley.
Chaslot concorda que “censurar ou remover vídeos é contraproducente, porque empurra [aqueles com visualizações extremas] para outras plataformas”. Para combater a desinformação online, o YouTube e sites como o Rumble “devem ser mais transparentes sobre seu algoritmo”. A organização AlgoTransparency da Chaslot continua a fazer campanha para isso, mas enquanto isso, ele diz “precisamos de regulamentação”.
Citando a desinformação que se espalhou por Parler e Rumble e contribuiu para a insurreição no Capitólio dos Estados Unidos em 6 de janeiro, Chaslot acrescenta que fazer “uma recomendação não é neutro; você tem uma aposta no jogo. ”