10/10/2019 - 10:52
Trinta e cinco minutos transmitidos ao vivo, repassados em seguida por aplicativos de mensagens: a difusão online do vídeo do violento ataque contra uma sinagoga na quarta-feira, na cidade alemã de Halle, mostrou novamente a dificuldade que as empresas têm de impedir que conteúdos violentos se disseminem.
Apenas semanas após um esforço amplo anunciado pelas plataformas tecnológicas para impedir a difusão de conteúdos violentos, o autor do ataque que deixou dois mortos em plena celebração de Yom Kippur conseguiu difundir as imagens atrozes que foram vistas por cerca de 2.200 pessoas no Twitch – uma rede social da Amazon -, antes que o vídeo fosse removido.
O vídeo do ataque a tiros a uma sinagoga e um restaurante turco incluía um “manifesto” com comentários racistas e antissemitas.
“Nos mobilizamos o mais rápido possível para eliminar este conteúdo e suspenderemos todas as contas que publiquem ou compartilhem imagens deste ato abominável”, afirmou uma porta-voz do Twitch, ressaltando que a empresa encara “qualquer ato violência” com “seriedade extrema”.
As empresas tecnológicas tinham tentado evitar que a difusão dos atos violentes se repetisse, como aconteceu em março em Christchurch, Nova Zelândia, onde o atirador transmitiu ao vivo no Facebook o assassinato de suas 51 vítimas.
Esse vídeo levou as autoridades a pressionarem as redes sociais para prevenir que atos violentos fossem transmitidos em suas plataformas.
Em 23 de setembro, o Facebook anunciou nas Nações Unidas esforços adicionais durante um encontro com a primeira-ministra da Nova Zelândia, Jacinda Ardern, quien assumiu a causa da luta contra o extremismo no mundo digital.
Também no mês passado, a Amazon anunciou sua união ao Global Internet Forum to Counter Terrorism, aliança encarregada de abordar os conteúdos mais perigosos nas redes sociais.
– Detecção por algoritmos –
O Twitch, que ganhou seguidores da transmissão ao vivo de videogames, foi adquirido em 2014 pela Amazon por 970 milhões de dólares, e tem uma estimativa de 15 milhões de usuários diários.
A rede disse que a conta que o atirador de Halle utilizou foi criada “cerca de dois meses antes do tiroteio transmitido em streaming” e só tinha feito uma tentativa de transmissão ao vivo antes do ataque desta quarta.
Depois do massacre de Christchurch, Facebook e outras redes apontaram os desafios que representa prevenir que os conteúdos violentos sejam compartilhados, frequentemente com mudanças menores para evitar ser detectados pela inteligência artificial.
“Este vídeo não apareceu em nenhuma recomendação ou diretório; em vez disso, nossa pesquisa sugere que as pessoas estavam coordenando e compartilhando o vídeo através de outros serviços de mensagens”, disse o Twitch.
O Facebook também anunciou recentemente seus esforços para trabalhar com a polícia em Londres e em outros lugares para obter dados e melhorar seus algoritmos de detecção.
A dificuldade vem do fato de que a inteligência artificial precisa saber a diferença entre um ataque real e uma cena de um filme ou videogame.
“Até agora, os algoritmos de filtragem não eram muito bons para detectar a violência ao vivo”, disse Jillian Peterson, professora de criminologia da Universidade Hamline, que sugeriu que as empresas de mídia social podem acabar sendo “responsáveis” por seu papel na disseminação de conteúdo violento e de ódio.
A pesquisa de Peterson e outros sugere que atiradores em potencial podem ser afetados por contágio quando veem ataques semelhantes.
“De muitas maneiras, essas filmagens são performances, destinadas a todo mundo ver”, disse Peterson.
Hans-Jakob Schindler, do Projeto de Combate ao Extremismo, um grupo que busca acabar com a violência online, disse que esta última transmissão ao vivo destaca a necessidade de tomar ações mais fortes contra as plataformas sociais.
“As plataformas digitais precisam tomar a iniciativa e impedir que seus serviços sejam manipulados e, por sua vez, as matrizes devem responsabilizá-las”, afirmou Schindler.
“Esse trágico incidente demonstra mais uma vez que uma abordagem de autorregulação não é eficaz o suficiente e infelizmente destaca a necessidade de uma regulamentação mais rigorosa do setor de tecnologia”.
