Inicio > noticias-corporativas > IA da Utopia determina a quantidade de discurso de ódio em diferentes plataformas sociais

22/04/2021

IA da Utopia determina a quantidade de discurso de ódio em diferentes plataformas sociais

HELSINKI 22/4/2021 –

O discurso de ódio on-line aparece com mais frequência em fóruns de discussão, de acordo com um estudo da Utopia Analytics para o Ministério da Justiça da Finlândia. O relatório constatou que os fóruns de discussão abrigam 97% das mensagens de ódio identificadas. As seguintes grandes plataformas são mensagens do Twitter (2,5%) e mensagens do Instagram (0,2%). Blogues, comentários de notícias e mensagens públicas no Facebook representam menos de 0,02% de todo o discurso de ódio identificado. O conjunto de dados não incluiu discussões privadas como, por exemplo, grupos ou contas do Facebook.

O projeto, que faz parte do programa Fatos Contra o Ódio do Ministério da Justiça da Finlândia, testou a capacidade da inteligência artificial de reconhecer a incitação ao ódio em ambientes on-line. A abordagem combinou avaliação humana com aprendizado de máquina. Um dos objetivos era encontrar os principais canais de incitação ao ódio e identificar diferenças no discurso de ódio entre as plataformas.

A definição de discurso de ódio foi baseada em pesquisas acadêmicas nas ciências sociais. A definição foi feita por meio da produção de categorias de incitação ao ódio e, em seguida, usada para identificar manualmente exemplos de discurso de ódio em um conjunto de dados de mensagens on-line. Essas notas foram então usadas como dados de treinamento para o Utopia AI Moderator, uma ferramenta de linguagem independente que utiliza análise de texto e aprendizado de máquina. O conjunto de dados foi de 12 milhões de comentários e postagens na Finlândia de setembro a outubro de 2020.

Os resultados mostram que cerca de 150 mil mensagens contendo discurso de ódio aparecem nas plataformas de mídia social finlandesas disponíveis ao público todos os meses. Isso equivale a 1,8% de todas as mensagens.

Entre as plataformas públicas de mídia social internacional, o Twitter parece ser o mais proeminente, com 7.450 mensagens identificadas como discurso de ódio, ou 0,14% de todos os tuítes. Os retuítes desempenham um papel crucial na circulação dessas mensagens: 39% de todos os tuítes com incitação ao ódio são duplicados.

“Embora o conjunto de dados consistisse principalmente em mensagens finlandesas, os resultados seriam muito semelhantes em outros idiomas”, disse a CEO da Utopia, Mari-Sanna Paukkeri. “Por exemplo, a principal plataforma na Finlândia com discursos de ódio, Ylilauta, é igualàcomumente conhecida 4chan. Além disso, podemos criar um modelo de IA semelhante para identificar discursos de ódio em qualquer idioma em apenas duas semanas. Precisamos apenas de uma pessoa habilidosa para dizer como o discurso de ódio deve ser definido em sua cultura e idioma e dos dados para analisar.”

Biblioteca de mídia/fotos: https://utopiaanalytics.com/media-library

O texto no idioma original deste anúncio é a versão oficial autorizada. As traduções são fornecidas apenas como uma facilidade e devem se referir ao texto no idioma original, que é a única versão do texto que tem efeito legal.