A caixa de comentários de um órgão de comunicação social pode ser um meio fácil para transmitir e alimentar mensagens de ódio. Foi a partir desta premissa que dois investigadores do Instituto de Engenharia de Sistemas e Computadores, Tecnologia e Ciência (INESC TEC) decidiram criar a aplicação Stop PropagHate. A plataforma – que está a ser desenvolvida com um financiamento da Google de cerca de 50 mil euros – pretende identificar o discurso de ódio nos comentários online e nas próprias notícias.
A ferramenta pensada por Paula Fortuna e Sérgio Nunes irá funcionar com recurso ao machine learning, ou seja, a plataforma terá “conjuntos de mensagens classificadas como contendo discurso de ódio e a partir das quais se constroem modelos matemáticos. Assim, quando o sistema detetar novas mensagens compara-as com os dados que já tem e classifica a mensagem como contendo ou não discurso de ódio”, explica a investigadora.
Para além de classificar comentários online, a Stop PropagHate pretende ir mais longe e “perceber como é que o jornalismo está a interferir nesta questão”, adianta Paula Fortuna que acrescenta “uma notícia não é apenas uma descrição, é também uma interpretação e tem este potencial de influenciar os leitores”.
A investigadora diz estar consciente das dificuldades da tarefa de classificação das mensagens, uma vez que é difícil para um sistema “distinguir [ o discurso de ódio] do uso de ironia, do recurso ao humor e, ainda, o facto de a linguagem estar em constante evolução”.
Paula Fortuna considera que deve ser tomado por discurso de ódio mesmo aquele que resulte de uma citação – isto é, em casos em que quem comenta não está, necessariamente, a defender o que escreve mas a citar outrem. “Apesar de não ser na primeira pessoa esta mensagem transmite discurso de ódio”, remata.
O projeto vai ser desenvolvido durante este ano com financiamento atribuído pelo fundo de inovação Digital News Initiative (DNI), que resulta de uma parceria entre a Google e empresas de media da Europa.
Para já, a equipa de investigadores pretende conseguir parcerias com meios de comunicação para testar a plataforma e disponibilizá-la de forma gratuita assim que estiver desenvolvida.
