Facebook: combate deepfakes, mas não desinformação

O Facebook está intensificando seus esforços para identificar os deepfakes que estão se espalhando por sua plataforma.

deepfakes

Como a empresa revelou na sexta-feira, através de um post no blog, o trabalho colaborativo de seus pesquisadores mostrou progresso moderado. Seus esforços visam desenvolver uma estrutura que detecte automaticamente os meios criados pelo aprendizado mecânico, conhecidos como deepfakes, e que se destinem a manipular o público. O projeto é chamado Desafio de detecção do Deepfake e reuniu milhares de participantes em um esforço conjunto para mitigar a disseminação de deepfakes, mas sem grande sucesso.

Em particular, a publicação do Facebook afirma que o melhor desempenho, para mais de 35.000 modelos testados, foi capaz de localizar os deepfakes com uma precisão de 65,18%.

“Os resultados do projeto DFDC mostram que os deepfakes ainda são um problema não resolvido”, disse o post em parte. “Nenhum dos 2.114 participantes, que incluíram os principais especialistas de todo o mundo, alcançou uma precisão média de 70% em falhas profundas invisíveis no conjunto de dados da caixa preta”.

Os pesquisadores do Facebook também estão lutando com esse problema.

“Os pesquisadores do Facebook participaram do desafio (apesar de não serem elegíveis para prêmios devido ao nosso papel na organização da competição)”, afirmou a empresa em comunicado. “A finalização da equipe não apareceu no placar final devido a problemas de tempo de execução, quando foi avaliada neste conjunto de testes privado”.

O Facebook baniu o uso de deepfakes em sua plataforma desde janeiro de 2020. No entanto, alguns políticos ainda desconhecem essa proibição e, em alguns casos, ainda conseguem criar deepfakes para manipular os usuários.

A mídia social popular obviamente está ansiosa para impedir a disseminação de deepfakes, mas, ao mesmo tempo, não faz nenhum esforço para mitigar a disseminação de informações errôneas por meio de sua plataforma, o que, obviamente, não faz absolutamente nenhum sentido.