Mídias sociais: contas falsas agora “ameaçam” ativistas!

Nandini Jammi, ativista com forte atividade de mídia social e cofundadora do Sleeping Giants (uma equipe de campanha que impede as empresas de exibir anúncios on-line que espalham mensagens de discriminação e ódio), disse em entrevista à CNN Business que muitas vezes recebe assédio por meio de de mídias sociais, de contas desconhecidas e impessoais. No entanto, foi relatado um incidente específico que ocorreu em julho de 2019, diferente dos demais. Em particular, uma mensagem ameaçadora foi enviada a ela no Twitter a partir de uma conta que apresentava uma mulher com cabelos loiros e um sorriso brilhante. O perfil dela tinha pouca informação, como o nome “Jessica”, e uma breve descrição dela dizendo: “Se você é um assassino, eu luto contra você”. Nandini Jammi afirma que sua conta específica enviou a seguinte mensagem no Twitter: “Por que você não excluiu suas informações do Finder Friend Adult? Três anos se passaram. “Gigantes adormecidos mídias sociais-Nandini Jammi

E não parou por aí. Jessica afirmou que tinha informações confidenciais embaraçosas sobre Jammi de um perfil antigo em um site de namoro online. Jammi disse à CNN Business que nunca foi muito ativa no site de namoro online. Jessica também fez uma referência a um antigo perfil de namoro, EJ Gibney, um pesquisador independente que esteve envolvido em campanhas de Sleeping Giants. Além disso, “Jessica” disse que a mulher que estava sorrindo na foto do perfil de sua conta pode não estar lá. Os especialistas da CNN Business revelaram que esta imagem foi criada com a ajuda de uma nova e sofisticada tecnologia de inteligência artificial. Eles continuaram explicando que muitas contas falsas e anônimas, para parecerem contas reais, costumam usar, como fotos de perfil, imagens roubadas das contas de outros usuários reais.redes sociais-twitter

Indicativamente, “Jenna Abrams”, uma conta com o rosto de uma mulher conservadora americana, reuniu mais de 70.000 seguidores até 2017, que foi finalmente excluída do Twitter. Na verdade, a conta era administrada por um governo russo afiliado a um grupo de trolls e a imagem usada pertencia a uma mulher russa de 26 anos que não sabia que sua imagem estava sendo usada dessa maneira, até que ela entrou em contato com a CNN. 2017.

Vale ressaltar que a maioria das mídias sociais tem regras contra o uso de imagens de outras pessoas dessa maneira, enquanto os usuários têm a opção de reclamar de um rosto falso quando sua identidade é usada. Mas quando os perfis dos usuários são usados ​​por pessoas que não existem, eles geralmente não se referem a uma pessoa falsa.

Jessica fazia parte de uma rede coordenada de cerca de 50 contas gerenciadas pela mesma pessoa ou pessoas. As contas foram usadas para assediar ativistas.

Além disso, a mídia artificial já está no radar do governo dos EUA. Em 2019, o Serviço de Inteligência dos EUA alertou a Avaliação Global de Ameaças de que adversários e concorrentes estratégicos provavelmente tentariam usar tecnologias de aprendizado de ponta ou similares para criar arquivos de imagens, áudio e vídeo de estado convincentes, mas falsos. aliados e seus parceiros.

No verão de 2019, Gibney começou a gravar uma rede de contas, incluindo Jessica, que o perseguiu e seus colegas ativistas. A CNN Business pediu a dois médicos legistas aprovados que revisassem as imagens usadas em cerca de uma dúzia de contas que Gibney acredita serem parte da mesma campanha. Os dois especialistas concordaram que a maioria das aproximadamente 12 imagens examinadas, incluindo a imagem usada na conta “Jessica”, mostrou que foram feitas usando IA.

Imagens falsas feitas com a ajuda da tecnologia AI são fáceis de acessar on-line. Em 2019, Phil Wang, um ex-engenheiro de software da Uber, criou um site chamado “Essa pessoa não existe”. Toda vez que você visita o site, vê uma nova pessoa, que na maioria dos casos se parece com uma pessoa real. No entanto, os rostos são criados por meio da tecnologia de IA. As pessoas, como o nome do site sugere, literalmente não existem. O objetivo de Wang é mostrar às pessoas o que a tecnologia pode fazer. Depois de olhar para a foto de “Jessica”, Wang não conseguiu dizer se foi criada em seu site. No entanto, ele estava convencido de que “Jessica” não era real. Ele também alertou que rostos falsos como “Jessica” poderiam ser apenas um pequeno sinal do que estava por vir. As empresas de mídia social que possuem pesquisadores de IA precisam gastar algum tempo e pesquisar capital sobre esse problema cada vez maior.

Por fim, Nathaniel Gleicher, chefe da equipe de campanhas coordenadas de desinformação do Facebook, incluindo aquelas vinculadas aos governos russo e iraniano, disse que os desenvolvedores precisam pensar em como várias dessas ferramentas podem ser usadas por fraudadores ou hackers.