Grupos misóginos criam imagens pornô com IA para atacar mulheres nas redes

Atualizado em 18 de julho de 2024 às 12:32
Criminosos se gabam de intimidar mulheres em grupo do Facebook. Foto: Reprodução

Grupos misóginos no Facebook têm usado fotos publicadas por mulheres nas redes sociais para aplicar deepfake por meio de Inteligência Artificial (IA) e deixá-las sem roupa. Essas imagens pornográficas têm sido divulgadas como uma forma de atacar vítimas nas plataformas. A informação é da BBC.

Ana (nome fictício) foi uma das vítimas. Ela recebeu uma mensagem durante um momento de descanso no trabalho em que aparecia nua ao lado de sua mãe, uma idosa de 65 anos. Junto da foto manipulada, havia um link para seu perfil no Instagram.

A foto sem manipulação havia sido publicada por ela no Facebook e passou por uma inserção digital de um corpo nu. Ela então iniciou uma investigação para tentar descobrir quem eram os criminosos que compartilharam suas fotos nas redes.

Os grupos são criados no Facebook e costumam ser derrubados em poucos dias por violação das regras da rede social. Pouco depois, ressurgem com nomes diferentes até serem derrubados de novo e divulgam links em comunidades do Telegram.

Formados por incels e redpills, grupos promovem discurso misógino. Foto: Reprodução

Nesses espaços no aplicativo de mensagens, os participantes espalham mensagens de ódio contra mulheres e criam deepfakes pornográficos sob encomenda. Alguns deles ainda compartilham conteúdo “gore” (vídeos e fotos reais com situações de extrema violência).

Eles fazem parte da chamada “machosfera”, grupos e fóruns online criados para debater uma suposta perda do poder do homem na sociedade atual. Os espaços são formados por incels (“involuntary celibates” ou “celibatários involuntários” em português), adolescentes ou jovens que se dizem rejeitados, ou redpills, que defendem uma atitude de dominação ou desconfiança em relação a mulheres.

Ana, em meio à investigação, tentou fazer parte de um desses grupos e o administrador ofereceu acesso a um “grupo VIP com outros tipos de conteúdo” por R$ 15. Ao contatá-lo, recebeu uma chave Pix cadastrada em um número de celular que está associado a um homem no interior de Goiás. A informação foi levada à polícia.

Além de Ana, há diversas outras vítimas de crimes similares denunciando seus casos. As mulheres têm se reunido em grupos de WhatsApp para discutir estratégias para responsabilizar os autores dos deepfakes na Justiça.

No Telegram, membros de grupo fazem ataques misóginos a mulheres. Foto: Reprodução

Ana e outras vítimas levaram capturas de tela das conversas à Delegacia de Delitos Cometidos por Meios Eletrônicos de São Paulo, mas foram informadas que a divisão só investiga casos de fraude financeira ou violação de dados.

A orientação é que as vítimas compareçam às unidades próximas de suas casas, mas as delegacias locais aguardam os registros dos crimes feitos na Delegacia de Delitos Cometidos por Meios Eletrônicos.

A Secretaria de Segurança Pública do Estado de São Paulo afirmou que realiza “diligências para esclarecer os fatos” e que “todas as delegacias do Estado possuem estrutura e estão aptas para registrar e apurar crimes praticados pela internet”, mas não esclareceu por que a delegacia de delitos em meios eletrônicos investiga somente fraudes financeiras ou violação de dados.

Chegamos ao Blue Sky, clique neste link

Siga nossa nova conta no X, clique neste link

Participe de nosso canal no WhatsApp, clique neste link

Entre em nosso canal no Telegram, clique neste link