Interior soma mais de 30 vítimas de deepfake nos últimos dois anos

Nos últimos dois anos, municípios do interior de São Paulo registraram mais de 30 mulheres vítimas de deepfake, inteligência artificial (IA) usada para criar imagens falsas.

Entre as pessoas afetadas está a prefeita de Bauru (SP), Suéllen Rosim (PSD), que levou o caso às autoridades em setembro de 2024. Na ocasião, ela formalizou um boletim de ocorrência após a divulgação de montagens produzidas com tecnologia deepfake, nas quais seu rosto foi inserido no corpo de uma mulher nua. Conforme o registro policial, o conteúdo era compartilhado pelo WhatsApp acompanhado da indicação "Encaminhada com frequência", sinalizando que a imagem teve grande circulação na plataforma.

No boletim, consta que a montagem foi analisada por oficiais por meio da ferramenta "AI or Not?". Com isso, confirmou-se que o conteúdo foi gerado por IA.

O que é "deepfake"?

Essa tecnologia é um tipo de mídia sintética criada ou alterada por inteligência artificial (IA) que faz imagens, vídeos ou áudios parecerem reais, mas que representam algo que não aconteceu de fato.

O termo vem da união de "deep" (referência ao deep learning, um tipo de aprendizado profundo da IA) e "fake" (falsificação).

Essas técnicas geralmente usam algoritmos avançados (como redes neurais e machine learning) para substituir rostos, vozes ou expressões de uma pessoa por outra de forma muito realista.

O uso dessa tecnologia é variado: a ferramenta do deepfake é usada tanto no cinema e entretenimento como, por exemplo, em produções como "Avatar", "O Senhor dos Anéis" e "Planeta dos Macacos".

No caso em análise, a tecnologia teve aplicações mal-intencionadas, proliferando desinformação, fraude, manipulação política ou pornografia não consensual.

Suspeitos

Casos parecidos com o da prefeita foram identificados em Itaré (SP), numa escola estadual, também em setembro de 2024. Dois adolescentes foram apontados como principais suspeitos de criar imagens de nudez falsas de estudantes da unidade.

Segundo informou a Secretaria de Segurança Pública (SSP), os jovens teriam utilizado ferramentas de IA para produzir as imagens. De acordo com as informações, as vítimas incluem 36 adolescentes, com idades entre 13 e 17 anos, e outras quatro pessoas maiores de 18 anos, incluindo uma professora.

Depois, já em agosto do ano passado, em 2025, o município de Itapetininga (SP) teve um caso de denúncia por pais de estudantes de uma escola particular, onde um colega de classe teria manipulado imagens de nudez feitas com IA. De acordo com as informações, o aluno suspeito foi suspenso.

No mesmo mês, a mesma situação na cidade de Votorantim (SP). Dois adolescentes, de 15 e 16 anos, foram apreendidos por produzir e divulgar imagens falsas de nudez de uma jovem de 15 anos em uma escola estadual do município, utilizando a mesma tecnologia.

Vítimas

As consequências para vítimas de deepfake quando a tecnologia é usada de forma mal-intencionada podem ser graves e duradouras, atingindo diferentes dimensões da vida pessoal, profissional e social.

O uso mal-intencionado de deepfakes pode afetar a saúde emocional, reputação e vida profissional. Essa exposição pode causar ansiedade, medo, vergonha e sofrimento psicológico, que podem evoluir para depressão e isolamento social. Profissionalmente, há risco de perda de empregos, oportunidades e prejuízos financeiros, além de gastos com assistência jurídica e psicológica. As vítimas também enfrentam processos judiciais longos e desgastantes para tentar remover o material e identificar os responsáveis. Além disso, a rápida disseminação nas redes digitais agrava o problema, pois o conteúdo pode reaparecer.