O avanço das soluções de inteligência artificial tornou a criação de imagens e vídeos falsos cada vez mais fácil, aumentando também o risco de uso criminoso dessa tecnologia. Entre as formas mais graves de violência digital estão os chamados deepfakes, montagens que utilizam o rosto de uma pessoa em situações íntimas sem consentimento.
++ Cresce o número de brasileiros usando IA para gerar conteúdo e atrair clientes
O problema tem afetado principalmente mulheres e meninas. Em reportagem exibida pelo Fantástico no domingo (2/8), a atriz Paolla Oliveira contou que já passou por situações recorrentes envolvendo imagens manipuladas com seu rosto. Outras vítimas relataram experiências de chantagem e traumas devido à circulação desse tipo de conteúdo.
++ Lei Vini Jr. é aplicada pela primeira vez e jogador é expulso na Copa do Mundo
Para entender como essas montagens são feitas e, principalmente, como agir diante desse cenário, o portal LeoDias conversou com Kenneth Corrêa, professor da FGV e especialista em tecnologia e inteligência artificial.
Segundo o especialista, a produção de um deepfake deixou de ser algo restrito a profissionais com alto conhecimento técnico. “O que os dados revelam agora, no meio do ano, é o contrário: o deepfake se tornou uma commodity de prateleira. Hoje, criar um conteúdo sintético hiper-realista não exige linha de código, basta uma foto da vítima e um clique.”
Corrêa explica que as ferramentas usam redes neurais para mapear características faciais e reproduzi-las em outro conteúdo. “O processo técnico funciona por meio de redes neurais profundas que mapeiam a biometria do rosto de uma pessoa. Na prática, a IA cria uma espécie de máscara de silicone digital: ela estuda os contornos originais e ‘veste’ essa malha gráfica no corpo de um vídeo base, acompanhando os movimentos.”
Como identificar se uma imagem é falsa?
Com o avanço da tecnologia, perceber uma montagem apenas olhando a imagem ficou cada vez mais difícil. De acordo com o especialista, procurar falhas como mãos deformadas, pele artificial ou movimentos estranhos já não é um método seguro.
“A verdade nua e crua, confirmada pelas métricas mais recentes que mostram humanos acertando a identificação em apenas 24,5% dos vídeos de alta qualidade, é que o olho nu perdeu essa batalha”, afirma.
Para Kenneth Corrêa, a atenção deve estar menos na aparência do conteúdo e mais no contexto em que ele foi publicado. “Como a barreira visual caiu, a única defesa que sobrou para o usuário comum é a análise de contexto.”
Ele aponta como sinais de alerta perfis recém-criados, abordagens fora do comum e situações em que alguém tenta pressionar a vítima. “O alerta mudou da anatomia da imagem para o comportamento. Uma urgência exagerada, um perfil recém-criado cobrando algo, uma mudança brusca no padrão de comunicação da vítima – agora, a anomalia está na rota de distribuição da mídia, não na renderização.”
Apagou? O conteúdo pode continuar circulando
Um dos principais desafios para as vítimas é que remover uma publicação de uma rede social não significa eliminar todas as cópias.
“O verdadeiro centro do problema, porém, é a assimetria de infraestrutura. A plataforma original, como Instagram, TikTok ou X, serve apenas como ponto de partida”, explica.
Segundo o especialista, depois que um arquivo é baixado e compartilhado em grupos privados, fóruns ou outras plataformas, o controle sobre a circulação se torna muito mais difícil.
“Quando o vídeo cai nessas redes descentralizadas de grupos criptografados, ele deixa de ser só um post e vira uma moeda de troca. A arquitetura atual da internet garante essa permanência.”
Por isso, remover a publicação original não resolve totalmente o problema. “O risco do material voltar a circular meses ou anos depois é muito alto porque ele permanece no HD de criminosos e em servidores hospedados em países que ignoram as leis brasileiras.”
O que fazer ao descobrir um deepfake?
Apesar da vontade de denunciar o conteúdo imediatamente, Corrêa orienta que a vítima preserve as informações antes de pedir a retirada da publicação.
“A contenção primária exige congelar as evidências antes de solicitar qualquer remoção.”
O especialista orienta que a vítima reúna o máximo de informações sobre o conteúdo e sua origem. “A vítima deve fazer capturas de tela com o link visível no navegador, copiar os endereços das páginas e documentar qualquer tentativa de extorsão recebida por mensagem direta.”
A recomendação é juntar as provas, registrar boletim de ocorrência e, só depois, acionar os mecanismos de denúncia e remoção das plataformas.
“O caminho correto exige frieza mecânica: documentar o rastro, registrar o boletim de ocorrência, hoje acessível por Delegacias Eletrônicas para crimes cibernéticos em estados como São Paulo, Rio de Janeiro e Minas Gerais, e só então acionar os mecanismos de exclusão das Big Techs.”
Quais provas guardar?
Segundo Kenneth Corrêa, o print da imagem falsa é apenas parte da documentação. Para a investigação, informações que ajudem a rastrear o caminho do conteúdo podem ser ainda mais relevantes.
“A montagem em si prova que o deepfake existe, mas não mostra quem colocou o motor para rodar nem por qual canal. O foco investigativo saiu da análise anatômica e foi para a rastreabilidade da distribuição.”
Por isso, a orientação é guardar URLs, identificadores de publicações, links de compartilhamento, nomes de perfis e o histórico das conversas ligadas ao caso.
“Não basta o print isolado da ameaça: o valor probatório está no registro contínuo da conversa, nos cabeçalhos de e-mail originais, no nome do perfil que curtiu ou encaminhou a postagem logo após a publicação, e no histórico de qualquer transferência bancária solicitada (como um código Pix).”
É possível saber quem fez a montagem?
Mesmo que o responsável use um perfil falso, isso não significa que seja impossível rastreá-lo.
“O fato é que rastrear a origem e a distribuição de um deepfake é técnica e juridicamente possível, e o sucesso não depende da sofisticação da IA utilizada, mas da quantidade de metadados que a vítima conseguir preservar.”
O especialista explica que atividades digitais podem deixar registros que ajudam as autoridades. “Cada conexão gera um rastro logístico: endereços de IP, horários de acesso, IDs de dispositivos e rotas de servidores.”
No entanto, investigações podem ser mais lentas quando envolvem serviços ou servidores fora do Brasil. “O gargalo dessa rastreabilidade, porém, é jurisdicional. Enquanto o criminoso usar provedores hospedados fora do alcance da justiça brasileira, a velocidade da investigação depende da cooperação internacional.”
E se houver chantagem?
Outra situação recorrente em casos de deepfake é a extorsão. O criminoso ameaça divulgar ou continuar compartilhando o conteúdo caso a vítima não pague um valor.
Para Corrêa, ceder à exigência não garante o fim da chantagem. “Pagar não encerra o ataque, apenas qualifica a vítima como fonte pagadora recorrente. Você não está comprando o silêncio do agressor, está pagando a primeira mensalidade de uma assinatura de chantagem.”
Por isso, a orientação é evitar qualquer negociação e preservar todas as informações sobre a ameaça.
“A regra estratégica para a vítima é contato zero e documentação total.”
Perfil privado protege contra deepfakes?
Embora restringir o acesso às redes sociais possa dificultar a obtenção de imagens, isso não elimina totalmente o risco. O especialista diz que uma única foto pública pode ser suficiente para alimentar certas ferramentas.
“O cuidado real hoje não é buscar uma invisibilidade impossível, mas criar atrito logístico.”
Por isso, Corrêa recomenda atenção ao que é publicado abertamente e também às pessoas que já têm acesso às imagens privadas.
“Os dados que acompanhamos no Brasil mostram que o crime raramente vem de um hacker do leste europeu. No cenário de aumento de deepfakes em escolas, universidades e empresas, o agressor quase sempre é o colega de classe, o ex-parceiro ou alguém do trabalho que já tem acesso ao seu ‘perfil fechado’.”
Quando a vítima é criança ou adolescente
O cenário fica ainda mais delicado quando as montagens envolvem menores de idade. Nesses casos, o especialista recomenda que familiares não tentem resolver sozinhos ou confrontar imediatamente os envolvidos.
“Quando os pais descobrem o material, o instinto de confrontar a escola ou brigar em grupos de WhatsApp dos alunos é um erro operacional que destrói a perícia.”
Mais uma vez, o foco deve ser preservar as evidências. “Congelar a tela, copiar as URLs exatas de onde o vídeo está hospedado e salvar todo o histórico de quem enviou o arquivo.”
Para Corrêa, também é essencial que crianças e adolescentes se sintam seguros para contar aos responsáveis o que aconteceu.
“O que garante a proteção na etapa seguinte não é confiscar o celular do adolescente, mas criar um protocolo inquebrável de confiança em casa, para que ele reporte o deepfake assim que descobrir, sabendo que a resposta dos pais será técnica, jurídica e firme.”
