Aparece-te uma fotografia no telemóvel. Um rosto conhecido onde não devia estar, um político a dizer o que nunca disse, alguém da tua família a pedir dinheiro com uma voz igualzinha à dele. A primeira reação, hoje, é quase sempre a mesma: atirar a imagem a uma aplicação que promete responder numa palavra se é verdadeira ou falsa. É aí que começa o problema.
Esse número que a aplicação cospe, «97% falso», «imagem sintética», não é uma prova. É uma pista. E tratar uma pista como veredicto é a maneira mais rápida de ser enganado de consciência tranquila. A pergunta certa nunca foi «isto é falso?». É «posso confiar nesta imagem, ou nesta parte dela?».
O próprio regulamento europeu da inteligência artificial define um deepfake, uma imagem ou vídeo gerado ou alterado por IA que parece autêntico a quem o vê, à volta de uma palavra que costuma passar despercebida: «manipulado». Um deepfake não é obrigatoriamente uma imagem inteira inventada do zero. Muitas vezes é uma fotografia real onde só uma coisa mudou, um rosto trocado, um objeto acrescentado, uma sombra que ali não estava. E é precisamente esse detalhe que um botão de «verdadeiro ou falso» não apanha, porque está a julgar a imagem toda de uma vez.
Esta pessoa não existe: o rosto foi inteiramente gerado por um modelo de IA. É precisamente o que parece autêntico que nos engana. Imagem: Wikimedia Commons, domínio público.
Porque é que o detetor falha logo onde mais importa
Os detetores automáticos são sistemas treinados a reconhecer padrões que já viram antes. Anunciam mais de 90% de acerto, mas isso é em laboratório, com imagens limpas. A fotografia que te chega passou pelo WhatsApp, pelo Instagram, foi recomprimida meia dúzia de vezes, e essa compressão apaga exatamente os vestígios microscópicos que o detetor aprendeu a procurar. Nas imagens que de facto circulam, o acerto despenca.
O resto é pior. Estes sistemas dão falsos positivos, acusam de falso o que é real, e falsos negativos, deixam passar o que é falso. Falham contra métodos de geração que nunca viram. E há quem desenhe deepfakes de propósito para enganar o detetor. Por isso é que um resultado destes, sozinho, não se sustenta num tribunal nem devia sustentar a tua decisão.
Como se examina uma imagem a sério
Quem investiga a sério não carrega num botão. Cruza vários sinais independentes e regista cada passo, para que outra pessoa possa repetir o exame e pô-lo em causa. Começa pelos metadados, o historial invisível que o ficheiro carrega: quando foi criado, com que programa, se passou por uma ferramenta de IA. Olha para os vestígios de compressão, porque uma zona comprimida de forma diferente do resto denuncia que algo foi ali colado. Verifica a física da cena, uma sombra que cai para o lado errado, um reflexo que não condiz, um halo à volta de um rosto recortado. Desce ao ruído e à textura ao nível do pixel, que a olho nu não se veem. E só conclui quando vários destes sinais apontam na mesma direção.
A mesma fotografia guardada com níveis de compressão diferentes ao longo da imagem: o lado esquerdo, mais comprimido, desfaz-se em blocos. É esta variação na história de compressão que a forense lê para encontrar zonas tratadas, ou coladas, à parte. Imagem: Michael Gäbler e AzaToth, Wikimedia Commons, CC BY 3.0.
É a lógica da cadeia de custódia. Uma prova só vale quando deixa um rasto que qualquer pessoa competente pode seguir, repetir e contestar. Em Portugal ainda não há lei específica para deepfakes, mas já há por onde agir: o Código Civil protege o direito à imagem, o Código Penal cobre a burla, a difamação e a falsidade informática, e o regulamento de proteção de dados trata a tua cara e a tua voz como aquilo que são, dados pessoais teus.
Como te defendes, na prática
Não precisas de ser perito para te proteger. Precisas de mudar a ordem das perguntas:
- Desconfia do contexto antes do pixel. Quem manda, porque tem pressa, porque pede dinheiro ou um código. Um deepfake quase nunca chega sozinho, vem dentro de uma burla com urgência.
- Não entregues a decisão a um único detetor. Se uma aplicação diz «falso», trata isso como razão para investigar, não como prova.
- Procura o original. Pesquisa a imagem ao contrário e vê se existe uma fonte primária que diga o mesmo.
- Repara nos detalhes locais. Mãos, dentes, orelhas, joias, texto ao fundo, sombras e reflexos, é aí que a IA ainda tropeça.
- Guarda tudo e denuncia. Links, capturas de ecrã e datas, e apresenta queixa à Polícia Judiciária pelo portal de queixa eletrónica.
A rotulagem obrigatória dos conteúdos de IA, que o regulamento europeu vai impor, ajuda, mas não te dispensa de pensar. Enquanto houver quem queira enganar-te, vai haver imagem sem etiqueta. A defesa não é encontrar o botão certo. É recuperar o hábito de perguntar, antes de acreditar, se aquilo para onde estás a olhar merece a tua confiança.
Fonte: Forensic Focus.
#StaySafe
🙏🖖
