Hessen: Primeiras medidas mostram que a ameaça dos deepfakes está a ser levada a sério.

O gabinete no comando da polícia em Frankfurt está abafado; os estores descidos a meio. No projector, tremelica o rosto de um homem que, na verdade, não existe.

A voz soa ligeiramente metálica, mas os gestos são desconcertantemente familiares - como os de alguém que reconhecemos dos noticiários. Um agente pausa o vídeo: fica apenas o zumbido do projector e uma tosse discreta na última fila. “Hoje, qualquer aluna consegue fazer isto com um portátil razoavelmente bom”, diz, seco, o perito de informática forense à frente. Uns abanam a cabeça, incrédulos; outros fixam os telemóveis, como se, de repente, tivessem de desconfiar de cada clip. Em Hessen, isto já não é uma demonstração tecnológica: é o novo quotidiano das autoridades. E, quase sem se dar por isso, instala-se no ar a pergunta que ninguém gosta de formular.

Quando um vídeo falso causa estragos bem reais

Toda a gente conhece a cena: surge um vídeo no grupo de WhatsApp e aparecem logo mensagens do tipo “Já viste isto?!” Antes, ria-se um pouco, talvez se reencaminhasse, e seguia-se em frente. Hoje, a reacção é outra: olha-se duas vezes e a dúvida entra de rompante - será verdadeiro? É precisamente a esse instante de hesitação que Hessen está a responder com um conjunto de medidas novas, que soam quase a “polícia do futuro”.

Desde o final de 2023, o Departamento de Polícia Criminal do Estado (LKA) de Hessen tem formações específicas para investigadoras e investigadores centradas em deepfakes. Aprendem onde é que imagem e som se denunciam mutuamente, que ferramentas conseguem tornar visíveis “impressões digitais” em ficheiros manipulados e em que ponto começam os rastos na Internet. É um pouco como a passagem das impressões digitais para o ADN - só que no mundo digital. O ambiente é tenso, mas também ligeiramente electrizante, porque se percebe que está em causa algo muito estrutural.

Um caso que continua a ser citado internamente em Hessen envolve um vídeo falsificado de uma presidente de câmara no sul do estado. O material apareceu num canal anónimo no Telegram: nele, a mulher supostamente faria uma declaração polémica sobre política de refugiados. A qualidade de imagem era mediana, o áudio vinha ligeiramente desencontrado - e, ainda assim, o clip espalhou-se a uma velocidade vertiginosa. Em poucas horas, estava em grupos locais no Facebook, depois em chats de escolas e, por fim, chegou à própria autarca. Ela nunca tinha dito aquela frase. Mas as consequências foram concretas: e-mails de ameaça, comentários de ódio, um clima inflamado antes de uma eleição que já era nervosa.

Só mais tarde, e com um esforço considerável, o vídeo pôde ser classificado como deepfake. Peritos de informática forense analisaram artefactos visuais, compararam movimentos labiais com gravações originais antigas e examinaram metadados. Os meios locais noticiaram a falsificação, mas uma grande parte das pessoas que viu o vídeo nunca chegou a ver a correcção. No terreno, ouvia-se repetidamente: “Sim, mas ela deve pensar mais ou menos assim.” Bastou um único clip para corroer a confiança numa pessoa - e também no processo político. Sejamos honestos: quase ninguém lê uma rectificação com a mesma atenção com que consome a primeira publicação escandalosa.

É precisamente a partir de episódios destes que Hessen está agora a desenhar a sua estratégia. Na óptica das autoridades de segurança, os deepfakes deixaram de ser apenas um brinquedo tecnológico ou uma esquisitice da Internet: tornaram-se um ponto de ataque claro contra processos democráticos. Se qualquer frase e qualquer imagem podem ser postos em causa retroactivamente, a lógica vira-se do avesso: de repente, políticos, empresas e cidadãos têm de provar, permanentemente, que não disseram algo. Uma inversão absurda - e politicamente explosiva em campanhas eleitorais, protestos ou crises internacionais. Os deepfakes não atingem apenas indivíduos; minam a confiança de base de que a nossa realidade partilhada ainda pode ser narrada de forma credível.

O que Hessen está a fazer, passo a passo - e o que cada um de nós pode fazer

No Ministério do Interior, em Wiesbaden, fala-se em surdina de um “kit anti-deepfake” que vai sendo implementado por fases. Uma das peças: um novo foco no Centro de Competências de Hessen contra o Extremismo, onde especialistas fazem varrimento sistemático de conteúdos nas redes sociais e sinalizam potenciais deepfakes. Outra: parcerias com universidades que trabalham em sistemas de detecção capazes de identificar automaticamente padrões de manipulação em pistas de imagem e de áudio. Para a polícia, isto traduz-se em equipas especializadas que não se limitam a perseguir cibercrime no sentido clássico, mas que se concentram em enganos digitais dirigidos a políticos, autoridades e infra-estruturas críticas.

Em paralelo, começam a surgir projectos-piloto com municípios que apostam na prevenção antes de rebentar uma crise. Em workshops com turmas e com pessoal da administração pública explica-se como se produzem deepfakes, que sinais são suspeitos e que canais de denúncia existem. Hessen tenta envolver a população como uma espécie de sistema de alerta precoce. Se, numa cidade, aparece subitamente um vídeo duvidoso sobre o presidente da câmara, a ideia é que não sejam apenas jornalistas e polícia a reagir - mas também os cidadãos. Pode parecer pouco espectacular, mas, no momento decisivo, pode ganhar dias. E, na lógica da propagação viral, dias são uma eternidade.

O entrave: muita gente tem vergonha de cair em falsificações. Pessoas mais velhas evitam admitir que partilharam algo que depois se revelou treta. Já os mais novos encolhem os ombros e dizem: “Eu nem levei isso a sério.” Em ambos os casos, perde-se a oportunidade de aprender com situações concretas. A coisa torna-se realmente desagradável quando toca em relações pessoais: uma imagem íntima falsificada, uma chamada com voz fabricada em que supostamente fala o chefe. Em Hessen, estas participações estão a aumentar, discretamente, no serviço policial de aconselhamento. Raramente chegam aos jornais, mas deixam marcas profundas na vida de quem é visado. E a vergonha faz com que muitos casos fiquem calados - um clima ideal para os autores.

Nas conversas com investigadores percebe-se o quanto este silêncio os desgasta. Uma inspectora criminal experiente, de Offenbach, coloca a questão assim:

“Quanto mais realistas forem as falsificações, mais temos de dizer às pessoas: não és burro por cair nisso. Burro é não dizer nada.”

Este é o núcleo, frio e objectivo, do que está a acontecer: ninguém está totalmente a salvo de enganos digitais.

Quem quer proteger-se não precisa, antes de mais, de software especializado - precisa de um pequeno “protocolo interno” para o dia-a-dia:

• Parar um instante quando um vídeo provoca indignação ou entusiasmo extremos
• Confirmar se meios credíveis ou entidades oficiais estão a abordar o mesmo conteúdo
• Em caso de dúvida, pedir a fonte no grupo em vez de reenviar em silêncio
• Quando envolve figuras públicas, verificar canais oficiais: site, contas verificadas
• Reencaminhar conteúdos suspeitos para a polícia ou serviços de apoio, em vez de “mostrar só por mostrar”

Deepfakes como teste de stress à democracia em Hessen - e à nossa vida quotidiana

Em conversas com responsáveis da protecção da Constituição em Hessen, uma ideia repete-se: os deepfakes não são apenas um problema técnico; são um teste de stress social. Se um único vídeo consegue virar uma manifestação, empurrar uma decisão de voto ou estigmatizar ainda mais uma minoria, então quase tudo depende da forma como reagimos enquanto colectivo. As leis ajudam a perseguir crimes. As ferramentas de detecção conseguem deixar pistas. Mas a primeira reacção acontece quase sempre nos nossos ecrãs - em casa, no comboio, no escritório.

Para Hessen, isto significa que o combate aos deepfakes não se faz apenas em laboratórios especializados, mas no centro do quotidiano. As escolas integram literacia mediática nas aulas, os municípios informam em sessões públicas, e as redacções recebem formação para lidar com conteúdos manipulados. Por vezes, isto soa árido - quase aborrecido - ao lado de exemplos vistosos, dignos de Hollywood. E, no entanto, é exactamente aí que se cria uma robustez silenciosa. Quem aprende a olhar uma vez mais dificilmente se deixa arrastar por campanhas de fúria.

Ao mesmo tempo, espreita um outro risco: o de, por excesso de desconfiança, deixarmos de acreditar em tudo. Se cada gravação e cada voz podem ser “fake”, instala-se um reflexo cínico: “Já não se sabe o que é verdade.” Para o debate democrático, isto pode ser ainda mais tóxico do que falsificações isoladas. Hessen tenta contrariar essa deriva com comunicação transparente - por exemplo, quando o Ministério do Interior descreve com detalhe como foram verificados deepfakes em casos concretos. A mensagem é simples: sim, há engano; sim, estamos a trabalhar nisso; e não, nem tudo é automaticamente mentira.

No fim, fica uma conclusão desconfortável, mas honesta: entramos numa época em que a confiança nasce menos de impulsos e mais de fontes verificadas. É exigente, pouco intuitivo e contraria o apetite por indignações rápidas e certezas instantâneas. Mas, sobretudo em estados como Hessen - onde cidades densas, centros financeiros internacionais e regiões rurais se cruzam - esta forma de lidar com “verdades digitais” torna-se uma questão de sobrevivência do debate público. Talvez, daqui a alguns anos, contemos os primeiros escândalos de deepfakes, meio a rir e meio incrédulos, como os nossos pais falavam dos primeiros e-mails de spam. Até lá, o caminho é longo - e já estamos nele.

Ponto-chave	Detalhe	Valor para o leitor
Hessen está a criar estruturas especializadas	Formações para a polícia, focos no LKA, parcerias com universidades	Entender que o Estado está a reagir e que estão a surgir pontos de contacto
Deepfakes interferem directamente no quotidiano político	Vídeos falsos de titulares de cargos, influência no ambiente e nas eleições	Consciência de tentativas de manipulação no próprio meio
O comportamento individual torna-se a primeira linha de defesa	Olhar crítico para conteúdos virais, rotinas simples de verificação e denúncia	Alavancas concretas para proteger a si e aos outros de falsificações

FAQ: Deepfakes e a resposta de Hessen

• Como é que uma pessoa comum identifica um deepfake? Muitas vezes, são pormenores pequenos que denunciam a falsificação: luz com aspecto pouco natural, padrões estranhos de pestanejar, movimentos labiais ligeiramente atrasados ou transições no rosto que “tremem”. Também é suspeito quando o tom de voz e a expressão facial não combinam emocionalmente.
• O que é que Hessen faz, na prática, contra deepfakes? Existem formações especializadas para a polícia e o Ministério Público, cooperação técnica com instituições de investigação e um foco reforçado em estruturas que lidam com extremismo político e desinformação. Em paralelo, decorrem projectos de educação mediática em escolas e municípios.
• Os deepfakes são crime na Alemanha? Depende do conteúdo. Quem, com deepfakes, difama, injuria ou extorque pode já ser perseguido com base em normas penais existentes, por exemplo por difamação ou coacção. No debate jurídico e político discute-se actualmente como enquadrar de forma mais clara campanhas de deepfakes direccionadas.
• Como posso denunciar um vídeo suspeito? Em Hessen, vale a pena começar pela esquadra local ou pelo portal de polícia online. Se o conteúdo for politicamente sensível, também se podem contactar autoridades do estado ou órgãos de comunicação social que têm equipas próprias de verificação.
• As ferramentas de detecção são suficientemente fiáveis? Os detectores técnicos estão a melhorar, mas nunca dão segurança a 100%. Na prática, especialistas combinam vários métodos: análise por software, comparação com material original e verificação do contexto. Para o dia-a-dia, a mistura de tecnologia, jornalismo e cepticismo saudável continua a ser a arma mais forte.