Mídias Sintéticas e Deepfakes: Protegendo o Ciclo Eleitoral de 2025

Avanços em inteligência artificial permitiram a criação de mídias sintéticas – conteúdos gerados ou manipulados por IA – em uma escala sem precedentes. À medida que nações democráticas se encaminham para o ciclo eleitoral de 2025, autoridades e especialistas estão soando alarmes sobre desinformação impulsionada por IA. Em uma pesquisa recente, 85% dos americanos expressaram preocupação com “vídeos e áudios deepfake enganosos” afetando as eleições brennancenter.org. Manchetes alertam que “deepfakes” gerados por IA podem causar estragos em campanhas e na confiança dos eleitores brennancenter.org, ressaltando a urgência de proteger a integridade eleitoral. Este relatório examina o que são mídias sintéticas e deepfakes, como elas ameaçam a democracia e o que pode ser feito – de soluções tecnológicas a políticas públicas – para proteger as eleições em 2025 e além.

O que são mídias sintéticas e deepfakes?

Mídia sintética é um termo amplo para conteúdo digital (imagens, vídeo, áudio, texto) que é produzido ou alterado artificialmente por meios automatizados, especialmente algoritmos de IA en.wikipedia.org. Os sistemas de IA generativa atuais conseguem criar resultados realistas parecidos com humanos em todos os meios – de fotos verossímeis de pessoas que nunca existiram a vozes clonadas e artigos escritos por IA. Deepfakes são um subconjunto particular de mídia sintética: imagens, vídeos ou áudios falsos altamente realistas produzidos com IA (daí o “deep” de aprendizagem profunda + “fake”) para personificar pessoas reais encyclopedia.kaspersky.com. Na prática, um deepfake pode ser um vídeo em que o rosto de um político é convincentemente trocado pelo de outra pessoa, ou um clipe de áudio imitando a voz de um candidato dizendo palavras que nunca foram ditas por ele.

Como são criados os deepfakes? A maioria é gerada por técnicas avançadas de deep learning. Um método comum utiliza redes adversárias generativas (GANs) – duas redes neurais que treinam uma contra a outra icct.nl. Uma rede (o gerador) fabrica mídia falsa (exemplo: uma imagem do rosto de uma pessoa) e a outra (o discriminador) tenta detectar se é falsa. Após milhares de iterações, o gerador aprende a produzir resultados cada vez mais realistas até que o discriminador já não consegue distinguir icct.nl. Originalmente, criar um deepfake perfeito exigia muitos dados de treino e hardware poderoso – por exemplo, um experimento para deepfake do ator Tom Cruise levou dois meses de treino em GPUs de ponta icct.nl. Contudo, as ferramentas evoluíram rapidamente. Softwares sofisticados de deepfake agora são amplamente acessíveis e mais rápidos, funcionando por vezes em tempo real (por exemplo, alterando um vídeo ao vivo ou chamada de voz instantaneamente) encyclopedia.kaspersky.com. Além das GANs, outras arquiteturas de IA também têm papel importante: modelos do tipo transformer podem gerar textos deepfake ou auxiliar em clonagem de voz encyclopedia.kaspersky.com. Em resumo, avanços recentes em IA tornaram fácil e barato para quase qualquer pessoa criar conteúdo audiovisual enganoso – reduzindo dramaticamente a barreira para operações de desinformação.

É importante observar que nem toda mídia sintética é maliciosa. Conteúdo gerado por IA pode ter usos benignos e criativos – avatares personalizados, dublagem da voz de um palestrante em outros idiomas, sátira e entretenimento, etc. Na verdade, em eleições globais durante 2024, cerca de metade dos usos documentados de IA em conteúdo político foram não enganosos (por exemplo, um candidato usando uma voz sintética de maneira transparente por ter perdido a própria voz, ou jornalistas utilizando avatares gerados por IA para proteger suas identidades) knightcolumbia.org knightcolumbia.org. Mas este relatório foca no lado malicioso das mídias sintéticas – deepfakes criados para enganar, ludibriar ou manipular eleitores e a opinião pública.

Riscos aos Processos Democráticos

Mídias sintéticas e deepfakes apresentam riscos significativos para a democracia, especialmente durante eleições, quando um eleitorado bem informado e a confiança na informação são primordiais. As principais ameaças incluem:

Desinformação e Manipulação de Eleitores: Vídeos, imagens ou áudios falsos gerados por IA podem ser usados para espalhar informações falsas sobre candidatos ou temas, enganando eleitores. Por exemplo, um deepfake pode mostrar um candidato fazendo declarações inflamadas que ele nunca fez. Conteúdos assim fabricados podem injetar falsidades tóxicas no debate público. Especialistas alertam que deepfakes “representam alto risco” aos eleitores ao inserir conteúdo falso nas campanhas e corroer a confiança pública aljazeera.com. Um vídeo manipulado divulgado pouco antes do dia da eleição – sem tempo para checagem de fatos – pode influenciar eleitores indecisos ou desestimular o comparecimento, potencialmente alterando o resultado citizen.org. Essa ameaça não é apenas teórica: como detalhado adiante, um deepfake de áudio em 2024 imitou o presidente dos EUA pedindo que seus apoiadores não votassem, aparentemente visando desencorajar a participação aljazeera.com aljazeera.com.
Erosão da Confiança (“Dividendos do Mentiroso”): Para além de qualquer falsificação específica, a simples existência de deepfakes pode minar a confiança pública em informações reais. Eleitores podem passar a duvidar de provas autênticas, inseguros se um vídeo viral é real ou uma forja feita por IA. Pior ainda, atores corruptos podem explorar essa dúvida: escândalos reais ou gravações verdadeiras podem ser descartados como “apenas deepfake”, permitindo que culpados escapem de punição. Acadêmicos deram a isso o nome de “dividendo do mentiroso”, onde a crescente consciência sobre deepfakes facilita que mentirosos afirmem que provas verdadeiras são falsas brennancenter.org. Com o aumento da consciência pública sobre o poder da IA, um político flagrado em um ato ilícito pode enganar a sociedade mais facilmente, alegando que um áudio ou vídeo comprometedores são uma farsa feita por IA brennancenter.org. Essa dinâmica ameaça a confiança fundamental na qual o debate democrático depende. Observadores eleitorais notaram que em 2024 alguns candidatos e seus apoiadores gritaram “é fake da IA” preventivamente para rechaçar notícias desconfortáveis brennancenter.org brennancenter.org. Em longo prazo, se os cidadãos sentirem que “não dá para confiar em nada do que se vê ou ouve”, diminui-se a realidade compartilhada necessária para eleições livres e justas cetas.turing.ac.uk cetas.turing.ac.uk.
Amplificação da Polarização e do Conflito: Até agora, evidências sugerem que propagandas deepfake frequentemente reforçam vieses já existentes ao invés de persuadir pessoas de fora cetas.turing.ac.uk. Conteúdo malicioso por IA é normalmente acolhido e compartilhado por quem já tem visões extremas, o que amplifica os eco-chambers. Durante as eleições presidenciais de 2024 nos EUA, pesquisadores descobriram que falsidades geradas por IA serviram principalmente para acirrar narrativas partidárias e inflamar debates em vez de converter novos adeptos cetas.turing.ac.uk. Por exemplo, vídeos falsos contra o presidente Biden ou a vice Harris atraíram milhões de visualizações online e circularam principalmente entre opositores cetas.turing.ac.uk cetas.turing.ac.uk. Ao consolidar campos ideológicos com “provas” dramáticas do suposto crime do outro lado, deepfakes podem afastar ainda mais as comunidades, tornando o ambiente eleitoral mais tóxico. Além disso, a confusão e desconfiança fomentadas pelos deepfakes criam solo fértil para teorias da conspiração proliferarem cetas.turing.ac.uk, já que cidadãos podem rejeitar qualquer realidade incômoda como criação da IA.
Comprometimento da Administração Eleitoral: O risco vai além de enganar eleitores sobre candidatos – deepfakes também podem atrapalhar o processo eleitoral em si. Autoridades têm imaginado cenários onde clones de voz ou mensagens falsas simulam ser de órgãos eleitorais, instruindo mesários a fechar seções mais cedo ou passando informações erradas (por exemplo, “a eleição foi adiada”) aljazeera.com. Um adversário sofisticado pode simular uma diretriz da comissão eleitoral ou clonar a voz de um agente local de confiança para sabotar o funcionamento do pleito. Tais táticas podem suprimir votos ou gerar caos no dia da votação. O Brennan Center dos EUA observa que mídias manipuladas podem enganar não só o público, mas também mesários e funcionários eleitorais, exigindo novos treinamentos e protocolos como resposta aljazeera.com.
Assédio e Assassinato de Reputação: Deepfakes também fornecem uma potente arma para ataques pessoais contra candidatos, ativistas ou jornalistas. Uma categoria especialmente perversa é a de pornografia sintética não consensual – colocar o rosto de alguém em conteúdo sexual explícito. Essa tática já foi usada para assediar jornalistas e políticas mulheres em todo o mundo. A forma mais extrema de assédio feito por deepfake é a criação de imagens íntimas falsas para humilhar ou chantagear pessoas weforum.org. Em contexto eleitoral, operativos podem divulgar vídeos falsos comprometendo um candidato (por exemplo, um suposto sex tape ou gravação de crime), pouco antes da votação. Mesmo se rapidamente desmentido, o dano à reputação pode já estar feito. Mulheres e minorias são desproporcionalmente alvo dessas campanhas de difamação sintética, o que pode desestimular candidaturas diversas policyoptions.irpp.org policyoptions.irpp.org. Em resumo, deepfakes adicionam novo combustível aos velhos truques sujos – de escândalos fabricados a citações forjadas – potencializando tentativas de assassinato de reputação em eleições.

Por fim, vale destacar que até agora não vimos uma catástrofe eleitoral causada por deepfake. Análises empíricas das eleições de 2024 ao redor do mundo encontraram pouca evidência de que desinformação gerada por IA mudou algum resultado eleitoral cetas.turing.ac.uk weforum.org. A desinformação tradicional (“cheapfakes” editados de modo barato, boatos, distorções partidárias) continuou sendo um fator muito maior na propagação de mentiras do que deepfakes sofisticados knightcolumbia.org knightcolumbia.org. Mas especialistas alertam que a ausência de desastre até agora não é motivo para complacência cetas.turing.ac.uk weforum.org. A tecnologia avança rapidamente e atores hostis estão aprendendo. Mesmo sem mudar o rumo de uma eleição importante em 2024, deepfakes influenciaram o debate público – por exemplo, mentiras geradas por IA sobre candidatos viraram assunto de debates tradicionais cetas.turing.ac.uk. Além disso, a ameaça percebida dos deepfakes contribuiu para a ansiedade e desconfiança pública em torno das eleições cetas.turing.ac.uk cetas.turing.ac.uk. O potencial para incidentes mais graves permanece, especialmente à medida que nos aproximamos das eleições decisivas de 2025. Sociedades democráticas devem, portanto, tratar deepfakes como uma séria questão de segurança e integridade, atendendo tanto ao risco direto de mídias fabricadas quanto à erosão mais ampla da verdade na esfera eleitoral.

Incidentes Recentes: Deepfakes Perturbando a Política

Casos reais dos últimos anos ilustram como a mídia sintética já foi usada como arma em contextos políticos. Abaixo, revisamos alguns incidentes e estudos de caso notáveis de deepfakes e desinformação gerada por IA afetando eleições ou o discurso público:

Ucrânia (março de 2022) – Vídeo de “Rendição”: Nos primeiros dias da guerra da Rússia contra a Ucrânia, surgiu um vídeo que parecia mostrar o presidente ucraniano Volodymyr Zelensky pedindo às suas tropas que depusessem as armas e se rendessem. O vídeo era um deepfake, com a imagem e a voz de Zelensky alteradas sinteticamente icct.nl. Falhas evidentes (bordas borradas, tom de pescoço incompatível) denunciaram a falsificação, e a mídia ucraniana rapidamente expôs a farsa. Esse incidente – o primeiro uso conhecido de um deepfake em um conflito armado – prenunciou como a propaganda de IA pode ser usada para minar líderes durante crises icct.nl. Embora o vídeo falso de Zelensky não tenha conseguido desmoralizar a resistência ucraniana, demonstrou a intenção e capacidade de agentes maliciosos (neste caso, suspeitos russos) de usar deepfakes para guerra de informação.
Eslováquia (setembro de 2023) – Desinformação Eleitoral: Poucos dias antes das eleições parlamentares da Eslováquia, áudios deepfake se espalharam viralmente, fingindo trazer Michal Šimečka, líder do partido Eslováquia Progressista, confessando fraude eleitoral e até propondo dobrar o preço da cerveja brennancenter.org. Algumas versões incluíam um leve aviso no final do áudio de que eram geradas por IA – provavelmente uma estratégia deliberada para enganar os ouvintes brennancenter.org. O momento foi estrategicamente escolhido, bem antes da votação. O partido pró-Ocidente de Šimečka perdeu por pouco para um rival pró-Kremlin, e alguns comentaristas especularam que a difamação deepfake de última hora pode ter influenciado o resultado brennancenter.org. Este caso ressalta como agentes estrangeiros ou domésticos podem empregar deepfakes para influenciar eleições acirradas, e quão difícil pode ser combater narrativas falsas nos momentos finais de uma campanha.
Taiwan (janeiro de 2024) – Operações de Influência Estrangeira: Antes da eleição presidencial de 2024 em Taiwan, observadores documentaram uma campanha de desinformação chinesa usando deepfakes para minar o candidato Lai Ching-te. Vídeos falsos circularam online mostrando Lai (do partido no poder pró-independência) fazendo declarações que nunca fez – por exemplo, insinuando falsamente que apoiava a plataforma de seus oponentes policyoptions.irpp.org. Em um caso, áudio gerado por IA de Lai foi divulgado, aparentemente com ele criticando seu próprio partido policyoptions.irpp.org, tentando fracturar seu apoio. Esses ataques de mídia sintética, rastreados até a China, visavam influenciar a opinião pública e semear confusão na democracia taiwanesa policyoptions.irpp.org. No final, Lai venceu a eleição e analistas avaliaram que a campanha chinesa de deepfake não mudou significativamente o resultado policyoptions.irpp.org. No entanto, serviu de exemplo clássico de uma potência estrangeira hostil usando propaganda de IA contra uma eleição democrática policyoptions.irpp.org policyoptions.irpp.org. Permanece a preocupação de que, em eleições mais acirradas em outros lugares, tais táticas possam ter um impacto maior.
Estados Unidos (2024) – Deepfakes na Campanha: O ciclo eleitoral de 2024 nos EUA viu um aumento de conteúdo político gerado por IA que, embora não tenha alterado a eleição, gerou alerta. No início de 2024, eleitores de New Hampshire receberam uma confusa chamada automática: uma voz semelhante à do presidente Joe Biden dizendo aos democratas “para salvar seu voto, não vote nesta eleição.” A voz soou autêntica para alguns, mas a mensagem parecia obviamente suspeita – Biden jamais pediria que apoiadores não votassem. Na verdade, era um clone deepfake da voz de Biden, enviado a milhares de eleitores numa aparente tentativa de supressão de votos aljazeera.com aljazeera.com. Esse incidente, que atingiu cerca de 5.000 números de telefone em New Hampshire, demonstrou como truques sujos desse tipo podem ser realizados de forma barata e fácil – o consultor que criou o deepfake da voz de Biden disse que levou apenas 20 minutos e cerca de US$ 1 de custo computacional policyoptions.irpp.org policyoptions.irpp.org. Enquanto isso, nas redes sociais, imagens geradas por IA entraram em materiais oficiais de campanha. Notavelmente, a equipe do governador da Flórida, Ron DeSantis, lançou um vídeo de ataque apresentando imagens manipuladas de Donald Trump abraçando o Dr. Anthony Fauci – insinuando que Trump seria excessivamente amigável com o ex-assessor da COVID-19, impopular na direita. Descobriu-se que as imagens de Trump abraçando Fauci eram falsificações geradas por IA inseridas no vídeo pela campanha brennancenter.org, gerando críticas públicas quando reveladas. Em outro caso, um vídeo criado por IA de Biden “discursando” à nação com fala arrastada se espalhou online, mas logo foi desmentido. Alguns vídeos falsos de Biden e da vice-presidente Harris alcançaram milhões de visualizações nas redes sociais cetas.turing.ac.uk, mostrando como esse tipo de conteúdo pode se espalhar rapidamente. Até magnatas da tecnologia se envolveram: Elon Musk publicou novamente um vídeo grosseiramente adulterado da vice Harris (rotulado como “sátira”) que a retratava dizendo absurdos – borrando a linha entre meme humorístico e desinformação cetas.turing.ac.uk cetas.turing.ac.uk. Embora nenhum desses deepfakes tenha mudado o rumo da eleição, eles reforçaram narrativas falsas (por exemplo, sobre a acuidade mental de Biden ou as lealdades de Trump) e ainda mais contaminaram o ambiente de informação. Autoridades americanas também se preocupam com deepfakes direcionados à infraestrutura eleitoral – por exemplo, áudios falsos de supervisores eleitorais instruindo funcionários a agir de forma imprópria aljazeera.com – embora nenhum incidente grave desse tipo tenha sido confirmado publicamente em 2024.

Esses exemplos destacam o alcance global da ameaça. Deepfakes foram usados por atores estatais em conflitos geopolíticos, por provocadores em eleições nacionais da Europa à Ásia e por campanhas e apoiadores nos Estados Unidos. Assumiram a forma de discursos, imagens, ligações telefônicas e vídeos falsos – mirando tanto nos eleitores quanto nos funcionários eleitorais. Os incidentes até agora também geram alguns aprendizados: muitos deepfakes foram detectados e expostos relativamente rápido (geralmente por jornalistas atentos ou checadores de fatos) e, em alguns casos, a reação negativa ao uso de deepfakes (por exemplo, o vídeo de DeSantis) resultou em publicidade negativa para os responsáveis. Isso sugere que transparência e vigilância podem mitigar seus danos. Contudo, a tendência é clara – essas falsas produções sintéticas estão se tornando mais frequentes e difíceis de distinguir imediatamente da realidade. Cada eleição traz novidades (2024 viu os primeiros “robocalls” de IA para influenciar votos, o primeiro uso de anúncios de campanha com deepfake, etc.), e o risco de um incidente deepfake mais prejudicial cresce à medida que nos aproximamos de 2025.

Detecção e Combate a Deepfakes: Ferramentas e Tecnologias

Um componente crítico para proteger as eleições é o desenvolvimento de ferramentas confiáveis de detecção e mitigação contra deepfakes. Pesquisadores, empresas de tecnologia e governos estão correndo para criar tecnologias que possam identificar falsificações feitas por IA e autenticar conteúdos reais. Aqui, apresentamos um panorama do cenário atual de detecção de deepfakes e as principais contramedidas:

Detectores Automatizados de Deepfakes: A linha primária de defesa é uma IA que combate outra IA – algoritmos treinados para analisar mídias e identificar sinais característicos de manipulação. Esses sistemas de detecção procuram por artefatos sutis ou inconsistências deixadas pelos modelos generativos. Primeiros deepfakes, por exemplo, muitas vezes apresentavam piscar de olhos irregular ou sincronização labial imperfeita. Os detectores atuais usam redes neurais profundas para examinar aspectos como iluminação e sombras nos rostos, padrões de frequência de áudio ou sinais biológicos (por exemplo, pulso em vídeo) que uma IA pode não replicar corretamente. Empresas de tecnologia desenvolveram ferramentas internas – por exemplo, a Microsoft lançou o “Video Authenticator” em 2020, capaz de sinalizar vídeos falsos por análise quadro a quadro. Plataformas como Facebook e X (Twitter) investiram em pesquisa nessa área e usam filtros para capturar mídias falsas conhecidas. Iniciativas acadêmicas e competições (como o Facebook Deepfake Detection Challenge e eventos da IEEE) impulsionaram os avanços, e startups como Sensity e Reality Defender oferecem serviços comerciais de detecção de deepfakes para clientes. No entanto, trata-se de uma verdadeira corrida armamentista: à medida que a detecção melhora, criadores de deepfakes se adaptam para produzir falsificações mais perfeitas que burlam as verificações automáticas. Notavelmente, um relatório da Meta de 2023 descobriu que, dentre todas as desinformações sinalizadas durante o ciclo eleitoral de 2024, “menos de 1%” foi identificada como conteúdo gerado por IA weforum.org, sugerindo que deepfakes eram relativamente raros ou que muitos escaparam da detecção sem serem notados.
Marcação d’água e Proveniência de Conteúdo: Outra estratégia é marcar o conteúdo gerado por IA no momento da criação, para que usuários posteriores reconheçam facilmente que se trata de conteúdo sintético. A UE tem promovido fortemente essa abordagem – o novo Ato de IA da UE exige explicitamente que qualquer conteúdo gerado ou manipulado por IA seja claramente rotulado ou receba marca d’água realitydefender.com. Empresas seriam obrigadas a incorporar um indicativo (marca d’água digital ou marcador de metadados) quando imagens, vídeos ou áudios forem produzidos por IA. Em teoria, navegadores ou redes sociais poderiam sinalizar ou filtrar esse conteúdo de forma automática. A marcação d’água é promissora, especialmente para desencorajar abusos casuais. Principais fornecedores de modelos de IA (como OpenAI, Google e outros) discutem a marcação voluntária de imagens ou textos gerados. Adicionalmente, uma coalizão de organizações de mídia e tecnologia está desenvolvendo padrões de proveniência (ex.: C2PA – Coalition for Content Provenance and Authenticity) para registrar criptograficamente a origem e o histórico de edições de mídias digitais. Por exemplo, uma foto jornalística ou anúncio de campanha pode portar um certificado seguro de autenticidade, permitindo a qualquer pessoa verificar quem a criou e se não foi adulterada cetas.turing.ac.uk. O governo dos EUA está adotando essa prática; a Casa Branca instruiu agências federais a criarem diretrizes para “autenticidade desde o projeto”, incorporando metadados de proveniência em todo conteúdo digital produzido até 2025 cetas.turing.ac.uk. Se amplamente adotadas, essas medidas tornarão muito mais difícil para conteúdos falsos se passarem por reais.
Limitações dos Rótulos: Embora ferramentas de transparência sejam cruciais, não são infalíveis. Marcas d’água podem ser removidas ou alteradas por adversários determinados. De fato, pesquisadores já demonstraram métodos de remover ou ocultar marcas d’água de IA realitydefender.com; e é claro que um agente malicioso pode treinar seu próprio modelo generativo sem incluir marcadores. Metadados de proveniência apenas ajudam se amplamente implementados e se os consumidores realmente os verificarem. Um criador de deepfake pode ainda utilizar o truque da “carona na proveniência” – pegar uma foto/vídeo autêntico e sobrepor elementos falsos, de modo que o produto final ainda traga a assinatura digital do arquivo original. Esses desafios mostram que não podemos confiar apenas nos rótulos de conteúdo. Como observou uma empresa de segurança em IA, soluções de marcação e proveniência funcionam quando criadores cooperam na rotulação – isso não impede agentes maliciosos realitydefender.com. Por esse motivo, a detecção por inferência (analisando o próprio conteúdo em busca de sinais de manipulação por IA) permanece essencial realitydefender.com. A melhor defesa provavelmente combinará ambas as abordagens: detectores automáticos robustos para varrer em busca de falsificações e sistemas de autenticação para verificar mídias legítimas.
Detecção em Tempo Real para Vídeo/Áudio: Uma necessidade emergente são as ferramentas capazes de identificar deepfakes em transmissões ao vivo. Considere o cenário de uma videochamada “ao vivo” falsa com um candidato ou autoridade – como ocorreu em 2023, quando criminosos em Hong Kong usaram um deepfake de um executivo de empresa no Zoom para autorizar uma transferência fraudulenta de US$ 25 milhões weforum.org. Naquele caso, várias pessoas na chamada – incluindo um impostor do CFO – eram todas geradas por IA. Detectar esses falsos em tempo real é extremamente desafiador. Empresas vêm trabalhando em soluções como plugins para videoconferência capazes de alertar usuários se a imagem ou voz parecer sintetizada (por exemplo, analisando latência de áudio e anomalias espectrais, ou verificando se o rosto na tela corresponde exatamente aos movimentos faciais reais captados pela câmera). Algumas startups afirmam oferecer APIs de detecção de deepfakes em tempo real integráveis a plataformas de transmissão ou para autenticar palestrantes em eventos ao vivo. Por ora, porém, a detecção em tempo real está atrás dos atacantes; a ênfase recai em medidas preventivas (como uso de senhas ou “palavras-código” em ligações, recomendado por autoridades policiais weforum.org).
Verificação Humana e Sinalizações da Comunidade: A tecnologia, sozinha, não é solução mágica. Uma camada humana vigilante é crucial. Organizações de notícias, grupos de checagem e plataformas montaram equipes especiais para monitorar deepfakes virais em períodos eleitorais. Essas equipes usam técnicas OSINT (inteligência de fontes abertas) e ferramentas forenses para analisar mídias suspeitas – por exemplo, checando carimbo temporal, inconsistências (como brincos diferentes em um político no vídeo ou movimentos de boca estranhos) e publicando rapidamente desmentidos. Esforços colaborativos também ajudam: no X/Twitter, o recurso “Community Notes” tem sido usado para sinalizar postagens com imagens ou vídeos gerados por IA, trazendo contexto explicativo. Em eleições recentes, usuários expuseram deepfakes em poucas horas após sua aparição, postando comparações lado a lado ou destacando falhas. Esse tipo de vigilância coletiva, apoiada por educação digital, é uma ferramenta poderosa. Plataformas dependem cada vez mais de usuários e checadores independentes para identificar dúvidas, dado o volume que filtros automáticos precisam vasculhar. O problema é que uma deepfake pode viralizar antes de ser desmentida. No entanto, melhorar a velocidade de resposta e ampliar a conscientização (para que mais usuários reconheçam uma falsificação sozinhos) reduz danos.

Em resumo, a detecção de deepfakes é um campo ativo e em evolução. O progresso vem ocorrendo – por exemplo, os detectores atuais são muito melhores do que em 2018, e iniciativas como a Content Authenticity Initiative visam tornar a verificação um padrão. Mas ainda há desafios devido à dinâmica de gato e rato com os adversários e à necessidade de ampla adoção das ferramentas. Os próximos anos provavelmente verão tecnologias de detecção integradas em plataformas de redes sociais, fluxos de trabalho jornalísticos e até dispositivos (imagine seu smartphone avisando que um vídeo recebido pode ter sido gerado por IA). Fundamentalmente, ferramentas de detecção e proveniência devem ser acompanhadas de educação pública, para que, quando um alerta ou rótulo aparecer, os usuários compreendam e reajam adequadamente. Esse pilar tecnológico é apenas uma parte de uma estratégia maior para combater ameaças de mídia sintética.

Respostas Políticas e Marcos Regulatórios

Formuladores de políticas ao redor do mundo despertaram para a ameaça dos deepfakes e começaram a desenhar leis e regulamentos para enfrentá-la. Embora o tema seja novo, um mosaico de respostas está surgindo nas principais democracias. Abaixo, segue um panorama dos esforços legislativos e regulatórios em andamento:

Estados Unidos: Nos EUA, atualmente não há uma lei federal abrangente contra deepfakes políticos, mas há um impulso crescente para preencher essa lacuna. Vários projetos de lei já foram apresentados ao Congresso visando limitar deepfakes maliciosos. Por exemplo, em início de 2024, parlamentares propuseram o No AI FRAUD Act em resposta a incidentes de destaque (como imagens explícitas de celebridades geradas por IA) policyoptions.irpp.org. O projeto visa criar um arcabouço federal criminalizando certos usos nocivos da IA, como deepfakes políticos fraudulentos e falsificações pornográficas enganosas policyoptions.irpp.org. Outra ideia em debate é obrigar a divulgação de conteúdo gerado por IA em anúncios eleitorais (exigindo rótulo claro quando há mídia sintética). Enquanto isso, a Federal Communications Commission (FCC) deu um passo específico ao proibir o uso de clones de voz por IA em robocalls com intenção de fraudar ou causar dano policyoptions.irpp.org. Isso foi motivado por golpes usando vozes falsas de pessoas reais. Agora, é ilegal para telemarketings ou operadores políticos usarem mensagens de voz sintéticas para enganar destinatários. Grande parte da regulação de deepfakes nos EUA ocorre em nível estadual. Desde 2019, estados como Califórnia, Texas e outros aprovaram leis contra deepfakes eleitorais. A Califórnia proíbe a distribuição de vídeos materialmente enganosos sobre candidatos nos 60 dias anteriores à eleição (com exceções para sátira/paródia) brennancenter.org. O Texas tornou crime divulgar deepfake com intenção de prejudicar um candidato ou influenciar eleitores brennancenter.org. Em meados de 2025, pelo menos quatorze estados americanos aprovaram ou discutem legislações para regular deepfakes em eleições citizen.org. Notavelmente, esses esforços recebem apoio bipartidário – legisladores de ambos os partidos concordam que a desinformação eleitoral manipulada por IA é uma ameaça à democracia citizen.org citizen.org. As leis estaduais variam na abordagem: algumas estabelecem penas criminais para divulgação de deepfake prejudicial sobre candidatos, outras exigem apenas rótulos em campanhas. Além disso, o grupo Public Citizen apresentou petição à Comissão Federal Eleitoral para proibir candidatos federais de espalharem deepfakes enganosos brennancenter.org. Embora a FEC ainda não tenha criado novas regras, o tema está em discussão. Policymakers americanos também precisam equilibrar a liberdade de expressão – proibições amplas podem colidir com a Primeira Emenda. Satiras e paródias (formas protegidas) frequentemente envolvem manipulação de imagens/vídeos; a lei deve focar apenas na enganação deliberada. Isso se reflete nos estatutos estaduais que explicitamente preveem exceções para paródias, sátiras ou fins jornalísticos brennancenter.org brennancenter.org. O consenso geral, porém, é que conteúdo falso gerado por IA que tenha como objetivo enganar eleitores ou causar distúrbios não tem valor legítimo em uma democracia e pode ser restringido sem violar a liberdade de expressão brennancenter.org brennancenter.org.
União Europeia: A UE está agindo agressivamente com regulação ampla de IA, incluindo medidas diretamente relacionadas a deepfakes. O inovador AI Act europeu, acordado em 2024 (previsto para vigorar totalmente em 2026, com algumas provisões antes), inclui uma exigência de transparência para mídias sintéticas. Sob o AI Act, todo sistema capaz de gerar conteúdo “deepfake” deve assegurar que o material seja rotulado como gerado por IA (exceto em áreas isentas como arte ou pesquisa de segurança) realitydefender.com. Na prática, isso significa que desenvolvedores de modelos generativos na UE serão obrigados a embutir marcas d’água ou metadados sinalizando a síntese. O não cumprimento pode gerar multas elevadas. Além disso, o atualizado Código de Prática sobre Desinformação da UE (um código voluntário assinado por grandes plataformas online) destaca os deepfakes e compromete as plataformas a desenvolver “políticas, medidas e ferramentas para lidar com conteúdo manipulado” brennancenter.org brennancenter.org. Por exemplo, as plataformas se comprometeram a implementar sistemas para detectar e rotular ou remover vídeos deepfake que possam causar dano público, e a cooperar com checadores para desmentir rapidamente conteúdo falso de IA. Pelo Digital Services Act (DSA) – em vigor desde 2023 – grandes plataformas na UE devem avaliar e mitigar “riscos sistêmicos” em seus serviços, incluindo a disseminação de desinformação criada por IA. Essa pressão regulatória fez empresas como Meta, Google e TikTok anunciarem novos mecanismos de proteção para as eleições europeias de 2024–2025: desde detecção aprimorada a rótulos mais visíveis em mídias sintéticas. Resumidamente, a Europa adota uma postura regulatória baseada na transparência: exige rótulos em saídas de IA e cobra das plataformas responsabilidade por limitar a desinformação deepfake. Críticos apontam desafios de implementação (como capturar todos os falsos não rotulados?), mas a UE sinaliza que deepfakes sem controle são inaceitáveis e incompatíveis com seus padrões de governança digital realitydefender.com realitydefender.com.
Reino Unido: O Reino Unido ainda não aprovou leis eleitorais específicas sobre deepfakes, mas aborda a questão em iniciativas mais amplas de segurança online e IA. Em 2023, o país promulgou o Online Safety Act, lei abrangente para regular conteúdo nocivo online. Ela criminaliza o compartilhamento de pornografia deepfake não consensual – tornando ilegal criar ou distribuir imagens sintéticas explícitas sem consentimento policyoptions.irpp.org. Isso enfrentou o lado do assédio nos deepfakes. Para desinformação eleitoral, a lei dá à Ofcom (autoridade de comunicações) poder para emitir códigos de prática sobre desinformação. Especialistas pressionam para que a Ofcom desenvolva um código específico para deepfakes, incluindo padrões de tratamento para mídias manipuladas cetas.turing.ac.uk. Tal código, possivelmente inspirado na abordagem da UE, poderia levar plataformas e agentes políticos britânicos a não disseminarem deepfakes e rotularem conteúdos sintéticos. Também há pedidos para que a Comissão Eleitoral britânica forneça orientação aos partidos sobre o uso responsável da IA, estabelecendo linhas vermelhas para campanhas cetas.turing.ac.uk. Em 2024, comissão parlamentar recomendou endurecer a lei eleitoral para penalizar desinformação por deepfakes, mas ainda não há projeto formal. O governo indica que está revendo se as leis já existentes (exemplo: calúnia, fraude, delitos eleitorais) bastam para responsabilizar o uso malicioso ou se é preciso criar novos estatutos cetas.turing.ac.uk. O Reino Unido também cria um Instituto de Segurança em IA e sediou cúpula global sobre IA em 2023, debatendo manipulação informacional. Autoridades britânicas parecem focar em defesas técnicas e alfabetização midiática (abordadas abaixo em recomendações), tanto quanto em proibições legais. Ainda assim, medidas como a proibição de deepfake porn e dar poder aos reguladores mostram compreensão de que conteúdo falso via IA exige resposta política.
Canadá: Em 2024, o Canadá não possuía lei específica contra o uso de deepfakes em eleições. O Canada Elections Act não proíbe, de modo explícito, desinformação gerada por IA ou deepfakes, o que obriga ao uso de artigos gerais (como leis contra fraude ou personificação), que podem não ser totalmente adequados cef-cce.ca. Especialistas já destacaram esse vácuo regulatório, alertando que o Canadá está “um ou dois passos atrás” de outras democracias policyoptions.irpp.org. No outono de 2023, o Canadá viveu um caso menor de deepfake, quando circulou um clipe falso de áudio imitando um político. Embora com pouco impacto, o episódio aumentou a consciência sobre o tema. O Elections Canada (autoridade eleitoral) desde então passou a alertar sobre o risco da IA e a estudar respostas cef-cce.ca. Analistas recomendam legislação “para ontem” – talvez dando poder ao Comissário de Eleições para agir contra mídias sintéticas enganosas policyoptions.irpp.org. O Canadá pode se inspirar em aliados: por exemplo, exigir divulgação de IA em anúncios eleitorais ou tornar crime espalhar material sabidamente deepfake para enganar eleitores. Até meados de 2025, nenhum projeto havia sido apresentado, mas cresce a pressão para que o país entre no grupo que combate deepfakes eleitorais por lei policyoptions.irpp.org.
Outras Democracias: Pelo mundo, vários outros países já avançam em medidas:
- Austrália: O governo australiano, preocupado com a “decadência da verdade” por IA antes das próximas eleições, anunciou planos para legislação sobre “verdade na propaganda eleitoral” que proibiria vídeos e áudios deepfake enganosos em campanhas innovationaus.com. A proposta, lançada pelo governo Albanese em 2023, impediria a publicação de mídia sintética que imite candidatos reais ou possa confundir eleitores durante o período eleitoral innovationaus.com. Contudo, a tramitação é lenta – reportagens indicam que esses dispositivos só entrarão em vigor em 2026 innovationaus.com, ou seja, a eleição federal de 2025 pode ocorrer sem tais mecanismos. Enquanto isso, a Comissão Eleitoral Australiana publicou orientações e ressalta a importância da perspectiva (ela alerta que focar excessivamente em deepfakes pode diminuir a confiança em informações reais) ia.acs.org.au. Políticos de todos os partidos apoiam medidas contra desinformação por IA, e o debate continua sobre como equilibrar a medida com liberdade política de expressão theguardian.com sbs.com.au.
- Taiwan: Após sofrer interferência via deepfakes da China, Taiwan mudou sua lei eleitoral. Em 2023, o Legislativo alterou o Election and Recall Act para proibir especificamente o compartilhamento de áudio/vídeo adulterado de candidatos com a intenção de influenciar o resultado policyoptions.irpp.org. Isso forneceu base legal clara para punir autores de ataques como os vistos em 2024. Taiwan também investiu em educação pública e num sistema de resposta rápida (envolvendo governo, sociedade civil e plataformas) para desmentir informação falsa, o que ajudou a mitigar o impacto policyoptions.irpp.org policyoptions.irpp.org.
- Democracias europeias: Países europeus, além das regras da UE, já usam leis existentes para enfrentar deepfakes. Na França, a lei contra “informação falsa” em eleições (aprovada em 2018) pode ser invocada para vídeos deepfake que tentem distorcer votos; e as leis alemãs de difamação e eleições também podem ser utilizadas. Mas há novas propostas: na Alemanha, discute-se exigir que partidos informem ao usar mídia sintética em campanhas. No Reino Unido, como visto, futuras emendas à lei eleitoral (como rótulos em anúncios digitais) podem incluir divulgação de IA cetas.turing.ac.uk.
- Iniciativas internacionais: Cresce o consenso de que cooperação global é necessária, já que a desinformação ultrapassa fronteiras. O G7 mantém um grupo de trabalho em “Governança de IA”, que em 2024 divulgou comunicado sobre o combate ao uso malicioso da IA no espaço informacional. O governo Biden, nos EUA, obteve compromissos voluntários com grandes desenvolvedores de IA (OpenAI, Google, Meta etc.) para implantar marcação d’água em conteúdos de IA e investir na prevenção de abusos. Embora não sejam juridicamente vinculantes, mostram emergente norma internacional pró-transparência e responsabilidade no uso de IA.

Em resumo, respostas políticas aos deepfakes estão se acelerando. A legislação ainda corre para alcançar a tecnologia, mas a tendência é clara: governos buscam criminalizar os usos mais nocivos de mídia sintética em eleições, exigir transparência (rótulos/divulgações) em conteúdos de IA e dar poderes para reguladores ou autoridades eleitorais coibirem falsificações digitais. Ao mesmo tempo, é preciso proteger a expressão legítima, como sátiras, e evitar regras draconianas sujeitas a abusos. O equilíbrio é delicado. As abordagens – de leis estaduais dos EUA a mandatos pan-europeus – servirão como laboratório em 2025. Certamente os instrumentos serão refinados à medida que aprendermos o que funciona. Mas não agir não é uma opção: como resumiu um monitor legislativo, “Sem regulação, deepfakes devem confundir ainda mais eleitores e minar a confiança nas eleições.” citizen.org citizen.org A próxima seção traz recomendações estratégicas a partir destes esforços, direcionadas a todos os atores do processo democrático.

Recomendações Estratégicas para Proteger as Eleições

Defender a integridade eleitoral na era da IA exigirá uma estratégia multifacetada. Nenhuma ferramenta ou lei isolada pode resolver o problema dos deepfakes; pelo contrário, é necessário um esforço coordenado de governos, plataformas tecnológicas, mídia e sociedade civil. Abaixo estão recomendações estratégicas para esses setores, visando mitigar riscos e garantir que os eleitores possam tomar decisões informadas em 2025 e além:

Governos e Legisladores

1. Fortalecer as Proteções Legais e a Dissuasão: Os governos devem criar ou atualizar leis para proibir explicitamente o uso malicioso de mídias sintéticas em eleições. Isso inclui tornar ilegal criar ou distribuir, com intenção de enganar o público ou sabotar uma eleição, qualquer deepfake que retrate falsamente um candidato ou manipule informações relacionadas à eleição (como procedimentos de votação). Um ajuste preciso é fundamental – as leis devem ser direcionadas à decepção intencional (desinformação), com isenções claras para sátira, paródia ou expressão artística óbvia. Penalidades (multas ou punições criminais) criarão um efeito dissuasivo para potenciais disseminadores de deepfakes, especialmente se aplicadas rapidamente. Por exemplo, a proposta de banimento de deepfakes enganosos durante campanhas na Austrália e as novas cláusulas em Taiwan contra conteúdos eleitorais manipulados por IA podem servir de modelos innovationaus.com policyoptions.irpp.org. Nos EUA, uma ação federal (como a proposta No AI FRAUD Act) poderia definir uma base nacional, complementando as leis estaduais. Além disso, os governos devem atualizar as regras de financiamento de campanha e publicidade: exigir que qualquer anúncio político (online ou em transmissão) contendo mídia sintética inclua uma disclaimer clara (ex: “Esta imagem/vídeo é gerado por IA”), para que os espectadores não sejam enganados. As regras de veracidade na publicidade para campanhas devem também se estender a conteúdos de IA.

2. Implementar Protocolos de Resposta a Incidentes Eleitorais: As autoridades eleitorais devem estabelecer protocolos formais para responder a incidentes graves de deepfake em tempo real. Um grande exemplo é o Critical Election Incident Public Protocol do Canadá, que reúne autoridades para avaliar e informar o público sobre ameaças de interferência estrangeira ou desinformação durante uma eleição cetas.turing.ac.uk cetas.turing.ac.uk. Outras democracias deveriam adotar mecanismos semelhantes. Se um deepfake perigoso surgir (por exemplo, um vídeo fabricado de um candidato concedendo derrota circulando no dia da eleição), o protocolo será ativado – autoridades, especialistas em inteligência e plataformas tecnológicas verificarão rapidamente a verdade e farão um anúncio público desmentindo o falso e esclarecendo os fatos cetas.turing.ac.uk. Essa capacidade de refutação rápida é fundamental para diminuir o impacto da desinformação de “enxurrada”. Os governos devem praticar essas respostas antecipadamente (simular cenários de deepfakes) para que possam reagir rapidamente e de forma unificada quando necessário.

3. Investir em Infraestrutura de Detecção e Autenticação: Órgãos do setor público devem direcionar recursos para o avanço da detecção de deepfakes e autenticação de conteúdo. Isso envolve financiar P&D (por exemplo, programas ao estilo DARPA focados em desinformação mediada por IA), apoiar a implantação de ferramentas de detecção para uso eleitoral e adotar padrões de autenticação em comunicações governamentais. Uma ação concreta é que as mídias governamentais (emissoras estatais, contas oficiais de redes sociais, etc.) comecem a adicionar metadados de origem comprovada a todas as fotos, vídeos e áudios oficiais que divulgarem cetas.turing.ac.uk. Dessa forma, cria-se uma base de informações “autenticadas”. Eleitores e jornalistas poderiam confiar que qualquer vídeo com o selo do governo nos metadados é legítimo – e, por outro lado, ser mais céticos em relação a conteúdos semelhantes sem essa credencial. Os governos podem liderar pelo exemplo nessa abordagem de “autenticidade desde a origem” cetas.turing.ac.uk, que EUA e Reino Unido já estão explorando. Além disso, forças de segurança e órgãos de fiscalização eleitoral devem contar com unidades de análise forense para avaliar mídias suspeitas durante campanhas. O conhecimento de que autoridades possuem meios técnicos para rastrear e atribuir deepfakes (e potencialmente identificar autores) também inibe a atuação de agentes maliciosos.

4. Esclarecer e Modernizar as Leis Existentes: Muitos países podem constatar que as leis atuais sobre fraude, roubo de identidade, difamação ou interferência eleitoral se aplicam a alguns casos de deepfakes – mas podem haver lacunas. Os governos devem revisar seus códigos legais para verificar se novas categorias são necessárias. Por exemplo, existem leis que abrangem a personificação de um funcionário público gerada por IA? Se não, crie-as. Garanta que as leis de proteção de dados e privacidade incluam o uso não autorizado de IA na reprodução da imagem/voz de alguém como violação. Esclarecer a situação legal dos deepfakes nocivos (e comunicar isso ao público) é fundamental para que potenciais infratores saibam que podem ser responsabilizados. Também empodera vítimas (candidatos ou cidadãos) a buscar reparação caso sejam alvo. Essa revisão deve igualmente considerar as leis eleitorais: atualizar definições de publicidade eleitoral ilegal ou de desinformação em pesquisas para englobar explicitamente manipulações usando mídias sintéticas cetas.turing.ac.uk. O objetivo é eliminar qualquer ambiguidade – um potencial desinformador não deveria poder alegar “tecnicamente não é ilegal porque é IA”. Se as leis forem explícitas, fica mais fácil aplicá-las e processar os responsáveis.

5. Fortalecer a Colaboração Internacional: Porque campanhas de desinformação frequentemente se originam no exterior (ou cruzam fronteiras), governos democráticos devem trabalhar juntos nesse tema. Agências de inteligência e unidades de cibersegurança devem compartilhar informações sobre novas táticas de deepfake observadas (por exemplo, se um país detectar uma operação estrangeira de deepfake, deve alertar outros). Fóruns como a Alliance for Securing Democracy, G7, diálogos UE-EUA e outros podem coordenar declarações conjuntas e normas contra deepfakes eleitorais. Pressão diplomática pode ser exercida sobre atores estatais que patrocinam ou toleram tal interferência. Há também espaço para pesquisas colaborativas – por exemplo, um centro internacional de detecção de deepfakes poderia compartilhar dados para aprimorar algoritmos. Organizações de monitoramento eleitoral (como a OSCE ou missões internacionais de observadores) devem atualizar suas metodologias para buscar influência de mídias sintéticas, e os países podem incluir contingências envolvendo deepfakes em pactos de defesa mútua para processos democráticos. Uma frente unida dificulta que agentes maliciosos explorem as vulnerabilidades de um único país.

6. Promover Conscientização Pública e Alfabetização Digital: Em última análise, cabe aos governos educar o eleitorado sobre os deepfakes. Muitos países estão agora considerando ou implementando programas de alfabetização digital em escolas e para o público em geral cetas.turing.ac.uk. Esses programas ensinam as pessoas a verificar informações online, reconhecer sinais de mídia manipulada e pensar criticamente sobre fontes. Dado quão convincentes deepfakes produzidos por IA já se tornaram, é vital que todo eleitor saiba que tais fakes existem e se sinta capaz de duvidar de conteúdos surpreendentes (em vez de acreditar ou compartilhar sem checar). O governo deve firmar parcerias com instituições de ensino e ONGs para incluir conscientização sobre deepfakes em currículos e campanhas de utilidade pública. Por exemplo, transmitir anúncios que mostrem lado a lado trechos reais versus deepfakes de um político e expliquem a diferença pode aumentar a conscientização. Evidências sugerem que indivíduos com maior alfabetização midiática e habilidades de pensamento crítico são muito mais aptos a detectar deepfakes e resistir à desinformação cetas.turing.ac.uk. Portanto, investir em iniciativas de alfabetização midiática é uma das defesas mais efetivas a longo prazo. Quando o público se torna uma rede ativa de sensores – identificando e denunciando fakes – o impacto da propaganda via deepfake pode ser grandemente reduzido.

Plataformas de Tecnologia e Desenvolvedores de IA

1. Fortalecer Políticas e Aplicação nas Plataformas: Plataformas de mídia social e online são os principais canais de distribuição de deepfakes virais. Essas empresas devem adotar políticas rígidas contra mídias manipuladas que enganem usuários, especialmente no contexto eleitoral. Muitas plataformas já começaram esse processo: por exemplo, Facebook e Twitter (X) têm políticas para remover ou rotular “mídia manipulada” que possa causar danos. Mas a aplicação precisa ser robusta. As plataformas devem aprimorar a detecção automática de deepfakes (usando as ferramentas mais atualizadas discutidas anteriormente) e garantir revisão rápida por moderadores humanos quando usuários denunciem conteúdos suspeitos. Em períodos eleitorais, as empresas podem estabelecer “war rooms” especiais e canais de colaboração com comissões eleitorais para lidar com possíveis incidentes de deepfake em tempo real. Quando uma falsificação é identificada, as plataformas devem rotulá-la como falsa ou removê-la prontamente, além de rebaixá-la nos algoritmos para limitar sua propagação brennancenter.org brennancenter.org. Transparência também é fundamental: as plataformas podem publicar relatórios regulares sobre os deepfakes detectados e as ações tomadas, o que constrói confiança pública. Elas também devem compartilhar exemplos de deepfakes detectados com pesquisadores para aprimorar o conhecimento coletivo.

2. Implementar Divulgação e Rastreamento de Deepfakes: Seguindo o exemplo da UE, plataformas ao redor do mundo deveriam exigir que conteúdos gerados por IA sejam rotulados e divulgados. Por exemplo, se um anúncio político for carregado contendo imagem ou voz gerada por IA, a plataforma poderia obrigar o responsável pelo upload a marcar uma caixa indicando “este conteúdo possui elementos sintéticos” – e então exibir um aviso aos espectadores (“Este vídeo foi alterado ou parcialmente gerado por IA”). Mesmo fora de anúncios formais, as plataformas podem usar ferramentas de detecção para marcar visualmente vídeos suspeitos de serem deepfakes (por exemplo, uma sobreposição avisando que a autenticidade do vídeo não foi verificada). Além disso, redes sociais e aplicativos de mensagens podem integrar recursos de autenticação de conteúdo: usando padrões como o C2PA, podem mostrar aos usuários um ícone caso a fonte e o histórico de edição de uma imagem sejam verificados, ou sinalizar caso esses dados estejam ausentes. Algumas empresas de tecnologia (Adobe, Microsoft, Twitter) já participam desses esforços. Ao incorporar sinais de procedência em suas interfaces, as plataformas ajudam os usuários a distinguir o real do falso. Elas também devem trabalhar em mecanismos de rastreamento – por exemplo: se um deepfake prejudicial estiver se espalhando, é possível rastrear quem originalmente fez o upload, mesmo que já tenha sido reenviado milhares de vezes? A cooperação com autoridades em incidentes graves (sempre respeitando as leis de privacidade) será importante para identificar os responsáveis.

3. Banir Usuários e Redes Maliciosas de Deepfakes: As plataformas precisam ser vigilantes contra atores organizados que deployam deepfakes de forma recorrente. Isso significa não apenas remover conteúdos individuais, mas também encerrar contas, páginas ou bots que realizem campanhas coordenadas de deepfakes. Se houver evidências de que uma operação está ligada a esforços patrocinados por Estados ou a conhecidos “troll farms”, as plataformas deveriam tornar isso público e eliminar sua presença. Muitas redes de desinformação foram removidas nos últimos anos; a mesma abordagem agressiva deve ser aplicada às operações de influência movidas por IA. As plataformas devem atualizar seus termos de serviço para proibir explicitamente a criação ou compartilhamento malicioso de mídias sintéticas com a intenção de enganar outros. Essas regras criam uma base para banir infratores. Na publicidade política, qualquer campanha ou comitê flagrado usando deepfakes enganosos deve sofrer penalidades como perda do direito de anunciar. Empresas de tecnologia também podem unir forças para manter uma lista negra compartilhada de “hashes” ou assinaturas de deepfakes conhecidos, para que, uma vez identificado em uma plataforma, o falso seja bloqueado nas demais (tal como já ocorre com hashes de conteúdo terrorista por meio de consórcios). Resumindo, torne não-recompensador tentar usar deepfakes em plataformas populares – ou o conteúdo será removido rapidamente, ou o autor perderá sua conta.

4. Colaborar com Checadores de Fatos e Autoridades: Nenhuma plataforma consegue policiar perfeitamente o conteúdo sozinha. Colaboração é fundamental. Empresas de redes sociais devem aprofundar parcerias com organizações independentes de checagem de fatos para avaliar conteúdos virais. Quando checadores desmentem um vídeo como falso, as plataformas precisam amplificar essa correção – por exemplo, anexando um link para o artigo de checagem toda vez que o vídeo for compartilhado, ou notificando todos que viram o conteúdo falso inicialmente. Empresas como o Facebook já fazem isso para desinformação e devem continuar para deepfakes. Além disso, as plataformas devem coordenar-se com comissões eleitorais e órgãos de segurança, especialmente durante períodos eleitorais. Podem criar linhas diretas ou canais exclusivos para que autoridades reportem deepfakes que impactam votações, e do mesmo modo, alertar governos caso vejam desinformação estrangeira direcionada ao país. Em algumas jurisdições, já existem acordos formais (por exemplo, o Código de Prática da UE incentiva o compartilhamento de informações com governos sobre ameaças de desinformação brennancenter.org). Mesmo nos EUA, a unidade de cibersegurança do Departamento de Segurança Interna trabalha com plataformas para monitorar desinformação eleitoral. Essas colaborações, é claro, devem respeitar a liberdade de expressão e não cruzar a linha da censura ao discurso legítimo. Mas no caso de material claramente fabricado e prejudicial, uma resposta rápida e coordenada entre plataformas e instituições públicas pode impedir que um falso se espalhe. Isso pode incluir comunicados de imprensa conjuntos desmentindo um deepfake viral ou algoritmos que promovam fontes autoritativas para combater a disseminação do falso.

5. Avançar nas Salvaguardas dos Modelos de IA: As empresas que desenvolvem modelos generativos de IA (OpenAI, Google, Meta etc.) têm responsabilidade desde a origem. Devem implementar salvaguardas para impedir o uso indevido de IA em interferência eleitoral. Isso pode incluir marca d’água nas saídas da IA, como já discutido (para que toda imagem gerada pelo DALL-E ou Midjourney, por exemplo, tenha uma assinatura embutida). Também pode envolver curadoria dos dados de treinamento – por exemplo, garantindo que os modelos sejam treinados para recusar pedidos de imitar indivíduos reais de forma prejudicial. Já existem ferramentas de IA que se recusam a gerar imagens deepfake de figuras políticas reais devido a filtros de conteúdo embutidos. Essas salvaguardas precisam ser continuamente aprimoradas (embora modelos de código aberto representem um desafio, pois podem ser ajustados por agentes mal-intencionados sem essas restrições). Desenvolvedores de IA também devem investir em pesquisa sobre técnicas de detecção de deepfakes e compartilhar esses avanços com a comunidade. É um sinal positivo que muitas empresas líderes de IA voluntariamente já assumiram compromissos de apoiar marca d’água e autenticação de conteúdo. No futuro, podem colaborar em uma API padrão para que qualquer arquivo de vídeo ou áudio seja rapidamente verificado quanto à geração por seus modelos. Em essência, quem cria o “problema” (a tecnologia generativa) também deve ajudar a criar a “solução” (meios de identificar os resultados).

6. Transparência na Publicidade Política: Plataformas que hospedam anúncios políticos devem impor transparência rigorosa quanto ao uso de IA. Se um anúncio de campanha promovido no Facebook ou Google contiver elementos gerados por IA, a biblioteca de anúncios da plataforma deve indicar isso de forma explícita. As plataformas podem até exigir que anunciantes políticos enviem o material bruto e não editado para comparação. De forma mais ambiciosa, as redes sociais poderiam considerar proibir temporariamente todos os anúncios políticos que contenham mídia sintética nos dias finais e sensíveis de uma campanha – como já fazem proibindo novos anúncios políticos pouco antes do dia da eleição. Isso eliminaria o risco de um surto de deepfakes na reta final. Ainda que a fiscalização seja difícil, o princípio é que a promoção paga de conteúdo enganoso é especialmente perigosa e as plataformas possuem mais poder para regulamentar publicidade do que posts comuns de usuários. Garantir alta transparência e remoções rápidas na esfera de anúncios é fundamental, já que um deepfake promovido por anúncios pagos pode alcançar milhões de pessoas via algoritmo, distorcendo injustamente o ambiente informativo.

Mídia e Organizações Jornalísticas

1. Protocolos Rigorosos de Verificação: Os meios de comunicação devem adaptar suas práticas de verificação à era dos deepfakes. Toda redação – de grandes emissoras nacionais a jornais locais e sites de checagem – deve estabelecer procedimentos formais para autenticar materiais audiovisuais antes de transmiti-los ou publicá-los. Isso inclui treinar jornalistas para usar ferramentas forenses (como checagem de metadados de vídeos, análise de imagens) e consultar especialistas quando necessário. Para qualquer clipe sensacionalista ou escandaloso que surgir durante uma eleição, os editores devem tratá-lo com ceticismo saudável e não se apressar em publicá-lo sem confirmação. As redações devem verificar a origem dupla de qualquer conteúdo gerado por usuário: por exemplo, se surgir um vídeo de um candidato fazendo algo chocante, o veículo deve procurar evidências corroborativas (testemunhas, declarações oficiais etc.) ou ao menos submeter a análise quadro a quadro para garantir que não seja um deepfake. O objetivo é não amplificar desinformação inadvertidamente. Interessantemente, algumas organizações de mídia já criaram equipes internas especializadas em deepfakes. Em um caso, jornalistas do Arizona chegaram a criar seu próprio deepfake (com permissão) para conscientizar o público sobre como é fácil manipular vídeos knightcolumbia.org – uma abordagem criativa para educar. Todas as redações deveriam cogitar ter um “especialista em deepfakes” de plantão (ou parceria com um laboratório de tecnologia) para análise rápida de conteúdo suspeito. Ao tornar a verificação tão rotineira quanto a checagem de fatos, a mídia pode pegar falsificações cedo – ou pelo menos alertar seu público caso algo ainda não tenha sido verificado.

2. Cobertura Responsável sobre Deepfakes: Ao noticiar casos de mídia sintética, jornalistas devem fazê-lo com cuidado e contexto. Se um deepfake contra um candidato viralizar, a notícia não são as alegações falsas em si, mas o fato de ser uma manipulação mentirosa. As reportagens devem evitar repetir em detalhes as informações falsas ou exibir o vídeo falso sem crítica, já que isso pode espalhar ainda mais a desinformação. Em vez disso, podem descrever o caso de modo geral e focar na resposta (por exemplo: “Um vídeo manipulado mostrando falsamente X fazendo Y foi divulgado online e já foi desmentido por especialistas”). Os veículos podem optar por desfocar ou não linkar diretamente ao conteúdo deepfake em seus artigos cetas.turing.ac.uk, para não impulsionar sua audiência nem facilitar o download e repostagem por usuários mal-intencionados. A abordagem da reportagem é crucial: enfatizar a tentativa de enganar e o fato do deepfake mais do que a narrativa falsa que ele contém cetas.turing.ac.uk. A mídia também deve destacar as correções e a verdade (por exemplo: “Não, o político Z não disse isso – o vídeo é uma fabricação por IA; aqui está o que ele realmente declarou sobre o tema.”). Ao agir assim de forma consistente, a mídia reputada pode ajudar a imunizar o público contra acreditar ou compartilhar falsificações. É um equilíbrio delicado entre cobrir a desinformação (pois ignorá-la não a faz sumir) e não amplificá-la por acidente. Diretrizes semelhantes às usadas para reportar boatos ou tiroteios em massa (em que certos detalhes são minimizados para evitar “copycats”) poderiam ser desenvolvidas para deepfakes. A Independent Press Standards Organisation do Reino Unido já vem sendo pressionada a atualizar seus códigos para tais situações cetas.turing.ac.uk.

3. Uso de tecnologia de autenticidade nas redações: As organizações de notícias podem aproveitar a emergente infraestrutura de autenticidade. Por exemplo, um veículo de mídia pode adotar as ferramentas da Content Authenticity Initiative para anexar credenciais criptográficas de conteúdo a todas as fotos e vídeos originais capturados por seus jornalistas. Isso significa que qualquer filmagem feita, por exemplo, por um cinegrafista da Reuters ou AP poderia trazer um selo seguro verificando sua origem e eventuais edições. Mais adiante, quando as pessoas vissem um vídeo com fonte da Reuters, poderiam checar se ele está inalterado. Essas medidas ajudam a afirmar o que é real, oferecendo ao público uma fonte de verdade. Os veículos de comunicação também devem colaborar na construção de bancos de dados de deepfakes conhecidos (e conteúdo autêntico) que possam ajudar checadores de fatos. Por exemplo, manter um repositório de discursos e entrevistas oficiais pode ajudar a desmentir rapidamente um clipe adulterado por comparação. As principais agências e serviços de notícias podem se coordenar para alertar rapidamente todos os seus assinantes se for detectado um deepfake perigoso – parecido com como emitem alertas de última hora. Internamente, editores também devem estar cientes de que operadores políticos podem tentar fornecer material falso aos jornalistas (por exemplo, uma dica anônima com um “áudio vazado” que, na verdade, é gerado por IA). Manter o ceticismo elevado para qualquer material digital de fonte anônima é prudente.

4. Educação do Público: A mídia pode desempenhar um papel importante na educação dos eleitores sobre mídias sintéticas. Veículos de comunicação e jornalistas devem produzir textos explicativos, entrevistas com especialistas e matérias que ajudem o público a entender como deepfakes são feitos e como identificá-los. Ao desmistificar a tecnologia, reduzem seu potencial nocivo. Alguns telejornais em 2024, por exemplo, demonstraram clones de voz de IA ao vivo para mostrar como um golpe pode imitar a voz de um familiar. Da mesma forma, a cobertura eleitoral pode incluir lembretes: “Se você vir um vídeo chocante sobre um candidato na reta final, desconfie – pode ser falso. Veja como verificar…”. Campanhas de conscientização conduzidas pela mídia (possivelmente em parceria com governo ou ONGs) poderiam melhorar significativamente a alfabetização digital. Jornalistas também devem usar linguagem precisa: chamar algo de “deepfake” ou “vídeo falso gerado por IA” em vez de apenas “vídeo adulterado” reforça a existência dessa nova categoria. Com o tempo, um público bem informado será menos propenso a cair em fraudes e mais exigente em relação a provas. Cabe à mídia, como interface entre informação e público, fomentar essa resiliência.

5. Responsabilização e Exposição: Por fim, os jornalistas devem investigar e expor quem está por trás de operações de deepfake de grande repercussão. Responsabilizar os autores na opinião pública pode desestimular futuros abusos. Se uma campanha rival, uma “fazenda de trolls” estrangeira ou um grupo online específico for identificado como fonte de um deepfake malicioso, reportar isso de forma destacada trará estigma e risco para tais táticas. Reportagens sobre a produção e o financiamento de campanhas de desinformação podem esvaziar sua eficácia. Além disso, se um político ou figura pública compartilha um deepfake sabendo ser falso (por exemplo, um candidato tuita um vídeo falso do adversário), a mídia deve denunciar isso com firmeza – tratando como conduta grave. A perspectiva de repercussão negativa e dano à reputação pode desestimular atores políticos de recorrerem a “truques sujos” como deepfakes. Em resumo, a função fiscalizadora do jornalismo se estende ao digital: investigue, atribua e exponha operações de mídia sintética maliciosa como faria com qualquer outro caso de fraude ou corrupção na política.

Sociedade Civil e Iniciativas dos Eleitores

1. Alfabetização digital e educação comunitária: Organizações da sociedade civil – incluindo ONGs, bibliotecas, universidades e movimentos de base – podem liderar o movimento para educar cidadãos a navegar pela era dos deepfakes. Devem ser oferecidos programas escaláveis para que comunidades aprendam a verificar mídias. Por exemplo, ONGs podem realizar oficinas que ensinem truques simples, como fazer buscas reversas de imagem (para ver se uma foto foi gerada por IA ou manipulada), checar notícias corroborativas e usar sites de checagem de fatos. Já existem excelentes kits e currículos elaborados por grupos de checagem de fatos (como First Draft e Media Literacy Now) sobre identificação de desinformação e deepfakes; esses recursos devem ser amplamente divulgados. Essa formação deve alcançar não só estudantes, mas também idosos, que muitas vezes são mais vulneráveis a golpes online. Campanhas nacionais de alfabetização digital podem ser lançadas, com financiamento público, mas executadas por organizações comunitárias para maior confiança. O objetivo é aumentar a “imunidade de rebanho” da sociedade: se uma massa crítica de pessoas consegue identificar um conteúdo falso ou ao menos suspender o julgamento até a verificação, os desinformadores perdem poder. Pesquisas revelam que o público deseja esse conhecimento – muitos se sentem ansiosos por não saberem distinguir o real do falso brennancenter.org brennancenter.org. A sociedade civil pode preencher essa lacuna, capacitando cidadãos por meio de educação e habilidades práticas.

2. Checagem de fatos e iniciativas de desmentido: Checadores de fatos independentes e entidades de vigilância da sociedade civil continuam fundamentais. Elas devem se preparar especialmente para períodos eleitorais com iniciativas como centros de checagem de deepfakes dedicados. Por exemplo, coalizões de checadores podem manter um painel público durante as eleições para acompanhar rumores e novas alegações de deepfake, oferecendo desmentidos rápidos. O News Literacy Project fez algo similar nas eleições dos EUA em 2024, registrando casos de desinformação e observando quantos realmente envolviam IA knightcolumbia.org knightcolumbia.org. Esse tipo de acompanhamento transparente ajuda o público e jornalistas a verem o quadro geral sem exagerar a ameaça, mas ainda assim lidando com os casos reais. Grupos da sociedade civil também podem disseminar desmentidos nas redes sociais – por exemplo, respondendo a postagens virais com informações precisas, utilizando notas de comunidade ou outros recursos. Deve-se ainda promover o “prebunking”: avisar o público com antecedência que um deepfake pode aparecer. Por exemplo, se indícios apontam que um candidato pode ser alvo de um falso escândalo, grupos cívicos (em coordenação com o setor eleitoral) podem alertar eleitores: “Desconfie se surgir um vídeo chocante de X, há chance de ser deepfake.” Estudos indicam que prebunking pode reduzir significativamente a credulidade e a disseminação de informações falsas cetas.turing.ac.uk cetas.turing.ac.uk. Assim, uma abordagem proativa da sociedade civil, antecipando e prevenindo campanhas de deepfake, pode trazer ótimos resultados.

3. Tecnologia cívica e detecção colaborativa: A comunidade cidadã experiente em tecnologia pode ser mobilizada para combater deepfakes. Já existem voluntários “caçadores de deepfakes” analisando mídias suspeitas online. A sociedade civil pode organizar esses esforços via plataformas – talvez um portal ou aplicativo dedicado onde pessoas enviam vídeos ou áudios duvidosos para análise, e uma rede de especialistas ou ferramentas de IA fornece relatórios de autenticidade. Essa inteligência colaborativa pode complementar os esforços oficiais. Além disso, grupos de tecnologia cívica podem desenvolver plugins de navegador ou aplicativos de celular que ajudem usuários a identificar conteúdo sintético. Por exemplo, um app pode permitir selecionar um vídeo na tela e obter uma análise instantânea de diferentes algoritmos de detecção (como antivírus para deepfakes). Embora não sejam infalíveis, levantam sinais de alerta. Projetos open-source para tais ferramentas devem ser apoiados com recursos. Outra ideia são canais de denúncia cidadã – assim como no dia da eleição há linhas para denúncias, poderia haver um canal para relatar desinformação ou deepfakes, abastecendo autoridades eleitorais ou checadores que possam responder. Ao envolver cidadãos como participantes ativos na identificação e sinalização de conteúdos duvidosos, a escala de monitoramento aumenta muito. Essa abordagem distribuída reconhece que, numa sociedade com milhões online, alguém frequentemente detectará algo cedo – o segredo é canalizar rapidamente essas observações para quem pode verificar e compartilhar a verdade.

4. Advocacy por responsabilidade das plataformas: A sociedade civil deve continuar pressionando plataformas tecnológicas e empresas de IA para que ajam com responsabilidade. Grupos de interesse público e think tanks têm sido essenciais para destacar os perigos dos deepfakes e cobrar reformas (como Access Now, EFF e outros, que já emitiram recomendações). Essa pressão precisa continuar – exigindo que as plataformas implementem as mudanças já indicadas (melhor rotulagem, retirada de conteúdo etc.) e que empresas de IA adotem ética no design. A campanha Public Citizen para rastrear legislação estadual sobre deepfakes e peticionar à FEC é um exemplo citizen.org citizen.org. Da mesma forma, coalizões podem cobrar transparência: exigindo que plataformas divulguem dados sobre a quantidade de conteúdo de IA ou a eficácia da detecção. A atuação da sociedade civil também é fundamental para garantir que novas leis ou regulamentos protejam direitos civis (por exemplo, resistindo a regras excessivas que possam reprimir a liberdade de expressão em nome do combate aos deepfakes). Encontrar esse equilíbrio requer consulta pública, e os grupos de advocacy cumprem esse papel cívico. Os próximos anos podem trazer novos marcos regulatórios para IA e conteúdo online – é fundamental que valores democráticos e princípios de direitos humanos prevaleçam, e a sociedade civil é central para essa função de vigilância.

5. Apoio às Vítimas e Alvos: Se um candidato ou indivíduo privado for difamado por um deepfake, a sociedade civil pode oferecer apoio. Organizações sem fins lucrativos podem fornecer assistência jurídica ou orientação sobre como remover deepfakes difamatórios e responsabilizar os autores. Podem existir linhas diretas para vítimas de deepfake pornográfico ou assassinato de reputação, conectando-as com as autoridades policiais e recursos de saúde mental. Para candidatos atingidos por campanhas difamatórias, organizações cívicas (como a liga das mulheres eleitoras ou grupos de integridade eleitoral) podem ajudar a amplificar sua negativa e a desmentir a informação para minimizar danos. Mobilizar-se rapidamente em defesa de quem foi falsamente alvo – garantindo que a verdade seja mais forte do que a mentira – é algo que grupos comunitários e de defesa podem coordenar, como já fazem ao combater a difamação ou discurso de ódio. Em um nível mais amplo, a sociedade civil pode facilitar compromissos multipartidários de que, se surgir qualquer deepfake, todos os lados irão condená-lo. Imagine um compromisso assinado por todos os principais partidos de um país, comprometendo-se a não usar deepfakes e a repudiar rapidamente quaisquer falsificações maliciosas que apareçam. Essas normas, promovidas por grupos como comitês eleitorais interpartidários ou ONGs de ética, reduziriam a probabilidade de uma “corrida ao fundo do poço”, em que partidos sentem que precisam responder na mesma moeda. Cria-se assim uma frente unida de que ataques à verdade não serão tolerados, independentemente de quem sejam os alvos.

Em conclusão, enfrentar o desafio dos deepfakes exige alavancar todas as defesas da sociedade – tecnológicas, jurídicas, institucionais e humanas. Cumprindo os passos acima, governos podem fortalecer o sistema eleitoral contra fraudes de IA, plataformas tecnológicas podem restringir a disseminação de conteúdo falso, a imprensa pode garantir que a verdade prevaleça nas reportagens, e os cidadãos podem se tornar guardiões atentos da realidade. Não há tempo a perder: à medida que a IA generativa avança, o ciclo eleitoral de 2025 testará a resiliência das democracias contra mentiras sintéticas. A boa notícia é que não estamos indefesos. Com preparação, transparência e colaboração, podemos ser mais espertos e organizados do que as campanhas de deepfake, preservando a integridade das nossas eleições. Como concluiu um relatório de pesquisa da CETaS sobre IA e eleições, “a complacência não pode contaminar as tomadas de decisão” – ao contrário, devemos aproveitar o momento atual para construir resiliência cetas.turing.ac.uk cetas.turing.ac.uk. Fazendo isso, mantemos o princípio de que enquanto a tecnologia evolui, nossos valores democráticos de verdade e confiança perdurarão.

Fontes

Stockwell, Sam et al. “AI-Enabled Influence Operations: Safeguarding Future Elections.” Relatório de Pesquisa CETaS (Alan Turing Institute), 13 Nov 2024. cetas.turing.ac.uk cetas.turing.ac.uk
Stockwell, Sam et al. Ibidem. (Relatório CETaS, 2024), Seção 2.1 sobre deepfakes nas eleições dos EUA. cetas.turing.ac.uk cetas.turing.ac.uk
Beaumont, Hilary. “‘Falta de confiança’: Como deepfakes e IA podem abalar as eleições nos EUA.” Al Jazeera, 19 Jun 2024. aljazeera.com aljazeera.com
Sze-Fung Lee. “O Canadá precisa de legislação sobre deepfakes urgentemente.” Policy Options, 18 Mar 2024. policyoptions.irpp.org policyoptions.irpp.org
Goldstein, Josh A. & Andrew Lohn. “Deepfakes, Eleições, e Reduzindo o Lucro do Mentiroso.” Brennan Center for Justice, 23 Jan 2024. brennancenter.org
“Mídia sintética.” Wikipedia (acessado em 2025). en.wikipedia.org en.wikipedia.org
“Deepfake.” Enciclopédia de TI da Kaspersky (2023). encyclopedia.kaspersky.com encyclopedia.kaspersky.com
Hamiel, Nathan. “Os deepfakes se mostraram uma ameaça diferente do esperado. Veja como se defender deles.” World Economic Forum, 10 Jan 2025. weforum.org weforum.org
“Regulando Deepfakes de IA e Mídia Sintética na Arena Política.” Brennan Center for Justice, 4 Out 2023. brennancenter.org brennancenter.org
Colman, Ben. “O Ato de IA da UE e a Urgência Crescente da Detecção de Deepfakes.” Blog Reality Defender, 11 Fev 2025. realitydefender.com realitydefender.com
“Rastreador: Legislação Estadual sobre Deepfakes em Eleições.” Public Citizen, 2025. citizen.org citizen.org
Partnership on AI. “Mídia Sintética e Deepfakes – Estudo de Caso: Eslováquia 2023.” (Referenciado na análise da Knight Columbia). brennancenter.org brennancenter.org
Kapoor, Sayash & Arvind Narayanan. “Analisamos 78 Deepfakes Eleitorais. Desinformação política não é um problema de IA.” Knight First Amendment Institute, 13 Dez 2024. knightcolumbia.org knightcolumbia.org
Relatório CETaS (2024), Recomendações de Política (foco no Reino Unido). cetas.turing.ac.uk cetas.turing.ac.uk
Relatório CETaS (2024), Recomendações sobre detecção e proveniência. cetas.turing.ac.uk cetas.turing.ac.uk
Public Safety Canada. “Protegendo Contra a Desinformação Habilitada por IA” (documento de 2023). policyoptions.irpp.org policyoptions.irpp.org
InnovationAus. “Proibição australiana de deepfakes eleitorais vai ‘ficar parada’ até 2026.” (Austrália) 2023. innovationaus.com
Referências adicionais: Artigos da Reuters, Wired e CNN citados nas fontes acima para incidentes específicos (ex: deepfake de Zelensky, fraude de US$ 25 milhões em Hong Kong via deepfake no Zoom weforum.org), e alertas ao consumidor da FTC sobre golpes com clonagem de voz weforum.org. Estes estão incorporados na análise e disponíveis nos links das fontes listadas.