Syntetiska medier och deepfakes: Skydda valcykeln 2025

Framsteg inom artificiell intelligens har möjliggjort skapandet av syntetisk media – innehåll som genereras eller manipuleras av AI – i en aldrig tidigare skådad skala. När demokratiska nationer närmar sig valcykeln 2025 höjer tjänstemän och experter varningens finger för AI-driven desinformation. I en nyligen genomförd undersökning uttryckte 85 % av amerikanerna oro över ”vilseledande video- och ljuddeepfakes” som kan påverka val brennancenter.org. Nyhetsrubriker varnar för att AI-genererade ”deepfakes” kan orsaka kaos i kampanjer och hos väljarnas förtroende brennancenter.org, vilket understryker vikten av att skydda valens integritet. Denna rapport undersöker vad syntetisk media och deepfakes är, hur de hotar demokratin och vad som kan göras – från tekniska lösningar till policyåtgärder – för att säkra valen 2025 och framåt.

Vad är syntetisk media och deepfakes?

Syntetisk media är ett brett begrepp för digitalt innehåll (bilder, video, ljud, text) som artificiellt produceras eller ändras med automatiserade metoder, särskilt AI-algoritmer en.wikipedia.org. Dagens generativa AI-system kan skapa realistiska, människoliknande resultat i alla medier – från levande foton av personer som aldrig funnits till klonade röster och AI-skrivna artiklar. Deepfakes är en särskild undergrupp av syntetisk media: mycket realistiska falska bilder, videor eller ljud skapade med AI (därav ”deep” learning + ”fake”) för att imitera verkliga personer encyclopedia.kaspersky.com. I praktiken kan en deepfake vara en video där en politikers ansikte övertygande klippts in på någon annans kropp, eller ett ljudklipp som imiterar en kandidats röst och får dem att säga ord de aldrig yttrat.

Hur skapas deepfakes? De flesta genereras genom avancerade deep learning-tekniker. Ett vanligt arbetssätt använder generativa adversariella nätverk (GANs) – två neurala nätverk som tränas mot varandra icct.nl. Ett nätverk (generatorn) fabricerar falsk media (t.ex. en bild av en persons ansikte) och det andra (diskriminatorn) försöker avgöra om det är äkta eller falskt. Genom tusentals iterationer lär sig generatorn att producera alltmer realistiskt innehåll tills diskriminatorn inte längre kan se skillnad icct.nl. Ursprungligen krävdes omfattande träningsdata och kraftfull hårdvara för att skapa en sömlös deepfake – till exempel tog ett experiment att deepfaka skådespelaren Tom Cruise två månader av träning på avancerade GPU:er icct.nl. Men verktygen har snabbt utvecklats. Sofistikerad deepfake-mjukvara är nu allmänt tillgänglig och snabbare, ibland kan den fungera i realtid (till exempel ändra en live videoström eller ett röstsamtal ”på språng”) encyclopedia.kaspersky.com. Förutom GANs används även andra AI-arkitekturer: transformer-modeller kan generera deepfake-text eller assistera vid röstackloning encyclopedia.kaspersky.com. Sammanfattningsvis har de senaste AI-genombrotten gjort det enkelt och billigt för nästan vem som helst att skapa vilseledande audiovisuellt innehåll – och därmed dramatiskt sänkt ribban för desinformationsoperationer.

Det är viktigt att notera att inte all syntetisk media är illasinnad. AI-genererat innehåll kan användas för godartade och kreativa syften – personliga avatarer, dubba en talares röst till andra språk, satir och underhållning osv. Faktum är att i globala val under 2024 var ungefär hälften av de dokumenterade användningarna av AI i politiskt innehåll icke-vilseledande (t.ex. en kandidat som öppet använder AI-röst på grund av röstbortfall, eller journalister som använder AI-avatar för att skydda sin identitet) knightcolumbia.org knightcolumbia.org. Men denna rapport fokuserar på de illvilliga sidorna av syntetisk media – deepfakes avsedda att vilseleda, lura eller manipulera väljare och den allmänna opinionen.

Risker för demokratiska processer

Syntetisk media och deepfakes utgör betydande risker för demokratin, särskilt under val då en informerad väljarkår och tilltro till information är avgörande. Några centrala hot är:

Desinformation och väljarmanipulation: AI-genererade fejkade videor, bilder eller ljud kan användas för att sprida falsk information om kandidater eller sakfrågor, och därmed vilseleda väljare. Till exempel kan en deepfake visa en kandidat göra grova påståenden de aldrig yttrat. Sådant fabricerat innehåll kan släppa loss giftiga lögner i den offentliga debatten. Experter varnar för att deepfakes ”utgör en stor risk” för väljare genom att föra in falskt innehåll i kampanjer och underminera allmänhetens förtroende aljazeera.com. En övertygande förfalskad video som släpps strax före valdagen – utan tid för faktagranskare att avslöja bluffen – kan till och med påverka osäkra väljare eller minska valdeltagandet, och därmed påverka själva utgången citizen.org. Hotet är inte bara teoretiskt: som beskrivs senare imiterade en deepfake-ljudinspelning 2024 USA:s president och uppmanade hans anhängare att inte rösta, tydligt med syftet att minska valdeltagandet aljazeera.com aljazeera.com.
Erosion av förtroende (”lögnarens utdelning”): Utöver enskilda falska inlägg kan själva existensen av deepfakes underminera allmänhetens förtroende för verklig information. Väljare kan börja tvivla på äkta bevis, osäkra på om en viral video är verklig eller AI-förfalskning. Än värre, illasinnade aktörer kan utnyttja detta tvivel: verkliga skandaler eller trovärdiga inspelningar kan avfärdas som ”bara en deepfake”, vilket gör det lättare för skyldiga att slippa ansvar. Forskare kallar detta ”lögnarens utdelning”, när ökad medvetenhet om deepfakes gör det enklare för lögnare att hävda att autentiska filmer är fejk brennancenter.org. Förhöjd allmän medvetenhet om AI:s kapacitet innebär att en politiker som avslöjas med faktisk oegentlighet oftare kan lura allmänheten genom att påstå att avslöjande ljud eller bild är ett AI-genererat falsarium brennancenter.org. Denna dynamik hotar det grundläggande förtroende som demokratisk diskussion kräver. Valövervakare noterade att vissa kandidater och deras anhängare under 2024 på förhand ropade ”AI-fake” för att avfärda besvärande historier brennancenter.org brennancenter.org. I det långa loppet, om medborgarna upplever att ”man inte kan lita på något man ser eller hör”, undermineras den gemensamma verklighet som krävs för fria och rättvisa val cetas.turing.ac.uk cetas.turing.ac.uk.
Förstärkning av polarisering och konflikt: Hittills visar evidens att deepfake-propaganda oftast stärker människors redan befintliga partiska uppfattningar snarare än att övertyga över linjerna cetas.turing.ac.uk. Illvilligt AI-innehåll anammar och sprider ofta av dem som redan har extrema åsikter, vilket förstärker ekokamrar. Under USA:s presidentvalskampanj 2024 fann forskare att AI-genererade lögner mest förstärkte partipolitiska narrativ och hettade upp debatten snarare än att övertyga nya väljare cetas.turing.ac.uk. Exempelvis fick falska videor riktade mot president Biden eller vicepresident Harris miljontals visningar online och spreds i stor utsträckning av redan fientligt inställda användare cetas.turing.ac.uk cetas.turing.ac.uk. Genom att konsolidera ideologiska läger med dramatiska fejkade ”bevis” för den andra sidans uselhet kan deepfakes driva grupper ännu längre isär och förgifta kampanjklimatet. Dessutom skapar förvirringen och misstron kring deepfakes en grogrund för att konspirationsteorier ska frodas cetas.turing.ac.uk, eftersom medborgare lättare kan avfärda varje obekväm verklighet som AI-fabrikering.
Underminering av valadministrationen: Risken handlar inte bara om att föra väljare bakom ljuset om kandidater – deepfakes skulle också kunna störa valprocessen i sig. Tjänstepersoner har skissat på scenarier där AI-klonade röster eller fejkinstruktioner utges för att vara från valmyndigheter och säger åt valpersonal att stänga vallokaler i förtid eller ge väljare falska besked (t.ex. ”valet har blivit uppskjutet”) aljazeera.com. En sofistikerad angripare kan simulera ett besked från en valkommission eller från en betrodd lokal tjänsteman för att sabotera röstningsförfarandet. Sådana taktiker kan minska valdeltagandet eller skapa kaos på valdagen. US Brennan Center konstaterar att manipulerad media kan användas för att vilseleda inte bara allmänheten utan även personal och funktionärer vid valet, vilket kräver ny utbildning och rutiner som motåtgärd aljazeera.com.
Trakasserier och karaktärsmord: Deepfakes är också ett kraftfullt vapen för personliga attacker mot kandidater, aktivister eller journalister. En särskilt ondskefull kategori är ickesamtyckande syntetisk pornografi – att använda en persons ansikte på explicit sexuellt innehåll. Denna taktik har redan använts för att trakassera kvinnliga journalister och politiker världen över. Den allra allvarligaste formen av deepfake-trakasserier är fejkade sexuella bilder som används för att förnedra eller utpressa individer weforum.org. I en valkontext kan motståndare sprida ett påhittat komprometterande klipp om en kandidat (till exempel en deepfake-sexfilm eller en förfalskning där kandidaten begår brott) strax före röstning. Även om bluffen snabbt avslöjas kan kandidaten få sin trovärdighet förstörd. Kvinnor och minoriteter utsätts oproportionerligt ofta för dessa ”syntetiska smutskastningskampanjer”, vilket kan avskräcka mångfald från att delta i politiken policyoptions.irpp.org policyoptions.irpp.org. Sammanfattningsvis ger deepfakes ny kraft åt gamla smutskastningsmetoder – från fejkskandaler till påhittade citat – och förstärker karaktärsmord i valkampanjer.

Slutligen måste påpekas att vi hittills inte bevittnat någon valkatastrof orsakad av deepfakes. Empiriska analyser av val 2024 runt om i världen fann lite bevis på att AI-genererad desinformation ändrat något valresultat cetas.turing.ac.uk weforum.org. Traditionell desinformation (billigt redigerade ”cheapfakes”, rykten, partisk vinkling) var fortsatt en betydligt större spridare av osanningar än högteknologiska deepfakes knightcolumbia.org knightcolumbia.org. Men experter varnar för att avsaknaden av katastrof hittills innebär inte att vi kan slappna av cetas.turing.ac.uk weforum.org. Tekniken utvecklas snabbt, och illasinnade aktörer lär sig. Även om deepfakes inte vände ett större val 2024 så påverkade de ändå samtalet – till exempel blev virala AI-genererade lögner om kandidater samtalsämnen i breda debatter cetas.turing.ac.uk. Dessutom bidrog det upplevda deepfake-hotet i sig till ökad oro och misstro kring valet cetas.turing.ac.uk cetas.turing.ac.uk. Risken för en allvarligare incident kvarstår, särskilt när vi närmar oss 2025 års högriskval. Demokratiska samhällen måste därför hantera deepfakes som en allvarlig säkerhets- och förtroendefråga, och agera både mot det direkta hotet från fabricerad media och den vidare urholkningen av sanningen i valprocessen.

Senaste incidenterna: Deepfakes som stör politiken

Riktiga fall från de senaste åren visar hur syntetisk media redan har använts som vapen i politiska sammanhang. Nedan går vi igenom flera anmärkningsvärda incidenter och fallstudier av deepfakes och AI-genererad desinformation som påverkat val eller det offentliga samtalet:

Ukraina (mars 2022) – “Kapitulations”-video: Under de första dagarna av Rysslands krig mot Ukraina dök en video upp som till synes visade Ukrainas president Volodymyr Zelensky uppmana sina trupper att lägga ner vapnen och kapitulera. Videon var en deepfake, där Zelenskyjs bild och röst syntetiskt hade manipulerats icct.nl. Avslöjande fel (suddiga kanter, obalanserad hudton på halsen) röjde bluffen, och ukrainska medier avslöjade snabbt bedrägeriet. Denna incident – det första kända användandet av en deepfake i en väpnad konflikt – antydde hur AI-propaganda skulle kunna användas för att undergräva ledare under kriser icct.nl. Även om den falska Zelenskyj-videon inte lyckades demoralisera Ukrainas motstånd, visade den på avsikt och förmåga hos illvilliga aktörer (i detta fall misstänkta ryska operatörer) att använda deepfakes för informationskrigföring.
Slovakien (september 2023) – Valdesinformation: Bara dagar före Slovakiens parlamentsval gick deepfake-ljudinspelningar viralt och utgav sig för att vara Michal Šimečka, ledare för partiet Progressiva Slovakien, som erkände valfusk och till och med föreslog att dubbla priset på öl brennancenter.org. Vissa versioner hade en svag disclaimer om att de var AI-genererade, men den kom först i slutet av klippet – sannolikt för att lura lyssnarna brennancenter.org. Tidpunkten var uppenbart strategisk, strax före omröstningen. Šimečkas västvänliga parti förlorade knappt mot en pro-Kreml-utmanare, och vissa kommentatorer spekulerade i att den sista-minuten-deepfake-kampanjen kan ha påverkat resultatet brennancenter.org. Detta fall understryker hur utländska eller inhemska aktörer kan använda deepfakes för att påverka tajta val, och hur svårt det är att bekämpa falska narrativ under de sista kampanjdagarna.
Taiwan (januari 2024) – Utländska påverkansoperationer: Inför Taiwans presidentval 2024 dokumenterade observatörer en kinesisk desinformationskampanj med hjälp av deepfakes för att underminera kandidaten Lai Ching-te. Falska videor spreds online som visade att Lai (från det styrande, självständighetsvänliga partiet) gjorde uttalanden han aldrig gjort – till exempel fick det felaktigt att framstå som att han stödde motståndarnas plattform policyoptions.irpp.org. I ett fall släpptes AI-genererat ljud av Lai där han tycks kritisera sitt eget parti policyoptions.irpp.org, i syfte att splittra hans stöd. Dessa attacker med syntetisk media, som spårades till Kina, syftade till att påverka opinionen och skapa förvirring i Taiwans demokrati policyoptions.irpp.org. Lai vann till slut valet och analytiker konstaterade att den kinesiska deepfake-kampanjen inte nämnvärt ändrade utgången policyoptions.irpp.org. Dock gav det ett skolexempel på hur en fientlig utländsk makt använder AI-propaganda mot ett demokratiskt val policyoptions.irpp.org policyoptions.irpp.org. Det finns fortsatt oro för att sådana metoder skulle kunna få större genomslag i hårdare val på andra håll.
USA (2024) – Deepfakes i valkampanjen: Valrörelsen i USA 2024 såg en explosion av AI-genererat politiskt innehåll som, även om det inte välte valet, väckte stor oro. I början av 2024 fick väljare i New Hampshire ett förbryllande robosamtal: en röst liknande president Joe Biden uppmande Demokraterna “att spara sin röst och inte använda den i detta val.” Rösten lät autentisk för vissa, men budskapet var uppenbart misstänkt – Biden skulle aldrig uppmana sina anhängare att inte rösta. I själva verket var det en deepfake-röstklon av Biden, skickad till tusentals väljare i vad som verkar vara ett försök till väljarsuppression aljazeera.com aljazeera.com. Händelsen, som nådde uppskattningsvis 5 000 telefonnummer i New Hampshire, visade hur billigt och enkelt sådana smutsiga knep kan genomföras – konsulten som skapade Biden-deepfaken sade att det endast tog 20 minuter och cirka 1 dollar i beräkningskostnad policyoptions.irpp.org policyoptions.irpp.org. Under tiden dök AI-genererade bilder upp i officiella kampanjmaterial i sociala medier. Bland annat släppte Floridas guvernör Ron DeSantis stab en attackvideo med manipulerade bilder av Donald Trump som kramar Dr. Anthony Fauci – budskapet var att Trump var för vänlig mot den tidigare covid-rådgivaren som är impopulär till höger. Det visade sig att bilderna där Trump kramade Fauci var AI-genererade fejkbilder inlagda i videon av kampanjen brennancenter.org, vilket ledde till offentlig kritik när detta upptäcktes. I ett annat fall spreds en AI-skapad video av president Biden som “talade till nationen” med sluddrigt tal på nätet, men blev snabbt motbevisad. Vissa falska videor av Biden och vicepresident Harris samlade miljontals visningar på sociala medier cetas.turing.ac.uk, vilket visar hur snabbt sådant innehåll kan spridas. Till och med teknikmoguler engagerade sig: Elon Musk delade ökända gången en grovt manipulerad video av VP Harris (märkt som “satir”) där hon påstod sig prata nonsens – och suddade ut gränsen mellan meme-humor och desinformation cetas.turing.ac.uk cetas.turing.ac.uk. Medan ingen av dessa deepfakes ändrade själva valutgången, förstärkte de falska narrativ (t.ex. om Bidens mentala förmåga eller Trumps lojaliteter) och förgiftade informationsmiljön ytterligare. Amerikanska tjänstemän oroar sig dessutom för deepfakes riktade mot valinfrastrukturen – t.ex. fejkade ljud av valadministratörer som instruerar personal att göra felaktiga saker aljazeera.com – även om ingen större incident av det slaget blev offentligt bekräftad under 2024.

Dessa exempel illustrerar hotets globala räckvidd. Deepfakes har använts av statliga aktörer i geopolitiska konflikter, av provokatörer i inhemska val från Europa till Asien, och av kampanjer och supportrar i USA. De har tagit form av fejkade tal, bilder, telefonsamtal och videor – riktade både mot väljare och valadministratörer. Incidenterna hittills ger också några lärdomar: många deepfakes har upptäckts och avslöjats relativt snabbt (ofta av vaksamma journalister eller faktagranskare), och i flera fall genererade motreaktionen mot deepfakes (t.ex. DeSantis-reklamen) negativ publicitet för de skyldiga. Detta antyder att transparens och vaksamhet kan mildra skadan. Men trenden är tydlig – dessa syntetiska osanningar blir allt vanligare och svårare att omedelbart skilja från verkligheten. Varje val kommer med nya “första gånger” (2024 såg de första AI-”robosamtalen” för att påverka röstandet, de första deepfake-kampanjannonserna, osv.), och risken för en mer skadlig deepfake-incident ökar inför 2025.

Upptäcka och Motverka Deepfakes: Verktyg och Teknologier

En avgörande komponent för att skydda val är att utveckla tillförlitliga verktyg för upptäckt och begränsning mot deepfakes. Forskare, teknikföretag och regeringar tävlar om att skapa teknologier som kan upptäcka AI-förfalskningar och autentisera äkta innehåll. Här ger vi en översikt över det nuvarande landskapet för deepfake-detektion och relaterade motåtgärder:

Automatiserade Deepfake-detektorer: En primär försvarslinje är AI mot AI – algoritmer tränade att analysera media och identifiera tecken på manipulation. Dessa upptäcktsystem letar efter subtila artefakter eller inkonsekvenser som generativ AI lämnar efter sig. Tidiga deepfakes hade till exempel ofta oregelbundna blinkningar eller imperfekt läppsynk. Dagens detektorer använder djupa neurala nätverk för att granska sådant som ljussättning och skuggor i ansikten, ljudfrekvensmönster eller biologiska signaler (t.ex. puls i video) som AI kan misslyckas med att efterlikna. Teknikjättar har byggt interna verktyg – Microsoft lanserade t.ex. “Video Authenticator” 2020 som kunde flagga falska videor genom ram-analys. Plattformar som Facebook och X (Twitter) har investerat i detektionsforskning och använder vissa filter för att fånga känd fejkat media. Akademiska initiativ och tävlingar (såsom Facebook Deepfake Detection Challenge och IEEE-konferenser) har påskyndat utvecklingen, och startups som Sensity och Reality Defender erbjuder kommersiella deepfake-detektionstjänster. Dock är detta i högsta grad en kapprustning: i takt med att upptäckten förbättras anpassar sig deepfake-skapare för att producera mer sömlösa förfalskningar som undviker automatiska granskningar. En rapport från Meta år 2023 visade att av all desinformation som flaggades under valcykeln 2024, så var “mindre än 1 %” identifierad som AI-genererat innehåll weforum.org, vilket tyder på att antingen var deepfakes relativt sällsynta eller att många slank igenom utan att upptäckas.
Vattenmärkning och Innehållsursprung: En annan strategi är att tagga AI-genererat innehåll vid dess skapelse så att mottagare lätt kan se att det är syntetiskt. EU driver starkt på för detta – den nya EU AI Act kräver uttryckligen att allt AI-genererat eller AI-manipulerat innehåll ska tydligt märkas eller vattenmärkas realitydefender.com. Företag skulle behöva bädda in en indikator (digitalt vattenmärke eller metadata) när en bild, video eller ljud produceras av AI. I teorin skulle webbläsare eller sociala medier då automatiskt kunna flagga eller filtrera sådant innehåll. Vattenmärkning är lovande, särskilt för att avskräcka tillfällig missbruk. Stora AI-modellleverantörer (som OpenAI, Google m.fl.) har diskuterat frivillig vattenmärkning av innehåll de skapar. Dessutom utvecklar en allians av medie- och teknikorganisationer ursprungsstandarder (exempelvis C2PA, Coalition for Content Provenance and Authenticity) för att kryptografiskt lagra ursprung och redigeringshistorik av digitalt innehåll. T.ex. kan ett nyhetsfoto eller en kampanjannons bära ett säkert autenticitetscertifikat, så att vem som helst kan kontrollera vem som skapat det och att det inte manipulerats cetas.turing.ac.uk. USA:s regering anammar detta; Vita Huset gav federala myndigheter i uppdrag att ta fram riktlinjer för “autenticitet genom design”, där ursprungsmetadata bäddas in i allt digitalt innehåll de producerar till 2025 cetas.turing.ac.uk. Om sådana åtgärder får brett genomslag blir det mycket svårare för falskt innehåll att utge sig för att vara äkta.
Begränsningar med Märkning: Även om transparensverktyg är avgörande är de inte idiotsäkra. Vattenmärken kan avlägsnas eller förändras av beslutsamma angripare. Forskare har redan visat metoder för att ta bort eller dölja AI-vattenmärken realitydefender.com, och en illvillig aktör som bygger egen generativ modell kan bara välja att inte inkludera några märken alls. Proveniensmetadata hjälper bara om det implementeras brett och om konsumenter faktiskt kontrollerar det. En deepfake-skapare kan också använda ”proveniensbluff” – ta ett äkta foto eller video och lägga på fejkade element, så att slutprodukten fortfarande har originalets digitala signatur. Dessa utmaningar innebär att vi inte kan förlita oss enbart på innehållsmärkning. Som ett AI-säkerhetsföretag påpekade fungerar vattenmärkning och ursprungslösningar bara när innehållsskapare samarbetar i märkningen av sitt innehåll – vilket inte stoppar dedikerade illvilliga aktörer realitydefender.com. Därför förblir inference-baserad detektion (analys av själva innehållet för AI-manipulation) nödvändig realitydefender.com. Det starkaste försvaret blir troligen en kombination: robusta automatiska detektorer för fakes och autentiseringssystem för att verifiera äkta media.
Realtidsdetektion av Video-/Ljudströmmar: Ett framväxande behov är verktyg som kan fånga deepfakes i direktsända situationer. Tänk dig ett hypotetiskt scenario med ett bluffat “live”-videosamtal med en kandidat eller tjänsteman – vilket inträffade 2023 då brottslingar i Hongkong deepfake’ade en företagsledares utseende i Zoom för att godkänna en bedräglig överföring av $25 miljoner weforum.org. I det fallet var flera på samtalet – inklusive en CFO-bedragare – helt AI-genererade. Att upptäcka sådana realtidsdeepfakes är extremt svårt. Företag arbetar på lösningar såsom tillägg till videosamtal som kan varna användaren om en bild eller röst verkar syntetiskt förändrad (genom att analysera ljudfördröjning, spektralanomalier, eller kontrollera om ett ansikte på skärmen exakt matchar en riktig persons rörelser fångade av kameran). Vissa startups påstår sig erbjuda realtids-API:er för deepfake-detektion som kan integreras i streamingplattformar eller till och med autentisera talare vid liveevenemang. För närvarande släpar dock realtidsdetektion ofta efter angriparna, och fokus ligger mer på förebyggande åtgärder (såsom att använda lösenord eller delade “kodord” i telefonsamtal för att verifiera identiteter, vilket polisen rekommenderar weforum.org).
Mänsklig Faktakoll och Användarflaggning: Tekniken ensam är ingen universallösning. Ett vaksamt mänskligt lager är fortfarande avgörande. Mediehus, faktagranskningsgrupper och plattformar har etablerat särskilda team för att övervaka virala deepfakes under valperioder. Dessa team använder OSINT (öppen underrättelse) och forensiska verktyg för att analysera misstänkt media – t.ex. kontrollera tidsstämplar, leta efter orimligheter (som omaka örhängen på en politiker i video, eller konstiga munrörelser) och snabbt publicera avlivningar. Även crowdsourcing hjälper: på X/Twitter har funktionen “Community Notes” använts för att flagga inlägg med AI-genererade bilder eller video med förklarande sammanhang. Under senaste val avslöjade ofta användarna deepfakes inom timmar efter deras uppkomst, genom att posta jämförelser eller påpeka brister. Denna kollektiva vaksamhet, hjälpt av digital kompetens, är ett kraftfullt verktyg. Plattformar blir allt mer beroende av användare och oberoende faktagranskare för att identifiera tvivelaktigt innehåll, givet den enorma mängd som automatiska filter måste scanna. Nackdelen är att en deepfake kan bli viral innan den motbevisas. Förbättrad responshastighet och bredare medvetenhet (så fler kan känna igen en fejk själva) dämpar dock skadan.

Sammanfattningsvis är deepfake-detektion ett aktivt och snabbt utvecklande område. Framsteg görs – t.ex. är detektorer idag mycket bättre än 2018, och initiativ som Content Authenticity Initiative siktar på att göra verifiering till standard. Men utmaningar kvarstår p.g.a. katt-och-råtta-leken med angripare och behovet av bred implementering av verktyg. De kommande åren lär vi se detekteringsteknik som integreras allt mer i sociala medier, nyhetsflöden och till och med i enheter (tänk dig att din mobil varnar om en inkommande video kan vara AI-genererad). Avgörande är att detektions- och ursprungsverktyg kombineras med folkbildning – så att när en varning eller etikett väl syns, förstår användaren vad det innebär och agerar därefter. Denna tekniska del är bara en del i en större strategi för att motverka syntetiska mediathot.

Politiska Svar och Regulatoriska Ramverk

Policymakare runt om i världen har fått upp ögonen för deepfake-hotet och börjat utforma lagar och regler för att möta det. Även om frågan är ny håller ett lapptäcke av lösningar på att växa fram i stora demokratier. Nedan följer en översikt över lagstiftnings- och regleringsinsatser på gång:

USA: I USA finns det i dagsläget ingen omfattande federal lag mot politiska deepfakes, men trycket ökar för att täppa till det glappet. Flera lagförslag har lagts fram i kongressen i syfte att begränsa skadliga deepfakes. I början av 2024 föreslog lagstiftare t.ex. No AI FRAUD Act som respons på profilerade incidenter (som AI-genererade explicita bilder av kändisar) policyoptions.irpp.org. Lagen syftar till att införa ett federalt ramverk som kriminaliserar vissa skadliga AI-användningar, däribland bedrägliga politiska deepfakes och vilseledande pornografiska fejk policyoptions.irpp.org. Ett annat lagförslag är att kräva att AI-genererat innehåll i valannonser måste märkas (så att kampanjer tydligt anger om en annons innehåller syntetiskt media). Under tiden har Federal Communications Commission (FCC) tagit ett riktat steg genom att förbjuda användningen av AI-röstkloner i “robocalls” som syftar till att bedra eller skada policyoptions.irpp.org. Detta orsakades av bedrägerier där bedragare imiterade riktiga personers röster. FCC:s åtgärd gör det olagligt att använda syntetiska röstmeddelanden för att vilseleda mottagare. Mycket deepfake-reglering i USA sker på delstatsnivå. Sedan 2019 har delstater som Kalifornien, Texas m.fl. infört lagar mot deepfakes i val. Kalifornien förbjuder distribution av materiellt vilseledande deepfake-videor om kandidater inom 60 dagar före ett val (med undantag för satir/parodi) brennancenter.org. Texas har gjort det till ett statsbrott att skapa eller sprida deepfake-videor med syftet att skada en kandidat eller påverka väljare brennancenter.org. Från och med mitten av 2025 har minst fjorton amerikanska delstater infört eller debatterar lagstiftning om deepfakes i val citizen.org. Noterbart är att dessa initiativ får stöd från båda politiska läger – lagstiftare i båda partier är överens om att AI-manipulerad valdesinformation är ett hot mot demokratin citizen.org citizen.org. Delstatslagarna varierar i angreppssätt: vissa inför straffansvar för att publicera skadliga deepfakes om kandidater, andra fokuserar på varningsetiketter på syntetiskt kampanjmedia. Dessutom har påverkansgruppen Public Citizen uppmanat Federal Election Commission (FEC) att uppdatera sina regler så att FEC kan förbjuda federala kandidater att sprida bedrägliga deepfakes i kampanjer brennancenter.org. FEC har ännu inte infört några nya föreskrifter, men frågan är tydligt på dagordningen. Amerikanska politiker måste också balansera yttrandefriheten – för breda förbud mot manipulerat media kan kollidera med grundlagen (“First Amendment”). T.ex. involverar skyddad politisk satir och parodi ofta redigerade bilder eller videor; lagarna måste riktas så att de endast träffar illvilligt bedrägeri. Det avspeglas i många delstatslagar som uttryckligen undantar parodi, satir eller journalistiskt bruk brennancenter.org brennancenter.org. Konsensus är dock att falskt AI-innehåll som avser vilseleda väljare eller skapa oreda inte har någon legitim plats i en demokrati och kan begränsas utan att inskränka yttrandefrihet brennancenter.org brennancenter.org.
Europeiska Unionen: EU går fram starkt med bred reglering av AI, inklusive åtgärder direkt applicerbara på deepfakes. Den banbrytande EU AI Act, som klubbades igenom 2024 (och börjar gälla fullt ut 2026), inkluderar ett transparenskrav för syntetiskt media. Enligt AI Act måste alla AI-system som kan producera ”deepfake”-innehåll märkning som visar att innehållet är AI-genererat (om det inte används inom vissa undantagna områden såsom konst eller säkerhetsforskning) realitydefender.com. I praktiken innebär detta att utvecklare av generativa bild- eller videomodeller i EU måste bygga in vattenmärkning eller metadata som signalerar att det är syntetiskt. Underlåtenhet kan leda till kännbara böter. Dessutom kräver EU:s uppdaterade uppförandekod om desinformation (en frivillig kod som stora plattformar tecknat) särskilt att deepfakes bekämpas och att plattformar ska utveckla “policyer, åtgärder och verktyg för att hantera manipulerat innehåll” brennancenter.org brennancenter.org. Exempel: plattformarna har gått med på att implementera system för att upptäcka och antingen märka eller ta bort deepfake-videor som kan orsaka skada, och samarbeta med faktagranskare för att snabbt avliva falskt AI-innehåll. Under den Digital Services Act (DSA) – som trädde i kraft 2023 – måste stora plattformar i EU bedöma och minska ”systemiska risker” på sina tjänster, inklusive spridningen av AI-baserad desinformation. Denna regulatoriska press har lett till att företag som Meta, Google och TikTok annonserat nya skydd för valperioden 2024–2025: från bättre deepfake-detektion till synligare märkning av syntetiskt media. Kort sagt, Europa har valt en transparensfokuserad regleringslinje: kräva märkning och hålla plattformar ansvariga för att hejda deepfake-driven desinformation. Kritiker noterar att genomdrivandet blir svårt (hur fångas alla omärkta fakes i floden av onlineinnehåll?), men EU markerar att okontrollerade deepfakes är oacceptabla och oförenliga med dess digitala principer realitydefender.com realitydefender.com.
Storbritannien: Storbritannien har än så länge inte antagit deepfake-specifika vallagar, men adresserar frågan genom bredare online-säkerhets- och AI-initiativ. År 2023 antogs Online Safety Act, en omfattande lag om skadligt internetinnehåll. Den lagen kriminaliserade delning av icke-samtyckt deepfake-porr – det blev olagligt att skapa eller sprida explicita syntetiska bilder på någon utan medgivande policyoptions.irpp.org. Det hanterade trakasseribiten av deepfakes. För valdesinformation ger Online Safety Act Ofcom (kommunikationsmyndigheten) möjlighet att utfärda riktlinjer mot desinformation. Experter uppmanar Ofcom att ta fram en uppförandekod för desinformation där även AI-manipulerat innehåll ingår cetas.turing.ac.uk. En sådan kod, kanske inspirerad av EU:s modell, kan trycka på att sociala medier och politiska aktörer avstår från deepfakes och tydligt märker syntetiskt innehåll. Det finns också krav på att brittiska valmyndigheten ska ta fram riktlinjer kring ansvarsfull AI-användning i politik, med gränsdragningar mot vilseledande deepfakes i kampanjer cetas.turing.ac.uk. I slutet av 2024 rekommenderade ett tvärpolitiskt parlamentariskt utskott att skärpa lagarna mot deepfake-desinformation, men formella lagförslag har ännu inte lagts fram. Regeringen har sagt att den utreder om befintliga lagar (t.ex. om förtal, bedrägeri och valöverträdelser) räcker för att åtala deepfake-missbruk eller om nya behövs cetas.turing.ac.uk. Dessutom lanserar Storbritannien ett AI Safety Institute och arrangerade ett globalt AI-säkerhetstoppmöte 2023 där informationsmanipulation var på agendan. Brittiska myndigheter fokuserar på att stärka tekniskt försvar och mediekompetens (behandlas nedan i rekommendationer) lika mycket som på juridiska förbud. Men åtgärder som att förbjuda deepfake-porr och ge tillsynsmyndigheter makt visar att man inser att AI-baserat falskt innehåll måste mötas med policy.
Kanada: Från och med 2024 hade Kanada ingen specifik lag mot deepfakes i val. Canada Elections Act förbjuder inte uttryckligen AI-genererad desinformation eller deepfakes, vilket betyder att det i så fall måste åtalsansvaras enligt allmänna regler (exempelvis lagar mot bedrägeri eller utklädnad) som kan vara otillräckliga cef-cce.ca. Denna regulatoriska lucka har uppmärksammats av experter som varnar för att Kanada ligger “ett par steg efter” andra demokratier policyoptions.irpp.org. Hösten 2023 drabbades Kanada av ett mindre deepfake-relaterat fall när ett fejkat ljudklipp cirkulerade och lät som en politiker. Det fick dock liten effekt men ökade medvetenheten. Elections Canada (valmyndigheten) har därefter flaggat AI-desinformation som ett nytt hot och utreder nu möjliga motåtgärder cef-cce.ca. Policyanalytiker efterlyser ny lagstiftning “i går” – kanske med ökade befogenheter för valmyndigheten att slå ner på vilseledande syntetiskt mediainnehåll policyoptions.irpp.org. Kanada kan inspireras av allierade: t.ex. införa märkningskrav för AI-baserade valannonser eller göra det brottsligt att sprida material som man vet är deepfake ämnat att vilseleda väljare. I mitten av 2025 hade inget lagförslag lagts, men trycket ökar för att Kanada ska hamna i samma liga som andra demokratier när det gäller deepfake-lagstiftning policyoptions.irpp.org.
Andra demokratier: Runt om i världen vidtar flera demokratier åtgärder:
- Australien: Den australiska regeringen, bekymrad över AI:s “sanningsförfall” inför kommande val, annonserade planer på “sanningslagstiftning för politisk reklam” som skulle förbjuda vilseledande deepfake-videor och ljud i valkampanjer innovationaus.com. Förslaget, som presenterades av Albanese-regeringen 2023, skulle förbjuda publicering av syntetiskt media som imiterar riktiga kandidater eller kan vilseleda väljare under valperioder innovationaus.com. Lagstiftningsprocessen går dock långsamt – rapporter anger att dessa regler kanske inte träder i kraft förrän 2026 innovationaus.com, vilket innebär att valet 2025 eventuellt sker innan reglerna är på plats. Under tiden har Australiens valkommission utfärdat riktlinjer och betonat behovet av perspektiv (kommissionen påpekar att övertro på deepfakes kan skada förtroendet även för verklig information) ia.acs.org.au. Australiensiska politiker från olika partier stöder åtgärder mot AI-desinformation, och debatten om balansen mot yttrandefrihet fortsätter theguardian.com sbs.com.au.
- Taiwan: Efter att ha utsatts för deepfake-störningar från Kina uppdaterade Taiwan sina vallagar. År 2023 ändrade Taiwans parlament vallagen för att uttryckligen förbjuda spridning av manipulerat ljud eller video av kandidater i syfte att vilseleda omröstningen policyoptions.irpp.org. Detta gav en tydlig juridisk verktygslåda för att lagföra anstiftare av de slags deepfake-smutskastningar som sågs 2024. Taiwan har också satsat på folkbildning och ett snabbrespons-system (mellan myndigheter, civilsamhälle och teknikplattformar) för att avliva falsk information, vilket mildrat effekten policyoptions.irpp.org policyoptions.irpp.org.
- Europeiska demokratier: Enskilda europeiska länder har även utanför EU-regler börjat använda befintliga lagar. I Frankrike kan lagen mot “falsk information” under val (från 2018) tillämpas på deepfake-videor ämnade att påverka röster. Tysklands strikta förtals- och vallagar kan ha liknande effekt. Vi ser även förslag på nya åtgärder, såsom diskussioner i Tyskland om krav på politiska partier att deklarera användning av syntetiskt media i kampanjmaterial. I Storbritannien, som nämnts, kan framtida lagtillägg inkludera imprint-krav för digitala annonser inklusive AI-avslöjanden cetas.turing.ac.uk.
- Internationella initiativ: Det finns en växande insikt om att globalt samarbete krävs, då desinformation lätt korsar gränser. G7 har en arbetsgrupp för “AI Governance” som 2024 gav ut ett uttalande om att motverka illvillig AI-användning i informationssfären. Bidens administration i USA har säkrat frivilliga åtaganden från stora AI-utvecklare (OpenAI, Google, Meta m.fl.) om vattenmärkning av AI-innehåll och investeringar i missbruksförebyggande. Även om det inte är bindande visar det att en internationell norm håller på att växa fram för transparens och ansvar i AI-användning.

Sammanfattningsvis ökar nu takten i politiska svar på deepfakes. Lagarna hänger fortfarande efter teknologin, men riktningen är tydlig: länder går mot att kriminalisera de mest skadliga formerna av syntetiskt valmedia, kräva transparens (märkning/avslöjanden) för AI-genererat innehåll och ge tillsynsmyndigheter eller valmyndigheter makt att agera mot digitala förfalskningar. Samtidigt måste man skydda legitim yttrandefrihet som satir och undvika drakoniska regler som kan missbrukas för censur. Balansen är svårfunnen. Tillvägagångssätten – från delstatslagar i USA till EU-gemensamma krav – blir ett test under 2025. Beslutsfattare kommer säkerligen att finjustera verktygen allteftersom kunskapen ökar om vad som fungerar. Men att inte göra något är inget alternativ: som en policytracker uttryckte det, “Utan reglering kommer deepfakes sannolikt ytterligare att förvirra väljare och underminera förtroendet för val.” citizen.org citizen.org Nästa avsnitt ger strategiska rekommendationer baserade på dessa insatser och riktade till alla som deltar i den demokratiska processen.

Strategiska rekommendationer för att skydda val

Att försvara valintegriteten i AI-eran kräver en mångsidig strategi. Inget enskilt verktyg eller lag kan lösa deepfake-problemet; istället behövs en samordnad insats från regeringar, teknikplattformar, medier och civilsamhället. Nedan följer strategiska rekommendationer inom dessa sektorer för att minska riskerna och säkerställa att väljare kan fatta informerade beslut 2025 och framåt:

Regeringar och beslutsfattare

1. Stärk rättsligt skydd och avskräckning: Regeringar bör anta eller uppdatera lagar som uttryckligen förbjuder illvillig användning av syntetiska medier i val. Detta inkluderar att göra det olagligt att skapa eller sprida, med avsikt att vilseleda allmänheten eller sabotera ett val, deepfakes som falskt framställer en kandidat eller manipulerar valrelaterad information (såsom röstningsprocedurer). Noggrann avgränsning är avgörande – lagarna bör rikta in sig på avsiktlig vilseledning (desinformation), med tydliga undantag för satir, parodi eller uppenbar konstnärlig uttrycksform. Straff (böter eller straffrättsliga åtgärder) skapar avskräckning för potentiella deepfake-försäljare, särskilt om dessa tillämpas snabbt. Till exempel kan Australiens föreslagna förbud mot vilseledande deepfakes under kampanjer och Taiwans nya klausuler mot AI-manipulerat valinnehåll fungera som modeller innovationaus.com policyoptions.irpp.org. I USA kan federala åtgärder (som det föreslagna No AI FRAUD Act) skapa en nationell baslinje och komplettera delstatliga lagar. Dessutom bör regeringar uppdatera regler för kampanjfinansiering och reklam: kräva att allt politiskt reklam (online eller i sändning) som innehåller syntetiska medier har en tydlig ansvarsfriskrivning (t.ex. ”Denna bild/video är AI-genererad”) så att tittarna inte blir vilseledda. Regler för sanningsenlig reklam i kampanjer måste även gälla AI-innehåll.

2. Inför protokoll för incidenthantering vid val: Myndigheter som ansvarar för val bör etablera formella protokoll för att hantera allvarliga deepfake-incidenter i realtid. Ett bra exempel är Kanadas Critical Election Incident Public Protocol, som samlar höga tjänstemän för att bedöma och informera allmänheten om utländska ingripanden eller desinformation under ett val cetas.turing.ac.uk cetas.turing.ac.uk. Andra demokratier bör anta liknande mekanismer. Om en farlig deepfake dyker upp (till exempel en fabricerad video där en kandidat erkänner nederlag som sprids på valdagen), skulle protokollet aktiveras – tjänstemän, underrättelseexperter och teknikplattformar skulle snabbt verifiera sanningen och utfärda ett offentligt meddelande som avslöjar lögnen och klargör fakta cetas.turing.ac.uk. Denna förmåga till snabb motreaktion är avgörande för att mildra effekten av ”brandsslang-desinformation”. Regeringar bör öva dessa åtgärder i förväg (simulera olika deepfake-scenarier) så att de kan agera snabbt och samfällt när det behövs.

3. Investera i infrastruktur för upptäckt och autentisering: Myndigheter i offentlig sektor bör avsätta resurser för att driva på utvecklingen av tekniker för upptäckt av deepfakes och autentisering av innehåll. Detta innebär att finansiera F&U (till exempel DARPA-liknande program med fokus på AI-medierad desinformation), stödja implementering av upptäcktsverktyg för val och anta autentiseringsstandarder i myndighetskommunikation. Ett konkret steg är att statliga medier (statliga tv-bolag, officiella sociala mediekonton, etc.) börjar lägga till bevisbar proveniensmetadata till alla officiella foton, videor och ljudfiler de publicerar cetas.turing.ac.uk. Genom att göra det skapar de en grund för ”verifierat äkta” information. Väljare och journalister kan då lita på att allt material med en myndighetsstämpel i metadatan är autentiskt – och vara mer skeptiska till liknande innehåll som saknar sådan identifikation. Regeringar kan visa vägen med denna “autenticitet-från-grunden”-strategi cetas.turing.ac.uk, som USA och Storbritannien redan undersöker. Därtill bör brottsbekämpande myndigheter och valövervakare vara utrustade med forensiska analysenheter för att analysera misstänkt material under kampanjer. Att veta att myndigheter har tekniska möjligheter att spåra och tillskriva deepfakes (och potentiellt identifiera förövare) kommer också att avskräcka illvilliga aktörer.

4. Klargör och modernisera befintliga lagar: Många länder kan finna att nuvarande lagar om bedrägeri, identitetsstöld, förtal eller valpåverkan kan tillämpas på vissa deepfake-fall – men det kan finnas luckor. Regeringar bör granska sin lagstiftning för att se om nya kategorier krävs. Har vi exempelvis lagar som täcker AI-genererad imitation av tjänstemän? Om inte, inför sådana. Säkerställ att dataskydds- och integritetslagar innefattar otillåten AI-användning av någons bild/röst som ett brott. Att klargöra den juridiska statusen för skadliga deepfakes (och att bedriva upplysningsinsatser om det) är viktigt så att potentiella förövare vet att de kan hållas ansvariga. Det stärker också offrens (kandidaternas eller medborgarnas) möjligheter att söka upprättelse om de drabbas. Denna översyn bör även omfatta vallagar: att uppdatera definitioner av olaglig valreklam eller vilseledande opinionsmätningar så att de uttryckligen omfattar manipulation med syntetiska medier cetas.turing.ac.uk. Målet är att ta bort all oklarhet – en potentiell desinformatör ska inte kunna hävda ”tekniskt sett är det inte olagligt eftersom det är AI”. Om lagarna är explicita förenklas tillämpning och lagföring.

5. Förbättra internationellt samarbete: Eftersom desinformationskampanjer ofta har utländskt ursprung (eller sprids över gränser), bör demokratiska regeringar samarbeta i denna fråga. Underrättelse- och cybersäkerhetsenheter bör dela information om nya deepfake-taktiker (exempelvis om ett land upptäcker en utländsk deepfake-operation, bör det varna andra). Forum som Alliance for Securing Democracy, G7, EU–USA-dialoger och andra kan samordna gemensamma uttalanden och normer mot val-deepfakes. Diplomatiska påtryckningar kan riktas mot statliga aktörer som sponsrar eller tolererar sådan inblandning. Det finns även möjlighet till gemensam forskning – t.ex. kan ett internationellt centrum för deepfake-upptäckt samla data för att förbättra algoritmer. Valövervakningsorganisationer (som OSSE eller internationella observatörsmissioner) bör uppdatera sina arbetsmetoder för att söka efter påverkan via syntetiska medier, och länder kan inkludera deepfake-beredskap i ömsesidiga försvarspakter för demokratiska processer. En enad front gör det svårare för illvilliga aktörer att utnyttja enskilda länders sårbarheter.

6. Stärk medvetenhet och digital kompetens hos allmänheten: Slutligen har regeringar en roll i att utbilda väljarkåren om deepfakes. Många länder överväger eller implementerar nu program för digital kompetens i skolor och för allmänheten cetas.turing.ac.uk. Dessa program lär ut hur man kontrollerar information på nätet, känner igen tecken på manipulerat material och tänker kritiskt kring källor. Med tanke på hur övertygande AI-fejker har blivit, är det avgörande att varje väljare vet att sådant finns och känner sig trygg att dubbelkolla chockerande innehåll (istället för att blint tro eller sprida det). Regeringar bör samarbeta med skolväsendet och ideella organisationer för att inkludera djupfake-medvetenhet i läroplaner och informationskampanjer. Till exempel kan informationsfilmer som visar jämförelser mellan riktiga och deepfake-klipp av en politiker, och förklarar skillnaden, öka medvetenheten. Forskning visar att personer med högre mediekompetens och kritiskt tänkande är betydligt bättre på att avslöja deepfakes och stå emot desinformation cetas.turing.ac.uk. Därför är finansiering av initiativ för mediekompetens en av de mest effektiva långsiktiga försvarsinsatserna. När allmänheten blir ett aktivt sensornätverk – som upptäcker och påtalar fejkat material – kan effekten av deepfake-propaganda minska avsevärt.

Teknikplattformar och AI-utvecklare

1. Skärp plattformspolicyer och efterlevnad: Sociala medier och onlineplattformar är de främsta distributionskanalerna för virala deepfakes. Dessa företag bör anta strikta riktlinjer mot manipulerade medier som vilseleder användare, särskilt i valkontexter. Många plattformar har börjat införa detta: till exempel har Facebook och Twitter (X) policyer för att ta bort eller märka ”manipulerat innehåll” som kan orsaka skada. Men efterlevnaden måste vara stark. Plattformar bör förbättra sin automatiska upptäckt av deepfakes (med de senaste verktygen som diskuterats ovan) och säkerställa en snabb granskning av mänskliga moderatorer när användare flaggar misstänkt innehåll. Under valperioder kan företag inrätta särskilda insatsrum och samarbetskanaler med valkommissioner för att hantera potentiella deepfake-incidenter i realtid. När en fejk exponeras bör plattformarna märka det som falskt eller avlägsna det omedelbart, och ge det lägre prioritet i algoritmer för att minska fortsatt spridning brennancenter.org brennancenter.org. Transparens är också viktigt: plattformar kan publicera regelbundna rapporter om deepfakes de har upptäckt och vilka åtgärder som vidtagits, vilket ökar allmänhetens förtroende. De bör även dela prover på upptäckta deepfakes med forskare för att förbättra den gemensamma förståelsen.

2. Implementera deepfake-märkning och spårning: Genom att ta efter EU:s ledning bör plattformar globalt kräva att AI-genererat innehåll märks och redovisas. Till exempel, om en politisk annons laddas upp som innehåller en AI-genererad bild eller röst, kan plattformen kräva att uppladdaren kryssar i en ruta som anger “detta innehåll har syntetiska element” – och sedan visa en notis för tittarna (“Denna video har ändrats eller delvis genererats av AI”). Även utanför formella annonser kan plattformar använda detektionsverktyg för att visuellt markera misstänkta deepfake-videor (t.ex. en varningsruta om att videons äkthet inte är verifierad). Dessutom kan sociala nätverk och meddelandetjänster integrera autenticitetsfunktioner för innehåll: med hjälp av standarder som C2PA kan de visa användare en ikon om en bilds källa och redigeringshistorik är verifierad, eller tvärtom flagga om den datan saknas. Vissa teknikföretag (Adobe, Microsoft, Twitter) är redan involverade i sådana insatser. Genom att baka in provenienssignaler i sina gränssnitt kan plattformar hjälpa användare att skilja på äkta och fejk. De bör också arbeta med spårningsmekanismer – till exempel, om en skadlig deepfake sprids, kan de då spåra vem som ursprungligen laddade upp den, även om den har återpublicerats tusentals gånger? Samarbete med brottsbekämpande myndigheter vid större incidenter (samtidigt som man respekterar integritetslagar) blir viktigt för att fånga förövarna.

3. Förbjud illvilliga deepfake-användare och nätverk: Plattformar måste vara vaksamma mot organiserade aktörer som upprepade gånger använder deepfakes. Det handlar inte bara om att ta bort enskilda inlägg, utan att stänga ned konton, sidor eller botar som deltar i samordnade deepfake-kampanjer. Om det finns bevis för att en insats kopplas till en statsstödd aktör eller en känd trollfabrik, bör plattformarna offentliggöra det och avlägsna dem. Många desinformationsnätverk har tagits bort de senaste åren; samma offensiva strategi måste gälla AI-drivna påverkansoperationer. Plattformarna bör uppdatera sina användarvillkor så att det tydligt förbjuds att illvilligt skapa eller sprida syntetiskt material med syfte att vilseleda. Dessa regler utgör grunden för att stänga av överträdare. Vid politisk annonsering bör alla kampanjer eller kommittéer som påträffas använda vilseledande deepfakes drabbas av sanktioner som exempelvis förlorade annonsrättigheter. Teknikbolag kan även samarbeta för att upprätta en gemensam svartlista över ökända deepfake-hashar eller signaturer, så att när ett fejk identifieras på en plattform kan det blockeras på andra (på samma sätt som terroristinnehåll delas med konsortium). I princip gäller att det ska inte löna sig att använda deepfakes på större plattformar – innehållet kommer antingen att tas bort snabbt eller så mister användaren sitt konto.

4. Samarbeta med faktagranskare och myndigheter: Ingen plattform kan ensamt övervaka allt innehåll perfekt. Samarbete är avgörande. Sociala medier-bolag bör fördjupa samarbetet med oberoende faktagranskande organisationer för att utvärdera viralt innehåll. När faktagranskare avslöjar en video som falsk, måste plattformarna förstärka den rättelsen – t.ex. lägga till en länk till faktagranskningen varje gång videon delas, eller avisera alla användare som såg det fejkade klippet. Företag som Facebook har gjort detta vid desinformation och bör fortsätta så även för deepfakes. Plattformar bör dessutom koordinera med valkommissioner och säkerhetsorgan, särskilt under valtider. De kan inrätta direktlinjer eller kanaler för myndigheter att rapportera misstänkta deepfakes som påverkar röstningen, och plattformar kan även larma myndigheterna om de upptäcker utländsk desinformation riktad mot landet. I vissa länder finns formella avtal (exempelvis uppmuntrar EU:s uppförandekod informationsdelning med staten kring desinformationshot brennancenter.org). Även i USA samarbetar inrikessäkerhetsdepartementets cybersäkerhetsenhet med plattformar i att övervaka valdesinformation. Dessa samarbeten måste naturligtvis respektera yttrandefriheten och inte leda till censur av legitimt innehåll. Men för uppenbart fabricerat, skadligt material kan en snabb, koordinerad respons mellan plattformar och myndigheter stoppa en fejk från att eskalera. Det kan till exempel innebära gemensamma pressmeddelanden där man avfärdar fejk eller algoritmer som lyfter fram auktoritativa källor för att motverka spridningen.

5. Förbättra skydd i AI-modeller: Företagen bakom generativa AI-modeller (OpenAI, Google, Meta, m.fl.) har ett ansvar från början. De bör införa skydd för att förhindra missbruk av deras AI vid valpåverkan. Detta kan inkludera vattenmärkning av AI-genererade filer, som nämnts (så att alla bilder genererade av t.ex. DALL-E eller Midjourney får en inbyggd signatur). Det kan även gälla urval och hantering av träningsdata – t.ex. säkerställa att deras modeller tränats för att vägra generera skadliga imitationer av verkliga personer. Vissa AI-verktyg skapar redan idag inte deepfake-bilder av verkliga politiker tack vare inbyggda filter. Dessa skydd behöver ständigt förbättras (även om open source-modeller är en utmaning, då de kan anpassas av illvilliga aktörer utan liknande restriktioner). AI-utvecklare bör också satsa på forskning kring deepfake-detektionstekniker och dela dessa metoder med communityn. Det är ett positivt tecken att många ledande AI-företag frivilligt lovat att stödja vattenmärkning och autentisering. Framöver kan de samarbeta om ett standard-API som gör att man snabbt kan kontrollera om en video eller ljudfil genererats av deras modeller. Kort och gott: de som skapar “problemet” (den generativa tekniken) bör också hjälpa till att skapa “lösningen” (sätt att identifiera dess resultat).

6. Transparens vid politisk annonsering: Plattformar som tillåter politiska annonser bör tillämpa strikta transparenskrav kring AI-användning. Om en kampanjannons främjas på Facebook eller Google och innehåller AI-genererade delar, bör plattformens annonsbibliotek tydligt visa detta. Plattformarna kan även kräva att politiska annonsörer lämnar in det råa, oredigerade materialet för jämförelse. Än mer långtgående kan sociala medier överväga att temporärt förbjuda alla politiska annonser med syntetiskt material under de känsliga, sista dagarna före valet – likt hur vissa förbjuder nya politiska annonser strax innan valdagen. Detta skulle eliminera risken för en sista-minuten-deepfake-blitz. Även om efterlevnad är utmanande gäller principen att betald spridning av vilseledande innehåll är särskilt farligt och plattformar har mer manöverutrymme att reglera annonser än vanliga användarinlägg. Hög transparens och snabba borttagningar vid annonsering är avgörande, då en deepfake spridd via betalannonser kan nå miljontals via algoritmer och på ett orättvist sätt påverka informationsmiljön.

Medier och journalistiska organisationer

1. Strikta verifieringsrutiner: Nyhetsmedier måste anpassa sina verifieringsrutiner till deepfake-eran. Varje redaktion – från nationella TV-bolag till lokaltidningar och faktagranskningstjänster – bör införa formella rutiner för att autenticera audiovisuellt material innan det publiceras eller sänds. Detta innebär att träna journalister i att använda forensiska verktyg (t.ex. kontrollera metadata på videor, analysera bilder) och att vända sig till experter vid behov. För varje uppseendeväckande klipp som dyker upp mitt under ett val bör redaktörer vara hälsosamt skeptiska och inte hasta ut det utan bekräftelse. Medier bör dubbelkolla källan för allt användargenererat material: till exempel om en video dyker upp som visar en kandidat göra något chockerande bör redaktionen söka stödjande bevis (ögonvittnen, officiella uttalanden etc.), eller åtminstone göra en bild-för-bild-analys för att säkerställa att det inte är en deepfake. Syftet är att undvika att omedvetet förstärka desinformation. Imponerande nog har vissa nyhetsorganisationer startat interna deepfake-team. I ett fall skapade journalister i Arizona till och med sin egen deepfake (med tillåtelse) för att visa tittarna hur lätt det är att manipulera video knightcolumbia.org – ett smart sätt att öka medvetenheten. Alla redaktioner bör fundera på att ha en “deepfake-expert” i beredskap (eller ett samarbete med ett tekniklabb) för snabb analys av misstänkt material. Genom att göra verifiering lika rutinmässigt som faktagranskning kan medier fånga upp fejk tidigt eller åtminstone varna publiken om något är oklart.

2. Ansvarsfull rapportering om deepfakes: När journalister rapporterar om syntetiskt material bör de göra det varsamt och med kontext. Om en deepfake som riktar sig mot en kandidat blir viral ska fokus ligga på det faktum att det är en falsk manipulation, inte på innehållet i den. Medier bör undvika att upprepa de falska anklagelserna i detalj eller spela upp det manipulerade klippet okritiskt, då det kan sprida desinformationen ytterligare. Istället kan de beskriva det generellt och fokusera på responsen (t.ex. “En manipulerad video som felaktigt föreställer X göra Y har släppts online, vilket har motbevisats av experter”). Redaktionen kan välja att blurra eller inte länka direkt till deepfake-innehåll i sina nätartiklar cetas.turing.ac.uk, för att undvika att driva trafik till det eller att illvilliga användare laddar ner och sprider det vidare. Hur rapporten vinklas är viktigt: betona försöket till manipulation och deepfakens existens snarare än den fejkade berättelse som den försöker sprida cetas.turing.ac.uk. Medier bör även framhäva rättelsen eller sanningen (t.ex.: “Nej, politiker Z sa inte detta – videon är en AI-förfalskning; här är vad de faktiskt har sagt i frågan.”). Genom att konsekvent agera så kan seriösa medier hjälpa till att skydda allmänheten från att tro på eller sprida det fejkat materialet. Det är en svår balansgång mellan att rapportera om desinformation (att ignorera gör den inte mindre reell) och att inte omedvetet sprida den vidare. Riktlinjer liknande de för rapportering om hoax eller masskjutningar (där vissa detaljer utelämnas för att undvika copycats) kan tas fram för deepfakes. Den oberoende pressnämnden i Storbritannien har uppmanats att uppdatera sina riktlinjer för att täcka sådana situationer cetas.turing.ac.uk.

3. Användning av äkthetsteknologi i nyhetsredaktioner: Nyhetsorganisationer kan själva dra nytta av den framväxande infrastruktur för äkthet. Exempelvis kan en medieaktör använda Content Authenticity Initiative:s verktyg för att bifoga kryptografiska innehållsreferenser till alla originalbilder och videor som tagits av dess journalister. Det innebär att allt material som exempelvis fångats av en Reuters- eller AP-kameraman kan bära en säker sigill som verifierar dess ursprung och eventuella redigeringar. Längre ned i kedjan, när folk ser en video från Reuters, kan de kontrollera att den är oförändrad. Sådana åtgärder hjälper till att fastställa vad som är verkligt och ger allmänheten en sanningskälla. Mediehus bör även samarbeta för att bygga databaser över kända deepfakes (och verifierat äkta innehåll) som kan hjälpa faktagranskare. Ett exempel är att upprätthålla ett arkiv med officiella tal och intervjuer, vilket gör att det snabbt går att avfärda en manipulerad video genom jämförelse. De största nyhetsbyråerna kan samordna för att omedelbart varna alla prenumeranter om en farlig deepfake upptäcks – likt hur man skickar ut viktiga nyhetslarm. Internt behöver redaktörer också vara medvetna om att politiska aktörer kan försöka mata journalister med fejkat material (t.ex. ett tips med ett “läckt” ljudklipp som i själva verket är AI-genererat). Det är klokt att hålla en hög skepticism mot allt digitalt material med anonymt ursprung.

4. Utbildning av publiken: Medierna kan spela en stor roll i att utbilda väljare om syntetiskt innehåll. Nyhetsredaktioner och journalister bör producera förklarande artiklar, intervjuer med experter och inslag som visar allmänheten hur deepfakes skapas och hur de kan upptäckas. Genom att avmystifiera tekniken minskar de dess kraft. Några TV-inslag under 2024 visade t.ex. AI-genererade röstkloner i direktsändning för att demonstrera hur ett bluff-samtal kan låta precis som en släktings röst. Likaså kan rapporteringen inför val innehålla påminnelser: ”Om du ser en sensationell video om en kandidat i sista stund, var vaksam – det kan vara fejk. Så här verifierar du…”. Mediernas informationskampanjer (eventuellt i samarbete med myndigheter eller NGO:er) kan kraftigt stärka den digitala läskunnigheten. Journalister bör även använda exakta benämningar: att kalla något en “deepfake” eller “AI-genererad falsk video” istället för bara “manipulerad video” hjälper till att tydliggöra att detta är en ny kategori. Med tiden blir en välinformerad allmänhet mindre lättlurad och mer benägen att kräva bevis. Medierna, som är gränssnittet mellan information och allmänheten, har ett ansvar att bygga denna motståndskraft.

5. Ansvarstagande och avslöjande: Slutligen bör journalister undersöka och belysa vem som står bakom uppmärksammade deepfake-kampanjer. Att hålla förövare ansvariga i den allmänna debatten kan avskräcka framtida missbruk. Om en konkurrerande kampanj, en utländsk trollfabrik eller en specifik onlinegrupp identifieras som upphovet till en illvillig deepfake, skapar en tydlig rapportering om det stigma och risk med sådana metoder. Avslöjanden om finansiering och produktion av desinformationskampanjer kan försvaga deras genomslag. Dessutom, om en politiker eller offentlig person själv sprider en deepfake medvetet (till exempel en kandidat som twittrar en fejkad video av sin motståndare), bör medierna tydligt påpeka detta – och behandla det som ett allvarligt övertramp. Utsikten till negativ publicitet och skadat anseende kan avskräcka politiska aktörer från “fulknep” som deepfakes. Sammanfattningsvis sträcker sig journalistikens granskande roll in i den digitala eran: undersök, tillskriv, och avslöja illvilliga syntetiska mediekampanjer precis som man skulle med annan politisk korruption eller bedrägeri.

Civilsamhälle och väljarinitiativ

1. Digital kompetens och folkbildning: Civilsamhällets organisationer – som ideella verksamheter, bibliotek, universitet och gräsrotsgrupper – kan leda arbetet med att utbilda medborgarna för att navigera i deepfake-eran. Storskaliga program bör erbjudas till samhällen om hur man verifierar media. Exempelvis kan NGO:er hålla workshops där man lär ut enkla knep som omvänd bildsökning (för att se om en bild är AI-genererad eller manipulerad), att söka stödjande nyhetsrapportering och att använda faktagranskningssajter. Det finns redan utmärkta verktyg och utbildningsmaterial framtagna av faktagranskningsgrupper (t.ex. First Draft, Media Literacy Now) för att känna igen desinformation och deepfakes; dessa bör spridas brett. Utbildningarna bör rikta sig inte bara mot skolelever utan även äldre vuxna, som ofta är mer sårbara för digitala bluffar. Landsomfattande kampanjer för digital kompetens kan lanseras, gärna med statlig finansiering men utförda av samhällsaktörer för att skapa förtroende. Målet är att höja samhällets “flockimmunitet”: om tillräckligt många kan känna igen fejk eller åtminstone låta bli att döma innan verifiering, mister desinformatörer mycket av sin kraft. Undersökningar visar att allmänheten vill ha denna kunskap – många känner oro för att inte veta vad som är äkta eller fejk brennancenter.org brennancenter.org. Civilsamhället kan fylla det glappet genom att ge medborgarna kunskap och praktiska färdigheter.

2. Faktagranskning och ”debunking”-initiativ: Oberoende faktagranskare och civilsamhällets kontrollfunktioner förblir avgörande. De bör ladda upp särskilt inför valperioder med initiativ såsom dedikerade deepfake-faktagranskningscenter. Exempelvis kan koalitioner av faktagranskningsorganisationer upprätthålla en öppen dashboard under ett val där rykten och uppkommande deepfake-anklagelser spåras, med snabba motbevis. News Literacy Project gjorde något liknande för 2024 års amerikanska val, där man loggade fall av desinformation och noterade hur få som faktiskt handlade om AI knightcolumbia.org knightcolumbia.org. Denna typ av öppen rapportering hjälper både allmänheten och journalister att se helheten och inte överdriva hotet, samtidigt som de verkliga fallen hanteras. Civilsamhällesgrupper kan också sprida korrektiv information i sociala medier – t.ex. genom att bemöta virala inlägg med fakta, med hjälp av community-noteringar eller andra funktioner. Begreppet “prebunking” bör också uppmuntras: att i förväg förvarna om att en fejk kan förekomma. Till exempel, om underrättelser eller tidigare mönster tyder på att en kandidat kan bli utsatt för en fejkad skandal, kan civilsamhällesgrupper (i samarbete med valmyndigheterna) varna väljare: “Var skeptisk om du plötsligt ser en chockerande video om X, det finns risk för deepfake.” Forskning visar att prebunking kan markant minska godtrogenhet och spridningen av felaktiga påståenden cetas.turing.ac.uk cetas.turing.ac.uk. En sådan proaktiv strategi från civilsamhället, där man förutser och förebygger deepfake-kampanjer, kan vara mycket effektiv.

3. Civilsamhällets teknik och crowd-sourcad upptäckt: Den teknikvana medborgarrörelsen kan mobiliseras mot deepfakes. Det finns redan “deepfake-jägare” som analyserar misstänkt material online. Civilsamhället kan organisera sådana insatser via plattformar – kanske en särskild portal eller app där folk kan ladda upp misstänkt ljud eller video och där expertnätverk eller AI-verktyg ger en äkthetsbedömning. Denna crowd-sourceade intelligens kan komplettera officiella insatser. Dessutom kan teknikgrupper i civilsamhället utveckla webbläsartillägg eller mobilappar som hjälper användare att identifiera syntetiskt material. En app kan till exempel låta användaren välja en video på skärmen och få omedelbar analys från flera upptäcktsalgoritmer (ungefär som antivirusprogram fast för deepfakes). Det är inte idiotsäkert, men kan ge varningsflaggor. Öppen källkods-utveckling av sådana verktyg bör stödjas med stipendier. En annan idé är rapporteringslinjer för allmänheten – likt valdagens telefonlinjer för röstningsproblem kan det skapas en kanal för att rapportera misstänkt desinformation eller deepfakes, så att valmyndigheter eller faktagranskare kan agera. Genom att engagera medborgarna som aktiva aktörer i att upptäcka och varna för tvivelaktigt innehåll, skalar övervakningen snabbt upp. Denna decentraliserade strategi utgår från att i ett uppkopplat samhälle kommer någon ofta fånga något i tid – nyckeln är att snabbt nå rätt instanser som kan verifiera och sprida sanningen vidare.

4. Påverkansarbete för plattformsansvar: Civilsamhället bör fortsätta att pressa teknikplattformar och AI-bolag att ta ansvar. Allmänintressegrupper och tankesmedjor har varit avgörande för att lyfta riskerna med deepfakes och driva på reformer (exempelvis har Access Now, EFF och andra gett rekommendationer). Detta påverkansarbete måste fortsätta – pressa plattformar att införa de policyförändringar som nämnts tidigare (bättre märkning, borttagning etc.), och förmå AI-utvecklare att skapa etisk design. Public Citizen:s kampanj för att spåra delstatslagstiftning om deepfakes och framföra en petition till FEC är ett exempel citizen.org citizen.org. Likaså kan koalitioner kräva insyn av plattformarna: att de redovisar hur mycket AI-material som finns på deras sida och hur effektiv upptäckten är. Civilsamhällets röster är även viktiga för att se till att nya lagar eller regleringar skyddar medborgerliga fri- och rättigheter (t.ex. att inte tillåta för breda regler som kan utnyttjas för att kväsa yttrandefriheten med argumentet att bekämpa deepfakes). Att hitta rätt balans kräver transparens och konsultation, där civilsamhället företräder medborgarna i debatten. De kommande åren kan vi få ett nytt ramverk för AI och digitalt innehåll – det är avgörande att demokratiska värderingar och mänskliga rättigheter försvaras inom dessa, och civilsamhället är centralt i den granskningsrollen.

5. Stöd för offer och måltavlor: Om en kandidat eller privatperson blir smutskastad av en deepfake kan civilsamhället erbjuda stöd. Ideella organisationer kan erbjuda juridisk hjälp eller råd om hur man får nedsättande deepfakes borttagna och håller förövarna ansvariga. Det kan finnas hjälplinjer för offer för deepfake-porr eller karaktärsmord, som kopplar dem till brottsbekämpande myndigheter och resurser för psykisk hälsa. För kandidater som utsätts för smutskastning kan medborgarorganisationer (som Kvinnors Väljarförbund eller grupper för valintegritet) hjälpa till att förstärka deras förnekelse och motbevisa anklagelser för att minimera skadan. Att snabbt sluta upp till försvar för någon som falskeligen blir måltavla – och se till att sanningen hörs mer än lögnen – är något som samhälls- och påverkansgrupper kan samordna, precis som de ofta gör vid motverkande av förtal eller hatpropaganda. Civilsamhället kan också främja partiöverskridande åtaganden om att alla partier fördömer varje deepfake som dyker upp. Tänk dig ett löfte som alla större partier i ett land undertecknar, där de lovar att inte använda deepfakes och att snabbt fördöma alla illasinnade förfalskningar som dyker upp. Sådana normer, som kan främjas av exempelvis partipolitiska valkommittéer eller etiska NGO:er, minskar risken för en ”kapprustning” där partier känner att de måste svara på samma sätt. Det skapar en gemensam front mot attacker på sanningen inte ska tolereras, oavsett vem de riktar sig mot.

Sammanfattningsvis kräver utmaningen med deepfakes att vi utnyttjar hela samhällets försvar – teknologiska, juridiska, institutionella och mänskliga. Genom att genomföra stegen ovan kan regeringar stärka valsystemet mot AI-förfalskningar, teknikplattformar kan stoppa spridningen av falskt innehåll, media kan säkerställa att sanningen segrar i rapporteringen och medborgare kan bli skickliga försvarare av verkligheten. Det finns ingen tid att förlora: i takt med att generativ AI utvecklas kommer valcykeln 2025 att pröva demokratiernas motståndskraft mot syntetiska lögner. Det positiva budskapet är att vi inte står försvarslösa. Med förberedelser, transparens och samarbete kan vi överlista och organisera oss bättre än deepfake-kampanjerna, och bevara våra valprocessers integritet. Som en CETaS-forskningsrapport om AI och val har slagit fast: “likgiltighet får inte smyga in i beslutsfattandet” – istället bör vi ta tillfället i akt att bygga upp motståndskraften cetas.turing.ac.uk cetas.turing.ac.uk. Genom att göra detta upprätthåller vi principen att även om tekniken utvecklas, kommer våra demokratiska värderingar om sanning och tillit att bestå.

Källor

Stockwell, Sam et al. “AI-Enabled Influence Operations: Safeguarding Future Elections.” CETaS (Alan Turing Institute) Research Report, 13 nov 2024. cetas.turing.ac.uk cetas.turing.ac.uk
Stockwell, Sam et al. Ibid. (CETaS-rapport, 2024), Avsnitt 2.1 om deepfakes i det amerikanska valet. cetas.turing.ac.uk cetas.turing.ac.uk
Beaumont, Hilary. “’A lack of trust’: How deepfakes and AI could rattle the US elections.” Al Jazeera, 19 juni 2024. aljazeera.com aljazeera.com
Sze-Fung Lee. “Canada needs deepfake legislation yesterday.” Policy Options, 18 mars 2024. policyoptions.irpp.org policyoptions.irpp.org
Goldstein, Josh A. & Andrew Lohn. “Deepfakes, Elections, and Shrinking the Liar’s Dividend.” Brennan Center for Justice, 23 jan 2024. brennancenter.org
“Synthetic media.” Wikipedia (hämtat 2025). en.wikipedia.org en.wikipedia.org
“Deepfake.” Kaspersky IT Encyclopedia (2023). encyclopedia.kaspersky.com encyclopedia.kaspersky.com
Hamiel, Nathan. “Deepfakes proved a different threat than expected. Here’s how to defend against them.” World Economic Forum, 10 jan 2025. weforum.org weforum.org
“Regulating AI Deepfakes and Synthetic Media in the Political Arena.” Brennan Center for Justice, 4 okt 2023. brennancenter.org brennancenter.org
Colman, Ben. “The EU AI Act and the Rising Urgency of Deepfake Detection.” Reality Defender Blog, 11 feb 2025. realitydefender.com realitydefender.com
“Tracker: State Legislation on Deepfakes in Elections.” Public Citizen, 2025. citizen.org citizen.org
Partnership on AI. “Synthetic Media and Deepfakes – Case Study: Slovakia 2023.” (Refererat i Knight Columbia-analysen). brennancenter.org brennancenter.org
Kapoor, Sayash & Arvind Narayanan. “We Looked at 78 Election Deepfakes. Political Misinformation Is Not an AI Problem.” Knight First Amendment Institute, 13 dec 2024. knightcolumbia.org knightcolumbia.org
CETaS-rapport (2024), Policysrekommendationer (med fokus på Storbritannien). cetas.turing.ac.uk cetas.turing.ac.uk
CETaS-rapport (2024), Rekommendationer om detektering och proveniens. cetas.turing.ac.uk cetas.turing.ac.uk
Public Safety Canada. “Protecting Against AI-Enabled Disinformation” (2023-rapport). policyoptions.irpp.org policyoptions.irpp.org
InnovationAus. “Govt’s election deepfake ban to ‘languish’ until 2026.” (Australien) 2023. innovationaus.com
Ytterligare referenser: Artiklar från Reuters, Wired och CNN som nämns i källorna ovan för specifika incidenter (t.ex. Zelensky deepfake, Hong Kong-bedrägeri på 25 miljoner USD via Zoom deepfake weforum.org), samt FTC:s konsumentvarningar om röstkloningsbedrägerier weforum.org. Dessa är inbäddade i analysen och tillgängliga via de listade käll-länkarna.

Civilsamhälle och väljarinitiativ

Källor

Stockwell, Sam et al. “AI-Enabled Influence Operations: Safeguarding Future Elections.” CETaS (Alan Turing Institute) Research Report, 13 nov 2024. cetas.turing.ac.uk cetas.turing.ac.uk
Stockwell, Sam et al. Ibid. (CETaS-rapport, 2024), Avsnitt 2.1 om deepfakes i det amerikanska valet. cetas.turing.ac.uk cetas.turing.ac.uk
Beaumont, Hilary. “’A lack of trust’: How deepfakes and AI could rattle the US elections.” Al Jazeera, 19 juni 2024. aljazeera.com aljazeera.com
Sze-Fung Lee. “Canada needs deepfake legislation yesterday.” Policy Options, 18 mars 2024. policyoptions.irpp.org policyoptions.irpp.org
Goldstein, Josh A. & Andrew Lohn. “Deepfakes, Elections, and Shrinking the Liar’s Dividend.” Brennan Center for Justice, 23 jan 2024. brennancenter.org
“Synthetic media.” Wikipedia (hämtat 2025). en.wikipedia.org en.wikipedia.org
“Deepfake.” Kaspersky IT Encyclopedia (2023). encyclopedia.kaspersky.com encyclopedia.kaspersky.com
Hamiel, Nathan. “Deepfakes proved a different threat than expected. Here’s how to defend against them.” World Economic Forum, 10 jan 2025. weforum.org weforum.org
“Regulating AI Deepfakes and Synthetic Media in the Political Arena.” Brennan Center for Justice, 4 okt 2023. brennancenter.org brennancenter.org
Colman, Ben. “The EU AI Act and the Rising Urgency of Deepfake Detection.” Reality Defender Blog, 11 feb 2025. realitydefender.com realitydefender.com
“Tracker: State Legislation on Deepfakes in Elections.” Public Citizen, 2025. citizen.org citizen.org
Partnership on AI. “Synthetic Media and Deepfakes – Case Study: Slovakia 2023.” (Refererat i Knight Columbia-analysen). brennancenter.org brennancenter.org
Kapoor, Sayash & Arvind Narayanan. “We Looked at 78 Election Deepfakes. Political Misinformation Is Not an AI Problem.” Knight First Amendment Institute, 13 dec 2024. knightcolumbia.org knightcolumbia.org
CETaS-rapport (2024), Policysrekommendationer (med fokus på Storbritannien). cetas.turing.ac.uk cetas.turing.ac.uk
CETaS-rapport (2024), Rekommendationer om detektering och proveniens. cetas.turing.ac.uk cetas.turing.ac.uk
Public Safety Canada. “Protecting Against AI-Enabled Disinformation” (2023-rapport). policyoptions.irpp.org policyoptions.irpp.org
InnovationAus. “Govt’s election deepfake ban to ‘languish’ until 2026.” (Australien) 2023. innovationaus.com
Ytterligare referenser: Artiklar från Reuters, Wired och CNN som nämns i källorna ovan för specifika incidenter (t.ex. Zelensky deepfake, Hong Kong-bedrägeri på 25 miljoner USD via Zoom deepfake weforum.org), samt FTC:s konsumentvarningar om röstkloningsbedrägerier weforum.org. Dessa är inbäddade i analysen och tillgängliga via de listade käll-länkarna.