Sentetik Medya ve Deepfake’ler: 2025 Seçim Döngüsünü Korumak

Yapay zekâdaki gelişmeler, sentetik medya denen – yapay zekâ tarafından üretilen veya manipüle edilen içeriklerin – eşi görülmemiş bir ölçekte oluşturulmasını mümkün kıldı. Demokratik ülkeler 2025 seçim döngüsüne girerken, yetkililer ve uzmanlar yapay zekâ kaynaklı dezenformasyon konusunda alarm veriyor. Yakın zamanda yapılan bir ankette Amerikalıların %85’i, “yanıltıcı video ve ses derin sahteleri”nin seçimleri etkilemesinden endişe duyduğunu belirtti brennancenter.org. Haber başlıkları, yapay zekâ ile üretilen “deepfake”lerin seçim kampanyalarında ve seçmen güveninde kaosa yol açabileceğini brennancenter.org vurguluyor ve seçim bütünlüğünün korunmasının aciliyetinin altını çiziyor. Bu rapor, sentetik medya ve deepfake’lerin ne olduğunu, demokrasiyi nasıl tehdit ettiğini ve 2025 ve sonrasında seçimleri korumak için – teknolojik çözümlerden politikalara kadar – neler yapılabileceğini inceliyor.

Sentetik Medya ve Deepfake Nedir?

Sentetik medya, dijital içeriğin (görseller, video, ses, metin) yapay olarak otomatik yollarla, özellikle yapay zekâ algoritmalarıyla üretilmesi veya değiştirilmesi için kullanılan geniş bir terimdir en.wikipedia.org. Günümüzde üretken yapay zekâ sistemleri, her mecrada gerçekçi, insana benzer çıktılar üretebiliyor – hiç var olmamış insanların gerçeğe yakın fotoğraflarından, klonlanmış seslere ve yapay zekâ ile yazılmış makalelere kadar. Deepfake’ler, sentetik medyanın özel bir alt kümesidir: Gerçek insanları taklit etmek amacıyla, yapay zekâ ile son derece gerçekçi sahte görüntü, video veya sesler üretilmesi encyclopedia.kaspersky.com. Pratikte bir deepfake, bir siyasetçinin yüzünün başka birinin vücuduna inandırıcı şekilde yerleştirildiği bir video ya da bir adayın söylemediği sözleri söylüyormuş gibi gösteren bir ses kaydı olabilir.

Deepfake’ler nasıl üretilir? Çoğu, gelişmiş derin öğrenme teknikleriyle oluşturulur. Yaygın bir yöntem, generatif çekişmeli ağlar (GAN’ler) kullanmaktır – birbirine karşı eğitim yapan iki sinir ağı icct.nl. Bir ağ (üreteç), sahte bir medya (örneğin bir insan yüzü görüntüsü) üretirken diğeri (ayırt edici) bunun sahte olup olmadığını anlamaya çalışır. Binlerce yineleme sonucu, üreteç gerçekliğe giderek daha yakın görüntüler üretmeyi öğrenir ve sonunda ayırt edici de gerçek mi sahte mi ayırt edemez hale gelir icct.nl. Başlangıçta, kusursuz bir deepfake oluşturmak çok fazla eğitim verisi ve güçlü donanım gerektiriyordu – örneğin, aktör Tom Cruise’a deepfake yapmak için yapılan bir deneyde üst seviye GPU’lar ile iki ay boyunca eğitim yapılmıştı icct.nl. Fakat araçlar hızla gelişti. Artık sofistike deepfake yazılımları çok daha hızlı ve yaygın şekilde ulaşılabilir, hatta bazen anlık (gerçek zamanlı) olarak çalışıyor (örneğin, canlı bir video akışını veya sesli aramayı anında değiştirmek gibi) encyclopedia.kaspersky.com. GAN’lere ek olarak, başka yapay zekâ mimarileri de rol oynuyor: dönüştürücü modeller deepfake metin üretiminde veya ses klonlamasında kullanılabiliyor encyclopedia.kaspersky.com. Sonuç olarak, son yapay zekâ atılımları hemen hemen herkesin yanıltıcı sesli ve görsel içerikler üretmesini kolay ve ucuz hâle getirdi – dezenformasyon operasyonları için eşi görülmemiş bir imkân ve hız sundu.

Not etmek gerekir ki tüm sentetik medya içerikleri kötü niyetli değildir. Yapay zekâ ile üretilmiş içerikler, kişiselleştirilmiş avatarlar, bir konuşmacının sesinin başka dillere dublajı, hiciv ya da eğlence gibi zararsız ve yaratıcı amaçlarla da kullanılabilir. Hatta, 2024’teki küresel seçimlerde siyasetle ilgili yapay zekâ kullanımının belgelenmiş örneklerinin yaklaşık yarısı aldatıcı olmayan türdendi (ör. adayın kendi sesini kaybettiğinde bunu şeffafça belirtip bir yapay zekâ sesini kullanması veya gazetecilerin kimliğini korumak için bir yapay zekâ avatarı kullanması gibi) knightcolumbia.org knightcolumbia.org. Ancak bu rapor, sentetik medyanın seçmeni ve kamuoyunu yanıltmak, aldatmak veya manipüle etmek için kullanılan kötü niyetli tarafına, yani deepfake’lere odaklanmaktadır.

Demokratik Süreçlere Riskler

Sentetik medya ve deepfake’ler, özellikle seçim dönemlerinde, bilgilendirilmiş bir seçmen kitlesi ve bilgiye güvenin hayati olduğu demokrasiler için kayda değer tehditler oluşturmaktadır. Temel tehditler şunlardır:

Dezenformasyon ve Seçmen Manipülasyonu: Yapay zekâ ile üretilmiş sahte video, görsel veya sesler, adaylar veya konular hakkında yanlış bilgiler yaymak suretiyle seçmenleri yanıltmakta kullanılabilir. Örneğin, bir deepfake, bir adayın aslında hiç yapmadığı kışkırtıcı açıklamalar yaptığı şeklinde gösterilebilir. Bu tür uydurma içerikler, kamuoyu tartışmasına zehirli sahtelikler katabilir. Uzmanlar, deepfake’lerin seçmenlere yanlış içerik enjekte ederek ve kamusal güveni zedeleyerek “yüksek risk” oluşturduğunu belirtiyor aljazeera.com. Seçim gününden hemen önce yayımlanan ve doğrulama için zaman bırakmayan becerikli şekilde manipüle edilmiş bir video, kararsız seçmenleri etkilemek ya da katılımı azaltmak için bile kullanılabilir ve bu da sonucu etkileyebilir citizen.org. Bu tehdit yalnızca teorik değildir: 2024 yılında, ABD Başkanını taklit eden bir deepfake ses kaydının, destekçilerini oy kullanmamaya çağırdığı ve görünüşe göre katılımı azaltmayı amaçladığı detaylarda anlatılmaktadır aljazeera.com aljazeera.com.
Güvenin Zedelenmesi (“Yalancının Geliri”): Belli bir sahteciliğin ötesinde, deepfake’lerin yalnızca varlığı bile gerçek bilgiye olan kamu güvenini sarsabilir. Seçmenler gerçek kanıtlara şüpheyle yaklaşmaya başlayabilir, viral bir videonun gerçek mi yoksa yapay zekâ ürünü mü olduğundan emin olamazlar. Daha da kötüsü, kötü niyetli aktörler bu şüpheyi kendi çıkarına kullanabilir: gerçek skandallar veya doğru ses/video kayıtları “sadece bir deepfake” olarak reddedilebilir ve suçluların hesap vermekten kaçmasına yol açabilir. Akademisyenler buna, deepfake’ler hakkında farkındalığın artmasıyla yalan söyleyenlerin gerçek görüntüler için “sahte” demesinin kolaylaşması anlamına gelen “yalancının geliri” adını verdi brennancenter.org. Yapay zekânın gücü konusundaki kamu farkındalığının artması, gerçek bir uygunsuzluk ortaya çıkarsa bir politikacının bunu “AI sahtekârlığı” diyerek kolayca inkâr etmesine olanak verebilir brennancenter.org. Bu dinamik, demokratik tartışmaların temelini oluşturan güveni tehdit ediyor. 2024’te bazı adaylar ve destekçilerinin rahatsız edici haberleri önceden “AI sahtekârlığı” diye niteleyerek bertaraf ettiği gözlenmiştir brennancenter.org brennancenter.org. Uzun vadede, vatandaşlar “gördüğün ve duyduğun hiçbir şeye güvenemezsin” noktasına gelirse, bu özgür ve adil seçimler için gerekli olan ortak gerçekliğin altını oyacaktır cetas.turing.ac.uk cetas.turing.ac.uk.
Kutuplaşma ve Çatışmanın Derinleştirilmesi: Şimdiye kadar eldeki kanıtlar, deepfake propagandasının çoğunlukla insanların zaten var olan önyargılarını güçlendirdiğini ve hat boyunca yeni inançlara ikna etmekten ziyade mevcut ayrımlar üzerinden etkin olduğunu gösteriyor cetas.turing.ac.uk. Kötü niyetli yapay zekâ içeriği genellikle zaten uç fikirli olan kişilerce benimsense ve paylaşılsa da bu yankı odalarını güçlendiriyor. 2024 ABD başkanlık yarışında araştırmacılar, yapay zekâ ile üretilen yalanların çoğunlukla partizan anlatıları keskinleştirip tartışmaları alevlendirdiği, yeni inanç oluşturmadığı sonucuna vardı cetas.turing.ac.uk. Örneğin, Başkan Biden veya Başkan Yardımcısı Harris’i hedef alan sahte videolar internette milyonlarca izlenme aldı ve çoğunlukla zaten onlara karşı tutumu olumsuz olanlar tarafından paylaşıldı cetas.turing.ac.uk cetas.turing.ac.uk. Karşı tarafın kötülüğüne dair dramatik sahte “kanıtlar” yoluyla ideolojik kampların pekiştirilmesini sağlayan deepfake’ler, toplulukları daha da uçlara taşır, seçim ortamını zehirler. Ayrıca deepfake’lerin yaydığı kafa karışıklığı ve güvensizlik, komplo teorilerinin serpilmesi için verimli bir zemin oluşturur cetas.turing.ac.uk, çünkü vatandaşlar her rahatsız edici gerçeği rahatça yapay zekâ uydurması sayabilir.
Seçim İdaresini Zayıflatmak: Risk, seçmenlerin adaylar hakkında yanıltılmasından da ileri giderek seçimin kendisini de sekteye uğratabilir. Yetkililer, seçim görevlileriymiş gibi davranan yapay zekâ ses klonları ya da sahte mesajlarla sandık görevlilerinin sandıkları erken kapatmasını isteyen ya da seçmenlere yanlış bilgi (ör. “seçim ertelendi”) veren senaryoları öngörmektedir aljazeera.com. Yetkin bir saldırgan, seçim kurulundan ya da güvenilir bir yerel yetkilinin sesinden geliyormuş gibi görünen direktifler simüle ederek oy verme operasyonlarını sabote edebilir. Bu tür taktikler, oy kullanımını engelleyebilir veya Seçim Günü kaosa yol açabilir. ABD Brennan Center, manipüle edilmiş medyanın yalnızca halkı değil, aynı zamanda sandık görevlilerini ve seçim idarecilerini de kandırmada kullanılabileceğini, buna karşı yeni eğitim ve protokoller gerektiğini vurguluyor aljazeera.com.
Taciz ve Karakter Suikastı: Deepfake’ler, adaylar, aktivistler veya gazeteciler üzerinde kişisel saldırılar için güçlü bir silah da sunar. Özellikle yıkıcı bir kategori, rıza dışı sentetik pornografidir – bir kişinin yüzünün müstehcen içeriklere montajlanması. Bu taktik, dünya çapında kadın gazetecileri ve siyasetçileri taciz etmekte şimdiden kullanılmıştır. Deepfake tacizinin en uç hali, kişileri itibarsızlaştırmak veya şantaj yapmak için kullanılan sahte mahrem görüntülerdir weforum.org. Bir seçim bağlamında, seçim arifesinde bir adayın isminin karalandığı (örneğin, bir deepfake seks kaseti veya yasa dışı bir eylemde bulunduğu sahte bir video) sahte içerikler yayımlanabilir. Hızla çürütülse bile adayın itibarına verilen zarar kalıcı olabilir. Kadınlar ve azınlıklar bu “sentetik karalama” kampanyalarından orantısız şekilde etkilenmekte ve bu da çeşitliliği olan adayları siyaset girişiminden caydırmaktadır policyoptions.irpp.org policyoptions.irpp.org. Özetle deepfake’ler, eski karalama yöntemlerine yeni hız ve güç kazandırmakta – sahte skandallardan uydurma alıntılara – seçimlerde karakter suikastı girişimlerini katlayarak artırmaktadır.

Son olarak, şimdiye dek deepfake kaynaklı bir seçim felaketi yaşanmadığı altı çizilmelidir. 2024 dünya genelindeki seçimlerin ampirik analizleri, yapay zekâ kaynaklı dezenformasyonun bugüne kadar hiçbir seçim sonucunu değiştirdiğine dair güçlü kanıt bulmadı cetas.turing.ac.uk weforum.org. Geleneksel dezenformasyon (basit montajla yapılmış “ucuz” sahtekârlıklar, dedikodular, partizan abartılar) yüksek teknolojili deepfake’lerden çok daha fazla yanlış bilgi yayma etkisine sahip oldu knightcolumbia.org knightcolumbia.org. Ancak uzmanlar, şimdiye kadar bir felaket yaşanmamış olmasının rehavete yol açmaması gerektiğini vurguluyor cetas.turing.ac.uk weforum.org. Teknoloji çok hızlı gelişiyor ve kötü niyetli aktörler hızla öğreniyor. Deepfake’ler büyük bir 2024 yarışının sonucunu değiştirmese de, kamuoyu tartışmasını etkiledi – örneğin, adaylarla ilgili viral yapay zekâ yalanları ana akım tartışmalarda konuşuldu cetas.turing.ac.uk. Ayrıca deepfake’lerin algılanan tehdidi dahi seçimlerle ilgili toplumda endişe ve güvensizlik duygusuna katkıda bulundu cetas.turing.ac.uk cetas.turing.ac.uk. Daha yıkıcı bir olayın ortaya çıkma potansiyeli varlığını sürdürüyor, özellikle de 2025’in kritik seçimlerine yaklaşırken. Bu nedenle demokratik toplumlar, deepfake’leri ciddi bir güvenlik ve bütünlük sorunu olarak ele almalı; hem uydurma medya riskine hem de seçim alanında gerçeğin erozyonuna karşı proaktif önlem almalıdır.

Son Olaylar: Deepfake’lerin Siyaseti Sarsması

Son birkaç yıldan gerçek dünya örnekleri, sentetik medyanın siyasi bağlamlarda nasıl silahlandırıldığını gösteriyor. Aşağıda, deepfake’lerin ve yapay zekâ tarafından üretilen yanlış bilgilerin seçimleri ya da kamuoyu tartışmasını etkilediği kayda değer olaylar ve vaka incelemeleri incelenmiştir:

Ukrayna (Mart 2022) – “Teslim Olun” Videosu: Rusya’nın Ukrayna savaşının ilk günlerinde, Ukrayna Devlet Başkanı Volodymyr Zelensky’nin askerlerine silah bırakıp teslim olmalarını söylediği görünen bir video ortaya çıktı. Video bir deepfake’di ve Zelensky’nin görüntüsü ile sesi sentetik olarak değiştirilmişti icct.nl. Belirgin kusurlar (bulanık kenarlar, eşleşmeyen boyun tonu) videonun sahte olduğunu ele verdi ve Ukrayna medyası kısa sürede bu aldatmacayı ifşa etti. Bu olay – silahlı bir çatışmada bilinen ilk deepfake kullanımı – yapay zekâ propagandasının krizler sırasında liderleri yıpratmak için nasıl kullanılabileceğini önceden göstermişti icct.nl. Sahte Zelensky videosu Ukrayna direnişini zayıflatmayı başaramasa da, kötü niyetli aktörlerin (bu durumda Rusya bağlantılı olduğu düşünülen) deepfake’leri bilgi savaşı için kullanma niyetini ve yeteneğini gösterdi.
Slovakya (Eylül 2023) – Seçim Dezenformasyonu: Slovakya’da parlamento seçimlerinden sadece birkaç gün önce, deepfake ses kayıtları viral oldu ve İlerici Slovakya partisinin lideri Michal Šimečka’nın seçim sahtekârlığını itiraf ettiği ve hatta bira fiyatını ikiye katlamayı önerdiği izlenimi verildi brennancenter.org. Bazı versiyonlarda yapay zekâ tarafından oluşturulduklarını belirten hafif bir uyarı vardı, ancak bu uyarı yalnızca klibin sonunda çıkıyordu – bu da muhtemelen dinleyicileri aldatmak için kasıtlı bir hileydi brennancenter.org. Zamanlamanın ise kasıtlı şekilde, seçim öncesi stratejik olduğu açıktı. Šimečka’nın Batı yanlısı partisi, Kremlin yanlısı rakibine az farkla yenildi ve bazı yorumcular, son dakika deepfake karalama kampanyasının sonucu etkilemiş olabileceğini öne sürdü brennancenter.org. Bu vaka, yabancı veya yerel aktörlerin deepfake’leri yakın bir seçimi etkilemek için nasıl devreye sokabileceğini ve bir kampanyanın son anlarında yanlış anlatılara karşı koymanın ne kadar zor olabileceğini gözler önüne seriyor.
Tayvan (Ocak 2024) – Yabancı Etki Operasyonları: Tayvan’ın 2024 başkanlık seçimi öncesinde, gözlemciler Çin’in deepfake kullanan bir dezenformasyon kampanyasını belgeledi ve bu kampanya aday Lai Ching-te’yi yıpratmayı hedefliyordu. Söz konusu sahte videolarda (iktidardaki bağımsızlık yanlısı partiden olan) Lai’nin asla yapmadığı açıklamalar yaptığı, örneğin rakiplerinin platformunu desteklediği izlenimi veriliyordu policyoptions.irpp.org. Bir vakada, yapay zekâ tarafından oluşturulmuş Lai ses kaydı yayımlandı ve bu kayıt, onun kendi partisini eleştirdiği izlenimi yarattı policyoptions.irpp.org. Bu sentetik medya saldırıları, kaynağı Çin’de olacak şekilde, Tayvan demokrasisinde kamuoyunu etkilemeyi ve kafa karışıklığı yaratmayı amaçlıyordu policyoptions.irpp.org. Sonuçta Lai seçimi kazandı ve analizler, Çin’in deepfake kampanyasının sonucu ciddi şekilde değiştirmediği yönündeydi policyoptions.irpp.org. Ancak bu kampanya, bir demokratik seçime karşı düşmanca bir yabancı gücün yapay zekâ propagandası kullanmasının ders niteliğinde bir örneğini sergiledi policyoptions.irpp.org policyoptions.irpp.org. Yine de, başka bir yerde daha yakın bir seçimde bu tür taktiklerin çok daha fazla etki yaratabileceğine dair endişeler devam ediyor.
Amerika Birleşik Devletleri (2024) – Seçim Kampanyasında Deepfake’ler: 2024 ABD seçim döngüsü, yapay zekâ tarafından üretilen siyasi içerikte bir patlama ile karşılaştı; bu içerikler seçimi rayından çıkarmasa da kaygı uyandırdı. 2024 yılı başlarında New Hampshire’daki seçmenler, Başkan Joe Biden’ın Demokratlara “Oyunu kurtarmak için, bu seçimde kullanmayın” dediği kafası karıştırıcı bir otomatik telefon çağrısı aldı. Ses, bazıları için gerçekçi gelse de, mesaj açıkça şüpheliydi – Biden asla destekçilerine oy kullanmamayı önermezdi. Aslında bu çağrı, Biden’ın deepfake ses klonuydu ve görünüşe göre oy kullanmayı caydırmak amacıyla binlerce seçmene gönderildi aljazeera.com aljazeera.com. Bu olayın yaklaşık 5.000 New Hampshire numarasına ulaştığı tahmin ediliyor ve böyle kirli işlerin ne kadar kolay ve ucuza yapılabileceğini gözler önüne seriyor – Biden deepfake sesini üreten danışman bunun için sadece 20 dakika ve yaklaşık 1 dolar maliyet harcandığını belirtti policyoptions.irpp.org policyoptions.irpp.org. Öte yandan, sosyal medyada yapay zekâ ile üretilmiş görseller resmi kampanya materyallerine de girdi. Özellikle Florida Valisi Ron DeSantis’in ekibi, Donald Trump’ın Dr. Anthony Fauci’yi kucakladığı yapay bir görselin yer aldığı bir saldırı reklamı yayımladı – buradaki ima, Trump’ın sağda sevilmeyen eski COVID danışmanına aşırı yakın olduğuydu. Trump’ın Fauci’yi kucakladığı görüntülerin aslında kampanya tarafından videoya eklenmiş yapay zekâ ürünü sahte görseller olduğu ortaya çıktı brennancenter.org ve bu durum fark edilince kamuoyunda tepkiyle karşılandı. Başka bir durumda, Başkan Biden’ın “ulusun karşısında” kekeleyen bir sesle konuştuğu yapay bir video yayıldı fakat kısa sürede çürütüldü. Biden ve Başkan Yardımcısı Harris’in sahte videoları sosyal medyada milyonlarca görüntüleme aldı cetas.turing.ac.uk ve bu tür içeriklerin ne kadar hızlı yayılabileceğini gösterdi. Hatta teknoloji milyarderleri de devreye girdi: Elon Musk, Başkan Yardımcısı Harris’in (üzerinde “mizah/satir” etiketi bulunan) uydurma bir videoyu tekrar paylaştı ama video onun saçma şeyler söylemesini içeriyordu – böylece mizah ile dezenformasyon arasındaki çizgi bulanıklaştı cetas.turing.ac.uk cetas.turing.ac.uk. Bu deepfake’lerin hiçbiri seçimin gidişatını değiştirmese de, yanlış anlatıların güçlenmesine (örneğin Biden’ın zihin sağlığı ya da Trump’ın sadakati hakkında) ve bilgi ortamının daha da zehirlenmesine sebep oldu. ABD yetkilileri ayrıca seçim altyapısını hedef alan deepfake’lerden – örneğin seçim görevlilerini yanlış yönergeler vermeleri için yönlendiren sahte ses kayıtlarından – endişe ediyorlar aljazeera.com; ancak 2024’te bu tür büyük bir olay kamuoyunca doğrulanmadı.

Bu örnekler tehdidin küresel boyutuna dikkat çekiyor. Deepfake’ler, jeopolitik çatışmalarda devlet aktörleri, Avrupa’dan Asya’ya yerel seçimlerde provokatörler ile ABD’de kampanya ekipleri ve destekçileri tarafından kullanıldı. Sahte konuşmalar, görseller, telefon aramaları ve videolar şeklinde hem seçmenleri hem de seçim yetkililerini hedef aldı. Şimdiye kadar ki vakalar bazı dersler de sunuyor: birçok deepfake nispeten hızlı tespit edildi ve ifşa edildi (çoğunlukla uyanık gazeteciler veya doğrulama kuruluşları tarafından), bazı durumlarda ise deepfake kullanımı nedeniyle (ör. DeSantis reklamı gibi) ters tepkiler ortaya çıktı ve failler olumsuz basına maruz kaldı. Bu, şeffaflığın ve dikkatli olmanın zararı azaltabileceğine işaret ediyor. Ancak, eğilim açık – bu tür sentetik yalanlar giderek daha sık görülüyor ve gerçeğinden ayırt etmesi anlık olarak daha da zorlaşıyor. Her seçim yeni ilklerle geliyor (2024’te ilk yapay zekâ “otomatik çağrı” oy manipülasyonu, ilk deepfake reklamlar gibi) ve daha yıkıcı bir deepfake olayının riskinin 2025’e yaklaşırken giderek büyüdüğü görülüyor.

Deepfake’leri Tespit Etme ve Karşı Koyma: Araçlar ve Teknolojiler

Seçimlerin korunmasında kritik bir bileşen, deepfake’lere karşı güvenilir tespit ve önleme araçlarının geliştirilmesidir. Araştırmacılar, teknoloji şirketleri ve hükümetler, Yapay Zeka sahtekarlıklarını tespit edebilen ve gerçek içeriği doğrulayabilen teknolojiler oluşturmak için yarışıyorlar. Burada mevcut deepfake tespiti ve ilgili karşı önlemler manzarasını özetliyoruz:

Otomatik Deepfake Dedektörleri: İlk savunma hattı, yapay zekaya karşı yapay zeka – medyayı analiz eden ve manipülasyonun ipuçlarını tespit etmek için eğitilmiş algoritmalardır. Bu tespit sistemleri, üretken modellerin geride bıraktığı ince artefaktları veya tutarsızlıkları arar. Örneğin, erken deepfake’lerde düzensiz göz kırpma veya kusurlu dudak senkronizasyonu sıkça görülüyordu. Günümüz dedektörleri ise yüzlerdeki ışık ve gölgelenmeler, ses frekans desenleri veya biyolojik sinyaller (ör. videoda nabız) gibi AI’nın kopyalamakta başarısız olabileceği unsurları derin sinir ağlarıyla inceler. Teknoloji firmaları kendi iç araçlarını geliştirdi – örneğin Microsoft, 2020’de çerçeve analiziyle sahte videoları işaretleyebilen “Video Authenticator”ı piyasaya sürdü. Facebook ve X (Twitter) gibi platformlar, tespit araştırmalarına yatırım yaptı ve bilinen sahte medyayı yakalamak için bazı filtreler kullanıyor. Akademik girişimler ve yarışmalar (Facebook Deepfake Detection Challenge ve IEEE konferansları gibi) ilerlemeyi teşvik etti, Sensity ve Reality Defender gibi girişimler ise müşterilere ticari deepfake tespiti hizmeti sunuyor. Ancak bu tam anlamıyla bir silahlanma yarışıdır: tespit ilerledikçe, deepfake üreticileri otomatik kontrollerden kaçabilen daha kusursuz sahtekarlıklar üretmek için uyum sağlıyor. Dikkat çekici olarak, Meta’nın 2023 raporu 2024 seçim döngüsü boyunca işaretlenen dezenformasyonun “%1’den azının” AI tarafından üretildiğinin tespit edildiğini weforum.org bulduğunu gösterdi; bu da deepfake’lerin nispeten nadir olduğu veya çoğunun tespitten fark edilmeden sıyrıldığı anlamına gelebilir.
Filigranlama ve İçerik Kökeni: Bir diğer strateji ise AI tarafından üretilen içeriği yaratıldığı anda işaretlemek, böylece daha sonraki kullanıcıların bunu kolayca sentetik olarak tanımasını sağlamak. AB bu yaklaşımı güçlü şekilde teşvik ediyor – yeni AB Yapay Zeka Yasası, AI tarafından üretilen veya manipüle edilen tüm içeriğin açıkça etiketlenmesini veya filigranlanmasını zorunlu kılar realitydefender.com. Şirketler, bir görüntü, video veya ses AI tarafından oluşturulduğunda dijital bir filigran veya meta veri işareti eklemek zorunda olacak. Teoride, tarayıcılar veya sosyal medya siteleri bu işaretleri otomatik olarak algılayıp içeriği filtreleyebilir ya da işaretleyebilir. Filigranlama, özellikle gündelik kötüye kullanımı caydırmada vaat vaat ediyor. Büyük AI model sağlayıcıları (OpenAI, Google ve diğerleri gibi) sistemlerinin ürettiği görsellerde veya metinlerde isteğe bağlı filigranlama uygulamayı tartışıyorlar. Ayrıca, medya ve teknoloji kuruluşlarından oluşan bir koalisyon, dijital medyanın kökenini ve düzenleme geçmişini kriptografik olarak kaydetmek için köken standartları (ör. C2PA – İçerik Kökeni ve Doğruluk Koalisyonu) geliştiriyor. Örneğin bir haber fotoğrafı veya kampanya reklamı, kimin oluşturduğunu ve değiştirilmediğini doğrulayan güvenli bir doğruluk sertifikası taşıyabilir cetas.turing.ac.uk. ABD hükümeti bunu benimsedi; Beyaz Saray, federal kurumların “doğruluk tasarımıyla” ürettikleri tüm dijital içerikte kökeni belirten meta veri gömmelerini sağlayacak yönergeler hazırlamasını emretti cetas.turing.ac.uk. Bu tür önlemler yaygın şekilde uygulanırsa, sahte içeriğin gerçek gibi görünmesi çok daha zor hale gelir.
Etiketlerin Sınırları: Şeffaflık araçları hayati öneme sahip olsa da, kusursuz değiller. Filigranlar kararlı rakiplerce kaldırılabilir veya değiştirilebilir. Nitekim araştırmacılar AI filigranlarını çıkarma veya gizleme yöntemleri realitydefender.com gösterdiler ve elbette kötü niyetli biri kendi üretken modelini kurarsa, işaret eklememeyi seçebilir. İçerik kökeni meta verisi de yalnızca yaygın şekilde uygulanır ve kullanıcılar bunu kontrol ederse yardımcı olur. Bir deepfake üretici, “köken sırtçantalama” numarasıyla gerçek bir fotoğraf ya da video üzerine sahte unsurlar bindirip, nihai ürünün orijinal dosyanın dijital imzasını taşımasını sağlayabilir. Bu zorluklar, yalnızca içerik etiketlerine güvenemeyeceğimizi gösteriyor. Bir AI güvenlik şirketinin de belirttiği gibi, filigran ve köken çözümleri ancak içerik üreticileri çıktılarını işaretlemede iş birliği yaparsa çalışır – bu da kararlı kötü aktörleri durdurmaz realitydefender.com. Bu nedenle çıkarım tabanlı tespit (içeriğin kendisinin AI manipülasyonu belirtilerine karşı analiz edilmesi) vazgeçilmezdir realitydefender.com. Muhtemelen en iyi savunma, her iki yaklaşımın birleşimidir: sahteyi tarayan sağlam otomatik dedektörler ve meşru medyayı doğrulamak için kimlik doğrulama sistemleri.
Video/Ses Akışlarında Anlık Tespit: Gelişmekte olan bir ihtiyaç, deepfake’leri canlı ortamlarda yakalayabilen araçlar. Bir aday ya da yetkiliyle yapılan sahte bir “canlı” görüntülü arama senaryosu düşünün – nitekim 2023’te Hong Kong’da suçlular, bir şirket yöneticisinin görüntüsünü Zoom’da deepfake’leyerek 25 milyon dolarlık sahte bir transferi onaylatmıştı weforum.org. O vakada, aramadaki birçok kişi – baş mali işler müdürünün bir sahtekarı dahil – tamamen AI ile üretilmişti. Böyle anlık sahtekarlıkları tespit etmek oldukça zor. Şirketler, videokonferanslara eklenti olarak yüklenebilecek ve görüntü ya da sesin sentetik olup olmadığını algılayan (ör. ses gecikmesi ve spektral anormallikleri analiz ederek veya ekrandaki yüzün gerçek kişinin yüz hareketlerine kameradan tam uyup uymadığını kontrol ederek) çözümler üzerinde çalışıyor. Bazı girişimler, canlı yayın platformuna entegre olabilen veya etkinliklerde konuşmacıları doğrulayabilen anlık deepfake tespit API’leri sunduğunu iddia ediyor. Ancak şimdilik, anlık tespit çoğunlukla saldırganların gerisinde kalıyor ve önleyici önlemlere (ör. kimlik doğrulamak için telefon görüşmelerinde şifreli ifadeler/kodlar kullanmak gibi; kolluk kuvvetlerinin önerisiyle weforum.org) odaklanılıyor.
İnsan Doğrulaması ve Topluluk İşaretleri: Yalnızca teknoloji yeterli değildir. Dikkatli bir insan katmanı kritik önem taşıyor. Haber kuruluşları, doğrulama grupları ve platformlar seçim dönemlerinde viral deepfake’leri izlemek için özel ekipler kurdu. Bu ekipler, OSINT (açık kaynak istihbaratı) tekniklerini ve adli analiz araçlarını kullanarak şüpheli medyayı analiz ediyor – örneğin zaman damgalarını kontrol etmek, tutarsızlık aramak (bir videoda bir politikacının küpesinin farklı olması veya ağız hareketlerinin tuhaflığı gibi), ve hızla yalanlamalar yayınlamak. Topluluk kaynaklı çabalar da yardımcı oluyor: X/Twitter’da “Community Notes” özelliği, AI ile üretilmiş görüntü veya videolar içeren postları açıklayıcı bağlamla işaretlemek için kullanıldı. Son seçimlerde, kullanıcılar deepfake’leri ortaya çıktıktan saatler sonra çürütüp, yan yana karşılaştırmalar paylaştı veya hatalara işaret etti. Böylesi bir toplu uyanıklık ve dijital okuryazarlık destekli yaklaşım çok etkili bir araçtır. Otomatik filtrelerin taramak zorunda olduğu hacim nedeniyle platformlar giderek kullanıcılarına ve bağımsız doğrulayıcılara güveniyor. Dezavantajı şudur: bir deepfake, henüz çürütülmeden önce viral olabilir. Yine de, yanıt hızını artırmak ve farkındalığı yaygınlaştırmak (böylece daha fazla kullanıcı bizzat sahteleri yakalayabilsin) zararı azaltacaktır.

Özetle, deepfake tespiti aktif ve evrilen bir alandır. İlerleme kaydediliyor – örneğin günümüz dedektörleri 2018’e kıyasla çok daha iyi ve Content Authenticity Initiative gibi girişimler doğrulamayı standartlaştırmayı hedefliyor. Ancak karşı taraflarla “kedi-fare dinamizmi” ve araçların yaygın şekilde benimsenmesi ihtiyacı nedeniyle zorluklar sürüyor. Önümüzdeki yıllarda tespit teknolojisinin sosyal medya platformlarına, haber workflows’una ve hatta cihazlara daha çok entegre edildiğini görebiliriz (gelen bir videonun AI tarafından üretilmiş olabileceği konusunda akıllı telefonunuzun uyarı verdiğini düşünün). Temelde, tespit ve köken araçları kamusal eğitimle desteklenmelidir ki, bir uyarı ya da etiket belirdiğinde kullanıcı davranışını doğru şekilde ayarlasın. Bu teknoloji parçası, sentetik medya tehditlerine karşı gereken daha büyük bir stratejinin yalnızca bir ayağıdır.

Politika Yanıtları ve Düzenleyici Çerçeveler

Dünyanın dört bir yanındaki politikacılar deepfake tehdidinin farkına vardı ve bununla mücadeleye dair yasalar ve düzenlemeler hazırlamaya başladılar. Mesele yeni olmakla birlikte, büyük demokrasilerde yamalı bir yanıt ağı ortaya çıkıyor. Aşağıda güncel yasa ve düzenleyici girişimlerin bir özeti sunulmaktadır:

Amerika Birleşik Devletleri: ABD’de politik deepfake’lere karşı kapsamlı bir federal yasa henüz yok, ancak bu boşluğu doldurmak için momentum artıyor. Kongre’de birçok yasa tasarısı zararlı deepfake’leri önlemeyi hedefliyor. Örneğin, 2024 başında milletvekilleri yüksek profilli vakalara karşılık No AI FRAUD Act’ı önerdi (ünlü isimlerin AI ile üretilen müstehcen görüntüleri gibi olaylara tepki olarak) policyoptions.irpp.org. Bu yasa tasarısı, sahte politik deepfake’ler ve aldatıcı pornografik sahtekarlıklar gibi AI’nın zararlı kullanımlarını federal düzeyde suç haline getiren bir çerçeve kurmayı amaçlıyor policyoptions.irpp.org. Bir başka öneri ise seçim reklamlarında AI ile üretilen içeriğin bildirilmesini zorunlu kılmak (yani kampanyaların sentetik medya içeriyorsa reklamında açıkça etiket eklemesi gerekecek). Bu arada Federal Communications Commission (FCC) özel bir adım atarak AI ses klonlarının çağrı robotlarında dolandırıcılık veya zarar amacıyla kullanımını yasakladı policyoptions.irpp.org. Bu, gerçek insanların seslerinin taklit edildiği dolandırıcılık vakalarına yanıt olarak alındı. Ajansın kararı, pazarlamacıların veya politik aktörlerin sentetik sesli mesajlarla alıcıları yanıltmasını yasa dışı kıldı. ABD’de deepfake düzenlemesinin çoğu eyalet seviyesinde gerçekleşiyor. 2019’dan bu yana California, Texas ve diğer eyaletler seçim deepfake’lerine karşı yasalar çıkardı. California, bir adayın seçimden 60 gün öncesinde yanıltıcı deepfake videoları dağıtmayı yasakladı (satir/parodi dışında) brennancenter.org. Teksas ise bir adayı zarar vermek veya seçmeni etkilemek amacıyla deepfake video hazırlayan ya da paylaşanlara eyalet hapishane suçu getirdi brennancenter.org. 2025 ortası itibarıyla, en az 14 ABD eyaleti seçimlerde deepfake’leri düzenleyecek veya düzenlemeyi tartışacak mevzuat kabul etti citizen.org. Dikkat çekici olarak, bu çabalar iki partinin de desteğini buldu – her iki partiden yasa yapıcılar AI ile manipüle edilmiş seçim dezenformasyonunu demokrasiye tehdit olarak görüyor citizen.org citizen.org. Eyalet yasalarının bazıları bir aday hakkında zararlı deepfake yayınlamayı suç yaparken, diğerleri kampanya reklamlarında kullanılan sentetik medya için uyarı etiketi zorunluluğu getirmeye odaklanıyor. Ayrıca, kamu yararı savunucusu Public Citizen, Federal Election Commission’a (FEC) kurallarını güncelleyerek federal adayların kampanyalarda aldatıcı deepfake’ler yaymasını yasaklamasını talep etti brennancenter.org. FEC henüz yeni düzenleme yayınlamadı fakat konu açıkça ajandanın üst sıralarında. ABD yasa yapıcılarının ayrıca ifade özgürlüğü kaygılarını da dengelemesi gerekiyor – manipüle edilmiş medyaya yönelik aşırı sıkı yasaklar, Birinci Değişikliğe (First Amendment) çarpabilir. Örneğin satire ve parodi (korunan politik ifade), çoğu zaman üzerinde oynanmış görüntüleri içerir; yasalar yalnızca kötü niyetli aldatmacayı hedeflemelidir. Bu, birçok eyaletin yasasında özellikle parodi, satire veya gazetecilik amaçlı kullanımlara istisna getirilmesiyle yansıyor brennancenter.org brennancenter.org. Ancak genel kanaat şudur ki, seçmeni kasıtlı olarak yanıltmak veya kargaşa çıkarmak amacıyla üretilen sahte AI içeriğinin demokraside meşru bir değeri yoktur ve ifade özgürlüğünü ihlal etmeden kısıtlanabilir brennancenter.org brennancenter.org.
Avrupa Birliği: AB, deepfake’lerle doğrudan ilgili önlemler de dahil olmak üzere geniş kapsamlı Yapay Zeka düzenlemeleri konusunda hızlı hareket ediyor. 2024’te üzerinde anlaşmaya varılan (bazı hükümleri daha erken, tamamı 2026’da yürürlüğe girecek olan) AB Yapay Zeka Yasası, sentetik medya için şeffaflık şartı getiriyor. AI Yasası kapsamında, “deepfake” içerik üretebilen her AI sistemi, içeriğin AI tarafından oluşturulduğunu etiketlemek zorundadır (sanat ya da güvenlik araştırması gibi muaf alanlar dışında) realitydefender.com. Pratikte, AB’de üretken görüntü ve video model geliştiricileri, çıktının sentetik olduğunu gösteren filigran ya da meta veri eklemekle yükümlü olacak. Bunu yapmayan ağır para cezalarıyla karşılaşabilecek. Ayrıca, AB’nin güncellenmiş Yanıltıcı Bilgi Uygulama Kodu (büyük online platformların gönüllü olarak katıldığı bir kod) doğrudan deepfake’leri bir tehdit olarak işaretliyor ve platformların “manipüle edilmiş içeriği ele almak için politika, önlem ve araçlar geliştirmesini” taahhüt ediyor brennancenter.org brennancenter.org. Örneğin platformlar, halka zarar verebilecek deepfake videoları tespit edecek ve ya etiketleyecek ya da kaldıracak sistemleri uygulamayı ve yalan AI içerik hızla çürütülürken doğrulayıcılarla iş birliğini kabul etti. Dijital Hizmet Yasası (DSA) 2023’de yürürlüğe girdi ve AB’deki çok büyük online platformlar “sistemik riskleri” (AI kaynaklı dezenformasyon yayılımı dahil) değerlendirmek ve azaltmak zorunda. Bu düzenleyici baskı, Meta, Google ve TikTok gibi şirketlerin 2024–2025 Avrupa seçim sezonuna yönelik yeni güvenlik önlemleri (gelişmiş deepfake tespiti, sentetik medyanın daha belirgin işaretlenmesi vb.) açıklamasına yol açtı. Kısacası Avrupa, şeffaflık odaklı bir düzenleyici duruş sergiliyor: AI çıktılarında etiket zorunluluğu getirmek ve platformların deepfake kaynaklı dezenformasyonla mücadelede sorumluluğunu artırmak. Eleştirmenler, uygulanabilirliğin zor olacağını (tüm işaretsiz sahte içeriklere nasıl yetişilecek?) belirtiyor, ama AB sınırsız deepfake’i kabul edilemez buluyor ve dijital yönetişim standartlarıyla bağdaşmadığını belirtiyor realitydefender.com realitydefender.com.
Birleşik Krallık: Birleşik Krallık henüz seçimlere özel deepfake yasası çıkarmadı, fakat konuyu daha geniş çaplı çevrimiçi güvenlik ve yapay zeka girişimleriyle ele alıyor. 2023’te yürürlüğe giren Çevrimiçi Güvenlik Yasası (Online Safety Act), zararlı çevrimiçi içeriği düzenlemeyi amaçlayan geniş kapsamlı bir düzenlemedir. Bu yasa özellikle rıza olmadan paylaşılan deepfake pornografisini suç haline getirdi – birinin rızası olmadan müstehcen sentetik görüntü oluşturmak veya dağıtmak yasa dışı oldu policyoptions.irpp.org. Bu düzenleme, deepfake’lerin taciz boyutuna hitap etti. Seçim dezenformasyonu özelinde ise, Çevrimiçi Güvenlik Yasası, iletişim düzenleyicisi Ofcom’a dezenformasyonla ilgili uygulama kodları yayınlama yetkisi veriyor. Uzmanlar, Ofcom’un AI ile manipüle edilen içeriği de kapsayacak Yanıltıcı Bilgi Davranış Kodu geliştirmesini öneriyor cetas.turing.ac.uk. Bu tarz bir kod (muhtemelen AB yaklaşımına benzer biçimde), sosyal medya platformlarını ve politik aktörleri deepfake yaymaktan caydırabilir ve sentetik medyayı açıkça etiketlemeye zorlayabilir. Ayrıca, İngiltere Seçim Komisyonu’nun politik partilere sorumlu AI kullanımı üzerine rehberlik sunması, kampanyalarda aldatıcı deepfake’lere karşı kırmızı çizgiler getirmesi isteniyor cetas.turing.ac.uk. 2024 sonunda, partiler üstü bir milletvekili komitesi, seçim yasalarını deepfake dezenformasyonuna karşı sıkılaştırmayı tavsiye etti ancak resmi yasal düzenleme henüz getirilmedi. Hükümet, mevcut yasaların (ör. iftira, dolandırıcılık ve seçim suçlarıyla ilgili) zararlı deepfake kullanımı için yeterli olup olmadığını veya yeni yasaların gerekip gerekmediğini inceliyor cetas.turing.ac.uk. Ayrıca Birleşik Krallık, bir AI Güvenlik Enstitüsü kuruyor ve 2023’te küresel bir AI Güvenlik Zirvesi düzenledi, burada bilgi manipülasyonu tartışıldı. İngiliz yetkililer, teknik savunmayı ve medya okuryazarlığını (aşağıda öneriler kısmında tartışıldı) yasal yasaklar kadar önemsemeye odaklanıyor. Yine de, deepfake pornoyu yasaklama ve düzenleyicilere yetki verme gibi adımlar, AI destekli sahte içeriğe bir politika yanıtı gerektiğinin anlaşıldığını gösteriyor.
Kanada: 2024 itibarıyla Kanada’da seçimlerde deepfake kullanımına karşı özel bir yasa yoktur. Kanada Seçim Yasası, AI ile üretilen dezenformasyon veya deepfake’leri açıkça yasaklamaz, bu nedenle şu an için ancak genel hükümler (dolandırıcılık ya da kimlik taklidine ilişkin yasalar gibi) kapsamında kovuşturulabilir – ki bunlar tam anlamıyla yeterli olmayabilir cef-cce.ca. Uzmanlar, Kanada’nın bu konuda “diğer demokrasilerin bir-iki adım gerisinde” olduğu uyarısını yaptı policyoptions.irpp.org. Kanada, 2023 sonbaharında bir siyasetçiyi taklit eden sahte bir ses kaydının dolaşıma girdiği küçük kapsamlı bir deepfake vakasına şahit oldu. Büyük bir etki yaratmasa da, farkındalık yarattı. Elections Canada (seçim otoritesi), o zamandan sonra AI dezenformasyonunu gelişen bir tehdit olarak gördü ve potansiyel yanıtlar üzerinde çalışıyor cef-cce.ca. Politika analistleri “daha dün” bir yasa çıkarılması gerektiğini belirtiyor – örneğin Kanada Seçimleri Komiseri’ni kampanyalarda aldatıcı sentetik medya üzerinde yetkilendirmek gibi policyoptions.irpp.org. Kanada, müttefiklerinden ilham alabilir: AI tarafından üretilen seçim reklamlarında bildirim kuralı getirmek, ya da seçmeni aldatmak amacıyla deepfake olduğu bilinen materyal yaymayı suç saymak gibi. 2025 ortası itibarıyla henüz yasa teklifi sunulmadı, ancak Kanada’ya bunun için baskı artıyor policyoptions.irpp.org.
Diğer Demokrasiler: Dünyanın çeşitli demokrasilerinde de bazı önlemler hayata geçiriliyor:
- Avustralya: Avustralya hükümeti yaklaşan seçimlerden önce AI’nın “gerçek yitiminden” endişe duyarak, seçim kampanyalarında yanıltıcı deepfake video ve sesleri yasaklayacak “politik reklamda doğruluk” yasası hazırlıklarını açıkladı innovationaus.com. 2023’te hükümetin sunduğu bu teklif, seçim dönemi boyunca adayları taklit eden veya seçmeni yanıltabilecek sentetik medyanın yayınlanmasını yasaklayacak innovationaus.com. Ancak yasama süreci yavaş ilerliyor – deepfake maddelerinin yürürlüğe girmesinin 2026’yı bulabileceği bildiriliyor innovationaus.com, yani 2025 federal seçimi muhtemelen bu hükümler yürürlüğe girmeden gerçekleşecek. Bu arada, Avustralya Seçim Komisyonu uyarı yayınlayıp perspektifin önemine dikkat çekti (komisyon, deepfake’lere aşırı odaklanmanın yanlışlıkla gerçek bilgiye güveni azaltabileceğini vurguladı) ia.acs.org.au. Avustralyalı politikacılar partiler üstü şekilde AI dezenformasyonunu kısıtlamaya destek verdi ve bu özgürlüğün siyasi konuşmayla nasıl dengeleneceği konusunda tartışmalar sürüyor theguardian.com sbs.com.au.
- Tayvan: Çin’den gelen deepfake müdahaleleriyle karşılaşan Tayvan, seçim yasalarını güncelledi. 2023’te Tayvan parlamentosu Seçim ve Geri Çağırma Yasası’nı değiştirerek adayların sahte ses ya da videolarını sonucu aldatma amacıyla paylaşmayı yasakladı policyoptions.irpp.org. Bu, 2024’te görülen türden deepfake karalama saldırılarına karşı net bir yasal araç sağladı. Tayvan ayrıca halk eğitimi ve hızlı müdahale sistemi (devlet, sivil toplum ve teknoloji platformlarının ortaklığı) oluşturdu ve yanlış bilgilerin etkisini azaltmada başarılı oldu policyoptions.irpp.org policyoptions.irpp.org.
- Avrupa demokrasileri: AB düzenlemeleri dışında, bazı Avrupa ülkeleri deepfake’leri mevcut yasalar altında ele almaya başladı. Örneğin, Fransa’nın 2018’de kabul ettiği “sahte bilgi” yasası, oylamayı etkilemek amacıyla yayılan deepfake videolara uygulanabilir; Almanya’nın sıkı iftira ve seçim yasaları da benzer şekilde kullanılabilir. Ayrıca yeni önlemlere dair öneriler geliyor: Almanya’da siyasi partilerin kampanya materyallerinde sentetik medya kullanımını açıklama zorunluluğu tartışıldı. Yukarıda belirtildiği gibi, Birleşik Krallık’ta da gelecekteki seçim yasası değişiklikleri (dijital reklamlar için etiket zorunluluğu gibi), AI içeriği ifşalarını içerebilir cetas.turing.ac.uk.
- Uluslararası girişimler: Küresel işbirliği ihtiyacının arttığı görülüyor, çünkü dezenformasyon sınır tanımıyor. G7, 2024’te “Yapay Zeka Yönetişimi” konusunda çalışan bir çalışma grubu kurdu ve bilgi ortamında AI’nın kötüye kullanımına karşı mücadeleye dair bir açıklama yayınladı. ABD yönetimi, büyük AI geliştiricilerinden (OpenAI, Google, Meta vb.) AI içeriği için filigran ve kötüye kullanıma karşı yatırım taahhütleri aldı. Bu bağlayıcı olmasa da, yapay zekada şeffaflık ve sorumluluk lehine uluslararası bir norm oluştuğunu gösteriyor.

Özetle, deepfake’lere yönelik politika yanıtları hız kazanıyor. Mevzuat teknolojiye yetişmeye çalışıyor ancak gidişat belli: hükümetler seçimlerde sentetik medyanın en zararlı kullanımlarını suç haline getirmek, AI ile üretilmiş içerik için şeffaflığı (etiketleme/bilgilendirme) zorunlu kılmak ve düzenleyicilere veya seçim kurumlarına dijital sahteyle mücadele yetkisi vermek yönünde hareket ediyor. Aynı zamanda, mizah ve yorum gibi meşru ifadeyi korumak ve aşırı kısıtlayıcı düzenlemelerin yanlış amaçlarla kullanılmasını engellemek gerekiyor. Bu dengeyi tutturmak zorlu. ABD eyalet yasalarından AB çapında zorunluluklara kadar oluşturulan çeşit çeşit yaklaşımlar 2025’te bir test ortamı olacak. Politikacılar, neyin işe yaradığını tecrübe ettikçe bu araçları geliştireceklerdir. Ancak hareketsiz kalmak seçenek değildir: bir politika takipçisinin dediği gibi, “Düzenleme olmadan, deepfake’ler muhtemelen seçmenleri daha da fazla yanıltacak ve seçimlere olan güveni zedeleyecektir.” citizen.org citizen.org Sonraki bölüm, bu çabaları temel alan stratejik önerileri ve demokratik süreçte tüm paydaşlara yönelik hedefleri ortaya koyacaktır.

Seçimleri Korumak İçin Stratejik Öneriler

Yapay zekâ çağında seçim bütünlüğünü savunmak çok yönlü bir strateji gerektirecektir. Tek bir araç veya yasa derin sahtecilik (deepfake) sorununu çözemez; bunun yerine hükümetler, teknoloji platformları, medya ve sivil toplumun koordineli bir çabası gerekir. Aşağıda, bu sektörler arasında riskleri azaltmak ve seçmenlerin 2025 ve sonrasında bilinçli kararlar verebilmesini sağlamak için stratejik öneriler sunulmuştur:

Hükümetler ve Politika Üreticiler

1. Yasal Korumaları ve Caydırıcılığı Güçlendirin: Hükümetler, seçimlerde kötü niyetli sentetik medya kullanımını açıkça yasaklayan yasalar çıkarmalı veya mevcut yasaları güncellemelidir. Bu, kamuoyunu yanıltma veya bir seçimi sabote etme niyetiyle adayları yanlış bir şekilde tasvir eden veya seçimle ilgili bilgileri (oy kullanma prosedürleri gibi) manipüle eden herhangi bir derin sahte içeriğin oluşturulması veya dağıtılmasının yasaklanmasını içerir. Yasalarda dar kapsam önemlidir – yasalar kasıtlı aldatmayı (dezenformasyon) hedeflemeli, hiciv, parodi veya bariz sanatsal ifade için açık istisnalar olmalıdır. Cezalar (para cezası veya cezai yaptırımlar), özellikle hızlıca uygulanırsa, potansiyel derin sahtecilik tacirleri için caydırıcı olacaktır. Örneğin, Avustralya’nın kampanya sırasında aldatıcı derin sahtecilik yasağına yönelik önerisi ve Tayvan’ın seçimlerde yapay zekâ manipülasyonuna karşı yeni hükümleri innovationaus.com policyoptions.irpp.org gibi örnek teşkil edebilir. ABD’de ise federal bir girişim (örneğin önerilen No AI FRAUD Act) ülke çapında bir asgari standart oluşturabilir ve eyalet yasalarını tamamlayabilir. Ayrıca, hükümetler kampanya finansmanı ve reklamcılık kurallarını güncellemelidir: Sentetik medya içeren herhangi bir siyasi reklamda (çevrimiçi veya yayımlanan) açık bir bilgilendirme (“Bu görüntü/video yapay zekâ ile üretilmiştir” gibi) zorunlu olmalı ki izleyiciler yanıltılmasın. Reklamlarda doğruyu yansıtma düzenlemeleri kampanyalar için AI içeriklerini de kapsamalıdır.

2. Seçim Olay Yanıt Protokollerini Uygulayın: Seçim otoriteleri, ciddi derin sahtecilik olaylarına gerçek zamanlı yanıt vermek için resmi protokoller oluşturmalıdır. Kanada’nın Kritik Seçim Olayı Kamu Protokolü, üst düzey yetkilileri bir araya getirerek seçim sırasında yabancı müdahaleler veya dezenformasyon tehditlerini değerlendirip kamuya bildirmeleri açısından harika bir örnektir cetas.turing.ac.uk cetas.turing.ac.uk. Diğer demokrasiler de benzer mekanizmaları benimsemelidir. Eğer tehlikeli bir derin sahte (örneğin bir adayın yenilgiyi kabul ettiğine dair uydurma bir video Seçim Günü’nde yayılırsa) ortaya çıkarsa protokol devreye girer – yetkililer, istihbarat uzmanları ve teknoloji platformları hızla gerçeği teyit eder ve kamuya sahte olanı çürüten ve gerçekleri açıklayan bir duyuru yayımlar cetas.turing.ac.uk. Bu hızlı karşıyanıt yeteneği, yoğun dezenformasyonun etkisini azaltmak için çok önemlidir. Hükümetler bu yanıtlara önceden çalışmalı (çeşitli derin sahte senaryolarını savaş oyunu gibi simüle etmeli) ki gerektiğinde hızlı ve tek sesle tepki verebilsinler.

3. Tespit ve Doğrulama Altyapısına Yatırım Yapın: Kamu sektörü kurumları, derin sahtecilik tespiti ve içerik doğrulamasını ilerletmek için kaynaklarını seferber etmelidir. Bu, Ar-Ge’ye (örneğin AI-aracılı dezenformasyon odaklı DARPA tarzında programlar), seçimlerde kullanılacak tespit araçlarının sağlanmasına ve devlet iletişimlerinde doğrulama standartlarının benimsenmesine fon ayırmayı içerir. Atılabilecek somut bir adım; devlet medyası (devlet yayıncıları, resmi sosyal medya hesapları, vb.) tarafından yayımlanan tüm resmi fotoğraf, video ve seslere kanıtlanabilir doğrulukta meta veri eklemeye başlanmasıdır cetas.turing.ac.uk. Böylece “doğrulanmış, gerçek” bilgi temeli oluşturulur. Seçmenler ve gazeteciler meta verisinde devlet mührü olan herhangi bir videonun gerçek olduğuna güvenebilirler – ve aynı özelliği taşımayan benzer görüntülere daha şüpheyle yaklaşabilirler. Hükümetler bu “doğruluk-odaklı-tasarım” yaklaşımında öncülük edebilir cetas.turing.ac.uk; ABD ve Birleşik Krallık da bu konuda çalışmalar yürütüyor. Ayrıca, kolluk kuvvetleri ve seçim denetim makamları, kampanya dönemlerinde şüpheli medyayı incelemek için adli analiz birimleriyle donatılmalıdır. Yetkililerin derin sahtecilikleri teknik olarak izleme ve failini tespit etme imkânına sahip olduğunu bilmek de kötü niyetli aktörlere caydırıcı olacaktır.

4. Mevcut Yasaları Netleştirin ve Modernize Edin: Birçok ülke, dolandırıcılık, kimlik hırsızlığı, iftira veya seçim müdahalesiyle ilgili mevcut yasaların bazı derin sahtecilik vakalarına uygulanabilir olduğunu görebilir – ancak boşluklar olabilir. Hükümetler yasal mevzuatlarını gözden geçirmeli ve yeni kategorilere ihtiyaç olup olmadığını değerlendirmeli. Örneğin, bir kamu görevlisinin yapay zekâ ile oluşturulmuş taklidini kapsayan yasalarımız var mı? Yoksa, bunları devreye sokun. Ayrıca veri koruma ve gizlilik yasalarının, birinin görünümünün/sesinin izinsiz olarak yapay zekâ ile kullanılmasını ihlal olarak içermesini sağlayın. Zararlı derin sahte içeriklerin hukuki statüsünün netleştirilmesi (ve halka bu konuda bilgilendirme yapılması) hem kötü niyetli potansiyel aktörlerin sorumlu tutulabileceklerini bilmelerini sağlar, hem de hedef alınırsa mağdurlara (adaylar ya da vatandaşlar) çözüm bulma hakkı verir. Bu inceleme seçim yasalarını da kapsamlı düşünmelidir: yasadışı seçim reklamı veya yanlış bilgi yayımı tanımlarının sentetik medya manipülasyonunu açıkça kapsayacak şekilde güncellenmesi gerekir cetas.turing.ac.uk. Amaç herhangi bir belirsizliği gidermek – kötü niyetli bir dezenformasyoncu “teknik olarak yasa dışı değil çünkü yapay zekâ” diyememeli. Yasalar açık olursa uygulama ve yargılama daha kolay olur.

5. Uluslararası İş Birliğini Artırın: Dezenformasyon kampanyaları sıklıkla yurtdışında başlatıldığından (veya sınır ötesinde yayıldığından) demokratik hükümetler bu konuda birlikte çalışmalıdır. İstihbarat ve siber güvenlik birimleri, karşılaşılan yeni derin sahtecilik taktikleri hakkında bilgi paylaşmalıdır (örneğin bir ülke yurtdışından gelen bir derin sahte operasyonunu tespit ederse diğerlerini uyarmalıdır). Demokrasiyi Koruma İttifakı, G7, AB-ABD diyalogları gibi platformlar ortak açıklamalar ve normlar yoluyla seçimlerde derin sahteciliklere karşı koordinasyon sağlayabilir. Diplomatik baskı, böyle müdahalelere sponsor olan veya göz yuman devlet aktörlerine uygulanabilir. Ayrıca iş birliği için araştırma alanı vardır – örneğin, uluslararası bir derin sahtecilik tespit merkezi algoritmaları iyileştirmek için veri toplayabilir. Seçim gözlem organizasyonları (OSCE veya uluslararası gözlemci misyonları gibi) yöntemlerini sentetik medya etkisini tespit edecek şekilde güncellemeli, ülkeler de demokratik süreçlerin savunmasında derin sahtecilik olasılıklarını karşılıklı savunma paktlarında yer vermelidir. Birleşik bir cephe, kötü niyetli aktörlerin herhangi bir ülkenin açığını istismar etmesini zorlaştıracaktır.

6. Kamu Farkındalığı ve Dijital Okuryazarlığı Teşvik Edin: Sonuç olarak, hükümetlerin seçmenleri derin sahtecilikler hakkında eğitme rolü vardır. Birçok ülke şimdi okullarda ve genel kamuya yönelik dijital okuryazarlık programları cetas.turing.ac.uk başlatmayı veya yaygınlaştırmayı düşünüyor. Bu programlar, kişilere çevrimiçi bilgilerin nasıl doğrulanacağını, manipüle edilmiş medyanın işaretlerini nasıl tanıyacaklarını ve kaynaklar hakkında eleştirel düşünebilmeyi öğretiyor. Yapay zekâ üretimi sahteciliklerin ne kadar inandırıcı olduğu düşünüldüğünde, her seçmenin bu tür sahtelerin var olduğunu bilmesi ve çarpıcı içerikleri körü körüne kabullenmeden veya paylaşmadan önce iki kere kontrol etme özgüvenine sahip olması hayati önem taşır. Hükümetler, eğitim kurumları ve STK’larla ortaklık kurarak müfredatlara ve kamu bilgilendirme kampanyalarına derin sahtecilik farkındalığını dâhil etmelidir. Örneğin, bir siyasetçinin gerçek ve derin sahte kliplerinin yan yana gösterildiği kamu spotları yürütmek ve aradaki farkı anlatmak farkındalığı artırabilir. Kanıtlar gösteriyor ki medya okuryazarlığı ve eleştirel düşünme becerileri yüksek olan bireyler derin sahtecilikleri tespit edip dezenformasyona direnmede çok daha başarılı cetas.turing.ac.uk. Bu nedenle, medya okuryazarlığı girişimlerine yapılan yatırım, en etkili uzun vadeli savunmalardan biridir. Halk aktif bir sensör ağı hâline gelip sahteyi tespit edip ifşa ederse derin sahte propaganda etkisi büyük ölçüde azaltılabilir.

Teknoloji Platformları ve Yapay Zekâ Geliştiricileri

1. Platform Politikalarını ve Uygulamalarını Güçlendirin: Sosyal medya ve çevrim içi platformlar, viral derin sahteciliklerin ana dağıtım kanallarıdır. Bu şirketler, kullanıcıları yanıltan manipüle edilmiş medya içeriklerine karşı sıkı politikalar benimsemelidir; özellikle seçim bağlamında. Birçok platform buna başlamıştır: örneğin Facebook ve Twitter (X), zarara yol açabilecek “manipüle edilmiş medya”yı kaldırma veya etiketleme politikalarına sahiptir. Ancak uygulama güçlü olmalıdır. Platformlar, derin sahtecilikleri otomatik tespit etme kapasitesini geliştirmeli (önceki bölümlerde ele alınan son teknolojileri kullanarak) ve kullanıcıların şüpheli içerikleri ihbar etmesi hâlinde insan moderatörlerin hızla inceleme yapmasını sağlamalıdır. Seçim dönemlerinde şirketler, olası derin sahtecilik olaylarını gerçek zamanlı yönetmek için özel savaş odaları ve seçim kurullarıyla iş birliği kanalları oluşturabilir. Bir sahte uyarısı aldığında platformlar onu yanlış olarak etiketlemeli veya derhal kaldırmalı ve algoritmalarla daha fazla yayılmasını önlemek için görünürlüğünü azaltmalıdır brennancenter.org brennancenter.org. Şeffaflık da çok önemlidir: platformlar, tespit ettikleri derin sahte içerikler ve aldıkları aksiyonlar hakkında düzenli raporlar yayımlayarak kamu güvenini artırabilir. Ayrıca tespit edilen derin sahtelerin örneklerini araştırmacılarla paylaşarak toplu bilgiyi geliştirmelidirler.

2. Deepfake Açıklaması ve İzlenebilirliği Uygulayın: AB’nin öncülüğünden ilham alınarak, küresel ölçekte platformlar AI tarafından üretilen içeriğin etiketlenmesi ve açıklanmasını zorunlu kılmalıdır. Örneğin, bir siyasi reklamda AI ile oluşturulmuş bir görsel veya ses yer alıyorsa, platform yükleyiciden “bu içerik sentetik unsurlar içeriyor” kutucuğunu işaretlemesini zorunlu kılabilir – ardından izleyicilere “Bu video AI tarafından değiştirilmiş veya kısmen üretilmiştir” bildirimini gösterebilir. Resmî reklamlar dışında bile, platformlar şüpheli deepfake videoları görsel olarak işaretlemek için tespit araçları kullanabilir (örneğin, videonun gerçekliğinin doğrulanamadığını belirten bir uyarı kaplaması). Ayrıca, sosyal ağlar ve mesajlaşma servisleri içerik doğrulama özellikleri entegre edebilir: C2PA gibi standartları kullanarak, bir görselin kaynağı ve düzenleme geçmişi doğrulanmışsa kullanıcılara bir simge gösterebilir veya bu veriler eksikse uyarı verebilirler. Bazı teknoloji şirketleri (Adobe, Microsoft, Twitter) bu tür çalışmalara zaten dahil olmuş durumda. Kaynak doğrulama sinyallerini arayüzlerine entegre ederek platformlar kullanıcıların gerçek ile sahteyi ayırt etmelerine yardımcı olabilir. Ayrıca iz sürme mekanizmaları üzerinde de çalışmalılar – örneğin, zararlı bir deepfake yayılıyorsa, içeriği ilk kimin yüklediğini belki binlerce kez yeniden paylaşılsa bile izleyebilirler mi? Büyük vakalarda kolluk kuvvetleriyle iş birliği yapmak (gizlilik yasalarına saygı göstererek) failleri yakalamak için önemli olacaktır.

3. Kötü Niyetli Deepfake Kullanıcılarını ve Ağlarını Yasaklayın: Platformlar, tekrar tekrar deepfake kullanan organize aktörlere karşı dikkatli olmalıdır. Bu, sadece tekil içerikleri kaldırmakla kalmayıp; koordineli deepfake kampanyalarına katılan hesapları, sayfaları ya da botları kapatmak anlamına gelir. Eğer bir operasyonun devlet destekli çabalara ya da bilinen bir trol çiftliğine ait olduğuna dair kanıt varsa, platformlar bunu duyurmalı ve varlıklarını tamamen ortadan kaldırmalıdır. Son yıllarda pek çok dezenformasyon ağı çökertildi; AI destekli etki operasyonlarında da aynı agresif yaklaşım uygulanmalı. Platformlar, hizmet şartlarını, başkalarını yanıltmak amacıyla sentetik medya oluşturmayı veya yaymayı açıkça yasaklayacak şekilde güncellemelidir. Bu kurallar, ihlal edenlerin yasaklanması için bir dayanak sağlar. Siyasi reklamda, yanıltıcı deepfake kullandığı tespit edilen bir kampanya veya PAC reklam ayrıcalıklarını kaybetmek gibi yaptırımlarla karşılaşmalıdır. Teknoloji şirketleri, kötü şöhretli deepfake hash’leri veya imzalarının paylaşıldığı ortak bir kara liste tutmak için de iş birliği yapabilir; böylelikle bir sahte içerik bir platformda tespit edildiğinde diğerlerinde de engellenebilir (tıpkı terörist içerik hash’lerinin konsorsiyum aracılığıyla paylaşılması gibi). Esasen, deepfake’lerin ana akım platformlarda kullanılmasını cazip olmaktan çıkarmak hedeflenmelidir – ya içerik hızla silinir ya da arkasındaki kişi hesabını kaybeder.

4. Doğruluk Kontrolü Uzmanları ve Otoritelerle İş Birliği: Hiçbir platform içerikleri tamamen tek başına denetleyemez. İş birliği çok önemlidir. Sosyal medya şirketleri bağımsız doğruluk kontrolü kuruluşlarıyla ortaklıklarını derinleştirmeli, viral içeriklerin değerlendirilmesinde birlikte çalışmalıdır. Doğruluk denetçileri bir videonun sahte olduğunu ortaya koyduğunda, platformlar bu düzeltmeyi yaygınlaştırmalı – örneğin, video paylaşıldığında doğruluk kontrolü makalesinin bağlantısını eklemeli ya da ilk başta sahteyi gören tüm kullanıcıları bilgilendirmelidir. Şirketler (örneğin Facebook) bunu dezenformasyon için yaptı ve deepfake’lerde de sürdürmeli. Ayrıca platformlar, özellikle seçim dönemlerinde seçim komisyonları ve güvenlik kurumlarıyla koordinasyon içinde olmalıdır. Yetkililerin seçimleri etkileyen şüpheli deepfake’leri bildirmesi için doğrudan hatlar ya da kanallar oluşturulabilir; aynı şekilde platformlar da ülkede tespit ettikleri yabancı dezenformasyon saldırılarını hükümetlere bildirebilir. Bazı ülkelerde resmî düzenlemeler mevcut (örneğin AB Uygulama Kodu, tehditlerle ilgili hükümetlerle bilgi paylaşımını teşvik ediyor brennancenter.org). ABD’de bile İç Güvenlik Bakanlığı’nın siber birimi, seçim dezenformasyonunu izleme konusunda platformlarla çalışıyor. Bu iş birlikleri elbette ifade özgürlüğüne saygı göstermeli ve meşru konuşmaları sansür noktasına varmamalıdır. Ancak bariz şekilde uydurma, zararlı materyaller için platformlar ve kamu kurumları arasında hızlı ve koordineli müdahale, bir sahte içeriğin yayılmasını önleyebilir. Bu, viral bir sahteyi çürüten ortak basın açıklamaları ya da yayılmayı önlemek için güvenilir kaynakların algoritmik biçimde öne çıkarılması gibi yöntemler içerebilir.

5. AI Modeli Güvenlik Önlemlerini Geliştirin: Üretici AI modellerini geliştiren şirketler (OpenAI, Google, Meta vb.) kaynaktaki sorumluluğa sahiptir. AI’larının seçimlere müdahalede kötüye kullanımını önleyecek önlemler uygulamalıdırlar. Bu, örneğin AI çıktılarının filigranlanmasını kapsayabilir (böylece örneğin DALL-E veya Midjourney tarafından üretilen her görselin gömülü bir imzası olur). Aynı zamanda eğitim verisi kürasyonu gerektirebilir – örneğin, modellerin zarar verici bir şekilde gerçek bireyleri taklit etme taleplerine yanıt vermemeye eğitilmesi. Hali hazırda bazı AI araçları, yerleşik filtreler nedeniyle gerçek siyasi figürlerin deepfake görüntülerini oluşturmayı reddediyor. Bu koruma önlemleri sürekli geliştirilmeli (her ne kadar açık kaynak modeller, kötü niyetli kişiler tarafından bu tür kısıtlamalar olmadan ince ayara tabi tutulabildiği için ayrı bir zorluk teşkil etse de). AI geliştiricileri ayrıca deepfake tespit tekniklerine yönelik araştırmalara da yatırım yapmalı ve bunları toplulukla paylaşmalıdır. Birçok lider AI firmasının filigranlama ve içerik doğrulama konularında gönüllü taahhütlerde bulunması olumlu bir işarettir. Gelecekte, firmalar; herhangi bir video veya ses dosyasının kendi modelleri kullanılarak üretilip üretilmediğini hızlıca kontrol etmeye imkân tanıyan standart bir API oluşturmak için de iş birliği yapabilirler. Esas olarak “sorunu” (üretici teknolojiyi) oluşturanların, “çözümü” (çıktısının tanımlanma olanaklarını) de yaratması gerekir.

6. Siyasi Reklamcılıkta Şeffaflık: Siyasi reklam barındıran platformlar AI kullanımına dair sıkı şeffaflık uygulamalıdır. Facebook veya Google’da AI ile üretilmiş unsurlar içeren bir kampanya reklamı öne çıkarılıyorsa, platformun reklam kütüphanesinde bu açıkça belirtilmelidir. Platformlar, siyasi reklamverenlerden karşılaştırma için ham, düzenlenmemiş görüntüleri sunmalarını dahi isteyebilir. Daha da iddialı bir şekilde, sosyal medya platformları, kampanyaların son ve hassas günlerinde, sentetik medya içeren tüm siyasi reklamları geçici olarak yasaklamayı düşünebilir – tıpkı bazı platformların Seçim Günü öncesinde yeni siyasi reklamlara yasak getirmesi gibi. Bu, son anda yapılan deepfake reklam saldırılarının önüne geçerdi. Uygulama zor olsa da, ilke olarak aldatıcı içeriğin ücretli olarak yayılması özellikle tehlikelidir ve platformlar reklamları kullanıcı gönderilerinden daha serbestçe düzenleyebilir. Reklam alanında yüksek şeffaflık ve hızlı müdahale sağlamak kritiktir, zira algoritma ile hedeflenen ücretli deepfake reklamlar, bilgi ortamını haksız şekilde bozarak milyonlarca kişiye ulaşabilir.

Medya ve Gazetecilik Kuruluşları

1. Sıkı Doğrulama Protokolleri: Haber medyasının doğrulama uygulamalarını deepfake çağında güncellemesi gerekir. Ulusal TV ağlarından yerel gazetelere ve doğruluk kontrolü sitelerine kadar her haber merkezi, görsel-işitsel içerikleri yayınlamadan veya paylaşmadan önce doğrulamak için resmî prosedürler oluşturmalıdır. Bu; gazetecilere adli araçların kullanımı konusunda eğitim verilmesi (örneğin, video meta verisi kontrolü, görsel analizleri), gerektiğinde uzmanlara danışılmasını içerir. Seçim dönemlerinde ortaya çıkan sansasyonel veya skandal bir klip için editörler sağlıklı bir şüphecilik yaklaşımıyla davranmalı ve doğrulama olmadan hemen yayınlamamalıdır. Medya kuruluşları, kullanıcı tarafından üretilen her içeriği iki kaynakla doğrulamalı: örneğin, bir siyasi adayın şok edici bir şeyi yaptığına dair bir video çıktıysa, haber kurumu ek deliller (tanıklar, resmî açıklamalar vb.) aramalı veya en azından deepfake olup olmadığını anlamak için kare kare analiz yapmalıdır. Amaç, yanlış bilginin istemeden yayılmasına sebep olmamaktır. Bazı medya kuruluşları dahili deepfake ekipleri oluşturmaya başladı. Arizona’daki gazeteciler, izleyicilere videonun nasıl kolayca manipüle edilebileceğini göstermek amacıyla (izne dayalı şekilde) kendi deepfake’lerini oluşturdular knightcolumbia.org – bu, farkındalığı artırmanın zekice bir yoluydu. Tüm haber merkezleri, “deepfake uzmanını” hızlı analizler için hazır bulundurmayı (veya bir teknoloji laboratuvarı ile ortaklık kurmayı) düşünmelidir. Doğrulamayı tıpkı gerçek kontrolü gibi rutinleştirerek medya, sahteleri erken yakalayabilir, en azından doğrulanmamış içeriklerde izleyiciyi uyarabilir.

2. Deepfake İçeriklerinde Sorumlu Habercilik: Sentetik medya vakalarını haberleştirirken, gazeteciler dikkatli ve bağlam içinde hareket etmelidir. Bir siyasi adayı hedef alan deepfake viral olduysa, haberin odağı sahte iddialar değil, bunun sahte bir manipülasyon olmasıdır. Medya haberlerinde sahte iddiaların detaylı şekilde tekrarlanmasından veya sahte videonun eleştirisiz bir şekilde yayınlanmasından kaçınılmalıdır, çünkü bu yanlış bilginin daha fazla yayılmasına yol açabilir. Onun yerine, içeriği genel olarak tanımlayabilir ve verilen tepkiye odaklanabilirler (örneğin: “X’in Y’yi yaptığına dair manipüle edilmiş bir video internette yayımlandı ve uzmanlarca çürütüldü”). Kuruluşlar, deepfake içeriği bulanıklaştırmayı veya çevrimiçi makalelerinde doğrudan bağlantı vermemeyi tercih edebilir cetas.turing.ac.uk, böylece trafiğin artması veya kötü niyetli kişilerin indirmesi ve yeniden paylaşması önlenir. Haberin çerçevesi önemlidir: aldatılma girişimini ve deepfake’in varlığını vurgulayın, içeriğindeki sahte anlatıdan çok cetas.turing.ac.uk. Medya, aynı zamanda düzeltmeleri veya gerçeği öne çıkarmalıdır (örneğin: “Hayır, politikacı Z bunu söylemedi – video bir AI üretimi; aslında konuyla ilgili şunu söyledi.”). Bunu tutarlı şekilde yaparak, itibarlı medya halkı bu tür içeriklere inanmamaya veya paylaşmamaya karşı bağışık hale getirebilir. Bu, dezenformasyonu haberleştirmek ile (çünkü görmezden gelmek yok olmasını sağlamaz), istemeden yaygınlaştırmak arasında hassas bir dengedir. Deepfake haberlerinde, tıpkı asılsız iddialar ya da toplu saldırılarla ilgili haberlerde olduğu gibi (bazı ayrıntıların paylaşımı kopyacıları önlemek için sınırlandırılır), benzer gazetecilik kuralları geliştirilebilir. İngiltere’de Bağımsız Basın Standartları Organizasyonu, bu tip durumları kapsayacak şekilde kurallarını güncellemeye teşvik edilmektedir cetas.turing.ac.uk.

3. Haber Odalarında Kimlik Doğrulama Teknolojisinin Kullanımı: Haber kuruluşları da ortaya çıkan kimlik doğrulama altyapısından faydalanabilirler. Örneğin, bir medya kuruluşu, gazetecileri tarafından çekilen tüm orijinal fotoğraf ve videolara kriptografik içerik kimlik bilgilerinin eklenmesi için Content Authenticity Initiative’in araçlarını kullanabilir. Bu, örneğin Reuters veya AP kameramanı tarafından kaydedilen herhangi bir görüntünün, kaynağını ve yapılan düzenlemeleri doğrulayan güvenli bir mühürle taşınabileceği anlamına gelir. Sonrasında, insanlar Reuters kaynaklı bir video gördüklerinde onun değiştirilmemiş olup olmadığını kontrol edebilirler. Bu tür önlemler, gerçek olanı ortaya koymaya yardımcı olur ve halka bir hakikat kaynağı sunar. Medya kuruluşları ayrıca, doğrulama uzmanlarına yardımcı olabilecek bilinen deepfake’lerin (ve bilinen gerçek içeriklerin) veritabanlarını oluşturmak için işbirliği yapmalıdır. Örneğin, resmi konuşmaların ve röportajların bir arşivinin tutulması, bir sahte videoyu hızla karşılaştırma yoluyla çürütmeye yardımcı olabilir. Büyük ajanslar ve haber kuruluşları, tehlikeli bir deepfake tespit edilirse, tüm abonelerine hızla uyarı göndermek için koordine olabilir – tıpkı flaş haber uyarıları yayınladıkları gibi. Dahili olarak, haber editörleri de politik aktörlerin gazetecilere sahte medya sunmaya çalışabileceğinin farkında olmalıdırlar (ör. aslında yapay zeka tarafından üretilmiş “sızdırılmış” bir ses kaydı ile verilen bir tüyo gibi). İsimsiz kaynaklı dijital materyallere karşı şüpheyi yüksek tutmak akıllıcadır.

4. İzleyicinin Eğitimi: Medya, seçmenleri sentetik medya konusunda eğitmekte büyük rol oynayabilir. Haber kuruluşları ve gazeteciler, izleyiciye deepfake’lerin nasıl yapıldığını ve nasıl tespit edileceğini gösteren açıklayıcı haberler, uzman röportajları ve bölümler hazırlamalıdır. Teknolojiyi anlaşılır kılarak, etkisini azaltırlar. Örneğin, 2024’te bazı TV haber programlarında, dolandırıcı bir aramanın bir akrabanızın sesini taklit edebileceğini göstermek için, yapay zeka ses kopyaları canlı yayımlandı. Benzer şekilde seçim dönemi yayınlarında şu tür hatırlatmalar yer alabilir: “Eğer bir adayla ilgili şok edici bir videoyu son dakikada görürseniz dikkatli olun – sahte olabilir. Doğrulamak için şunları yapın…”. Medyanın öncülüğünde (hükümet veya STK’larla işbirliği içinde) yürütülecek kamuoyu farkındalığı kampanyaları dijital okuryazarlığı önemli ölçüde artırabilir. Gazeteciler de tutarlı bir şekilde doğru dili kullanmalıdır: Bir şeye “deepfake” ya da “yapay zeka tarafından üretilmiş sahte video” demek, sadece “düzenlenmiş video” demektense bu yeni kategorinin varlığını vurgular. Zaman içinde iyi bilgilendirilmiş bir toplum, sahteyi daha az kanıksar ve daha fazla kanıt talep etmeye başlar. Medya, bilgi ile toplum arasındaki köprü olarak bu dayanıklılığı inşa etme sorumluluğuna sahiptir.

5. Hesap Verebilirlik ve Teşhir: Son olarak, gazeteciler yüksek profilli deepfake operasyonlarının arkasında kimin olduğunu araştırmalı ve gün ışığına çıkarmalıdır. Failin kamuoyuna açıklanarak teşhir edilmesi, gelecekteki kötüye kullanımı caydırabilir. Eğer rakip bir kampanya, yabancı bir trol fabrikası veya belirli bir internet grubu zararlı bir deepfake’in kaynağı olarak tespit edilirse, bu şekilde haberleştirilmesi böyle yöntemlere damga vuracak ve risk kazandıracaktır. Dezenformasyon kampanyalarının üretimi ve finanse edilmesiyle ilgili yapılacak ifşalar ise etkinliklerini azaltabilir. Ayrıca, bir politikacı ya da kamuoyu figürü, sahte olduğunu bilerek bir deepfake paylaşırsa (örneğin, bir aday, rakibinin sahte bir videosunu tweetlerse), medya bunu açıkça ortaya koymalı – ve bunu ciddi bir usulsüzlük olarak ele almalıdır. Olumsuz basın ve itibar kaybı riski, politik aktörlerin deepfake gibi “kirli oyunlara” başvurmasını engelleyebilir. Kısacası, gazeteciliğin bekçi köpeği işlevi dijital ortama da uzanır: politikadaki herhangi bir dolandırıcılık veya yolsuzlukta olduğu gibi kötü niyetli sentetik medya operasyonlarını araştırmak, sahipliğini ortaya koymak ve teşhir etmek gerekir.

Sivil Toplum ve Seçmen İnisiyatifleri

1. Dijital Okuryazarlık ve Toplumsal Eğitim: Sivil toplum kuruluşları – STK’lar, kütüphaneler, üniversiteler ve tabandan topluluklar dahil – vatandaşların deepfake çağında yol bulabilmesi için eğitimin öncülüğünü üstlenebilirler. Topluluklara, medyanın nasıl doğrulanacağı konusunda ölçeklenebilir programlar sunulmalıdır. Örneğin, STK’lar insanların bir fotoğrafın yapay zekayla üretilip üretilmediğini veya manipüle edilip edilmediğini anlamak için tersine görsel arama yapma, doğrulayıcı haber kontrolü ve teyit platformlarını kullanma gibi basit yöntemleri öğreten atölye çalışmaları düzenleyebilir. Dezenformasyon ve deepfake’i tespit etmeyi kapsayan (örneğin First Draft, Media Literacy Now gibi gruplardan) harika eğitim setleri ve müfredatlar halihazırda mevcut; bunlar yaygın şekilde paylaşılmalıdır. Bu eğitimler yalnızca okul çağındaki öğrencilere değil, internet kandırmacalarına daha duyarlı olabilen ileri yaştaki yetişkinlere de ulaşmalıdır. Ülke genelinde dijital okuryazarlık kampanyaları devlet fonuyla mümkün olsa da, güvenirlik açısından topluluk örgütleri eliyle yürütülebilir. Amaç, toplumun “bağışıklık eşik değerini” yükseltmektir: Yeterli sayıda insan bir sahteyi tanıyabiliyor ya da doğrulanana kadar yargıdan kaçınıyorsa, dezenformasyoncular çok güç kaybeder. Anketler, halkın bu bilgiye ihtiyaç duyduğunu gösteriyor – birçok kişi gerçeği sahteden ayırmada yetersiz kaldığı için kaygılı brennancenter.org brennancenter.org. Sivil toplum, bu açığı eğitim ve pratik becerilerle vatandaşı güçlendirerek kapatabilir.

2. Doğrulama ve Çürütme İnisiyatifleri: Bağımsız doğrulama kuruluşları ve sivil toplum bekçileri kilit rol oynamaya devam edecekler. Özellikle seçim dönemlerinde özel deepfake doğrulama merkezleri gibi girişimlerle hazırlık yapmalılar. Örneğin, doğrulayıcı kuruluşlar koalisyonu, seçim döneminde dedikoduları ve ortaya çıkan deepfake iddialarını izleyen, hızlı çürütmeler sağlayan herkese açık bir gösterge tablosu tutabilir. News Literacy Project 2024 ABD seçimlerinde benzerini yaptı, yanlış bilgi vakalarını kaydederek kaçının gerçekten yapay zeka ile ilgili olduğunu bildirdi knightcolumbia.org knightcolumbia.org. Bu tür şeffaf izleme hem kamuoyu hem de gazeteciler için genel tabloyu gösterir, tehdidi abartmadan gerçek vakaları ele alır. Sivil toplum grupları ayrıca düzeltici bilgileri sosyal medyada yayabilir – yani viral olan gönderilere, topluluk notları ya da diğer araçlarla doğru bilgilerle cevap verebilir. Ayrıca “ön çürütme” (prebunking) yaygınlaştırılmalı: Kamuoyunu bir sahte ortaya çıkmadan önce bunun olabileceği yönünde uyarmak. Örneğin, istihbarat veya geçmiş örnekler, bir adayın sahte bir skandalla hedef alınabileceğini gösteriyorsa, sivil gruplar (seçim yetkilileriyle koordineli olarak) seçmeni uyarabilir: “X kişisiyle ilgili birdenbire şok edici bir video görürseniz, şüpheli yaklaşın, deepfake olma ihtimali var.” Araştırmalar, ön çürütmenin yanlış iddialara inanç ve yayılmasını önemli ölçüde azaltabildiğini gösteriyor cetas.turing.ac.uk cetas.turing.ac.uk. Bu nedenle, derneklerin deepfake kampanyalarını önceden öngörüp engelleyen proaktif yaklaşımı büyük fayda sağlayabilir.

3. Yurttaş Teknolojisi ve Kitle Kaynaklı Tespit: Teknolojiye yatkın yurttaş topluluğu deepfake’lerle mücadeleye dahil edilebilir. Halihazırda internet üzerinden şüpheli içerikleri inceleyen “deepfake avcıları” gönüllüleri bulunuyor. Sivil toplum bu çabaları bir platform aracılığıyla düzenleyebilir – örneğin, şüpheli video veya sesin yüklendiği bir portal ya da uygulama; bir uzman ağı veya yapay zeka araçları da kimlik doğrulama raporu sağlayabilir. Bu kitle kaynaklı istihbarat, resmi çalışmaları tamamlayabilir. Ayrıca, yurttaş teknolojisi grupları kullanıcıların sentetik medyayı tespit etmesine yardımcı olacak tarayıcı eklentileri veya telefon uygulamaları geliştirebilir. Örneğin, bir uygulama, ekranda görülen videoyu seçmeyi ve farklı tespit algoritmalarından anında analiz alabilmeyi sağlar (deepfake’ler için antivirüs yazılımı gibi). Kusursuz olmasa da uyarı işareti verebilir. Bu tür açık kaynaklı araçlara hibe sağlanmalı. Bir başka fikir de yurttaş bildirim hatlarıdır – seçim gününde oy kullanma sorunları için kurulan yardım hatları gibi, karşılaşılan dezenformasyon ya da deepfake’lerin bildirilmesi için bir kanal oluşturulabilir, bu da seçim yetkilileri veya doğrulayıcılar tarafından cevaplanabilir. Vatandaşların şüpheli içeriği tespit edip hızla uzmanlara ulaştırabilmesiyle denetim ölçeği büyük ölçüde artar. Bu dağıtık yaklaşım, milyonlarca insanın olduğu bir toplumda, birinin genelde bir şeyi erkenden yakalayabileceği kabulüne dayanır – önemli olan gözlemlerin hızlıca doğru yerlere aktarılmasıdır.

4. Platform Sorumluluğu İçin Savunuculuk: Sivil toplum, teknoloji platformlarını ve yapay zeka şirketlerini sorumlu davranmaya itmeye devam etmelidir. Kamu yararını gözeten STK’lar ve düşünce kuruluşları, deepfake tehlikelerine dikkat çekip reform talebinde önemli rol oynadılar (örneğin Access Now, EFF ve diğerleri öneriler yayımladı). Bu savunuculuk sürmeli – platformların yukarıda belirtilen politika değişikliklerini (daha iyi etiketleme, kaldırma vb.) uygulamasını, yapay zeka geliştiricilerinin de etik tasarımı benimsemesini istemelidir. Public Citizen’ın deepfake ile ilgili eyalet mevzuatını izleyip FEC’e dilekçe vermesi buna bir örnektir citizen.org citizen.org. Benzer şekilde, platformlardan şeffaflık talep etmek için koalisyonlar oluşturulabilir: Sitede ne kadar yapay zeka içeriği bulunduğu veya tespit başarısı için veri açıklamaları istenebilir. Sivil toplum sesleri ayrıca yeni yasa ya da düzenlemelerde temel hakların (örneğin, deepfake’lerle mücadele bahanesiyle ifade özgürlüğünü bastırabilecek aşırı kapsamlı kurallara karşı çıkmak) korunmasına da yardımcı olabilir. O denge için kamuoyu danışması gerekir ve savunucu gruplar bu tartışmalarda vatandaşların sesi olur. Önümüzdeki birkaç yıl, yapay zeka ve çevrimiçi içerik için yeni mevzuat çerçeveleriyle geçebilir – demokratik değerler ve insan hakları ilkelerinin korunması elzemdir ve sivil toplum bu bekçi rolünde kilit önem taşır.

5. Mağdurlar ve Hedef Olanlara Destek: Bir aday veya özel bir kişi bir deepfake ile karalandığında, sivil toplum destek sağlayabilir. STK’lar, karalayıcı deepfake’lerin kaldırılması ve faillerin hesap vermesinin sağlanması konusunda hukuki yardım veya tavsiye sunabilirler. Deepfake porno veya itibar suikastı mağdurları için yardım hatları kurulabilir; bu hatlar mağdurları kolluk kuvvetleri ve ruh sağlığı kaynaklarıyla buluşturabilir. Bir adaya yapılan karalama saldırısında, sivil toplum kuruluşları (kadın seçmenler birliği veya seçim bütünlüğü grupları gibi) adayın inkârını ve gerçeğin ortaya çıkmasını yaygınlaştırarak zararı en aza indirmeye yardımcı olabilir. Haksız yere hedef alınan birinin hızla savunulması – gerçeğin yalandan daha yüksek sesle duyulmasını sağlamak – topluluk ve savunuculuk gruplarının, genellikle iftira veya nefret söylemiyle mücadelede olduğu gibi, koordine edebileceği bir şeydir. Daha geniş anlamda, sivil toplum partiler arası taahhütlerin oluşmasını sağlayabilir; böylece herhangi bir deepfake ortaya çıktığında tüm taraflar bunu kınayacaktır. Ülkenin tüm büyük partilerinin imzaladığı, deepfake kullanmamaya ve ortaya çıkan kötü niyetli sahtecilikleri hızla kınamaya söz verdikleri bir taahhüt hayal edin. Partiler arası seçim komiteleri veya etik STK’lar gibi gruplar tarafından teşvik edilen bu tür normlar, partilerin “dibe yarış” moduna girip aynı şekilde karşılık verme zorunluluğu hissetmelerinin önüne geçer. Bu, gerçeğe yönelik saldırıların kim olursa olsun tolere edilmeyeceği konusunda birleşik bir cephe oluşturur.

Sonuç olarak, deepfake sorunuyla başa çıkmak toplumun tüm savunma hatlarından – teknolojik, hukuki, kurumsal ve insani – yararlanmayı gerektirir. Yukarıdaki adımları uygulayarak hükümetler seçim sistemini yapay zekâ manipülasyonuna karşı güçlendirebilir, teknoloji platformları sahte içeriğin yayılmasını kısıtlayabilir, medya gerçeğin haberlerde galip gelmesini sağlayabilir ve vatandaşlar gerçeğin uyanık koruyucuları olabilir. Kaybedecek zaman yok: üretken yapay zekâ ilerlemeye devam ederken, 2025 seçim döngüsü demokrasilerin sentetik yalanlara karşı dayanıklılığını test edecek. Sevindirici haber ise savunmasız olmadığımız: hazırlık, şeffaflık ve işbirliğiyle deepfake kampanyalarına karşı akılcı ve örgütlü hareket edebilir, seçimlerimizin bütünlüğünü koruyabiliriz. CETaS’ın yapay zekâ ve seçimler konulu araştırma raporunun da belirttiği gibi, “kararsızlık karar alma süreçlerine sızmamalı” – bunun yerine, dayanıklılığımızı arttıracak adımları atmak için şimdi harekete geçmeliyiz cetas.turing.ac.uk cetas.turing.ac.uk. Böylece teknoloji değişse de, doğruluk ve güven üzerine kurulu demokratik değerlerimizin kalıcı olacağı ilkesini korumuş oluruz.

Kaynaklar

Stockwell, Sam ve diğerleri. “Yapay Zekâ Destekli Etki Operasyonları: Gelecekteki Seçimlerin Korunması.” CETaS (Alan Turing Enstitüsü) Araştırma Raporu, 13 Kas 2024. cetas.turing.ac.uk cetas.turing.ac.uk
Stockwell, Sam ve diğerleri. A.g.e. (CETaS Raporu, 2024), ABD seçimlerinde deepfake’ler üzerine 2.1. bölüm. cetas.turing.ac.uk cetas.turing.ac.uk
Beaumont, Hilary. “’Bir Güven Eksikliği’: Deepfake’ler ve Yapay Zekâ ABD Seçimlerini Nasıl Sarsabilir?” Al Jazeera, 19 Haz 2024. aljazeera.com aljazeera.com
Sze-Fung Lee. “Kanada’nın Derhal Deepfake Yasasına İhtiyacı Var.” Policy Options, 18 Mar 2024. policyoptions.irpp.org policyoptions.irpp.org
Goldstein, Josh A. & Andrew Lohn. “Deepfake’ler, Seçimler ve Yalancının Kârını Azaltmak.” Brennan Center for Justice, 23 Oca 2024. brennancenter.org
“Sentetik medya.” Vikipedi (2025’te erişildi). en.wikipedia.org en.wikipedia.org
“Deepfake.” Kaspersky IT Ansiklopedisi (2023). encyclopedia.kaspersky.com encyclopedia.kaspersky.com
Hamiel, Nathan. “Deepfake’ler Beklenenden Farklı Tehditler Ortaya Koydu. Bunlara Karşı Nasıl Savunma Yapılır?” Dünya Ekonomik Forumu, 10 Oca 2025. weforum.org weforum.org
“Siyasi Arenada Yapay Zekâ Deepfake’lerinin ve Sentetik Medyanın Düzenlenmesi.” Brennan Center for Justice, 4 Eki 2023. brennancenter.org brennancenter.org
Colman, Ben. “AB Yapay Zekâ Yasası ve Deepfake Tespiti İçin Yükselen Aciliyet.” Reality Defender Blog, 11 Şub 2025. realitydefender.com realitydefender.com
“Takipçi: Seçimlerde Deepfake Hakkında Eyalet Yasaları.” Public Citizen, 2025. citizen.org citizen.org
Partnership on AI. “Sentetik Medya ve Deepfake’ler – Vaka Çalışması: Slovakya 2023.” (Knight Columbia analizinde referans verilmiştir). brennancenter.org brennancenter.org
Kapoor, Sayash & Arvind Narayanan. “78 Seçim Deepfake’ine Baktık. Siyasi Bilgi Kirliliği Bir Yapay Zekâ Sorunu Değil.” Knight First Amendment Institute, 13 Ara 2024. knightcolumbia.org knightcolumbia.org
CETaS Raporu (2024), Politika Tavsiyeleri (Birleşik Krallık odaklı). cetas.turing.ac.uk cetas.turing.ac.uk
CETaS Raporu (2024), Tespit ve köken önerileri. cetas.turing.ac.uk cetas.turing.ac.uk
Public Safety Canada. “Yapay Zekâ Destekli Dezenformasyona Karşı Koruma” (2023 özet). policyoptions.irpp.org policyoptions.irpp.org
InnovationAus. “Hükümetin seçim deepfake yasağı 2026’ya kadar askıda kalacak.” (Avustralya) 2023. innovationaus.com
Ek referanslar: Yukarıdaki kaynaklarda belirli olaylar için atıfta bulunulan Reuters, Wired ve CNN makaleleri (ör. Zelensky deepfake’i, Zoom deepfake ile Hong Kong’da 25 milyon dolarlık dolandırıcılık weforum.org) ve ses kopyası dolandırıcılığı hakkında FTC tüketici uyarıları weforum.org. Bunlar analizde gömülüdür ve ilgili kaynak bağlantıları üzerinden erişilebilir.