Deepfake Nedir? Nasıl Tespit Edilir?

Deepfake, dijital yazılım, makine öğrenimi ve yüz değiştirme kullanılarak oluşturulan sahte videolardır. Deepfake’ler, gerçekte hiç gerçekleşmemiş olayları, ifadeleri veya eylemleri gösteren yeni görüntüler oluşturmak için görüntülerin birleştirildiği, bilgisayar tarafından oluşturulan yapay videolardır. Deepfake, günümüz yapay zeka teknolojilerinin iyi yönde kullanılabileceği gibi kötü amaçlı da kullanılabileceğinin bir kanıtıdır.

Deepfake ile hazırlanan görüntüler, ses ve videoların gerçeğinden ayırt edilmesi oldukça zordur. Deepfake, genellikle bir kişinin diğeriyle değiştirildiği mevcut kaynak içeriği dönüştürür. Bir kişinin yapmadığı veya söylemediği bir şeyi yaparken veya söylerken temsil edildiği tamamen orijinal içerik oluştururlar. Sonuçlar oldukça ikna edici olabilir. Deepfake olarak bazı mecralarda birçok kez adını duymuş olabileceğimiz bu videoların gerçek olmadığını tanımlamak zordur. Deepfake’lerin oluşturduğu en büyük tehlike, güvenilir kaynaklardan geliyormuş gibi görünen yanlış bilgileri yayma yetenekleridir. Örneğin, 2022’de Ukrayna Devlet Başkanı Volodimir Zelenski’nin askerlerinden teslim olmalarını istediği bir deepfake videosu yayınlandı. Bu teknolojinin, seçimlere ve seçim propagandasına karışma potansiyeli konusunda da endişeler dile getirildi.

Deepfake’ler bu ciddi tehditlerle gündeme geldiği için kötü bir teknoloji ürünü olarak gündeme geldi. Aslında deepfake, tehditler oluşturan içerikler dışında, video oyunu, ses ve eğlence gibi meşru kullanım alanlarına da sahiptir. Örneğin, çağrı yönlendirme ve resepsiyonist hizmetleri gibi müşteri desteği ve arayan yanıt uygulamaları uygulama alanlarından bazılarıdır.

Deepfake Nasıl Çalışır?

Deepfakelerde, sahte içerik oluşturmak ve iyileştirmek için oluşturucu ve ayrımcı olmak üzere iki algoritma kullanır. Oluşturucu, istenen çıktıya dayalı olarak bir eğitim veri seti oluşturarak ilk sahte dijital içeriği oluşturur. Ayrımcı, içeriğin ilk sürümünün ne kadar gerçekçi veya sahte olduğunu analiz eder. Bu işlem tekrarlanır, bu da oluşturucunun gerçekçi içerik oluşturmada gelişmesine ve ayrımcının oluşturucunun düzeltmesi için kusurları tespit etmede daha yetenekli hale gelmesine olanak tanır. Üretici ve ayrımcı algoritmaların kombinasyonu, üretken bir çekişmeli ağ oluşturur.

Üretken çekişmeli ağ veya GAN adı verilen bu makine öğrenimi tekniği, gerçek görüntülerdeki kalıpları tanımak için derin öğrenmeyi kullanır. Ardından bu kalıpları sahte oluşturmak için kullanır. Deepfake fotoğraf oluştururken, GAN sistemi tüm ayrıntıları ve perspektifleri yakalamak için hedefin fotoğraflarını çeşitli açılardan görüntüler. Deepfake video oluştururken, GAN videoyu çeşitli açılardan izler ve davranış, hareket ve konuşma kalıplarını analiz eder. Bu bilgiler daha sonra son görüntünün veya videonun gerçekçiliğine ince ayar yapmak için ayrımcıdan birden çok kez geçirilir.

Deepfake videolar iki yoldan biriyle oluşturulur. İlki, kişinin orijinal bir video kaynağı üzerinde değişiklikler yapılarak kişinin hiç yapmadığı şeylerin söylettirilmesidir. Diğeri ise başka bir kişinin videosundaki kişinin yüzü değiştirilerek hedef kişinin yüzünün yerleştirilmesidir.

Deepfake oluşturmaya yönelik bazı özel yaklaşımlar şunlardır:

• Kaynak video deepfake: Bir kaynak videodan çalışırken, sinir ağı tabanlı bir deepfake otomatik kodlayıcı, hedefin yüz ifadeleri ve beden dili gibi ilgili özelliklerini anlamak için içeriği analiz eder. Daha sonra bu özellikleri orijinal videoya empoze eder. Otomatik kodlayıcı, ilgili öznitelikleri kodlayan bir kodlayıcı içerir. Bu özellikleri hedef videoya empoze eden bir kod çözücüdür.
• Ses deepfake: Sesli deepfakeler için GAN, bir kişinin sesinin sesini klonlar, ses kalıplarına dayalı bir model oluşturur. Bu model, sesin, oluşturucunun istediği her şeyi söylemesini sağlamak için kullanır. Bu teknik, video oyunu geliştiricileri tarafından yaygın olarak kullanılır.
• Dudak senkronizasyonu: Deepfake içerik oluşturmada kullanılan bir başka yaygın tekniktir. Burada, deepfake bir ses kaydını videoyla eşleştirerek, videodaki kişinin kayıttaki kelimeleri söylüyormuş gibi görünmesini sağlar. Sesin kendisi bir deepfake ise, video fazladan bir aldatma katmanı ekler. Bu teknik, tekrarlayan sinir ağları tarafından desteklenir.

Deepfake Kullanım Alanları

Deepfake kullanım alanlarından bazılarına göz atalım.

1. Sanat Deepfake: Bir sanatçının eserinin mevcut gövdelerini kullanarak yeni müzik üretmek için kullanılır.
2. Şantaj ve itibar zedelenmesi: Hedef görüntüler ile halka yalan söylemek, uygunsuz eylemlerde bulunmaları için teşvik etmek gibi tehlikeli durumlar örnek olarak verilebilir. Bu videolar, kişinin itibarını zedeleme, intikam alma ve siber zorbalık yapma gibi kötü amaçlar için kullanılır.
3. Sahte delil: Bu, yasal bir davada suçluluk veya masumiyeti ima eden kanıt olarak kullanılabilecek sahte görüntülerin veya seslerin üretilmesini içerir.
4. Dolandırıcılık: Banka hesabı ve kredi kartı numaraları gibi kişisel olarak tanımlanabilir bilgileri elde etmek için bir kişinin kimliğine bürünmek için kullanılır. Bu bazen, büyük bir siber güvenlik tehdidi olan hassas bilgilere erişmek için kimlik bilgilerine sahip şirketlerin yöneticilerinin veya diğer çalışanların kimliğine bürünmeyi içerebilir.
5. Yanlış bilgilendirme ve siyasi manipülasyon: Politikacıların veya güvenilir kaynakların deepfake videoları, kamuoyunu etkilemek için kullanılıyor. Bu bazen sahte haberlerin yayılması olarak adlandırılır.
6. Stok manipülasyonu: Sahte deepfake materyaller, bir şirketin hisse senedi fiyatını etkilemek için kullanılabilir. Örneğin, bir CEO’nun şirketleri hakkında zarar verici açıklamalar yaptığı sahte bir video hazırlanarak şirketin hisse senedi fiyatı düşürebilir. Teknolojik bir atılım veya ürün lansmanı hakkında sahte bir video ile şirketin hisse fiyatları yükseltebilir.
7. Mesajlaşma: Deepfake Kimliklerinin Artan Tehdidi konusunda hazırlanan bir rapor, deepfake teknolojisinin gelecekteki kötü kullanımları arasında metin mesajlaşmasını gösterdi. Rapora göre tehdit aktörleri, bir kullanıcının mesajlaşma stilini kopyalamak için deepfake tekniklerini kullanabilir.
8. Arayan yanıt hizmetleri: Elbette deepfake sadece kötü amaçlar için kullanılmıyor. Deepfake’in faydalı kullanımları arasında çağrı yönlendirme ve diğer resepsiyonist hizmetlerini içeren arayan isteklerine kişiselleştirilmiş yanıtlar sağlamayan sistemlerin oluşturulması yer almaktadır.
9. Müşteri telefon desteği: Bu hizmetler, hesap bakiyesini kontrol etmek veya şikayette bulunmak gibi basit görevler için kullanır.
10. Eğlence: Hollywood filmleri ve video oyunları, belirli sahneler için oyuncuların seslerini klonlar ve manipüle eder. Eğlence ortamları, bir sahnenin çekilmesi zor olduğunda veya post prodüksiyonda bir aktör sette olmadığında, aktörün sesinin kaydetmek için kullanılır. Bu sayede, oyuncuya ve prodüksiyon ekibine zaman kazandırılır. Deepfake’ler, izleyicinin videonun gerçek olmadığını anladığı, ancak deepfake’in yarattığı mizahi durumdan hoşlandığı hiciv ve parodi içeriği için de kullanılır.

Deepfake Nasıl Anlaşılır?

İnternette karşılaştığımız her türlü bilgi gibi, çevrimiçi videoların veya görüntülerin gerçek olup olmadığına karar verirken yapabileceğimiz en önemli şey eleştirel düşünmeyi kullanmaktır. Eleştirel düşünmeyi kullanmalı ve kendimize aşağıdaki gibi önemli sorular sormalıyız:

• Bu videoyu kim ve neden paylaşıyor?
• Orijinal kaynak kim veya nedir?
• Video ne zaman ve nerede çekildi?
• Videodaki kişi, söylemesini asla beklemeyeceğiniz bir şey mi söylüyor?
• Video başka birinin gündemini ilerletiyor mu? Bu videodan kimler yararlanıyor?

Eleştirel düşünme ile mantığımız videonun gerçek mi sahte mi olduğu yönünde bir fikre varabilirsiniz. Ancak buna rağmen videonun gerçek olup olmadığı konusunda kararsız kaldıysanız, deepfake videoları tespit etmek için bazı işaretlere dikkat etmelisiniz. İzlediğiniz şey bir video ise;

• Olağandışı veya garip yüz konumlandırma.
• Doğal olmayan yüz veya vücut hareketi.
• Doğal olmayan renklendirme.
• Yakınlaştırıldığında veya büyütüldüğünde tuhaf görünen videolar.
• Tutarsız ses.
• Gözünü kırpmayan insanlar.

Bir video değil metin okuyorsanız. Metinsel deepfake’lerde de birkaç gösterge vardır:

• Yazım hataları.
• Doğal akmayan cümleler.
• Şüpheli kaynak e-posta adresleri.
• Sözde gönderenle eşleşmeyen ifadeler.
• Herhangi bir tartışma, etkinlik veya sorunla ilgili olmayan bağlam dışı mesajlar.