Bir düşünün bigün uyanıyorsunuz ve toplumsal medyada görüntünüz ve sesiniz bir sansasyona niçin olmuş. “Hadi canım” demeyin zira bu asla kolay olsa gerek. Bir süredir dünyanın birçok yerinde büyük sorunlara neden olan deepfake’den başkası değil bunu icra eden. İnsanlar gerçek sanıyor fakat değil. Bundan oldukca süre ilkin değil, yalnız birkaç ay ilkin gittiğim bir sergide, video art’lar dikkatimi çekmişti. Ünlülerin konuşmuş olduğu videoların yanında ‘Hepsi deepfake’ yazıyordu. Sanatçı bu meseleye dikkat çekmek isterken bana gerçek olmayan bir şeyin açıklamasını izletmişti. Kim Kardashian ve Donald Trump’ın deepfake videolarıydı onlar. İşte bu durum şu an günümüzde toplumsal medyada oldukca yaşanıyor. Yakında daha da konuşulacak zira vakalar giderek artıyor. Deepfake; ‘deep learning’ ve ‘fake’ kelimelerinin birleşiminden oluşmuş bir terim, suni zeka ve derin öğrenme algoritmaları kullanılarak görsel ve işitsel içeriklerin gerçekçi bir halde manipüle edilmesini ve değiştirilmesini ifade ediyor.
Peki deepfake’in başlıca riskleri neler?
YANLIŞ BİLGİ: Düzmece haberler ve propaganda yaymak için kullanılıyor.
KİŞİLİK HAKKI İHLALİ: Kişilerin rızası olmadan düzmece pornografik videolar oluşturmak için kullanılıyor.
DOLANDIRICILIK: Kimlik hırsızlığı ve finansal sahtekarlık için kullanılıyor.
Bu haftanın gündemi ise deepfake video ile 26 milyon dolarlık meydana getirilen vurgundu.
Çin’de bilgisayar korsanları, oldukca uluslu bir şirketi deepfake teknolojisi yardımıyla CEO’sunu yansılamak ederek dolandırdı.
Iyi mi oldu peki bu? İngiltere’deki Waterloo Üniversitesi’nden araştırmacılar; deepfake ile ürettikleri sesi kullanarak sesli kimlik doğrulama sistemlerini aldatma girişimlerinde yalnız altı denemede yüzde 99 oranında başarı elde ettiklerini açıklamışlardı. Neyin suni zeka tarafınca üretilen içerik, neyin insan içinde ne olduğu bulunduğunu anlayamıyoruz. Doğruluk krizinin tam merkezindeyiz aslen. Gerçekle sahteyi ayırt etmek oldukca zor.
ÜNLÜLER HEDEFTE
Ünlülerin kullanıldığı deepfake sahtecilik de artıyor mesela. Amerikalı oyuncu Scarlett Johansson rızası olmadığı halde, sesini ve görüntüsünü reklam amacıyla kullanan suni zeka uygulamasına karşı hukuki süreç başlatmıştı. Kısa sürede Taylor Swift’in başına gelenler de oldukca korkutucuydu. Toplumsal medya platformu, geçen hafta Swift’in suni zeka tarafınca üretilen düzmece görüntülerinin viral hale gelmesinin arkasından meşhur şarkıcının adının aranmasını geçici olarak engelledi. Swift’in medya platformunda gösterilen düzmece fotoğrafı, hesap askıya alınmadan ilkin 47 milyon kez tıklandı. Platformun güvenlik ekibi müdahale etmeden ilkin bu görüntülü içerik on binlerce kez paylaşıldı.
DEEPFAKE REKLAMLAR
Gelelim reklamlara, kısa bir süre ilkin ABD’li oyuncu Tom Hanks, diş sağlığı hakkında meydana getirilen bir reklamda izni alınmadan suni zekayla oluşturulmuş görüntüsünün kullanıldığını deklare etti ve hayranlarını deepfake reklama karşı uyardı. Tom Hanks, “Benim suni zeka versiyonumla bir diş sigortası planını tanıtan bir video var. Benim bununla hiçbir ilgim yok” diyerek uyarıda bulunmuş oldu.
GERÇEK Mİ SAHTE Mİ NASIL AYIRT EDEBİLİRİZ?
Görüntünün yada videonun kalitesi: Deepfake videolar, gerçek videolara kıyasla daha pürüzsüz ve kusursuz görünebilir.
Ağız ve dudak hareketleri: Deepfake videolarda, ağız ve dudak hareketleri sesle tam olarak eşleşmeyebilir.
Gözler: Deepfake videolarda, gözler gerçekçi görünmeyebilir yada ışıklandırmaya uygun şekilde tepki vermeyebilir.
Davranış: Deepfake videolarda, kişinin davranışları ve jestleri gerçekçi görünmeyebilir.