“Bir şeyi gözümle görmeden, kulağımla duymadan inanmam” diyenlerden misiniz?
Artık görüp duyduklarınızı dahi sorgulamanız gerekebilir.
Zira yapay zeka, gerçeğin ne olduğu konusundaki algılarımızı ve yargılarımızı da değiştirmeye başladı.
Şimdilik basit bir eğlence gibi gözüken Deepfake videoları, geleceğin en büyük tehlikelerinden biri olarak görülüyor.
Deepfake nasıl çalışıyor?
Deepfake, bir kişinin yüzünü bir başkasının vücuduna yerleştirmeyi ve ses kayıtlarını manipüle etmeyi mümkün kılan bir yazılım türü.
Videoların oluşturulması için makine öğrenmesinden ve yapay zekadan yararlanılıyor.
Ekstraksiyon adı verilen kısımda videoda yüzü kullanılacak kişinin mimikleri ve dudak hareketleri analiz ediliyor.
Tren adı verilen kısımda makine öğrenme ile elde edilen analizlerle, yapay zekanın yardımıyla bir model oluşturuluyor. Bu işlem çok uzun sürüyor ve temel olarak ne kadar uzun süre çalışırsa görüntü kalitesi ve inandırıcılığı o kadar iyi oluyor.
Üçüncü ve son kısım ise dönüştürme. Bu kısımda görüntü ve ses modellenen yüze dönüştürülüyor.
Videolarda kullanılan yüz ve ses değiştirme teknolojileri, tahminlerin dahi ötesinde başarılı ve gerçeğinden ayırmak neredeyse imkansız.
Nasıl ortaya çıktı?
The Week’te yer alan habere göre Deepfake’in atası sayılabilecek çalışmalar, Hollywood’da hayatını kaybeden oyuncuları videoda kullanmak amacıyla başladı. Ama bu oldukça zahmetli ve pahalı bir çalışmaydı.
Ancak teknolojinin gelişmesiyle bu çalışmanın daha amatör versiyonları cep telefonu uygulamalarına dahil oldu.
2017 yılında Fakeapp uygulamalarıyla, aralarında Michelle Obama, Ivanka Trump ve Emma Watson’ın da olduğu bazı ünlülerin yüzleri, yetişkin filimlerinde kullanılınca, teknolojinin karanlık yüzü ortaya çıktı.
Daha sonra Barack Obama ve Donald Trump gibi siyasi isimler, Deepfake videolarda kullanıldı.
Neler yapılıyor?
Deepfake videoları ile muhteşem bir dansçının performansına kendi yüzünüzü ekleyebilir ve dans eden kişiyi kendinizmiş gibi gösterebilirsiniz.
Bir ünlünün sesini alıp, o ünlü gibi konuşabilir, hatta en favori filminizin kahramanı dahi olabilirsiniz.
Ancak bu eğlenceli kısmın arkasında Deepfake videolarının karanlık tarafı var.
Bazen bir ünlünün, bazen bir siyasi figürün yüzü, hatta belki de sizin yüzünüz, herhangi biz izin olmadan bu teknolojiye kurban gidebilir.
Kendinizi söylemediğiniz bir şeyi söylerken ya da yapmadığınız bir şeyi yaparken izleyebilirsiniz.
Profesyonel çalışmalar gerçeğinden ayırt edilemiyor
Amatör videolar gözle kolaylıkla ayırt edilebiliyor. Ancak üzerinde günler hatta haflarca çalışılan daha profesyonel çalışmaların gerçekliğini ortaya çıkarmak için de yapay zekaya ihtiyaç duyuluyor.
Dünyanın teknoloji devleri, sahte videoları ortaya çıkaracak uygulamalar için kolları sıvadı.
Facebook kendi Deepfake videolarını üretmeye başlayıp, gerçeği çözecek araştırmalar için 10 milyon dolar yatırım yapacağını açıkladı. Çözüm bulacak ekiplere de para ödülü dağıtılacağı duyuruldu.
Yapay zeka ile dolandırıcılık artıyor
Yapay zeka ile yapılan dolandırıcılık haberleri ise şimdiden gelmeye başladı.
Haftalar önce dolandırıcılar Almanya merkezli bir şirketin CEO’sunun sesini yapay zeka tabanlı bir yazılımla taklit ederek kendi hesaplarına yüklü bir ödeme yapılmasını sağladı.
Ses ile gerçekleştirilen dolandırıcılıklara karşı yazılım üreten Pindrop isimli bir siber güvenlik firması, 2013 yılından bu yana ses taklidi ile gerçekleştirilen suçlarda 50 artış olduğunu bildirdi.
Firmaya göre her 638 telefon görüşmesinden 1 tanesinde sentetik olarak oluşturulan ses kullanılıyor.
Seçimleri tehlikeye atabilir
New York Üniversitesi Stern İş ve İnsan Hakları Merkezi tarafından yayımlanan bir raporda ise, 2020 yılında yapılacak ABD seçimlerinde WhatsApp mesajları ve Deepfake videoların, yanlış bilgilerin yayılmasında etkili olabileceği açıklandı.
Raporda, Amerikan seçmenlerinin Deepfake videolar, ülke içinden gelen dezenformasyon, dış ülkeler için çalışan Amerikalılar, Instagram, WhatsApp, İran ve Çin, özel şirketler ve dijital seçmenlerin baskılanması gibi alanlarda dikkatli olunması gerektiği vurgulandı.
Yapay zeka ile profesyonel olarak üretilen ses ve görüntülerin gerçek mi sahte mi olduğunu ise, yine yapay zeka söyleyecek.
Kaynak: TRT Haber, CNN, CSO Online, Techtarget, The Week
