Deepfake, yapay zekaya dayalı insan görüntü sentezi için bir tekniktir. Üretken düşmanlık ağı olarak bilinen bir makine öğrenimi tekniğini kullanarak, mevcut görüntüleri ve videoları kaynak görüntüler veya videoların üzerine birleştirmek ve yerleştirmek için kullanılır. – Wikipedia
Bununla birlikte, derin sahtekarlıklar oluşturmak için kullanılan tek yöntem üretken düşman ağları değildir.
Deepfake nasıl oluşturulur?
Makine öğrenimi algoritmaları, manipüle edilebilen ve üst üste bindirilebilen yüzlerinin sanal bir modelini oluşturmak için belirli bir bireyin video ve görüntülerinden oluşan bir veri kümesini kullanmak üzere eğitilir. Bir kişinin yüzü başka bir kişinin kafasına değiştirilebilir.
Deepfake oluşturmak hala önemli miktarda bilgi işlem gücü gerektirse de, sonuçlar hem bireyler hem de gruplar için potansiyel olarak yıkıcı olabilir.
Potansiyel sonuçlar:
- Yanlış haber veya medya oluşturulması: Gerçek olan nedir, gerçek olmayan nedir? Teknoloji ilerledikçe gerçek videoları tahrif edilmiş videolardan görsel olarak ayırt etmek zorlaşacaktır. Hâlâ görece emekleme döneminde; bununla birlikte, bunun potansiyel olarak önemli bir toplumsal sorun haline gelmesi sadece bir zaman ve gelişme meselesidir.
- Gizlilik etkileri: İnternete yüklediğiniz görseller (Unutmayın, bir kez İnternet’e girdikten sonra her zaman İnternet’tedir) kötü amaçlarla kullanılabilir. Örneğin, gerçekten üzgün olan eski bir sevgiliniz veya size karşı intikamı olan biri var. Bu kişi süper, örneğin bir pornografi videosuna yüzünüzü empoze ediyor. Bunun olduğu ve mağdurların bariz nedenlerle çeşitli düzeylerde acı çektiğine dair raporlar var.
- Ses yanıltması: Gerçek bir konuşmacının deepfake seslerini, bilgisayar tarafından üretilen bir sese kıyasla ayırt etmek daha zordur.
İyi haber şu ki, örneğin Siwei Lyu tarafından algoritmik düzeyde deeepfake keşfetmeye odaklanan bir araştırma var. Bu, gelecekte derin sahtekarlıklarla ilgili önemli toplumsal sorunların önlenmesine potansiyel olarak yardımcı olacaktır.
Lyu’ya göre, gerçekçi bir deepfake oluşturmak için yalnızca yaklaşık 500 görüntü veya 10 saniyelik video gerekiyor.