Facebook, deepfake videoların sonunu getirecek

Sosyal medya devi Facebook, yüz tanıma teknolojisinde birbirinden farklı yeniliklere imza atmaya hazırlanıyor. Söz konusu bu teknolojide görünmez hale getirilmeye çalışılıyor. De-identification şeklinde adlandırılan bu program, kullanıcıları yüz tanıma sisteminde gizlilik konusunda yetersiz olarak görülen sistemlerde korumak sağlaması adına geliştirildi. 

Şöyle ki kullanıcıların gerçekten yapmadıkları şeyleri söyleyerek görüntülerinin çekilmesi gibi bir endişeleri vardır. Bu deepfake adlı videolar, artık o kadar gelişti ki, gerçeği ile ayırt etmek oldukça güç bir hal aldı. Fakat Facebook AI Research adlı sistem orijinal olan videoyu oldukça doğal bir şekilde yapılandırarak yapay zekayı kandırmanın bir yöntemi olduğunu dile getiriyor. Facebook bu teknolojiyi Jennifer Lawrence, Willem Dafoe, Sarah Jessica Parker ve George Clooney gibi ünlülerin klipleri üzerinde test etti. De-ID adlı kliplerde sunucuların yüzleri slik bir şekilde gözüküyor fakat yine de tespit edilebiliyor. Sosyal medya devi Facebook, bu teknolojinin test edilme sürecini canlı görüntüler, fotoğraflar ve kaydedilmiş videolar üzerinde çalışacaklarını dile getiriyor. 

De-ID teknolojisi gizliliği artırıyor

Facebook'un De-ID teknolojisi yüz tanıma sistemi tarafından alınan temel parçaları gizleyerek kullanıcılar için güvenli bir ortam inşa ediyor. Deepfake, çalışma sistemi olarak temelde bir kullanıcının yüzünü kendi yüzü ile değiştirerek akıllı cihazlarda popüler olan yüz değiştirme uygulamalarına benzer şekilde çalışıyor. Yani bu durum, geçmiş görüntüleri kullanarak bilgisayar tarafından oluşturulan yüzün oluşturulduğu ve aynı zamanda gerçek olan yüzün üstüne konulduğu anlamına geliyor. Durumun sonucu olarak videodakiler halen kendilerine benziyor fakat bir bilgisayar normal bir videodan ya da fotoğraf üzerinden alacakları temel bilgi parçalarını alamıyor. 

Araştırmacılar Oran Gafni, Lior Wolf ve Yaniv Taigman, konu ile ilgili makalelerinde şunları dile getirdiler; "Yüz tanıma teknolojisi hem kullanışlı hem de etkili olduğundan aynı zamanda birçok etik kaygıyı da beraberinde getiriyor. Yüz tanıma, gizlilik kaybına neden olabilir ve yüz değiştirme teknolojisi yanıltıcı videolar oluşturmak için kötüye kullanılabilir. Bu uygulama, algılanan kimliğin değişmesi için benzer görünümlü bir kişinin videosunu oluşturuyor." Konun üzerinde çalışmalar yürüten ekip yapmış oldukları yazılımların en gelişmiş teknoloji üzerine kurulan yüz tanıma özelliğini yendiğini ve aynı zamanda bunun da ilk defa başarıldığını dile getirildi. Bunun yanı sıra aynı zamanda söz konusu bu programın kişinin orijinal ifadelerini ve pozlarını da koruduğu dile getirildi.