Deepfake tespit aracı geliştiren Microsoft, deepfake ile mücadele etmekte kararlı

Teknoloji devi Microsoft, her geçen gün yaygınlaşmaya devam eden yapay zeka (AI) teknolojisinin doğurduğu deepfake içeriklerini tespit edebilen bir araç geliştirdi.

Günümüzün vazgeçilmez bir parçası haline gelen yapay zeka teknolojisi, fotoğraf ve videolarda kendini öne çıkarmaya başladı. Ek olarak, yapay zekanın görüntülerde giderek daha yaygın kullanılması, beraberinde “deepfake” adı verilen içerikleri de hayatımıza getiriyor.

Dünyanın ilk ekran altına gömülü ön kameralı akıllı telefonu ZTE Axon 20 5G

İlk kez duyanlar için deepfake teknolojisini açıklayalım; bir kişinin, yapay sinir ağları kullanılarak başka bir görüntüye sabitlenmesine imkan tanıyan bir manipülasyon türü. Aslında bu içeriklerin çoğunluğu eğlence amaçlı olarak yapılıyor olsa da, potansiyel olarak kötü amaçlar için kullanılma riski son derece fazla.

Microsoft, deepfake ile mücadele etmekte kararlı

İşte Microsoft, söz konusu olan bu risk sebebi ile deepfake'in sahte görüntüleri kötü amaçlar ile yayma aracı olarak kullanılması ile mücadele etmek için bir sistem kurdu. Microsoft'un kurduğu bu sistem, yapay zeka ile üretilmiş olan görüntüleri ve videoları tespit edebiliyor. Video Authenticator (Video Kimlik Doğrulayıcı) adlı bu araç, aynı zamanda görüntüleri analiz etmekle beraber kendi içerisinde “güven puanı” adı verilen puanlama yöntemine dayanarak onların yapay veya gerçek olduğuna karar verebiliyor.

Microsoft yetkilileri, geliştirdikleri aracı şu ifadelerle duyurdu:

Bugün, Microsoft Video Authenticator’ı duyuruyoruz. Video Authenticator, medyanın yapay olarak manipüle edildiğine dair bir yüzde şans veya güven puanı sağlamak için hareketsiz bir fotoğrafı veya videoyu analiz edebilir.

Yapay zeka ile manipüle edilmiş olan görüntüleri tespit edebilmek her ne kadar zor gibi görünüyor olsa da şirket yaptığı açıklamada bunu başarabildiklerini şu sözlerle açıkladı:

Authenticator, deepfake içeriklerinde insan gözü tarafından tespit edilemeyen küçük solma veya gri tonlamalı unsurları tespit ederek çalışır.

Microsoft, bu aracı geliştirirken FaceForensics++ adlı herkese açık bir veri kümesinden faydalandığını ifade etti. Akabinde bu aracın DeepFake Algılama Veri Kümesi üzerinde test ettiğinin de altını çizen şirket, bu sistemlerin deepfake algılama teknolojileri arasında önde gelen modeller olduğunu belirtti.

Bunlara ek olarak Microsoft, aracı dağıtmak için San Francisco’daki bir AI Vakfı ile işbirliği yapıyor. Şirket, bu aracın devreye girmesi ile birlikte özellikle ABD'de yapılacak olan yeni dönem seçimlerinden önce yanlış bilgilerin yayılmasını önlemeyi amaçlıyor. Bu sebepten dolayı sistem, başlangıçta ağırlıklı olarak seçim kampanyası yürüten ve siyasi haberleri içeren medya kuruluşlarına dağıtılacak. Sonrasında ise daha fazla yaygınlaşması bekleniyor.