Yakın zamanda deepfake, Taylor Swift’in müstehcen sahte görüntülerini oluşturmuştu. Microsoft bu açığı gidermek için tedbirler aldı. Microsoft, deepfake deki sorunun kaynağı olan Azure Face API’sine gerekli yamaları uygulayarak tedbirleri almış durumda.
Yapay zekâ kullanımı tüm dünyada hızla artarken kötü niyetle kullanımı gündemi doğrudan etkiliyor. Birçok şirket yapay zeka teknolojisini hizmetlerine entegre etmeyi düşünürken, yapay zeka tahayyüllerimizin ötesinde olabilir.
Microsoft açığını nasıl giderdi ?
Yakın zamanda Taylor Swift’in yapay zekâ aracılığıyla hazırlanan müstehcen görüntüleri Twitter’da 47 milyondan fazla görüntüleme almıştı. Görüntüler yaklaşık bir gün boyunca elden ele gezerken sosyal medyada ise fırtınalar kopmuştu.
X platformu bu bağlamda Taylor Swift kelimesine yapılan aramaları engelleyerek Facebook ve Instagram üzerinden ise ilgili fotoğrafları kaldırarak tedbir aldı. Paylaşımların çıkış noktasının Microsoft Designer aracılığıyla yapay zekâ tarafından oluşturulan müstehcen kadın görüntüleri paylaşımları yapılan bir gruptan yayıldığı tahmin ediliyor.
Raporlar incelendiğinde Microsoft’ un açıklamasına göre saldırı yapanların belirli API parametrik birimlerini manipüle etmelerine olanak sağlayan bir güvenlik açığının tespit edildiği açıkladı. Saldırıyı yapanların Azure Face API’leri aracılığıyla aralarında Taylor Swift’in de bulunduğu birçok ünlü şahısların çıplak fotoğraflarının ve videolarının oluşturdukları ön görülüyor. Microsoft’un bu açığı kapatılsa bile öncesinde oluşturulan fotoğraf ve videolar hala birer tehdit unsuru. Alınan tedbir, artan deepfake sorunlarını etkili bir şekilde çözmede ve güvenliği sağlamada yetersiz kalabilir.
Yorum Yok
