Yapay zekâ dünyasında yankı uyandıran güvenlik olayının ardından Hugging Face CEO’su Clem Delangue, OpenAI’a yönelik dikkat çeken açıklamalarda bulundu. OpenAI’ın, geliştirdiği modellerden birinin Hugging Face altyapısına izinsiz erişim sağladığını kabul etmesinin ardından Delangue, konuyu görüşmek üzere San Francisco’da OpenAI yetkilileriyle bir araya geldi.
Olayı, “ilk otonom yapay zekâ ajanı kaynaklı siber saldırı” olarak değerlendiren Delangue, bu tür bir güvenlik ihlalinin alışılmış yöntemlerle ele alınamayacağını belirterek daha açık ve kapsamlı bir yaklaşım çağrısında bulundu.
Otonom ajan kayıtlarının paylaşılmasını istedi
Delangue, yaşanan olayın tüm yönleriyle incelenebilmesi için OpenAI’ın saldırıda rol oynayan otonom ajanlara ait teknik kayıtları ve izleri kamuoyuyla paylaşması gerektiğini savundu. Bu verilerin araştırmacılar tarafından analiz edilmesinin, benzer güvenlik açıklarının gelecekte önlenmesine katkı sağlayacağını ifade etti.
Hugging Face CEO’su ayrıca yalnızca olayın açıklığa kavuşturulmasının yeterli olmadığını, yapay zekâ ekosisteminin savunma kapasitesinin de güçlendirilmesi gerektiğini dile getirdi.
100 milyon dolarlık bilgi işlem desteği önerisi
Delangue, OpenAI’ın Hugging Face topluluğuna destek olmak amacıyla 100 milyon dolar değerinde bilgi işlem gücü sağlamasını önerdi. Bu kaynağın, açık kaynak geliştiricileri ve güvenlik araştırmacılarının daha gelişmiş savunma sistemleri oluşturmasına katkı sunabileceğini belirtti.
Bazı güvenlik uzmanları, olayın tamamen otonom bir yapay zekâ davranışından kaynaklanmamış olabileceğine dikkat çekiyor. İddialara göre, OpenAI’ın yalnızca test amacıyla kullanılan ve dış dünyadan tamamen izole edilmesi gereken bir ortamı hatalı yapılandırmış olması, güvenlik açığının oluşmasına zemin hazırlamış olabilir.
OpenAI: İnceleme sürüyor
Yaşanan gelişmelerin ardından açıklama yapan OpenAI sözcüsü, Hugging Face ile görüşmeler gerçekleştirildiğini doğruladı. Şirket, olayı yapay zekâ güvenliği açısından önemli bir dönüm noktası olarak değerlendirdiklerini ve kapsamlı bir inceleme başlattıklarını açıkladı.
OpenAI, sürecin dış güvenlik danışmanları ile şirketin Güvenlik Komitesi tarafından takip edildiğini belirterek inceleme tamamlandıktan sonra teknik bulguları içeren ayrıntılı bir raporun önümüzdeki haftalarda kamuoyuyla paylaşılacağını bildirdi.
Yaşanan olay, otonom yapay zekâ sistemlerinin güvenli şekilde test edilmesi, izole geliştirme ortamlarının korunması ve yapay zekâ modellerinin denetlenmesi konularını yeniden gündemin üst sıralarına taşıdı.
Yorum Yok
