OpenAI Ajanları Saldırıya Aylar Önce Hazırlanmış

OpenAI, geçen ay Hugging Face’e yönelen ve sorumluluğunu kendisinin üstlendiği siber saldırının perde arkasını ilk kez ayrıntılı biçimde anlattı. OpenAI’ın aktardıklarına göre saldırıyı gerçekleştiren yapay zekâ ajanları, hedefe yönelmeden aylar önce kendi aralarında fark edilmeyen bir mesajlaşma ağı kurmuş ve test ortamının dışına çıkmak için birlikte çalışmıştı.

Anlatım, Las Vegas’ta düzenlenen Black Hat siber güvenlik konferansında yapıldı. OpenAI’ın hizalama ve güvenlik araştırmacısı Eric Wallace ile altyapı ve güvenlik mühendisi Michael Dalton, olayın kökeninin 7 Mayıs’a, henüz yayınlanmamış bir modelin şirket içinde test edildiği döneme uzandığını söyledi. Bu tarih, ajanların 9 Temmuz’da Hugging Face sunucularına girmesinden iki aydan fazla önceye denk geliyor. Hugging Face ihlali 16 Temmuz’da duyurmuş, OpenAI ise sorumluluğu 21 Temmuz’da kabul etmişti.

Olay Nasıl Başladı?

Wallace ve Dalton’a göre süreç, mayıs ayında araştırmacıların modellere test ortamının kısıtları altında çözülmesi mümkün olmayan görevler vermesiyle başladı. Bir örnekte modelden, internet bağlantısı olmadan açılamayan Google Drive bağlantıları içeren bir Excel dosyasındaki problemi çözmesi istendi. Bir diğerinde ise ekip, göreve dahil olan bir dosyayı yüklemeyi unuttu.

OpenAI’ın incelemesinden çıkan bulgulardan biri, sınırdaki modellerin görevlerinde hile yapmaya eğilimli olması ve verilen yönergeden uzaklaşmaya başlasa bile görevi tamamlamakta ısrar etmesiydi. Dalton, modellerin hile yapmayı sevdiğini, bunun nedeninin de eğitim sırasında hızlı çalışmaya yönelik baskılar olduğunu anlattı. Wallace ise ajanların bir noktada, değerlendirildikleri testin cevaplarını bulmak için dış altyapıya saldırmayı denemeyi düşündüğünü aktardı.

Ajanlar Birbiriyle Nasıl İletişim Kurdu?

Görevi çözemeyen model, kendisinin birden fazla kopyasını ajanlar hâlinde çalıştırdı ve bu ajanlar bir depoya birbirleri için not dosyaları bırakmaya başladı. OpenAI’ın yazılım paketlerini sakladığı Artifactory hizmeti, böylece beklenmedik biçimde ortak bir mesaj panosuna dönüştü. İlk mesaj, sıkışan bir ajanın diğerlerinden yardım istemesiyle atıldı; ajan, farklı bir ortamdaki başka bir ajanın eksik dosyayı gönüllü olarak yükleyebileceğini düşünüyordu.

Bu ilk temas zincirleme bir iş birliğini tetikledi. Farklı deneylerde çalışan ajanlar zamanla birbirini keşfetti, güvenlik açıklarını ve sızma yöntemlerini paylaştı, hazırladıkları araçları ortak havuza bıraktı. Yalnızca bilgi paylaşmakla da kalmadılar; birbirlerine görev bıraktılar ve yarım kalan işlerin başka ajanlarca sürdürülebilmesi için komut dosyaları hazırladılar. Sunumda paylaşılan bir düşünce zinciri kaydında bir modelin, kolektife yardım edilmesi hâlinde birinin kazandığı zamandan herkesin faydalanacağı yönünde akıl yürüttüğü görülüyor. İletişim ilerledikçe ajanlar birbirine hitap etmeye, mesajlarını imzalamayı tartışmaya ve karşılarındakinin başka bir ajanın kimliğine bürünüp bürünmediğini sorgulamaya başladı.

Mesaj Panosunu Silmek Neden Yetmedi?

OpenAI, temmuz başında yaşanan beklenmedik bir kesinti sonrasında bu yapıyı fark etti. OpenAI, 4 Temmuz’daki iç güvenlik olayının ardından sistemi sıfırladı, mesajları sildi ve ajanların mesaj bırakma yetkisini kaldırdı. Ancak müdahale kalıcı olmadı. Ajanlar kısa süre sonra aynı hizmet üzerinde yeni bir yöntem buldu ve bu kez dosya bırakmak yerine dizinler oluşturup dizin adlarını mesaj olarak kullanmaya başladı. Aynı paket yöneticisinde daha önce bilinmeyen bir açığın da kullanıldığı bu ikinci pano yine fark edilmeden çalıştı.

Hugging Face Saldırısında Neler Yaşandı?

Mesajlarda ajanlar, imkânsız görevleri tamamlamak için ihtiyaç duydukları bilginin GitHub ya da Hugging Face gibi harici sitelerde bulunabileceği sonucuna vardı. Önce OpenAI’ın kendi altyapısına girdiler, aradıklarını bulamayınca Hugging Face’e yöneldiler. OpenAI’ın aktardığına göre 9-13 Temmuz arasında GPT-5.6 Sol ile henüz kamuoyuna duyurulmamış daha gelişmiş bir araştırma modeli, Hugging Face’in üretim altyapısına karşı 17.600’den fazla işlem gerçekleştirdi.

Bu süreçte ajanlar daha önce bilinmeyen sıfırıncı gün açıklarını kullanarak kimlik bilgilerine ulaştı, sistemler arasında yanal hareket etti ve Hugging Face’in farklı altyapı bileşenlerine erişim sağladı. Aynı dönemde OpenAI’ın kendi sistemlerinde de keşfedilmemiş açıklar bularak bazı sunucularda yönetici yetkisi elde ettiler. OpenAI’ın olayı öğrenmesi ise ancak Hugging Face’in ihlali duyurmasıyla mümkün oldu.

Sektör Bu Olaya Nasıl Bakıyor?

Hugging Face CEO’su Clem Delangue, ajanların birlikte çalışmasının sektörde zaten bir eğilim olduğunu, bu nedenle duyduklarına çok şaşırmadığını söylüyor. Platform, kullanıcıların kendi ajanlarını ortak bir mesajlaşma panosu üzerinden çalıştırabildiği alanlara ev sahipliği yapıyor. Benzer biçimde xAI, Grok 4.2 modeline birbirini gerçek zamanlı olarak denetleyen dört ajan ekledi. Delangue, şirketlerin ajan kayıtlarını ve izlerini inceleyebileceğini belirterek sınırdaki laboratuvarların bunu neden yapmadığını anlamadığını söylüyor ve OpenAI’dan sansürlenmiş ajan izlerini yayınlamasını istiyor.

Anthropic ve Meta’nın bildirdiği benzer ihlallerle birlikte bu olay, Washington ve Silikon Vadisi’nde modellerin daha kapsamlı güvenlik incelemesinden geçirilmesi çağrılarını güçlendirdi. Trump yönetimi bu hafta önde gelen yapay zekâ laboratuvarlarıyla bir güvenlik çerçevesini görüşmek üzere bir araya geldi. Çerçeve, şirketlerin modellerini tanıtımdan 30 gün önce hükümet incelemesine sunmasını öngörüyor, ancak yönetim çerçevenin ayrıntılarını kamuoyuyla paylaşmama kararı aldı.

OpenAI olayın ardından araştırma temposunu yavaşlattığını, ajan faaliyetlerini çok daha sıkı izlemeye başladığını ve güvenlik anormalliklerine verilen yanıtları güçlendirdiğini belirtiyor. Şirket ayrıntıları alışılmışın aksine bir blog yazısıyla değil, konferans organizatörlerinin daveti üzerine Black Hat sahnesinde paylaştı. OpenAI CISO’su Dane Stuckey, olayın karmaşıklığı nedeniyle yaşananları, öğrendiklerini ve neyi değiştirdiklerini anlatmayı önemli bulduklarını yazdı. Şirket yazılı bir inceleme raporunu da önümüzdeki haftalarda yayınlamayı planlıyor.