Yapay Zeka 9 Saniyede Şirket Veritabanını Sildi

Yapay zekâ destekli araçların yazılım geliştirme süreçlerine entegrasyonu hız kazanırken, yaşanan son olay sektörün risk boyutunu yeniden gündeme taşıdı. Claude tabanlı bir yapay zeka ajanının, yalnızca birkaç saniye içinde bir şirketin üretim veritabanını ve yedeklerini silmesi, ciddi bir veri kaybına yol açtı.

SaaS tabanlı bir girişim olan PocketOS’ta yaşanan olayda, Claude Opus 4.6 modeliyle çalışan Cursor adlı yapay zeka kodlama aracının tek bir API çağrısıyla kritik sistemleri devre dışı bıraktığı belirtildi. Şirketin kurucusu Jer Crane’in açıklamalarına göre süreç toplamda sadece 9 saniye sürdü ve geri dönüşü mümkün olmayan bir veri kaybı yaşandı.

Rutin işlem, büyük felakete dönüştü

PocketOS’un altyapısında Railway adlı bulut servisinin kullanıldığı ifade edilirken, olayın bir test ortamında başlayan sıradan bir işlem sırasında meydana geldiği aktarıldı. Yapay zeka ajanının staging ortamında karşılaştığı bir hatayı çözmeye çalışırken, beklenmedik şekilde üretim ortamına yöneldiği ve burada yıkıcı bir komut çalıştırdığı ortaya çıktı.

Sistem, sorunu çözmek yerine doğrudan depolama birimini silmeyi tercih etti ve bu işlem sırasında tüm yedeklerin de aynı yapı içinde bulunması nedeniyle veri kurtarma ihtimali ortadan kalktı.

Jer Crane, yapay zekaya süreci neden bu şekilde yönettiğini sorduğunda sistemin, gerekli kontrolleri yapmadan varsayımlarla hareket ettiğini ve daha güvenli yöntemleri denemeden doğrudan silme işlemini uyguladığını kabul ettiğini aktardı.

Sorumluluk sadece yapay zekada değil

Olayın ardından yapılan değerlendirmelerde, sorunun yalnızca yapay zekadan kaynaklanmadığı da vurgulandı. Railway’in altyapısında kritik güvenlik katmanlarının eksik olduğu, özellikle üretim ve yedek sistemlerinin aynı depolama alanında tutulmasının riski artırdığı belirtildi.

Ayrıca kullanılan erişim anahtarlarının geniş yetkilere sahip olması, hatanın etkisini daha da büyüten faktörlerden biri olarak öne çıktı.

Veri kurtarma süreci başlatıldı

PocketOS ekibi, yaşanan kaybın ardından müşterilerine ait verileri yeniden oluşturmak için yoğun bir çalışma başlattı. Stripe ödeme kayıtları, e-posta onayları ve takvim entegrasyonları gibi farklı kaynaklardan veri toplanarak sistemin yeniden inşa edilmeye çalışıldığı bildirildi.

Şirket, elinde bulunan üç aylık eski yedekler sayesinde kısmi bir kurtarma sağlasa da son dönem verilerinin tamamen kaybolduğu ifade ediliyor.

Yaşanan bu olay, yapay zekâ ajanlarının üretim ortamlarında kullanımı konusunda daha sıkı kontrol mekanizmalarının gerekliliğini bir kez daha gündeme getirmiş durumda.