İngiltere’de Savcı, Yapay Zekanın Uydurduğu Davayı Gerçek Sandı

Yapay zeka halüsinasyonları bu kez bir mahkeme salonunda ciddi bir krize yol açtı. İngiltere ve Galler Kraliyet Savcılık Servisi’nde (CPS) görevli kıdemli bir savcı, Yüksek Mahkeme’deki kritik bir davada yapay zekanın uydurduğu dava kararını gerçek bir emsal gibi sundu. Var olmayan bir mahkeme kararının, üstelik bir çocuğun yargılanmasını savunmak için kullanılması İngiltere’de büyük tepki çekti.

Olmayan Bir Karar Emsal Gösterildi

Olay, olay tarihinde 11 yaşında olan bir çocuğun yargılanma kararına yapılan itiraz sırasında ortaya çıktı. Çocuğun avukatları; sosyal hizmet uzmanları, gençlik çalışanları ve adli psikologların görüşlerinin dikkate alınmadığını belirterek davanın düşürülmesini talep etti.

CPS’in Tecavüz ve Ağır Cinsel Suçlar Birimi’nde görevli kıdemli savcı Ravinder Dhillon ise yargılamanın sürmesi gerektiğini savunurken “CPS – R v J [2024] EWCA Crim 3529” numaralı ayrıntılı bir emsal karara atıfta bulundu. Ancak yapılan incelemede böyle bir kararın hiçbir zaman var olmadığı anlaşıldı.

Savcının Açıklaması Yetersiz Bulundu

Ekim ayında hatasını kabul eden savcı, internet araması sırasında karşılaştığı bir yapay zeka özetindeki hayali kararı aldığını, aslında 15 yıl önceki gerçek bir davayı kastettiğini öne sürdü. Yüksek Mahkeme yargıçları ise bu açıklamayı “yetersiz” buldu. Mahkeme, hayali atfın davanın sonucunu değiştirmediğini ve çocuğun gençlik mahkemesindeki yargılamasının devam edeceğini açıkladı.

Yargıda yapay zeka kullanımını araştıran Maynooth Üniversitesi’nden Doç. Dr. Brian Flanagan, durumu “vahim bir başarısızlık” olarak nitelendirdi. Flanagan’a göre bir kamu savcısının zaman kazanmak için doğrulanmamış yapay zeka çıktısına güvenmesi, devletin elindeki güç düşünüldüğünde çok daha tehlikeli.

İngiltere’de Yapay Zeka Hataları 101’e Ulaştı

Bu son olayla birlikte İngiltere’de doğrulanmış, şüpheli ya da tartışmalı yapay zeka hatalarını kaydeden takip listesindeki vaka sayısı 101’e yükseldi. Kraliyet Savcılık Servisi (CPS) ise kurumun yapay zeka kullanımına dair katı kuralları olduğunu ve bu teknolojinin asla nihai hukuki kararlar için kullanılmadığını savundu.

• Hata, internet araması sırasında görülen bir yapay zeka özetinden kaynaklandı
• CPS iç inceleme başlattı ve benzer başka vaka bulunmadığını açıkladı
• Personele emsallerin yalnızca güvenilir kaynaklardan doğrulanması hatırlatıldı
• Uzmanlar hassas dava verilerinin yapay zekayla taranmasının gizlilik riski taşıdığını vurguluyor

Olay, GPT-6.1 Terra gibi giderek daha yetenekli modellerin hayatımıza girdiği bir dönemde, yapay zeka çıktılarının körü körüne güvenilmemesi gerektiğini bir kez daha gösterdi. Gizlilik tarafında da şirketler yeni önlemler alıyor; ChatGPT’nin kilitli sohbetler özelliği bunlardan biri. Ancak uzmanlara göre en etkili önlem hâlâ insan doğrulaması.

Sıkça Sorulan Sorular

Savcı hangi hatayı yaptı?

Savcı, yapay zekanın ürettiği ve gerçekte var olmayan bir mahkeme kararını Yüksek Mahkeme’de emsal olarak gösterdi.

Dava bu hata yüzünden düştü mü?

Hayır. Mahkeme, hayali atfın sonucu değiştirmediğini ve yargılamanın devam edeceğini açıkladı.

Yapay zeka halüsinasyonu nedir?

Yapay zekanın gerçekte var olmayan bilgileri, kaynakları ya da olayları gerçekmiş gibi üretmesine halüsinasyon denir.