Yapay zeka teknolojilerinin hızla günlük hayatın bir parçası haline geldiği 2025 yılında, Çin hükümeti sektördeki kontrolü artırmak adına dev bir adım attı. Çin Siber Uzay İdaresi (CAC), insan davranışlarını taklit eden ve kullanıcılarla duygusal bağ kuran yapay zeka sistemlerini düzenlemek amacıyla kapsamlı bir taslak kural listesi yayımladı.
Duygusal Yapay Zeka ve “Refakatçi” Uygulamalarına Yakın Markaj
Pekin yönetimi, özellikle kullanıcıların yalnızlığını gidermek veya onlara duygusal destek sağlamak amacıyla tasarlanan yapay zeka “refakatçilerini” (AI companions) hedef alıyor. Taslak kurallara göre, insan kişiliğini simüle eden bu yazılımların kullanıcıları manipüle etmesi veya toplumsal normlara aykırı davranışlar sergilemesi engellenecek.
Bağımlılıkla Mücadele: İki Saat Sınırı ve Uyarılar
Yeni düzenleme, yapay zeka bağımlılığına karşı radikal önlemler içeriyor. Taslağa göre;
- Kullanım Sınırı: Yapay zeka uygulamaları, iki saatlik kesintisiz kullanımın ardından kullanıcıyı mola vermesi için uyaracak.
- Şeffaflık Zorunluluğu: Sistemler, kullanıcıya bir insanla değil, bir yapay zeka ile etkileşimde olduğunu düzenli olarak hatırlatan “pop-up” uyarılar çıkaracak.
- Duygu Analizi: Şirketler, kullanıcının duygusal durumunu analiz ederek bağımlılık belirtileri gösteren kişilere hizmet kısıtlaması getirmekle yükümlü olacak.
Ulusal Güvenlik ve Etik Kırmızı Çizgiler
Çin’in sunduğu taslak kurallar, sadece kullanıcı sağlığını değil, aynı zamanda devletin güvenlik politikalarını da korumayı amaçlıyor. Yapay zeka sistemlerinin ulusal güvenliği tehlikeye atacak, söylenti yayacak veya yasa dışı faaliyetleri teşvik edecek içerikler üretmesi kesinlikle yasaklanıyor.
Acil Durum Protokolleri: İnsan Müdahalesi Şart
Özellikle kritik durumlarda yapay zekanın yetersiz kalabileceği öngörülerek, sistemlere bir “acil durum butonu” zorunluluğu getiriliyor. Eğer bir kullanıcı kendine zarar verme veya intihar düşüncesi belirtirse, etkileşimi derhal gerçek bir insan operatör devralacak.
Yorum Yok
İlgili Yazılar
