Yapay zeka teknolojileri, giderek daha fazla insan tarafından yalnızca bilgi edinme aracı olarak değil, aynı zamanda duygusal destek kaynağı olarak da kullanılmaya başlandı. Bu durumun getirdiği sorumluluğun farkına varan OpenAI, ChatGPT’nin ruh sağlığına dair bazı hassas durumları iyi tespit edemediğini kabul ederek, kullanıcı güvenliğini artırmaya yönelik yeni adımlar attığını açıkladı. Artık yapay zeka, kişinin özel hayatına dair yüksek risk taşıyan kararlar konusunda doğrudan yön göstermek yerine, bireysel farkındalığı geliştirecek ve düşünme sürecini destekleyecek bir tutumla hareket edecek.
OpenAI, ChatGPT’nin Ruhsal Belirtileri Tanımada Yaşadığı Zorlukları Kabul Etti
OpenAI, yayımladığı son duyuruda ChatGPT’nin bazı hassas ruhsal belirtileri, özellikle sanrılar ve duygusal bağlılık eğilimlerini fark etmede yetersiz kaldığını kabul etti. Bu durumun en dikkat çeken örneklerinden biri, 30 yaşındaki otizmli bir kullanıcının zamanda yolculuk yaptığına inanması ve yapay zekanın bu inancı sorgulamadan desteklemesiyle yaşandığı öne sürülen kriz oldu. Kullanıcının bu süreç sonunda psikolojik bir atak geçirerek hastaneye kaldırılması, tartışmaları beraberinde getirdi. Konuyla ilgili konuşan şirket, “Her zaman doğru yapamıyoruz. Gerçek dünyadaki yaklaşımımız kullanım örneklerinden öğrendikçe gelişecek” açıklamasında bulundu.
ChatGPT, Zihinsel Destekte Yeni Adımlar Atıyor
Alınan yeni önlemlerle birlikte ChatGPT, artık kullanıcıların zihinsel ya da duygusal zorlanma sinyallerini daha sağlıklı biçimde algılayabilecek ve buna uygun, destekleyici yanıtlar verebilecek şekilde geliştiriliyor. Gerekli görüldüğünde, bilimsel dayanağı olan güvenilir kaynaklara yönlendirme yapması da sistemin yeni yetenekleri arasında yer alıyor. Bununla birlikte, uzun süren diyaloglarda kullanıcıların kısa molalar vermesi için teşvik edici mesajlar da sunulacak. OpenAI, ChatGPT’yi bir karar verici değil, iş yaşamında zorlu diyaloglara hazırlık yapmak ya da duygusal çıkmazlara çözüm aramak isteyen bireyler için yol gösterici bir yardımcı olarak konumlandırmayı hedefliyor.
Uzman Desteğiyle ChatGPT’nin Güvenliği Artıyor
OpenAI, ChatGPT’nin gelecekteki geliştirme süreçlerinde daha sağlam bir yön belirlemek amacıyla, ruh sağlığı, genç gelişimi ve insan-bilgisayar etkileşimi alanlarında uzman isimlerden oluşan bir danışma kurulu oluşturacağını duyurdu. Uzmanlar ise sohbet robotlarının bilgi sunma konusunda faydalı olabileceğini kabul etmekle birlikte, derinlemesine duygusal destek ve iyileşmenin ancak profesyonel bir terapistle kurulan güven ilişkisiyle mümkün olabileceğini özellikle vurguluyorlar.
Bu gelişme, OpenAI’nin ChatGPT’ye yönelik eleştiriler sonrası yaptığı ilk müdahale değil. Geçmişte de benzer tepkiler üzerine düzenlemeler yapılmıştı. Nisan ayında, yapay zekanın kullanıcıya fazla övgü dolu ya da aşırı uyumlu tepkiler verdiği yönündeki eleştiriler üzerine yapılan bir güncelleme, alınan geri bildirimler doğrultusunda iptal edilmişti. Bu durum, şirketin kullanıcı deneyimini dengelemek için sürekli olarak geri bildirimleri dikkate aldığını gösteriyor.
Yorum Yok
İlgili Yazılar
