IBM yapay zekanın ön yargılarını tespit etmek için kollarını sıvıyor

Daha önceden Google'ın mevcut fotoğraf algoritması Afrika asıllı Amerikalıları "Goril" olarak ifade etmesi ve buna benzer örneklerin Google'da sık sık karşılaşılması şu anda mevcut algoritmaların ne kadar önyargılı olduğuna dair tartışma konusu olmuştu. Adalet 360 (Fairness 360) isimli araç yapay zekanın önyargılarının olup olmadığını değerlendirerek gerekli düzenlemeler konusunda şirketleri bilgilendirecek. Zaten son dönemlerde gündemimizi sık sık dolduran bu şirketlerin adil olmadığı ve geliştirdikleri yapay zekaları adil bir şekilde geliştirmedikleri konuşuluyordu. Örneğin son dönemlerde çok popüler olan yüz tanıma teknolojileri beyaz yüzlerin tamamını tanırken siyaz yüzleri tanımada ya zorlanıyor ya da tanıyamıyordu. 

IBM geliştirdiği arayüzü üzerinden tüketiciler algoritmaların nasıl karar verdiğini ve karar verirken neleri dikkat alarak karar verdiğini görebilecek.

Geliştirilen bu yapay zekalar günümüzde artık her alanda kullanılıyor ve ilerde hayatımızın her alanında mevcut olacak. Çalışan bu algoritmalar kkara kutu düzeneği ile çalışıyor ve çalışma sürecinde algoritma sahipleri kararın neden ve nasıl verildiği hakkında bilgi sahibi olamıyor. Size IBM'in bir arayüzü hakkında örnek vererek bilgi sahibi edecek olursam; IBM geliştirdiği arayüzü üzerinden tüketiciler algoritmaların nasıl karar verdiğini ve karar verirken neleri dikkat alarak karar verdiğini görebilecek. Aynı şekilde geliştirilen arayüzün hata oranı, performansı ve adilliği gözlem altına alınabilecek. Konuyla alakalı olarak açıklama yapan IBM'ın Bilişsel Çözümler Birimi Başkan Yardımcısı David Kenny, "Yapay zekakullanan ve hatalı bir kararın yaratacağı risklerle karşı karşıya olan şirketlere şeffaflık ve kontrol sağlıyoruz." ifadelerini kullandı.