NVIDIA, yeni TensorRT for RTX teknolojisini Microsoft Build 2025’te tanıttı. Özellikle Windows 11 kullanıcıları için gelen bu yenilik, masaüstü RTX ekran kartlarında yapay zeka performansını belirgin şekilde artırmayı hedefliyor.
NVIDIA, yapay zekâ uygulamalarının daha hızlı ve verimli çalışmasını sağlamak için uzun süredir çalışmalar yürütüyor. Yeni TensorRT for RTX, veri merkezlerinde kullanılan hızlandırma tekniklerini artık son kullanıcıya da getiriyor. RTX kartı olan herkes, bu teknolojinin avantajlarından yararlanabilecek.
Yerel GPU’da Yüzde 50’ye Varan Performans Artışı
TensorRT for RTX, yeni nesil yapay zekâ modellerini kişisel bilgisayarlarda daha hızlı çalıştırmak için optimize edildi. Sistem, modellerin GPU üzerinde doğrudan birkaç saniye içinde derlenmesini sağlıyor. Böylece uzun derleme süreleri tarihe karışıyor.
FP4 ve FP8 gibi düşük hassasiyetli formatlar da destekleniyor. Bu, belleğin daha verimli kullanılmasına olanak tanıyor. Uygulamalar, daha düşük bellekle yüksek işlem gücüne ulaşabiliyor.
TensorRT for RTX’in boyutu yalnızca 200 MB. Windows ML ile otomatik olarak indiriliyor ve arka planda kuruluyor. NVIDIA’nın iddiasına göre, RTX 5090 kartlarında DirectML’ye kıyasla çok daha hızlı sonuçlar elde ediliyor.
Ekstra Optimizasyon ve Hızlı Başlangıç
TensorRT for RTX, çıkarım motorunun önceden derlenmesini gerektirmiyor. Her model başlatıldığında, GPU’ya özgü motor birkaç saniyede otomatik olarak hazırlanıyor. Bu da %20’ye varan ek bir performans artışı sunuyor.
Kısacası, NVIDIA’nın yeni çözümüyle, Windows tabanlı sistemlerde yapay zekâ destekli uygulamalar daha hızlı ve akıcı çalışacak. Özellikle üretken yapay zekâ uygulamaları kullanan kullanıcılar, bu performans artışını yakından hissedecek.
Yorum Yok
