NVIDIA RTX Serisi Ekran Kartlarında Yapay Zeka Performansı İkiye Katlandı: Zagitta Aracı Piyasayı Salladı
Açık kaynaklı Zagitta aracı, NVIDIA GeForce RTX 30 ve RTX 40 serisi ekran kartlarının yapay zeka hesaplama gücünü donanımsal sınırlamaları aşarak neredeyse iki katına çıkardı. Bu gelişme, ikinci el ekran kartı pazarında fiyatların hızla yükselmesine neden oldu.
Yapay zeka modellerinin hızla yaygınlaşması, donanım dünyasında beklenmedik dengeler yaratmaya devam ediyor. Son olarak, açık kaynaklı geliştirilen Zagitta adlı bir araç, NVIDIA'nın GeForce RTX 30 ve RTX 40 serisi ekran kartlarında donanımsal olarak uygulanan yapay zeka işlem kapasitesi sınırlamalarını ortadan kaldırmayı başardı. Bu kritik gelişme, söz konusu ekran kartlarının FP16 ve BF16 hesaplama hızlarını neredeyse iki katına çıkarırken, aynı zamanda ikinci el ekran kartı pazarında adeta bir fiyat patlamasına yol açtı. Kullanıcıların vBIOS laması veya fiziksel donanım müdahalesi gibi riskli işlemlere gerek kalmadan faydalanabildiği bu yazılım çözümü, yapay zeka geliştiricileri için yeni kapılar aralıyor.
NVIDIA'nın, geçmişte kripto para madenciliğinin yoğun olduğu dönemlerde oyuncu odaklı ekran kartlarının profesyonel ve kurumsal hesaplama alanlarında kullanılmasını engellemek amacıyla getirdiği bazı komut işleme limitleri, Zagitta aracı sayesinde artık anlamsız hale geldi. GitHub üzerinde paylaşılan ve Linux çekirdek modülü olarak çalışan Zagitta, bu sınırları doğrudan bertaraf ederek grafik işlem birimlerinin (GPU) gerçek potansiyelini ortaya çıkarıyor. Araç, orijinal NVIDIA sürücüsü yüklenmeden hemen önce donanım seviyesindeki hız seçicilerini (speed selectors) düzenleyerek, GA102, GA103, GA104 ve GA106 grafik yongalarındaki FP/BF16 FMA komut işleme hızını, profesyonel kartların seviyesine taşıyor. Zagitta'nın en dikkat çekici avantajlarından biri ise, kullanıcıları riskli vBIOS güncellemeleriyle uğraştırmaması ve sürücü güncellemeleri sonrasında tekrar yama yapma zorunluluğunu ortadan kaldırması olarak öne çıkıyor.
İlk test sonuçları, özellikle Ampere mimarisine sahip RTX 30 serisi kartlarda gözle görülür performans artışları olduğunu ortaya koyuyor. Yapılan ölçümlere göre, bir RTX 3090 Ti modelinde BF16 hesaplama hızı 87.5 TFLOPS'tan 157 TFLOPS'a, TF32 hızı ise 42.6 TFLOPS'tan 82.6 TFLOPS'a yükseldi. RTX 3080 10GB modelinde ise, orijinal 320W güç tüketimi sınırları dahilinde FP16/BF16 hesaplama hızı yaklaşık 65 TFLOPS'tan 110-113 TFLOPS seviyelerine çıktı. Bu performans artışları, büyük dil modelleri (LLM) gibi yapay zeka uygulamalarında daha da belirginleşiyor. vLLM üzerinde yapılan testlerde, uzun bağlam ön hazırlama (prefill) sürelerinde %33-36 oranında kısalma ve ilk kelime gecikmesinde %25'lik bir düşüş kaydedildi. Çözme (decode) sürelerinde ise belirgin bir değişiklik gözlenmedi. Bu iyileştirmeler, matris çarpımı sonuçlarının bit düzeyinde tutarlılığını korurken, INT8 hesaplama yolunu etkilemiyor. Şu ana kadar yapılan geri bildirimler, RTX 3070, 3080 ve 3090 modellerinde de benzer başarıların elde edildiğini gösteriyor.
Şu an için yalnızca Linux işletim sisteminde çalışan Zagitta aracı, yapay zeka geliştiricileri ve özellikle model ince ayarı (fine-tuning) ile uğraşan profesyoneller arasında büyük bir ilgi uyandırmış durumda. Özellikle 24 GB VRAM kapasitesine sahip GeForce RTX 3090 ve RTX 3090 Ti gibi modeller, kurumsal düzeydeki yapay zeka hızlandırıcılarına kıyasla çok daha uygun maliyetli bir alternatif sunuyor. Bu durum, ikinci el piyasasında fiyatların hızla tırmanmasına neden oldu. Kısa bir süre önce yurt dışı ikinci el platformlarında yaklaşık 1.000 dolar civarında alıcı bulan 24 GB RTX 3090 modellerinin fiyatı 2.000 doları aşarken, RTX 3090 Ti modelleri 2.650 ila 3.000 dolar seviyelerine ulaştı. RTX 3080 modelleri de benzer bir ivmeyle 1.000 dolar sınırına yaklaşıyor. Bu gelişme, bir yandan yapay zeka alanındaki maliyetleri düşürme potansiyeli taşırken, diğer yandan uygun fiyatlı ekran kartı arayışındaki oyuncuları yükselen fiyatlar karşısında zor durumda bırakıyor.
Zagitta aracının kullanımı için bazı teknik gereksinimler bulunuyor. Araç, yalnızca Linux üzerinde çalışıyor ve şu an için RTX 40 serisi kartları desteklemiyor. Ayrıca, kurulum ve etkinleştirme için Secure Boot özelliğinin kapatılması gerekiyor. Kurulumun ardından, sistemin başlatma parametrelerine `gpu_unlock.targets=all` eklenmesi ve ardından yeniden başlatılmasıyla aracın aktif hale geldiği belirtiliyor. `journalctl -k | grep gpu_unlock` komutu ile de aracın başarıyla etkinleşip etkinleşmediği kontrol edilebiliyor. Bu gelişmeler, yapay zeka donanım pazarında yeni bir dönemin habercisi olarak değerlendiriliyor.
