GIGABYTE, AI TOP ATOM Platformuna NVIDIA Nemotron 3.5 Lightning ve NeMo Switchyard Desteği Ekledi

GIGABYTE, yapay zeka alanındaki rekabetin sohbet botlarından tam anlamıyla bağımsız, uzun vadeli görevler yürütebilen AI ajanlarına kaydığı bir dönemde, AI TOP ATOM adlı masaüstü platformuna kritik bir güncelleme sundu. Şirket, platformun artık NVIDIA’nın 30 milyar parametreli Nemotron 3.5 Lightning modelini ve aynı zamanda açık kaynak NeMo Switchyard yönlendirme kütüphanesini desteklediğini duyurdu. Bu adım, yerel olarak çalışan yapay zeka sistemlerinin bulut altyapısına bağımlılığını azaltarak, hem maliyet hem de gecikme açısından önemli avantajlar sunmayı amaçlıyor.

AI TOP ATOM, GIGABYTE’ın masaüstü bilgisayarlarında yerel yapay zeka modellerini çalıştırmak için geliştirdiği bir platform. Yeni destek, yalnızca modelin çalıştırılmasını sağlamakla kalmıyor; aynı zamanda sistemin farklı görev tiplerine göre en uygun modeli otomatik olarak seçebilmesini mümkün kılıyor. NeMo Switchyard, NVIDIA’nın açık kaynaklı bir model yönlendirme kütüphanesi olarak, gelen görevleri analiz edip, yüksek muhakeme kapasitesine ihtiyaç duyan karmaşık adımları Nemotron 3.5 Lightning gibi büyük modellere, rutin sınıflandırma veya kod çıktısı kontrolü gibi daha basit işlemleri ise daha küçük modellere yönlendiriyor. Bu dinamik model seçimi, AI ajanlarının her aşamada gereksiz yere büyük ve pahalı modelleri kullanmasını engelleyerek, işlem maliyetini ve enerji tüketimini düşürüyor.

Nemotron 3.5 Lightning, NVIDIA’nın uzun süreli AI ajanları için geliştirdiği açık modellerden biri ve toplam 30 milyar parametreye sahip. Model, Mixture‑of‑Experts (MoE) mimarisi sayesinde her işlemde yalnızca yaklaşık 3 milyar parametreyi aktif olarak kullanıyor; bu sayede büyük bir parametre havuzundan yararlanırken, token başına gereken hesaplama yükü önemli ölçüde azalıyor. NVIDIA, bu modelin aynı sınıftaki diğer modellerle kıyaslandığında belirli iş yüklerinde dört katına kadar daha yüksek throughput sağladığını belirtiyor. Ayrıca, Nemotron 3.5 Lightning 1 milyon token’a kadar uzanan context length desteğiyle, AI ajanlarının çok uzun belgeleri veya uzun süreli görev geçmişlerini tek bir oturumda değerlendirebilmesine olanak tanıyor.

Agentic AI sistemleri, klasik sohbet botlarından farklı olarak, uzun vadeli planlama, çevresel bilgi değerlendirmesi, araç çağrısı (tool calling) ve çok adımlı işlem akışlarını yönetebilme yeteneğine sahip. Bu sistemlerde her aşamada büyük bir “frontier” model kullanmak zorunlu değil; örneğin, bir görevin planlama aşaması yüksek muhakeme gücü gerektirirken, kod çıktısını doğrulama veya belge sınıflandırma gibi daha rutin adımlar daha küçük modellerle yürütülebilir. NeMo Switchyard’ın bu işlevi otomatikleştirmesi, AI ajanlarının hem performansını hem de verimliliğini artırıyor.

GIGABYTE’ın bu hamlesi, donanım üreticilerinin yapay zeka ekosisteminde sadece GPU sağlamakla kalmayıp, yazılım ve model entegrasyonunda da aktif rol almayı hedeflediğinin bir göstergesi. AI TOP ATOM’un Nemotron 3.5 Lightning ve NeMo Switchyard desteği, yerel AI ajanlarının bulut dışı çalıştırılmasını mümkün kılarak, veri gizliliği, gecikme süresi ve operasyonel maliyet konularında yeni fırsatlar sunuyor. Bu gelişme, özellikle kurumsal ve endüstriyel uygulamalarda, veri güvenliği ve gerçek‑zaman performansının kritik olduğu senaryolarda önemli bir adım olarak değerlendiriliyor.