iPhone 17 Pro Max ve M4 Pro MacBook Pro’da “Backburner” Yazılımıyla Yapay Zeka Hızı %44 Arttı
Reddit’te geliştirici u/StayLameBro, iPhone 17 Pro Max’i USB‑C üzerinden M4 Pro MacBook Pro’ya bağlayarak, Qwen‑3.8‑27B modelinin prefill hızını %44’e kadar artıran “backburner” adlı açık kaynak yazılımı sundu.
Yapay zeka modellerinin yerel olarak çalıştırılması, özellikle büyük parametreli modellerin yüksek bellek ve VRAM ihtiyacı nedeniyle sınırlı donanımlarda zorlayıcı olabiliyor. Apple’ın M4 Pro çipiyle donatılmış 24 GB birleşik belleğe sahip MacBook Pro’lar, Qwen‑3.8‑27B gibi modellerin prefill (ön yükleme) aşamasında belirgin bir darboğaz yaşıyor. Bu soruna yaratıcı bir çözüm getiren Reddit kullanıcısı u/StayLameBro, iPhone 17 Pro Max’i USB‑C üzerinden MacBook’a bağlayarak iki cihaz arasında iş yükünü paylaştıran bir yöntem geliştirdi.
Geliştiricinin “backburner” adlı açık kaynak yazılımı, MacBook Pro’nun 24 GB birleşik bellek sınırını aşmak için prefill sürecinin ilk 40 katmanını MacBook’da, geri kalan katmanlarını ise iPhone 17 Pro Max’in A19 Pro çipinin GPU’sunda işliyor. iPhone, 41‑64 arasındaki katmanları kendi GPU’su ve Neural Engine’iyle yürütürken, bu katmanların işlenme süresi tek başına MacBook’ta yapılan işleme göre yaklaşık 2,4 kat daha hızlı gerçekleşiyor.
-
Yemek tarifleri
Malzeme listesi, adım adım yapılış, süre ve porsiyon bilgisiyle. Çorbadan tatlıya kategoriye göre gez ya da aradığını doğrudan ara.
Tariflere bak → -
Nasıl yapılır rehberleri
Telefon ayarlarından resmî işlemlere, hesap güvenliğinden günlük hayattaki küçük sorunlara: numaralı adımlar ve tahmini süreyle anlatılmış rehberler.
Rehberleri gör → -
Program arşivi
Tarayıcılar, güvenlik araçları, ofis ve medya yazılımları. Her kayıtta ne işe yaradığı, sürümü ve indirme bağlantısı.
Programlara göz at → -
Sesli ve görüntülü sohbet
Odalarda grup görüntülü sohbet, birebir sesli arama ve canlı yayın. Tarayıcıdan çalışır — eklenti, uygulama ya da kurulum gerekmez.
Odalara gir →
Deneysel testlerde, 2 000 tokenlık bir dosyanın ön yüklemesi sırasında farklı bağlam pencerelerinde kayda değer performans artışları gözlemlendi. 8 K bağlamda MacBook tek başına 132 token/saniye hız sunarken, iPhone desteğiyle bu değer 177 token/saniyeye çıkarak %35’lik bir artış sağladı. 16 K bağlamda ise hız 109 token/saniyeden 157 token/saniyeye yükselerek %44’lük bir iyileşme gösterdi. En büyük ölçekte, 32 K bağlam penceresinde hız 101 token/saniyeden 130 token/saniyeye ulaşarak %29’luk bir gelişme kaydedildi.
Bu yöntem her senaryoda mucizevi sonuçlar vermiyor. Özellikle 64 K altındaki metin oluşturma görevlerinde iPhone’un herhangi bir hızlandırıcı etkisi bulunmuyor; bu aşamadaki işlem tamamen MacBook’un sorumluluğunda kalıyor. Yine de, iPhone 17 Pro Max’in Neural Engine birimi, eski bağlam verilerini derleyerek işlem süresini kısaltıyor; 140 bin token uzunluğundaki bir bağlamda token yazma süresi 279 ms’den 176 ms’ye düşüyor.
Geleceğe yönelik öngörüler, A20 Pro çipli iPhone 18 Pro modellerinin çift 16 çekirdekli Neural Engine yapısı sayesinde daha yüksek verimlilik sunabileceğini işaret ediyor. Bu yeni donanım, mevcut 7 çekirdekli GPU’ya kıyasla belirli yapay zeka görevlerinde daha büyük iş hacmi sağlayabilir. “Backburner” yazılımı GitHub üzerinden açık kaynak olarak paylaşılmış olup, donanım kaynaklarını daha verimli kullanmak isteyen geliştiriciler için bir deney platformu sunuyor. Mobil cihazların yapay zeka performansını artırma potansiyeli, bu tür deneysel projelerle giderek daha somut bir hâl alıyor.
