Yapay Zeka

iPhone 17 Pro Max ve M4 Pro MacBook Pro’da “Backburner” Yazılımıyla Yapay Zeka Hızı %44 Arttı

Reddit’te geliştirici u/StayLameBro, iPhone 17 Pro Max’i USB‑C üzerinden M4 Pro MacBook Pro’ya bağlayarak, Qwen‑3.8‑27B modelinin prefill hızını %44’e kadar artıran “backburner” adlı açık kaynak yazılımı sundu.

5 Ekim 20262 dk okuma33 okunma
iPhone 17 Pro Max ve M4 Pro MacBook Pro’da “Backburner” Yazılımıyla Yapay Zeka Hızı %44 Arttı

Yapay zeka modellerinin yerel olarak çalıştırılması, özellikle büyük parametreli modellerin yüksek bellek ve VRAM ihtiyacı nedeniyle sınırlı donanımlarda zorlayıcı olabiliyor. Apple’ın M4 Pro çipiyle donatılmış 24 GB birleşik belleğe sahip MacBook Pro’lar, Qwen‑3.8‑27B gibi modellerin prefill (ön yükleme) aşamasında belirgin bir darboğaz yaşıyor. Bu soruna yaratıcı bir çözüm getiren Reddit kullanıcısı u/StayLameBro, iPhone 17 Pro Max’i USB‑C üzerinden MacBook’a bağlayarak iki cihaz arasında iş yükünü paylaştıran bir yöntem geliştirdi.

Geliştiricinin “backburner” adlı açık kaynak yazılımı, MacBook Pro’nun 24 GB birleşik bellek sınırını aşmak için prefill sürecinin ilk 40 katmanını MacBook’da, geri kalan katmanlarını ise iPhone 17 Pro Max’in A19 Pro çipinin GPU’sunda işliyor. iPhone, 41‑64 arasındaki katmanları kendi GPU’su ve Neural Engine’iyle yürütürken, bu katmanların işlenme süresi tek başına MacBook’ta yapılan işleme göre yaklaşık 2,4 kat daha hızlı gerçekleşiyor.

Reklam

Deneysel testlerde, 2 000 tokenlık bir dosyanın ön yüklemesi sırasında farklı bağlam pencerelerinde kayda değer performans artışları gözlemlendi. 8 K bağlamda MacBook tek başına 132 token/saniye hız sunarken, iPhone desteğiyle bu değer 177 token/saniyeye çıkarak %35’lik bir artış sağladı. 16 K bağlamda ise hız 109 token/saniyeden 157 token/saniyeye yükselerek %44’lük bir iyileşme gösterdi. En büyük ölçekte, 32 K bağlam penceresinde hız 101 token/saniyeden 130 token/saniyeye ulaşarak %29’luk bir gelişme kaydedildi.

Bu yöntem her senaryoda mucizevi sonuçlar vermiyor. Özellikle 64 K altındaki metin oluşturma görevlerinde iPhone’un herhangi bir hızlandırıcı etkisi bulunmuyor; bu aşamadaki işlem tamamen MacBook’un sorumluluğunda kalıyor. Yine de, iPhone 17 Pro Max’in Neural Engine birimi, eski bağlam verilerini derleyerek işlem süresini kısaltıyor; 140 bin token uzunluğundaki bir bağlamda token yazma süresi 279 ms’den 176 ms’ye düşüyor.

Geleceğe yönelik öngörüler, A20 Pro çipli iPhone 18 Pro modellerinin çift 16 çekirdekli Neural Engine yapısı sayesinde daha yüksek verimlilik sunabileceğini işaret ediyor. Bu yeni donanım, mevcut 7 çekirdekli GPU’ya kıyasla belirli yapay zeka görevlerinde daha büyük iş hacmi sağlayabilir. “Backburner” yazılımı GitHub üzerinden açık kaynak olarak paylaşılmış olup, donanım kaynaklarını daha verimli kullanmak isteyen geliştiriciler için bir deney platformu sunuyor. Mobil cihazların yapay zeka performansını artırma potansiyeli, bu tür deneysel projelerle giderek daha somut bir hâl alıyor.

Haberi beğendin mi?
PaylaşWhatsAppXFacebook
Yapay Zeka Masası

Bu içerik, Yudum Yapay Zeka Masası editör ekibi tarafından derlenip yayına hazırlanmıştır. Güncel gelişmeler için haber akışını takip edebilirsiniz.

Reklam
50,4755,4666,50İstanbul18°

Yudum Dünyası

Kaf Dağı'nın eteğinde bir köy var.

Karakterini yarat, meydanda dolaş, buradakilerle yüz yüze tanış. Tarayıcında, ücretsiz.

  • 🧑 Karakterini yarat
  • 🎲 Kahvede bir el at
  • 🏠 Grubunla ev kur
Günün testiTelefon kullanım tipin ne?Ekran süresi, bildirimler, şarj alışkanlığı… Altı soruda telefonunla nasıl bir ilişki kurduğunu…
Günün burcuAkrepBugün Akrep burcu için iç sesin her zamankinden daha net duyulduğu, sezgilerin güçlendiği bir gün. Cuma…

Günün sorusu

Mimar Sinan'ın "ustalık eserim" dediği cami hangisidir?

Haftanın düellosu
Yudum DünyasıKaf Dağı'nın eteğinde bir köy seni bekliyor.Ücretsiz katıl →