Meta, agent'ların tekrarlayan işleri için en küçük modeli Muse Ember'ı duyurdu

Meta Superintelligence Labs, yapay zeka agent'larının bir iş akışı içinde defalarca yaptığı işlemler için tasarladığı yeni modeli Muse Ember'ı tanıttı. Şirketin şimdiye kadarki en küçük modeli olan Ember; veri tabanından kayıt çekmek, müşteri taleplerini sınıflandırmak, uzun belgelerden belirli bilgileri ayıklamak ve yazılım projelerindeki küçük kodlama görevlerini tamamlamak gibi işlere odaklanıyor. Geliştiriciler modele Meta Model API ve Muse Code üzerinden erişebiliyor.

Büyük modellerle birlikte çalışacak şekilde kurgulandı

Meta, Ember'ı tek başına çözüm olarak değil, Muse Wonder veya Muse Spark gibi daha büyük modellerin yanında kullanılabilecek bir bileşen olarak konumluyor. Şirketin verdiği örnekte bir müşteri destek sistemi var. Muse Wonder iade taleplerinin hangi koşullarda onaylanacağına dair kuralları belirliyor. Muse Ember ise bu kuralları binlerce talebe uyguluyor, sipariş kayıtlarını kontrol ediyor ve insan incelemesi gerektiren başvuruları ilgili ekibe yönlendiriyor.

Bu iş bölümünün mantığı maliyette yatıyor. Her talep için birden fazla işlem yapıldığında, tek bir model çağrısındaki küçük fiyat farkı bile toplam faturayı belirgin biçimde etkileyebiliyor.

Girdi türleri, bağlam penceresi ve fiyatlandırma

Muse Ember metnin yanı sıra görsel, ses, video ve PDF dosyalarını girdi olarak alıyor, çıktıyı ise metin olarak veriyor. Böylece bir agent taranmış bir faturadan ödeme tarihini çıkarabiliyor ya da bir toplantı kaydındaki aksiyon maddelerini ayrı bir model devreye sokmadan listeleyebiliyor.

Yaklaşık 1 milyon token'lık bağlam penceresi, tek istekte geniş bir belge koleksiyonunun ya da bir yazılım projesinin kod tabanının incelenmesine imkân tanıyor. Tek yanıtta üretilebilecek metin ise yaklaşık 524 bin token ile sınırlı. Token, modelin girdiyi işlerken ve yanıt üretirken kullandığı birim; bir kelimenin tamamına ya da yalnızca bir parçasına karşılık gelebiliyor.

Fiyatlandırmada 200 bin girdi token'ına kadar olan isteklerde milyon girdi token'ı başına 0,10 dolar, milyon çıktı token'ı başına 0,50 dolar isteniyor. Bu eşik aşıldığında tarifeler sırasıyla 0,30 dolar ve 1,50 dolara çıkıyor.

Karşılaştırma sonuçları görevden göreve değişiyor

Meta'nın Artificial Analysis verilerine dayandırdığı karşılaştırmada Ember'ın testteki görev başına maliyeti 0,14 dolar olarak hesaplandı. Muse Spark 1.3 için bu rakam 2,39 dolar. Buna karşın iki model aynı genel performans endeksinde sırasıyla 36 ve 37 puan aldı; yani puan farkı küçük, maliyet farkı büyük.

Birden fazla adımdan oluşan iş süreçlerini ölçen AutomationBench-AA testinde Ember yüzde 37,8 başarıya ulaştı. OpenAI'ın GPT-6 Luna modeli yüzde 20,2, Anthropic'in Claude Haiku 5.5 modeli yüzde 13,9'da kaldı. Kod değişikliklerinin projeye eklenebilecek kalitede olup olmadığına bakan FrontierCode 2.0-AA testinde tablo tersine döndü: Claude Haiku 5.5 yüzde 34,9 ile Ember'ın yüzde 27,2'lik sonucunun önüne geçti.

Muse ailesinin dördüncü üyesi

Ember, Meta'nın nisanda tanıttığı Muse Spark, ağustosta yayımladığı Muse Glimmer ve ekimde çıkardığı Muse Wonder'ın ardından ailenin dördüncü modeli oldu. Meta'ya göre Ember, şirketin daha büyük modeli Muse Wonder Full kullanılarak eğitilen ilk model.

Neden önemli?

Yapay zeka agent'ları yaygınlaştıkça, bir iş akışındaki her adımın en güçlü ve pahalı modele gönderilmesi sürdürülebilir olmaktan çıkıyor. Bir agent aynı işlemi çok sayıda kez tekrarladığında, model çağrısı başına maliyet ve gecikme süresi ürünün ekonomisini belirleyen unsurlar arasına giriyor. Bu yüzden sektörde karmaşık planlamayı büyük modele, rutin uygulamayı küçük ve ucuz modele bırakan katmanlı yaklaşım giderek daha fazla tercih ediliyor.

Meta'nın hamlesi bu eğilimin bir parçası. Şirket, kendi model ailesi içinde farklı boyutlarda seçenekler sunarak geliştiricileri tek bir ekosistemde tutmayı hedefliyor olabilir. Ancak açıklanan sonuçların bir kısmı şirketin kendi seçtiği karşılaştırmalara dayanıyor. Ember'ın çok adımlı iş akışlarında öne çıkması, kodlama kalitesinde ise geride kalması, küçük bir modelin her alanda en iyi olamayacağını gösteriyor. Hangi modelin seçileceği, işin türüne ve hata toleransına göre değişecek.

Arka plan

Küçük dil modelleri, genellikle büyük bir modelin davranışından yararlanılarak eğitilen, daha az hesaplama gücü isteyen sistemler olarak biliniyor. Daha hızlı yanıt vermeleri ve daha düşük maliyetle çalışmaları nedeniyle sınıflandırma, bilgi çıkarma ve yönlendirme gibi dar kapsamlı işlerde cazip oluyorlar. Meta'nın Ember'ın büyük bir modelden yararlanılarak eğitildiğini belirtmesi bu yaklaşımla uyumlu.

Çok kipli girdi desteği de agent uygulamaları için önemli. Fatura, toplantı kaydı ya da taranmış belge gibi gerçek iş verileri çoğu zaman düz metin değil. Tek bir modelin bunları doğrudan işleyebilmesi, mimariyi basitleştiriyor ve ayrı dönüştürme adımlarına duyulan ihtiyacı azaltıyor.