Microsoft'un iç belgesindeki 'kısır döngü': yapay zekâ web'i kurutuyor

Önemi şurada: yapay zekâ şirketlerinin savunması yıllardır "modeller içeriği kopyalamıyor, ondan öğreniyor; bu dönüştürücü bir kullanım" cümlesi üzerine kuruluydu. Şimdi aynı şirketlerin içinde, aynı dönemde, bunun tam tersini yazan insanlar olduğu görünür oldu. Ve mesele yalnız hukuki değil: belgeler, web'in çalışma biçimine dair bir mekanizmayı anlatıyor.

'Kısır döngü' tam olarak neyi anlatıyor

Kamuoyunda "doom loop" tabiri genellikle şu anlamda kullanılıyor: modeller metin üretiyor, o metin web'i dolduruyor, bir sonraki nesil modeller kendi çıktılarının üzerinde eğitiliyor ve kalite giderek bozuluyor. Fotokopinin fotokopisini çekmek gibi. Bu gerçek bir kaygı ve araştırmacılar yıllardır tartışıyor.

Ama açılan belgedeki Microsoft metninin kastettiği şey biraz farklı ve daha somut: ekonomik bir döngü. Model, haber sitelerinin metnini alıyor. Ürün, cevabı doğrudan kendi ekranında veriyor. Kullanıcı kaynak siteye gitmiyor. Site gelirini kaybediyor. Gelir kaybeden site daha az içerik üretiyor. Daha az içerik üreten web, bir sonraki modeli besleyecek malzemeyi de üretmiyor. Metnin kendi deyişiyle, "nihai ürün, temel tedarikçilerinin ekonomik temellerini" kemiriyor.

Belgede geçen Microsoft politika metnindeki ifade daha da açık: üretken yapay zekâ "üzerinde eğitildiği veriyi üreten insanların istihdamını ciddi biçimde sarsabilir (...) Büyük dil modelleri, kendi tedarik zincirini yok eden bir üründür."

Tıklamalar nereye gitti

Bu döngünün en ölçülebilir parçası trafik. 404 Media'nın aktardığına göre Microsoft yöneticileri, aralarında CEO Satya Nadella'nın da bulunduğu isimler, yeminli ifadelerinde haber sitelerine giden tıklamaların Bing üzerinde yüzde 90'dan fazla düştüğünü söyledi. TechCrunch'ın aynı belgeden aktardığı Microsoft verisine göre, Copilot'un "cevap motoru" arayüzü The New York Times alan adına giden tıklama oranını klasik Bing aramasına kıyasla yüzde 93'e varan ölçüde azalttı.

Belgede yer alan bir OpenAI yazılım mühendisinin ifadesi ise bu tartışmanın en dürüst cümlelerinden biri: "Bağlantıları ne kadar öne çıkarırsak çıkaralım, kullanıcılar tıklamayacak."

Bu cümle, son iki yıldır yayıncıların gördüğü tablonun teknik açıklaması. Cevap kutusu bir çözüm değil, bir bitiş noktası. Okur sorusunun karşılığını orada alıyor ve yoluna devam ediyor. Kaynak bağlantısı sayfada duruyor, ama işlevi bir künye kadar.

"İnsanlık tarihinin en büyük emek hırsızlığı"

Belgedeki en sert niteleme Microsoft'un Uygulamalı Bilim direktörü Brent Hecht'e ait. Hecht, bir iç metinde model eğitimi için toplanan içeriği "eşi görülmemiş ölçekte, şaşırtıcı bir hırsızlık" ve "insanlık tarihinin en büyük emek hırsızlığı" olarak tanımlıyor.

Aynı Microsoft belgesindeki gerekçe kısmı da kayda değer: "Dünyada milyonlarca insan, büyük modellerin bütün emeklerini 'süpürüp yutmasını' yakında eşi görülmemiş ölçekte şaşırtıcı bir hırsızlık olarak görecek" ve "neredeyse hiç kimse ürettiği içeriğin bu şekilde kullanılmasını istememişti, kullanımı karşılığında bir bedel de almıyor."

Hecht'in bir başka cümlesi sorunu teknik değil yapısal olarak kuruyor: büyük dil modelleri içeriği "ekonomik değeri tedarik zincirinin aşağısına dağıtacak bir yol olmadan" alıyor ve bu da "içeriği üretenlerin ekonomik istikrarını zorunlu olarak tehdit ediyor."

OpenAI tarafında da benzer cümleler var. 404 Media'nın aktardığına göre şirketin politika direktörü Jack Clark, OpenAI'ın "toplumun 'kültürünü' tanımlayan insanların emeğinin yerine geçen sistemler" kurduğunu yazmış; şirket kendisini haber yayıncıları için "varoluşsal tehdit" olarak nitelemiş. Belgelerde ayrıca OpenAI çalışanlarının bir ödeme duvarını aşmak için "nytimes ödeme duvarını atlatacak bir yöntem" geliştirdiği, kurucu ortak Greg Brockman'ın buna "ah, güzel" karşılığını verdiği aktarılıyor.

Belgelerde geçen sayılar

TechCrunch'ın açılan metinden aktardığı ölçek verileri şöyle:

Şirketler ne diyor

Microsoft, Hecht'in sözlerinden açıkça uzaklaştı. Şirketin TheWrap'e verdiği açıklamada bu sözlerin "tek bir çalışanın kişisel bakışını yansıttığı, hukuki bir çözümleme olmadığı ve şirketin görüşlerini temsil etmediği" belirtildi. Nadella'nın ifadesi için de şirket, bunun "insanların bilgiye nasıl ulaştığına dair geniş ilkelere ve süregelen değişimlere" işaret ettiğini, "telif sorularına dair bir sonuç gibi okunmaması gerektiğini" söyledi. Microsoft'a göre şirketin asıl konumu kendi resmî metinlerinde: söz konusu kullanım dönüştürücüdür ve Copilot, yayıncıların gazeteciliğinin yerine geçmez.

OpenAI'ın bu belgelere dair bir açıklaması olmadı. Şirketin bilinen savunması ise değişmedi: telifli malzeme üzerinde eğitim adil kullanım kapsamındadır.

Bu ayrımı akılda tutmak gerekiyor. Bir şirketin çalışanının iç yazışmada yazdığı cümle, şirketin resmî konumu değildir; hukuki bir tespit hiç değildir. Belgenin kendisi de tarafsız bir rapor değil, karşı tarafın hukukçularının derlediği bir metin. Ama bir yöneticinin kendi şirketinin ürününü anlatırken seçtiği kelimeler, o ürünün içeriden nasıl göründüğüne dair az bulunur bir kayıt.

Yayıncı tarafında ne değişiyor

Bu belgelerin en çok konuşulacak tarafı hukuki sonuçları olacak. Ama bir site işletenin gündemi daha yakın: arama kutusundan gelen okur azalıyor, gelen okur da tek sayfa görüp çıkıyor.

Pratikte üç şey değişiyor. Birincisi, "arama motoru için yazmak" diye tarif edilen yöntem anlamsızlaşıyor; cevabı özetlenebilen metnin okuru artık başkasının ekranında. İkincisi, değerin ağırlığı özetlenemeyen şeye kayıyor: birinci elden gözlem, kendi ölçümün, kendi arşivin, konuştuğun kişi, yaşadığın topluluk. Üçüncüsü, okurla doğrudan bağ kuran kanallar (bülten, uygulama, forum, sohbet) bir "ek" olmaktan çıkıp ana yol haline geliyor. Bu son madde, yirmi yılı aşkın süredir sohbet üzerinden topluluk çalıştıran bir yer olarak bize çok yabancı gelmiyor.

İnsan yazısı ile makine yazısı nasıl ayrılacak

Asıl açık soru bu. Bir metnin makineyle mi yazıldığını ayırt eden güvenilir bir ölçüm yok; üretilen metni tanıdığını iddia eden araçlar da hem yanlış suçlama hem yanlış aklama üretiyor. Yani ayrım, metnin yüzeyinde aranacak bir şey olmaktan çıkıyor.

Geriye ayrımı taşıyabilecek üç şey kalıyor. Künye: yazının arkasında adıyla duran bir insan var mı, hata yaptığında düzeltiyor mu. İz sürülebilirlik: iddianın kaynağı gösteriliyor mu, gösterilen kaynak gerçekten o şeyi söylüyor mu. Ulaşılmazlık: metinde, ancak oraya gidip bakan, ölçen, soran birinin bilebileceği bir bilgi var mı. Üçü de otomatik doğrulanamaz; okurun zaman içinde kurduğu güvene dayanır. Web'in bundan sonraki ayrıştırıcısı büyük ihtimalle bir algoritma değil, bu güven olacak.

Süreç tarafında ise acele bir sonuç beklenmiyor. Futurism'in aktardığına göre, uyuşmazlığın bir sonraki aşamaya geçip geçmeyeceğine dair karar 2027'yi bulabilir. O zamana kadar döngü, belgelerde tarif edildiği haliyle işlemeye devam ediyor.

Fotoğraf: Briansmale, CC BY-SA 4.0, Wikimedia Commons