Herkes Aynı Yapay Zekâyı Kullanırsa: MIT'in Algoritmik Monokültür Hesabı

MIT'ten iki araştırmacı bu soruyu sezgi tartışması olmaktan çıkarıp matematiğe döktü ve beklenenin tersi bir yere vardı. Dilbilim ve Felsefe Bölümü'nden Brian Hedden ile MIT Sloan İşletme Okulu'ndan Manish Raghavan'ın Philosophical Perspectives dergisinde yayımlanan "Algorithmic Monoculture and its Critics" başlıklı çalışması, monokültüre yöneltilen itirazları tek tek biçimselleştirip sınıyor. Makalenin özetindeki hüküm net: monokültür "eleştirmenlerinin sandığından daha az sorunlu"; sık dile getirilen itirazlar tutmuyor, kısmen tutanlar ise monokültürü genel olarak reddetmeye yetmiyor.

Tek çeşit ekin neden tehlikeli sayılır

Benzetmenin kaynağı tarla. Bir tarlaya tek bir çeşit, üstelik birbirinin neredeyse genetik kopyası bitkiler ekildiğinde verim yükselir, hasat kolaylaşır, makineleşme mümkün olur. Ama o çeşidi vuran bir hastalık ya da zararlı ortaya çıktığında tarlada direnecek tek bir birey bile kalmaz. Çeşitlilik bir tür sigortadır; monokültür verimi artırırken o sigortayı iptal eder.

Yazılımdaki karşılığı Geer'in 2003'te anlattığı şeydi: aynı kodu çalıştıran milyonlarca makine aynı açıktan aynı anda etkilenir. İşe alımdaki karşılığı ise daha sinsi. Bütün şirketler aynı özgeçmiş tarama yazılımını kullanıyorsa, bir yerde elenen aday büyük ihtimalle her yerde elenir. Literatürdeki adı sistemli dışlanma.

Bankacının yerini FICO alalı çok oldu

MIT News'in aktardığına göre Hedden ve Raghavan, monokültürün yeni bir olgu olmadığını hatırlatıyor. Kredi kararları bir zamanlar her bankada ayrı ayrı bankacıların takdirine kalmışken bugün hepsi aynı bilgiye, Fair Isaac Corporation'ın (FICO) algoritmasından türeyen standart kredi notuna bakıyor. İşe alımda da Fortune 500 şirketlerinin büyük bölümü avuç içi kadar sayıdaki özgeçmiş tarama algoritmasını paylaşıyor.

Raghavan, MIT News'e verdiği demeçte şöyle diyor: "Endişe şu: insanlar bilgi edinmek ve karar vermek için yapay zekâyı ve algoritmaları daha çok kullandıkça, bu tür bir korelasyonun ortaya çıkması için daha fazla zemin oluşuyor."

Kavramın kökeni: 2021'de gelen uyarı

"Algoritmik monokültür" teriminin yapay zekâ tartışmasına yerleşmesi büyük ölçüde beş yıl önceki bir makaleye dayanıyor. Jon Kleinberg ve Manish Raghavan'ın 2021'de PNAS'ta (cilt 118, sayı 22) yayımlanan "Algorithmic Monoculture and Social Welfare" çalışması, rahatsız edici bir şeyi gösterdi: tek tek her karar vericinin elinde daha isabetli olan bir algoritma, bütün karar vericiler aynı anda ona yöneldiğinde topluluğun toplam karar kalitesini düşürebiliyor. Üstelik bunun için beklenmedik bir şoka gerek yok; kayıp, hiçbir şey ters gitmeden, olağan işleyişte de ortaya çıkıyor.

Dikkat çekici ayrıntı şu: o uyarı makalesinin ortak yazarı Raghavan, şimdi itirazların sınırlarını çizen makalenin de ortak yazarı. Yani tabloyu yumuşatan isimlerden biri, tabloyu ilk çizenlerden biri.

Dört itiraz, dört ayrı sonuç

Hedden ve Raghavan'ın yöntemi basit ama zahmetli: monokültüre yöneltilen her itirazı ayrı ayrı modelleyip "bu gerçekten çıkıyor mu?" diye bakmak. Aşağıdaki tablo, makaledeki itiraz başlıkları ile MIT News'in 29 Eylül 2026 tarihli aktarımına dayanıyor.

Beklenmedik sonuç: adayın pazarlık gücü

En çok dile getirilen itiraz olan sistemli dışlanma, araştırmacılara göre düşündüğü kadar güçlü değil. Sebebi tuhaf biçimde basit: iş ilanları yine dolduruluyor. Raghavan'ın MIT News'e söylediği gibi, "Bütün işler doluyor ve aynı sayıda insan iş sahibi oluyor; ama firmalar aynı aday havuzu için birbiriyle didişiyor." MIT News'in aktardığına göre bu didişme ücretleri yukarı çekiyor. Yani aynı algoritmanın herkesçe kullanılması, tam da eleştirmenlerin beklemediği bir yerde adayın lehine çalışabiliyor.

Adayın kendi dosyasına müdahale edememesi itirazı için Hedden şunu söylüyor: "Bu, monokültürün kötü biçimlerine karşı iyi bir itiraz gibi görünüyor. Ama özgeçmişinizi gözden geçirip yeniden gönderebildiğiniz bir monokültürünüz varsa itiraz ayakta kalmıyor."

Madalyonun öbür yüzü, sistemi kandırma kaygısı. Tek bir algoritma varsa, belirli bir dosya biçiminin işe yaradığını fark eden herkes dosyasını o biçime sokar. Hedden buna da ikna olmuş değil: "Tek bir algoritmanın bu tür bir oyunu, farklı firmaların kullandığı bir sürü farklı algoritmadan daha çok teşvik edeceği aşikâr değil. İkinci senaryoda birkaç firmanın algoritmasını hedefleyip onları kandırmaya çalışır, birkaç işverende kendinize küçük bir avantaj sağlarsınız."

Ayakta kalan itiraz: kimse yeni bir şey keşfetmiyor

Dört itirazdan biri modelin içinden sağlam çıkıyor ve bu, literatürde en az konuşulanı. Hedden'in hatırlattığı gibi sosyal psikolojideki "kalabalığın bilgeliği" fikri, birbirinden bağımsız ve birbirine benzemeyen bir karar verici grubunun tek bir kişiden daha isabetli olabileceğini söyler. İşe alıma çevirirsek: farklı algoritmalar kullanan firmalar, topluca daha nitelikli bir işe alım havuzu üretir.

Monokültürde ise aynı özellikleri ve aynı belgeleri taşıyan adaylar her seferinde, her firma tarafından alınır. Araştırmacılar bunu matematiksel olarak kanıtlıyor: monokültür bir tür bilgi yankı odası kuruyor ve keşfi baltalıyor. Sonuç, en iyi adayların işe alınma ihtimalinin azalması.

Raghavan'ın çerçevesi işe alımın ötesine uzanıyor: "Monokültür, genel olarak gerçekleşen keşif miktarını kısabilir. Bunun kötü bir şey olup olmadığı açık değil, ama yapay zekâyı bilim, sanat ya da yazı gibi uygulamalar için tasarlarken kesinlikle bir endişe kaynağı." Önerdiği panzehir de kendi kadar sade: tek bir platforma bilerek rastlantısallık koymak, keşfi yukarı çekebilir.

Topluluk algoritması: tek ama karma

Asıl ilginç öneri burada. Firmaların ayrı ayrı algoritmalarını, her adaya bu algoritmaların ortalamasından bir puan veren tek bir "topluluk algoritmasına" (ensemble) paketlemek. Bu, biçim olarak monokültür — herkes tek bir sisteme bakıyor — ama içerik olarak çoğulculuk, çünkü içinde birden çok yargı var. Farklı işe alım durumlarını benzeten simülasyonlarda araştırmacılar bunun zaman zaman çok algoritmalı düzenden daha iyi çalıştığını doğruladı.

Hedden'in kendi koyduğu şerh de burada: böyle bir paketlemenin pratikte ne kadar uygulanabilir olduğu hâlâ araştırılmayı bekliyor. Birbiriyle didişen şirketlerin kendi eleme modellerini ortak bir havuza koyması, havuzu kimin işleteceği, kimin denetleyeceği gibi sorular makalenin dışında kalıyor.

Bulgunun sınırı nerede

Bu çalışmanın ne olduğu kadar ne olmadığı da önemli. Birkaç nokta:

• Yöntem saha verisi değil. Makale bir felsefe dergisinde yayımlandı; dayanağı biçimsel modeller ve simülasyonlar. Gerçek bir işe alım sürecinden toplanmış ölçüm yok.
• Odak işe alım. Araştırmacılar yaklaşımın kredi gibi alanlara taşınabileceğini söylüyor, ama kendi uyarılarını da koyuyorlar: üretken yapay zekâyla içerik üretimi ya da yapay zekâ güdümlü bilimsel araştırma farklı işleyebilir ve buralarda monokültür daha sorunlu olabilir.
• Her şey algoritmanın isabetine bağlı. Çalışmanın kendi çerçevesine göre tek algoritma diğerlerinden belirgin biçimde daha isabetliyse monokültür daha iyi bir düzen olabilir. Tersi de aynı mantıkla doğrudur: isabetsiz ya da yanlı tek bir algoritma, o hatayı bütün kapılara aynı anda taşır.
• Ampirik boşluk araştırmacıların kendi teslimi. Raghavan'ın ifadesiyle: "Algoritmik monokültürün vaatleri ve tuzakları etrafındaki cevapların çoğu bağlama bağlı olacak. Araştırma açısından bile, bu kaygılara ampirik olarak nasıl yaklaşabileceğimizi bulmak için yapılacak çok iş var."

Hedden'in özeti de aynı yere çıkıyor: "Algoritmik monokültüre doğru bir eğilim gerçekçi bir senaryo ve yapay zekâ kullanımının getirdiği gerçekten önemli bir mesele; ama soyut olarak monokültürün kötü bir şey olup olmayacağını söylemek zor. Ayrıntılara bağlı — konuştuğumuz alan, algoritmanın kendi isabeti gibi."

Ayrıntının belirleyiciliği başka yerde de ölçüldü

"Ayrıntılara bağlı" ifadesi havada kalan bir kaçamak değil. Rishi Bommasani, Kathleen A. Creel, Ananya Kumar, Dan Jurafsky ve Percy Liang'ın NeurIPS 2022'de sunduğu "Picking on the Same Person: Does Algorithmic Monoculture lead to Outcome Homogenization?" çalışması, aynı kişilerin farklı sistemlerde aynı sonuçla karşılaşmasını ölçülebilir hale getirdi. Buldukları şey ikiye ayrılıyor: eğitim verisini paylaşmak tekdüzeleşmeyi güvenilir biçimde artırıyor, ama temel modelleri kullanmak her zaman artırmıyor. Belirleyici olan, modelin asıl göreve hangi yöntemle uyarlandığı — bir uyarlama yöntemi bir diğerinden düzenli biçimde daha tekdüze sonuçlar üretiyor.

Yani üç ayrı ekibin beş yıla yayılan çalışmaları aynı yöne işaret ediyor: "herkes aynı modeli kullanıyor" cümlesi tek başına bir teşhis değil. Teşhis, o modelin nasıl eğitildiğine, nasıl uyarlandığına, adayın ikinci bir şans alıp almadığına ve sistemin içine kasıtlı bir rastlantı payı konulup konulmadığına bakıyor.

Sırada ne var

Hedden ve Raghavan, çalışmalarının monokültürün uzun vadeli sonuçlarını araştıran yeni işleri ve iş piyasası gibi karmaşık bir sistemin gerçek dünyadaki dolaşıklığına odaklanan incelemeleri tetiklemesini umuyor. Şu an için elimizde olan, bir korkunun matematiksel olarak parçalarına ayrılmış hali.

Geriye asıl açık soru kalıyor ve kaç tane algoritma olduğuyla ilgili değil: hiçbir algoritmanın bakmadığı yerde kimin kaldığını kim, hangi veriyle ölçecek? Bir tarlada tek bir gelincik kalmışsa, sorun o gelincik değil — sorun onu sayan kimsenin olmayışıdır.

Fotoğraf: Chris Reynolds, CC BY-SA 2.0, Wikimedia Commons