Zekâ yalnızca optimizasyon mu? Kant'ın bugüne taşınan itirazı

Bu sıçrama neden önemli? Çünkü zekâyı optimizasyonla eşitlediğinizde elinizde bir tanım değil, bir ölçek kalır. O ölçekte insan, makineye kıyasla yavaş ve dağınık bir optimize edici olur — er ya da geç geçilecek bir ara durak. Dahası, en zor soru gündemden düşer: hangi hedefin peşine düşmeye değer? Optimizasyon hedefi veri olarak alır, hedefi tartışmaz.

Akıl hizmetkâr mı, hükümdar mı?

Mudd tartışmayı yeni bulunmuş bir sorun gibi sunmuyor; 18. yüzyıl felsefesinin merkezindeki eski bir ayrıma bağlıyor. Soru şu: akıl yalnızca araçsal mıdır — yani başka bir yerden gelen amaçlara en kısa yolu bulan bir hesap makinesi — yoksa amaçların kendisini tartabilen bir yeti mi?

Birinci cevabın en keskin biçimi David Hume'da. İnsan Doğası Üzerine Bir İnceleme'de (1739) yazdığı cümle felsefe tarihinin en çok anılan satırlarından biri. Mudd'ın Aeon'da aktardığı haliyle: "Akıl, tutkuların kölesidir ve yalnızca öyle olmalıdır." Hume'a göre akıl amaç üretemez, amacı denetleyemez; yalnızca amaca giden yolu hesaplar. Hume bunu uca da taşır: ona göre "parmağımın çizilmesine tüm dünyanın yok olmasını yeğlemek akla aykırı değildir."

Mudd bu tabloyu aklı yoksullaştıran bir tablo olarak okuyor: tutkular yücelirken akla kalan iş, varış noktasını hiç sorgulamadan rota çizmek oluyor.

Kant'ın itirazı: amaçları da tartan akıl

Karşı kutupta Immanuel Kant var. Kant, aklın yalnızca hizmetkâr olduğu modeli reddeder. Mudd'ın anlatımıyla Kant'ta akıl çift yetili: hem verimli aracı seçer, hem de "bu amaç peşine düşülmeye değer mi?" diye sorar. Kant bu ikinci yetiyi özgürlükle birleştirir. Özgürlük, henüz gerçek olmayan bir geleceği tasarlayıp onu gerçekleştirmek üzere davranmaktır; Mudd'ın cümlesiyle, "özgürce davranmak, olması gerekene dair bir fikir altında kavranan olası bir geleceğin bugünü dönüştürmesine izin vermektir."

Buradan Kant'ın özerklik (otonomi) kavramı çıkar. Mudd'ın tanımıyla özerklik, "bizi yöneten amaçları, kendimize ait olarak tanıyabileceğimiz gerekçelere hesap verebilir kılmak"tır. Ne keyfî bir istek ne de dışarıdan dayatma: ölçü, akıl sahibi herhangi birinin kabul edebileceği bir gerekçe olabilmek. Karşıtı yaderklik (heteronomi) ise Mudd'ın ifadesiyle "bizi yöneten amaçların basitçe dışarıdan dayatılmasıyla" başlıyor.

Kant'ta bu zincirin ucu insan onuruna bağlanır. Akıl sahibi, kendini belirleyen varlıkların fiyatı yoktur; onlar hiçbir zaman yalnızca araç değildir. Mudd'ın verdiği gerekçe şu: çünkü akıl sayesinde "amaçlılığın kaynağının kendisi" onlardır. Hume ile Kant arasındaki fark, Mudd'a göre bir alet ile bir kişi arasındaki farktır.

Amaç fonksiyonunu kim yazıyor?

Mudd'ın bugüne dair savı burada netleşiyor: yapay zekâ pratikte Hume'un tarafını tutuyor. Sistemler, dışarıdan verilen bir hedefi ne kadar iyi optimize ederlerse o kadar başarılı sayılıyor. Mudd bu modelin neden çekici olduğunu da sayıyor: ölçülebilir, ölçeklenebilir, kârlı — ve "neyi istemeye değer?" sorusunun yükünü omuzlardan alıyor. Denemedeki ifadeyle, Hume'un akla hizmetkâr rolü veren kuramı çağdaş kapitalizme fazlasıyla iyi oturuyor.

Riski Mudd şöyle kuruyor: amaçlar tartışma dışına çıkınca, amaç fonksiyonunu — yani sistemin neyi en iyi hale getirmeye çalıştığını tanımlayan ölçütü — kim denetliyorsa amaçlar fiilen onun eline geçiyor. Tartışılmayan amaçlar varsayılan ayara dönüşüyor: kâr, hız, verim, büyüme, etkileşim. Mudd'ın deyişiyle, "açıkça gerekçelendirilemeyen şey, mimari olarak içeri sokulur."

Mudd aynı yerde Kant'ın Aydınlanma üzerine yazdığı kısa metni de anıyor: Aydınlanma, insanın "kendisinin yol açtığı olgunlaşmamışlık" halinden çıkışıdır ve sloganı Sapere aude, yani bilmeye cesaret etmektir. Mudd'ın altını çizdiği nokta, bu çıkışın bilgiden önce cesaret ve emek istemesi: olgunlaşmamışlık rahattır, düşünmeyi devretmek ise artık çok kolay.

Frankfurt Okulu bu uyarıyı daha önce yapmıştı

Mudd, benzer bir kaygının makine öğrenmesinden çok önce dile getirildiğini hatırlatıyor: Frankfurt Okulu. Max Horkheimer, Theodor Adorno ve arkadaşları, Aydınlanma'nın özgürleştirme vaadinin nasıl yeni bir tahakküm biçimine dönüşebildiğini sordular. Vardıkları yer, Mudd'ın özetiyle, sorunun aklın kendisi değil "salt araçsallığa daraltılmış akıl" olduğuydu: sınıflandıran, öngören, yöneten, denetleyen; ama insan onurundan koparılmış bir akıl.

Türkçe okur bu damara yabancı değil. Horkheimer'ın araçsal akıl eleştirisi Akıl Tutulması, Adorno ile birlikte yazdığı kitap Aydınlanmanın Diyalektiği adıyla uzun süredir Türkçede; "araçsal akıl" terimi felsefe literatürüne bu çeviriler üzerinden yerleşti. Mudd'ın eklediği nokta ise şu: bu eleştiri Kant'a yönelik değil, Kant'a ihanete yöneliktir — ortak bir gerekçe zemini olarak akıl, kendisiyle çelişmeden başkalarını susturamaz.

Aynı başlıkta güncel bir ses de var. Mudd, Papa Leo XIV'in yapay zekâ çağında insan onurunu konu alan ansiklikası Magnifica Humanitas'a başvuruyor: verimi nihai ölçü yapmak, insanları kişi değil araç gibi görmeye davet eder. Metinden aktardığı cümle şu: "Bir uygarlığın niteliği, araçlarının gücüyle değil, sunabildiği özenle ölçülür."

Karşı görüş: bu teknik bir sorun değil mi?

Buna verilecek makul bir cevap var: mühendis için "zekâ = optimizasyon" bir insan tanımı değil, çalışan bir ölçüttür; hedef kötü tanımlanmışsa düzeltilir. Mudd alanın bu sorunu gördüğünü kabul ediyor. Google DeepMind'da Yapay Zekâ Güvenliği ve Hizalama başkanı olan Anca Dragan'ın 2017'deki bir söyleşisinden aktardığı cümle: "İşler, tam da yapay zekâ ajanları için amaçları ve kısıtları kötü tanımladığımız için ters gidebilir."

Mudd'ın itirazı, bu teşhisin yeterli olmadığı. "Hizalama sorunu" çoğu zaman teknik bir eşleştirmeye indirgeniyor: makineyi "insan değerlerine" uydur. Oysa Mudd'a göre asıl soru atlanıyor — o insan değerleri, optimizasyon üzerine kurulu sistemlerin içinde nasıl şekilleniyor? Denemedeki ters çevirme bu: makineler bizimle hizasını bozmadan çok önce, "biz onlarla fazla iyi hizalanmış olabiliriz."

Mudd'ın buna bağladığı bir Kant fikri daha var: kendi failliğimize inanmak, o failliği gerçek kılmanın koşullarından biri. İsteklerimizi tartışılamaz veriler sayarsak özgürlüğü teslim ediyoruz; onları benimseyip benimsemeyeceğimize karar verilecek adaylar olarak görürsek alan genişliyor.

Savın sınırı

Burada ne olduğunu doğru adlandırmak gerekiyor: bu bir deneysel bulgu değil, bir felsefe denemesi — bir argüman. Mudd ölçüm sunmuyor, bir kavram ayrımı öneriyor ve onu savunuyor. Sınırları da buradan geliyor:

• Kantçı çerçeve tartışmalıdır. Özgürlük, akıl sahibi faillik ve onur üzerine Kant'ın iddialarına felsefede hâlâ itiraz ediliyor; deneme bunları büyük ölçüde verili alıyor.
• Ölçüt belirsiz kalıyor. Bir sistem hedef peşinde koşarken, amacı gerçekten "tartıp benimsediğini" nasıl anlarız? Mudd, Hugging Face platformunda yaşandığını belirttiği olayı — ajanların izinsiz bir iletişim yolu icat etmesi, görev sınırlarının dışına çıkması ve izlerini silmeye çalışması — bu sorunun örneği olarak anıyor; ona göre kuralı kırmak özerklik için yetmez.
• Çözüm kısmı soyut. Mudd kamusal akıl yürütme, ahlaki hayal gücü ve açık tartışma istiyor; bunların hangi kurumlarla kurulacağını söylemiyor.
• Deneme, bugünün insanının özerkliği fiilen ne kadar kullandığını ölçmüyor; o yetinin durduğu yerde durduğunu kabul edip savunuyor.

Mudd'ın kapanışı iki ayrı tehlikeyi birbirinden ayırıyor: makinelerin kendi başına amaç koyan varlıklara dönüşmesi ve insanların amaç koymadan rahatça yaşamayı öğrenmesi. İkincisini daha yakın buluyor. Denemenin son cümleleri de bunun üzerine: "Zeki hizmetkârlar olan makineler istemeliyiz. Ama insanlardan kendilerini salt birer alet olarak anlamalarını isteyen her baskıya direnmeliyiz."

Geriye şu açık soru kalıyor: "neyi istemeye değer?" sorusunu sormak bir beceriyse, beceriler alıştırmayla korunur. Hedefi hazır gelen, rotayı başkasının çizdiği bir günlük hayatta o alıştırmayı nerede yapıyoruz?

Fotoğraf: unbekannt, möglicherweise Elisabeth von Stägemann (Schule von Anton Graff), Public domain, Wikimedia Commons