Yapay zekâ düşüncenin izlerini öğreniyor, süreci değil: Sorun insanı da etkiliyor

Bir galeride duvardaki tablolara baktığınızda gördüğünüz şey bitmiş üründür. Arkasında sayısız saatlik öğrenme, alıştırma, deneme ve yanılma vardır ama hiçbiri sergilenmez. Yeni bir araştırma, yapay zekâ sistemlerinin tam olarak bu bitmiş ürünlerden öğrendiğini ve bunun hem makineler hem de onları kullanan insanlar için ciddi bir sorun olduğunu öne sürüyor.

Ürün var, süreç yok

Araştırmacılara göre uzmanlık gerektiren işlerin çoğunda karşımıza çıkan şey gerçek sürecin bir izidir. Müzik kayıtlarında başarısız denemeler ve doğaçlama oturumları yer almaz. Yayımlanmış kitaplar dağınık taslakları, bilimsel makaleler ise yıllarca süren yanlış başlangıçları ve çıkmaz sokakları saklar. Yapay zekâ modelleri de bu izlerle eğitilir. Sonuçta kendileri de düşüncenin ürünlerine benzeyen ama aynı yolla üretilmemiş izler ortaya koyar.

Michael J. Richardson ve ekibinin ön baskı sunucusunda yayımlanan makalesi, süreci dışarıda bırakıp yalnızca izlere odaklanmanın mevcut sistemleri zayıflattığını savunuyor. Çalışmanın başlığı, insanlar ve makineler için ortak bir ölçüt önerdiğini gösteriyor: zekâ, ortaya çıktığı süreçle tanımlanmalı.

“Akıl yürüten” modeller de iz bırakıyor

Yeni nesil “akıl yürütme” modelleri adımlarının bir dökümünü yazdırabiliyor. Yazarlara göre bu döküm de başka bir iz. Çoğu zaman cevabı asıl üreten hesaplamayla örtüşmüyor. Ajan tabanlı sistemler gerçek düşünmeye biraz daha yaklaşıyor. Büyük dil modelinin çevresindeki bir yazılım iskeleti bir döngü işletiyor, sonuçları geri besliyor ve sürece gerçek bir deneme-yanılma düzeltmesi katıyor. Yine de ortadaki düşünce zinciri, yani dil modelinin ürettiği kısım, hâlâ bir iz.

Açık en çok yaratıcı alanlarda büyüyor. Ressamlar ve müzisyenler eserlerinin yapım sırasındaki kazalar ve sürtünmelerle değiştiğini anlatır: boyanın beklenmedik biçimde akması, bir enstrümanın “yanlış” ses vermesi gibi. Yapay zekâ modelleri bunun benzerini hiç yaşamaz.

İnsanlarda beceri aşınması

Sorunun insan tarafı yapay zekâdan çok daha eski. Makale, 1997’de bir Amerikan havayolu kaptanının pilotların “macenta çizginin çocukları” hâline geldiği uyarısını hatırlatıyor. Pilotlar uçuş bilgisayarını o kadar sadık izliyordu ki elle uçuş becerileri körelmeye başlamıştı. Havacılık o günden beri otomasyon bağımlılığını yönetmek için önlemler alıyor.

Benzer bir tablo tıpta da görüldü. Canlı kamera görüntüsünde olası polipleri işaretleyen yapay zekâ destekli kolonoskopiyi benimseyen bazı kliniklerde, bir süre sonra hekimlerin becerisi geriledi. Sistem olmadan çalışırken, kullanıma girmeden önceki döneme göre daha az polip tespit ettiler. Sınıflarda da etki gözlendi. Sınırsız üretken yapay zekâ desteği verilen lise matematik öğrencileri araç eldeyken akranlarından daha iyi performans gösterdi, araç alınınca daha düşük puan aldı. Bir çalışmaya göre yaklaşık 10 dakikalık yapay zekâ yardımı bile insanların yardımsız performansını düşürmeye ve sorunları daha çabuk bırakmalarına yetti.

Çözüm: süreci denklemin içine katmak

Yazarların önerisi sürece daha fazla yer vermek. Yapay zekâ tarafında bu, daha insan benzeri süreçlerle çalışan sistemler kurmak demek. Bir asistan, sorunu çerçeveleme biçimi sorgulandığında mevcut sistemlerin sık yaptığı gibi hemen onaylamak yerine cevabını gözden geçirebilir. Bir ajan başarısızlıklardan ve hatalardan öğrenebilir, dünyadan gelen itirazın görevi ele alış biçimini gerçekten değiştirmesine izin verebilir.

İnsan tarafında ise kişinin zihnindeki zekâ süreçlerini koruyan araçlar tasarlamak gerekiyor. Harvard’da yapılan bir denemede, iyi kurgulanmış bir yapay zekâ fizik öğretmeninden ders alan öğrenciler, aktif öğrenme sınıfındaki akranlarından daha fazla ve daha hızlı öğrendi. Çünkü öğretmen onları üretken işi yapmaya devam ettirdi. Yazarlara göre iyi bir yapay zekâ öğretim asistanı cevabı vermekten çok, cevaba giden yoldaki sonraki soruyu sunmalı. Bazen bir belirsizliği çözmek yerine ortaya koymalı, çünkü sağlam yargı çoğu zaman bilinmeyenler üzerinde yavaş düşünmekten doğar.

Neden önemli?

Bu tartışma, yapay zekâ araçlarının yalnızca ne kadar doğru cevap verdiğiyle değil, kullanıcıda ne bıraktığıyla da değerlendirilmesi gerektiğini hatırlatıyor. Hızlı ve akıcı bir çıktı, arkasında gerçek bir düşünme süreci olduğu anlamına gelmiyor. Bir yanıtın ikna edici görünmesi ile doğru yolla üretilmiş olması farklı şeyler.

Eğitimde, sağlıkta, havacılıkta ya da yaratıcı işlerde araçların tasarımı bu yüzden önem taşıyor. Otomasyonun işi kolaylaştırdığı ama insanın yetkinliğini yavaş yavaş törpülediği örnekler yeni değil. Yapay zekâ bu eğilimi daha geniş alanlara taşıyabilir. Araştırmacılar düşünce izi üretmenin makineler için kolay, süreci kurmanın ise çok daha zor olduğunu vurguluyor. Doğru yol bulunursa makineler, insanları daha az zeki kılmadan daha zeki hâle gelebilir.