Yapay zekâ sesi taklit ediyor: izin ve kontrol sorusu

Yapay zekâ artık bir insanın sesini inandırıcı biçimde kopyalayabiliyor. Bu da yeni ve çoğu zaman birbirine zıt senaryoları gündeme getiriyor. Aynı teknoloji konuşma yetisini kaybeden birine yeniden ses verebiliyor. Öte yandan sahtekârların elinde dolandırıcılık aracına dönüşebiliyor. Üçüncü bir kategori ise daha belirsiz: sahibi hayatını kaybettikten sonra “konuşmaya” devam eden sesler.

Klavye ve internet bağlantısı yeterli

Dartmouth Üniversitesi'nden bilgisayar bilimci Hany Farid durumu şöyle özetliyor: Bugün yalnızca bir klavye ve internet bağlantısıyla yazı yazıp herhangi birinin herhangi bir şeyi yapıyor ya da söylüyormuş gibi görüntü, ses ve video elde etmek mümkün. Sesin bu denli kolay üretilebilmesi, kimin neyi söylettiği sorusunu da kaçınılmaz kılıyor.

Gündelik hayattan bir örnek de var. Konuşma ve dil patologu, aynı zamanda profesör olan Kate Nilson, öğrencilerinin ödevlerini ünlü rapçi Snoop Dogg'un sesiyle dinlediğini, bunu eğlenceli bulduğu için yaptığını anlatıyor. Bunun herkesin yapabileceği meşru bir uygulama olduğu vurgulanıyor. Snoop Dogg, Speechify adlı bir şirketle çalışıyor. Abone olan kullanıcılar Snoop Dogg'un, Gwyneth Paltrow'un ve MrBeast'in de aralarında bulunduğu ünlü seslerin istedikleri metni okumasını sağlayabiliyor. Snoop Dogg'un tanıtım videosunda kendini, kullanıcının daha iyi odaklanması ve daha çok anlaması için “aklın sesi” olarak sunması, bu kullanım biçiminin ticari boyutunu da gösteriyor.

Anlamlı kullanımlar, zararlı kullanımlar, gri alan

Ses klonlarının bir kısmı sahiplerine derin bir anlam taşıyor. Konuşma yetisini yitiren insanlar için klonlanmış ses, yalnızca bir iletişim aracı olmanın ötesinde kimliklerinin bir parçasını geri kazanmak anlamına gelebiliyor. Jules Rodriguez de ses klonuyla iletişim kuran bir kişi. Anlatıya göre Rodriguez, öldükten sonra sesine ne olacağı konusunda da bir karar verdi. Kaynakta bu kararın içeriği ayrıntılı biçimde yer almıyor, ancak seçimin kendisi bile sesin artık miras gibi düşünülmesi gereken bir varlık olduğunu gösteriyor.

Madalyonun öbür yüzünde dolandırıcılık ve deepfake var. Birinin sesini izinsiz kopyalayan kötü niyetli kişiler, güvenilen bir yakının konuştuğu izlenimini yaratabiliyor. Ölümden sonra “konuşan” klonlar ise ne tamamen faydalı ne tamamen zararlı. Yakınlarına teselli verebilir; ama kişinin hayattayken hiç söylemediği sözleri ağzına koyma riski de taşır.

Arka plan

Ses sentezi yeni bir fikir değil; metni sesli okuyan yazılımlar uzun süredir erişilebilirlik araçlarının parçası. Değişen, yapay zekâ modellerinin bir kişinin ses tonunu, vurgusunu ve konuşma tarzını görece az örnekten öğrenebilir hale gelmesi. Eskiden robotik duyulan çıktılar, artık çoğu dinleyicinin gerçekten ayırt etmekte zorlanacağı kadar doğal olabiliyor.

Bu gelişme hukuk ve etik tartışmalarını da hızlandırdı. Bir sesin kişilik hakkının parçası sayılıp sayılmayacağı, ünlülerin seslerinin lisanslanmasının nasıl düzenleneceği ve ölen kişilerin dijital izlerinin kime ait olacağı gibi sorular ülkeden ülkeye farklı yanıtlanıyor. Ortak nokta, rızanın merkezde olması gerektiği düşüncesi.

Neden önemli?

Ses, insanların birbirine güvenmesinin en doğal yollarından biri. Telefonda tanıdık bir ses duyduğumuzda çoğumuz kimlik doğrulamayı düşünmeyiz. Sesin taklit edilebilir hale gelmesi bu sezgisel güveni zayıflatıyor ve özellikle yaşlılar gibi dolandırıcılığa açık gruplar için ciddi risk doğuruyor.

Öte yandan teknolojiyi yalnızca tehdit olarak görmek de eksik kalır. Konuşma yetisini kaybedenler için kişisel bir sesin korunabilmesi, yaşam kalitesi açısından somut bir kazanım. Asıl mesele, bu aracı kimin, hangi izinle ve hangi sınırlar içinde kullanabileceğinin netleşmesi. Sesin sahibi yaşarken de, hayatını kaybettikten sonra da kontrolün kimde olduğu sorusu, önümüzdeki dönemde hem teknoloji şirketlerinin hem de yasa koyucuların yanıtlaması gereken başlıca konulardan biri olacak.

Gündelik hayatta ne yapılabilir?

Uzmanlar genel olarak, beklenmedik ve acil para ya da bilgi isteyen sesli çağrılara karşı temkinli olmayı öneriyor. Aile içinde önceden belirlenmiş bir doğrulama yöntemi, aramayı kapatıp kişiyi bilinen numaradan geri aramak gibi basit alışkanlıklar riski azaltabilir. Sesini klonlatmayı düşünen kişilerin ise hizmet sağlayıcının veriyi nasıl sakladığını ve kendi ölümünden sonra ne olacağını öğrenmesi, bu tür kararları bilinçli almanın ilk adımı.