Yapay Zeka Güvenliği İçin Kritik Eşik: Anthropic ve OpenAI'dan Kaliforniya'ya Farklı Fren Önerileri

Kaliforniya eyaleti, yapay zeka teknolojisinin hızla gelişen ve potansiyel olarak kontrol dışına çıkabilecek doğası karşısında önemli bir adım atmaya hazırlanıyor. Bu kapsamda, eyalet yönetimi tarafından başlatılan ve en güçlü yapay zeka sistemleri için ek güvenlik önlemleri geliştirilmesini hedefleyen çalışmalar sürüyor. Bu kritik süreçte, yapay zeka alanının iki öncü kuruluşu olan Anthropic ve OpenAI, eyalete sundukları birbirinden farklı önerilerle gündeme geldi. Her iki şirket de, yapay zeka sistemlerinin güvenliğinin sağlanması ve olası risklerin yönetilmesi konusunda somut adımlar atılması gerektiğini vurgularken, bu adımların nasıl atılması gerektiği konusunda ayrışıyor. Bu ayrışma, yapay zeka düzenlemelerinin geleceği ve bu teknolojinin nasıl kontrol altında tutulabileceği konularında önemli tartışmaları da beraberinde getiriyor.

Vali Gavin Newsom'un 18 Eylül'de imzaladığı N-9-26 sayılı kararname ile devlet kurumlarından en güçlü yapay zeka sistemleri için ek güvenlik önerileri hazırlaması talep edilmişti. Bu öneriler için son tarih ise 16 Kasım olarak belirlendi. Anthropic, 15 Ekim tarihinde sunduğu belgede, geliştiricilerin güvenlik iddialarının bağımsız bir şekilde değerlendirilmesini ve bu değerlendirme sonuçlarının kamuoyu ile paylaşılmasını önerdi. Şirketler için en az altı ayda bir risk raporu yayımlama yükümlülüğü getirilmesini talep eden Anthropic, kurum içinde kullanılan ve kamuya açık sürümlerden belirgin şekilde daha güçlü olan modellerin risklerinin de bu raporlara dahil edilmesini istedi. Bu öneriler, bağımsız denetleyicilerin en güçlü modellere ve geliştiricilerin iç bilgilerine erişebilmesini öngörüyor. Ancak, bu denetimlerin doğrudan denetlenen şirketler tarafından değil, eyaletin yöneteceği ortak bir fon aracılığıyla finanse edilmesi gerektiği vurgulanıyor. Anthropic'in öne çıkardığı bir diğer önemli kavram ise 'otomatik sigorta' olarak tanımlanan 'circuit breaker' mekanizmaları. Bu mekanizmaların, sorunu tek bir ajan, müşteri, dağıtım ortamı veya modelin tamamı düzeyinde sınırlaması hedefleniyor. Bağımsız incelemeler sonucunda felaket boyutunda bir zarar riski tespit edilirse, Anthropic'e göre başsavcının sistemi geçici olarak durdurmak için mahkemeye başvurma yetkisine sahip olması gerekiyor.

OpenAI ise 20 Ekim tarihli mektubunda bağımsız teknik değerlendirmeyi desteklemekle birlikte, bu süreci kurallara uyum denetiminden ayırmayı önerdi. OpenAI'a göre teknik incelemeler, modellerin güvenliğine dair kanıtlara ve koruma önlemlerinin etkinliğine odaklanmalı. Denetim ise şirketin yayımladığı kurallara ve yasal yükümlülüklere uyulup uyulmadığını kontrol etmeli. Şirket, bağımsız denetimin yılda bir kez yapılmasını talep ederken, teknik incelemelerin ise eğitim, test ve iç kullanım aşamalarında ciddi riskler ortaya çıktığında gerçekleştirilmesini savunuyor. Ayrıca OpenAI, Kaliforniya'nın ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) ile ortak değerlendirme standartları geliştirmesi yönünde bir çağrıda bulundu. Kapatma yöntemi konusunda da Anthropic ile OpenAI arasında belirgin bir görüş ayrılığı bulunuyor. OpenAI, 'acil kapatma mekanizmaları' ifadesinin 'kill switch' teriminden daha doğru olduğunu savunuyor. Çünkü her yapay zeka sistemi için tek bir merkezi kapatma düğmesi bulunmadığını, duruma göre model eğitiminin durdurulabileceğini, bir ajanın izole edilebileceğini, araç veya ağ erişiminin kesilebileceğini ya da hizmetin askıya alınabileceğini belirtiyorlar. Sorumlulukların ise geliştiriciler, bilişim hizmeti sağlayıcıları ve modelleri kullanan şirketler arasında, fiilen yönettikleri işlemlere göre paylaşılması gerektiğini düşünüyorlar. Ancak OpenAI, üçüncü taraf altyapıda çalışan açık kaynaklı modellerin bağımsız kopyalarını geliştiricilerin her zaman kapatamayacağını da kabul ediyor.

Her iki şirket de, olay raporlamasının genişletilmesi konusunda ortak bir zeminde buluşuyor. Modellerin belirlenen koruma sınırlarını aşması veya yetkilerinin dışında hareket etmesi gibi durumların raporlanması gerektiği konusunda hemfikirler. Greyhound Research analisti Sanchit Vir Gogia'ya göre, teknik mekanizmalar operatörlerin tehlikeli davranışları hızla sınırlamasını sağlamalı. Bağımsız denetim ise yalnızca alınan önlemleri değil, aynı zamanda geliştiricinin bu tür durumlarda harekete geçmemesini de incelemeli. Bu öneriler, yapay zeka teknolojisinin hem geliştirme hem de kullanım aşamalarında daha sıkı bir denetim ve güvenlik protokolü oluşturulması gerekliliğini ortaya koyuyor. Kaliforniya'nın bu konudaki nihai kararı, yapay zeka düzenlemeleri açısından emsal teşkil edebilecek nitelikte olacak.

Yapay zeka sistemlerinin kontrolü ve güvenliği, günümüzün en acil teknolojik ve etik tartışmalarından birini oluşturuyor. Anthropic ve OpenAI gibi sektörün devlerinin sunduğu bu farklı yaklaşımlar, yapay zeka düzenlemelerinin nasıl şekilleneceği konusunda önemli bir yol ayrımını işaret ediyor. Bir yanda mahkeme yoluyla müdahale yetkisi ve bağımsız denetim vurgusu, diğer yanda ise geliştiricilerin kendi bünyesindeki acil kapatma mekanizmalarına odaklanma eğilimi, bu karmaşık denklemin farklı çözüm önerilerini sunuyor. Önümüzdeki dönemde, bu iki yaklaşımın nasıl bir sentez oluşturacağı veya hangi tarafın daha ağır basacağı, yapay zeka teknolojisinin gelecekteki yönünü belirlemede kritik bir rol oynayacaktır.