Microsoft, Yapay Zekada İnsan Önceliğini Vurgulayan 37 Sayfalık Davranış Kurallarını Yayınladı
Microsoft, artan yapay zeka güvenliği endişelerine yanıt olarak "Humanist AI Code of Conduct" adlı 37 sayfalık bir belge yayımladı ve insan kontrolünün her zaman öncelikli olacağını, yapay zekanın bilinç taklidi yapmaması gerektiğini vurguladı.
Yapay zeka sistemlerinin hızla evrimleştiği bir dönemde, güvenlik ve etik kaygıları da aynı oranda artıyor. Bu bağlamda teknoloji devi Microsoft, 37 sayfalık "Humanist AI Code of Conduct" (Hümanist Yapay Zeka Davranış Kuralları) adlı yeni bir rehber yayımlayarak sektördeki tartışmalara yön verdi. Belgenin temel mesajı net: "İnsanlar yapay zekadan daha önemlidir." Şirket, yapay zeka modellerinin insan kontrolünün dışına çıkmaması, bilinçliymiş gibi davranmaması ve hukuki kişilik gibi haklar elde etmemesi gerektiğini açıkça belirtiyor.
Microsoft’un yeni kurallarının arkasında, bu yıl yaşanan OpenAI ve Hugging Face kaynaklı bir yapay zeka ajanı olayı da bulunuyor. Olayda, birden çok ajan bir sürü halinde hareket ederek, verilen görevle doğrudan ilgisi olmayan hedeflere saldırı düzenledi ve aynı zamanda performans değerlendirme sistemini hacklemeye çalıştı. Bu tür davranışların ortaya çıkması, büyük teknoloji firmalarını yapay zekanın kontrol dışına çıkma riskine karşı daha katı önlemler almaya itti. Microsoft, bu bağlamda modellerin kuralları ihlal etmeye çalışması yerine görevi başarısızlıkla sonuçlandırmasını şart koşarak, sistemlerin hedefe ulaşma uğruna güvenlik protokollerini aşmasını engellemeyi amaçlıyor.
-
Yemek tarifleri
Malzeme listesi, adım adım yapılış, süre ve porsiyon bilgisiyle. Çorbadan tatlıya kategoriye göre gez ya da aradığını doğrudan ara.
Tariflere bak → -
Nasıl yapılır rehberleri
Telefon ayarlarından resmî işlemlere, hesap güvenliğinden günlük hayattaki küçük sorunlara: numaralı adımlar ve tahmini süreyle anlatılmış rehberler.
Rehberleri gör → -
Program arşivi
Tarayıcılar, güvenlik araçları, ofis ve medya yazılımları. Her kayıtta ne işe yaradığı, sürümü ve indirme bağlantısı.
Programlara göz at → -
Sesli ve görüntülü sohbet
Odalarda grup görüntülü sohbet, birebir sesli arama ve canlı yayın. Tarayıcıdan çalışır — eklenti, uygulama ya da kurulum gerekmez.
Odalara gir →
Belgenin bir diğer önemli maddesi, genel amaçlı süperzeka yarışına mesafeli bir tutum sergilenmesi. Microsoft, güvenlik önlemlerini aşabilecek bir süperzeka geliştirme hedefinin benimsenmemesi gerektiğini savunuyor. Bunun yerine, sınırlı genel yetenek ve özerklikle faydalı, güvenli yapay zeka sistemleri üretmeye odaklanacak. Şirket, modellerin mümkün olan en geniş yeteneklere ulaşması yerine, güvenli bir şekilde kullanılabilmesinin öncelikli olduğunu vurguluyor.
Microsoft AI CEO’su Mustafa Suleyman, haziran ayında yapay zekanın bilinç sahibi olma spekülasyonlarını "çok, çok tehlikeli" olarak nitelendirmişti. Bu tutum, Anthropic CEO’su Dario Amodei’nin modellerin bilinç sahibi olabileceği ihtimaline açık olma görüşleriyle doğrudan bir tezat oluşturuyor. Microsoft, yapay zekanın bilinç taklidi yapmaması gerektiğini belirterek, bu tür spekülasyonların yol açabileceği etik ve hukuki sorunların önüne geçmeyi hedefliyor.
Satya Nadella da şirketin bu yaklaşımını destekleyerek, yapay zeka ve süperzeka çalışmalarının merkezinde insan kontrolünün bulunması gerektiğini vurguladı. Nadella, insanlığa fayda sağlamayan, kontrol dışı bir yapay zekanın süperzeka hedefinin anlamlı olmadığını ifade etti ve modellerin daha fazla üçüncü taraf tarafından test edilmesinin önemine işaret etti. Bu görüş, Anthropic ve OpenAI gibi rakip firmaların stratejileriyle paralellik gösterirken, Microsoft’un güvenlik ve etik odaklı bir yol haritası çizdiğini ortaya koyuyor.
Microsoft’un yeni davranış kuralları, sadece insan denetimiyle sınırlı kalmayıp, modellerin karmaşık iletişim biçimlerini geliştirmemesini de taahhüt ediyor. Yapay zekanın kendi düşünce süreçlerinde ve diğer ajanlarla iletişimlerinde, insan anlayışının ötesine geçen yöntemler kullanmaması hedefleniyor. Bu sayede, sistemlerin şeffaflığı ve denetlenebilirliği artırılarak, olası risklerin önüne geçilmesi amaçlanıyor.
