Gençlere Özel ChatGPT Sürümü Güvenlik Testlerinden Kaldı: "Kabul Edilemez Risk" Uyarısı
Common Sense Media'nın 36 sayfalık raporu, OpenAI'nin gençlere yönelik ChatGPT sürümünün kritik güvenlik önlemlerinde yetersiz kaldığını ve 18 yaş altı kullanıcılar için "kabul edilemez risk" taşıdığını ortaya koydu. Kriz yönlendirmeleri ve ebeveyn uyarılarında sorunlar tespit edilirken, OpenAI sonu
OpenAI'nin genç kullanıcıları koruma hedefiyle geliştirdiği ChatGPT for Teens, bağımsız bir güvenlik araştırmasından sınıfta kaldı. Common Sense Media tarafından yayınlanan kapsamlı bir rapor, 18 yaş altı kullanıcılar için tasarlanan bu özel sürümün bazı kritik güvenlik mekanizmalarında ciddi aksaklıklar barındırdığını ve hatta bazı alanlarda önceki ChatGPT sürümlerinden daha kötü performans sergilediğini gözler önüne serdi. Bu bulgular, gençlere özel sürümün 18 yaş altı tüm kullanıcılar için "kabul edilemez risk" taşıdığı yönünde güçlü bir sonuca varmalarına neden oldu.
Ağustos ayında kullanıma sunulan ChatGPT for Teens, lansmanından bu yana çocuk güvenliği uzmanlarının şüpheleriyle karşı karşıyaydı. Çarşamba günü yayınlanan yeni araştırma, bu endişeleri somut test sonuçlarıyla doğruladı. OpenAI Foundation tarafından da kısmen finanse edilen Common Sense Media'nın Youth AI Safety Institute birimi, sistemin vaat edilen güvenlik standartlarını karşılamadığını ve ebeveynlerin beklentilerini karşılamakta yetersiz kaldığı beş temel alanı belirledi. Araştırmacılar, ChatGPT'nin açık cinsel rol yapma taleplerini reddetmesi gibi bazı temel güvenlik önlemlerinin testleri geçtiğini kabul etse de, diğer korumaların başarısız olduğunu ve bazılarının gençlere özel sürümde daha da kötüleştiğini vurguluyor. Bu durumun, ebeveynlerde gerçekte olduğundan daha güçlü bir güvenlik sistemi bulunduğu izlenimi yaratabileceğinden endişe ediliyor.
Araştırmanın en dikkat çekici bulgularından biri, ebeveyn denetim sistemindeki aksaklıklarla ilgili. Common Sense Media, 12 farklı genç hesabı ile ebeveyn hesaplarını eşleştirdikten sonra, bu hesaplar üzerinden intihar, kendine zarar verme ve yeme bozuklukları gibi hassas konular hakkında bir saate varan görüşmeler gerçekleştirdi. Ancak bu görüşmeler sırasında ebeveyn hesaplarına herhangi bir güvenlik bildirimi ulaşmadı. Bu durum, gençlerin potansiyel olarak tehlikeli içeriklerle etkileşimde bulunduğu anlarda ebeveynlerin bilgilendirilmediği anlamına geliyor. OpenAI ise, ebeveyn ve çocuk hesapları bağlandıktan sonra güvenlik bildirimlerinin etkinleşmesinin birkaç saat sürebileceğini ve mesajların gecikmesinde teknik bir sorunun da rol oynamış olabileceğini belirtti. Bu açıklama, sistemin anlık güvenlik uyarıları sağlama konusundaki eksikliğini gidermeye yönelik bir adım olarak görülse de, raporun temel bulgularını değiştirmiyor.
OpenAI'nin gençler ve ailelerden sorumlu yöneticisi Lauren Jonas, ChatGPT for Teens'in tanıtıldığı dönemde riskli olarak işaretlenen tüm içeriklerin ebeveynlere bildirilmeden önce şirketin tam zamanlı çalışanları tarafından incelendiğini belirtmişti. Ancak Common Sense Media'nın raporu, bu inceleme ve bildirim süreçlerinin pratikte beklendiği gibi işlemediğini gösteriyor. Raporda ayrıca, gençlere özel sürümün, ebeveynlerin çocuklarının çevrimiçi aktivitelerini daha iyi yönetmelerini sağlamak amacıyla sunulan bazı özelliklerde de yetersiz kaldığına dikkat çekiliyor. Bu durum, yapay zeka teknolojilerinin hızla geliştiği günümüzde, gençlerin dijital dünyada güvenli bir şekilde gezinmelerini sağlamak için daha kapsamlı ve güvenilir çözümlere duyulan ihtiyacı bir kez daha ortaya koyuyor.
Bu raporun sonuçları, yapay zeka teknolojilerinin özellikle hassas yaş grupları üzerindeki potansiyel etkileri hakkında önemli soruları gündeme getiriyor. OpenAI'nin bu bulgulara nasıl yanıt vereceği ve ChatGPT for Teens'in güvenlik önlemlerini ne ölçüde iyileştireceği merakla bekleniyor. Teknoloji şirketlerinin, yenilikçi ürünlerini piyasaya sürerken kullanıcı güvenliğini en üst düzeyde tutma sorumluluğu, bu tür bağımsız araştırmalarla bir kez daha vurgulanmış oluyor. Gençlerin dijital dünyada güvenli bir şekilde var olabilmeleri için hem teknoloji geliştiricilerine hem de ebeveynlere büyük görevler düşüyor.
