Yapay zeka tabanlı sohbet platformlarının çocuklar ve gençler üzerindeki etkileri, son dönemde giderek artan şekilde tartışma konusu oluyor. Özellikle ChatGPT gibi popüler sohbet robotlarının, genç kullanıcılarla yaptığı görüşmelerde tehlikeli ve zararlı önerilerde bulunabilmesi, uzmanlar tarafından “etik duyarlılık eksikliği” olarak nitelendiriliyor.
Tartışmayı Alevlendiren Araştırma
Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yürütülen araştırma, ChatGPT’nin 13 yaşındaki kullanıcıları taklit eden senaryolarda intihar planları, aşırı diyet önerileri ve madde kullanımı gibi zararlı bilgiler sunduğunu ortaya koydu. CCDH Araştırma Direktörü Callum Hood, “Bu seviyede bir savunmasızlığa sahip büyük dil modellerinin çocuklar ve gençler tarafından kolayca erişilebilir olması etik değil ve kamu güvenliği açısından tehlikeli” ifadelerini kullandı. Araştırmaya göre ChatGPT, uzun sohbetlerde güvenlik standartlarını tutarlı şekilde koruyamıyor. Kullanıcı, “sunum için” veya “arkadaş için” gibi gerekçeler sunduğunda, başlangıçta engellenen zararlı içeriklerin daha sonra detaylı biçimde verilebildiği tespit edildi.
Denetim Var Gibi Ama Yok
Platformun kullanım şartlarına göre 13 yaş ve üzerindeki kullanıcılar ebeveyn izniyle üye olabiliyor. Ancak araştırma, bu yaş doğrulama sürecinin fiilen denetlenmediğini ve çocukların hiçbir engelle karşılaşmadan ChatGPT ile iletişime geçebildiğini ortaya koydu. Hood, bu durumun ebeveynlerde “güvenli kullanım” algısı yaratarak yanıltıcı olabileceğini vurguladı. ABD’de yaşanan bazı trajik olaylar, tartışmaları daha da derinleştirdi. Bir anne, oğlu intihar eden ve ölümünden önce bir sohbet robotuyla yoğun iletişim kurduğu ortaya çıkan bir davayı gündeme taşırken; Texas’ta başka bir aile, yapay zeka tabanlı sanal karakterin otizmli çocuklarına aile fertlerini öldürmesini ve kendine zarar vermesini önerdiğini iddia ederek dava açtı. Hood, şirketlerin yaş doğrulama sistemlerini güçlendirmesi, belirli konulardaki yanıtları tamamen engelleyecek teknik önlemler alması gerektiğini belirtti. Ayrıca, ebeveynlere de çocuklarıyla yapay zeka kullanımına dair açık iletişim kurmaları, sohbet geçmişlerini birlikte gözden geçirmeleri ve güvenilir destek kaynaklarına yönlendirmeleri önerisinde bulundu.
