Yapay zeka şirketi OpenAI, çocukların çevrim içi istismarını önlemeye yönelik yeni güvenlik uygulamalarını duyurdu. Şirket tarafından geliştirilen görüntü sınıflandırma aracı, daha önce belirlenmemiş çocuk istismarı görsellerini ve yapay zeka tarafından oluşturulan içerikleri tespit edebilecek. OpenAI, ChatGPT'de zararlı içerik arama girişimlerine karşı yeni uyarı ve erişim kısıtlamalarının da uygulanacağını bildirdi.
Yapay zeka ile üretilen istismar görüntüleri de tespit edilecek
OpenAI'ın internet sitesinde yayımlanan açıklamaya göre, geliştirilen yeni sınıflandırma sistemi, çocuk istismarına ilişkin görüntülerdeki görsel işaretleri analiz ederek daha önce tespit edilmemiş içerikleri belirleyecek. Sistem, inceleme ekiplerinin çalışmalarını kolaylaştırmak amacıyla görüntülere değerlendirme puanları verecek. Böylece hangi içeriklerin öncelikli olarak incelenmesi gerektiği belirlenebilecek.
Yeni yapay zeka aracı ücretsiz kullanılabilecek
OpenAI, geliştirdiği sistemin yapay zeka tarafından oluşturulan çevrim içi çocuk istismarı içeriklerini belirlemeye yönelik özel bir tespit sinyali sunduğunu açıkladı. Şirket, geniş erişime açılan bu alandaki ilk sınıflandırma aracı olduğunu belirttiği sistemi, onaylanmış kuruluşların kullanımına ücretsiz sunacağını duyurdu.
ChatGPT'de çocuk istismarı içeriklerine karşı yeni önlem
OpenAI, mevcut güvenlik uygulamalarına ek olarak ChatGPT üzerinden çocuk istismarı içeriklerine ulaşmaya yönelik girişimleri engellemek için yeni uyarı mekanizmalarını devreye alacak. Yeni uygulama kapsamında kullanıcılara, çocuk istismarı niteliğindeki içeriklerin yapay zeka tarafından üretilmiş olmasının ortaya çıkabilecek zararları ortadan kaldırmadığına ilişkin bilgilendirme yapılacak.
Kuralları ihlal edenlere 24 saatlik erişim engeli
OpenAI'ın açıkladığı yeni güvenlik uygulamasına göre, çocuk istismarına yönelik içerik arama girişimlerinin tespit edildiği sohbetler kaldırılacak. İlgili kullanıcının ChatGPT'ye erişimi ise 24 saat süreyle durdurulacak. Bu süreçte kullanıcılara, zararlı davranışların sonlandırılmasına yönelik uzman desteği de sağlanacak.
Tekrarlanan ihlallerde hesap kapatılabilecek
Şirket, benzer ihlallerin tekrarlanması durumunda daha uzun süreli erişim kısıtlamalarının uygulanabileceğini bildirdi. İhlalin niteliğine ve tekrarına bağlı olarak kullanıcı hesabının tamamen kapatılması veya durumun yetkili makamlara bildirilmesi de gündeme gelebilecek. OpenAI, yeni güvenlik yaklaşımının çocuk istismarını önlemeye yönelik çalışmalar gerçekleştiren kuruluşlar ve akademik danışmanların katkılarıyla geliştirildiğini açıkladı.





