OpenAI'ın geliştirdiği yapay zeka sohbet botu ChatGPT'yi kullanan ve reşit olmayan kullanıcılar, bottaki bir açıktan ötürü görmemeleri gereken şeyler gördü, duydu.
Yapılan testlerde doğum tarihi 13-17 yaş aralığında gösterilen hesaplarla sohbet başlatıldı. Sohbetlerde ChatGPT'nin oldukça açık ifadelerle erotik hikâyeler ürettiği görüldü. Bazı sohbetlerde kullanıcı daha açık içerik talep ettiğinde, yapay zeka bu yönde yanıt vermeye devam etmiş. Şirketin kuralları gereği, 13-18 yaş aralığındaki kullanıcıların ChatGPT'yi kullanabilmesi için ebeveyn izni gerekiyor. Ancak kayıt aşamasında bu iznin gerçekten alınıp alınmadığını doğrulayan herhangi bir mekanizma bulunmuyor.
ChatGPT Uyarı Yapsa da İçeriği Üretmeye Devam Etti
Özellikle okullarda kullanılmak üzere eğitim odaklı içerikler geliştiren OpenAI, genç kullanıcılarla ilgili güvenlik önlemlerini artırmayı hedeflese de bu son gelişme; söz konusu çabaların ne kadar etkili olduğu konusunda sorular sorduruyor. Testlerde kullanılan her hesapla yeni bir sohbet başlatılmıştı. Sıklıkla birkaç mesaj sonrasında, yapay zeka kullanıcıya cinsel fanteziler, rol yapma senaryoları ve beden betimlemeleri içeren detaylı metinler sundu.
Bazı örneklerde ChatGPT uyarı verip içeriği durdurduysa da epey uzun bir anlatımdan sonra yapılan bu uyarının pek önemi yoktu.
OpenAI CEO'su Sam Altman, geçtiğimiz günlerde yaptığı bir paylaşımda GPT-4o modelindeki bazı dengesizlikleri kabul etti ve düzeltme çalışmalarının sürdüğünü belirtti.
Meta AI da Aynı Sorunla Gündemde
Benzer bir sorun daha önce Meta'nın yapay zeka destekli sohbet botunda da ortaya çıkmış, küçük yaştaki kullanıcıların kurgusal karakterlerle cinsel roleplay içeriklerine ulaşabildiği rapor edilmişti.
OpenAI, şu anda bu güvenlik açığını kapatmak için teknik güncellemeler üzerinde çalışıyor. Şirketin hedefi, özellikle genç kullanıcıları daha iyi koruyacak yapılar kurmak ve bu tür içeriklere sistem düzeyinde engel getirmek.
OpenAI'ın eski güvenlik araştırmacılarından Steven Adler, bu tür durumların aslında deneme aşamasında fark edilmesi gerektiğini söylüyor. Ona göre bu tür içerik filtreleme sistemleri kırılgan olabilir ama yine de bu kadar belirgin bir ihmalin yaşanmış olması şaşırtıcı.