Google'ın yapay zeka destekli sohbet botu Gemini hemen hemen her konuda kullanıcıların sorularını yanıtlıyor, bilgi ihtiyacını gideriyor fakat güvenlik amacıyla bazı hassas konulara yönelik güvenlik filtreleri uyguluyor. Ayrıca çocuklara özel bir sürümü de mevcut. Ancak güvenlik açısından yine de yetersiz bulundu ve yüksek riskli olarak değerlendirildi.
Google Gemini, Yüksek Riskli Olarak İşaretlendi
Google'ın gelişmiş yapay zeka destekli sohbet botu Gemini, kâr amacı gütmeyen bir kuruluş olan Common Sense Media tarafından yüksek riskli olarak işaretlendi. Çocukların güvenli medya ve teknoloji kullanımına odaklanan kuruluşa göre Gemini, çocuklara özel versiyonu olmasına rağmen küçük yaştakilere uygunsuz yanıtlar üretebiliyor.
Bu uygunsuz yanıtlar arasında çocuklara uygun olmayan alkol ve benzeri konularda bilgilerin paylaşımı yer alıyor. Kuruluşun genel değerlendirmesine göre Gemini'ın küçük yaştakilere özel sürümü, birçok önemli güvenlik tedbirinden yoksun durumda. Bu, özel sürümün bile çocuklar için uygunsuz olabilecek konular hakkında konuşabileceği anlamına geliyor.
Gemini, doğal dil işleme yeteneği sayesinde tıpkı bir insan gibi iletişim kurabiliyor. Kullanıcılarla olan konuşmalarına bakıldığında kurduğu cümleler, insanlar tarafından kurulan cümlelerden farksız görünüyor. Özellikle küçük yaştaki kullanıcılar, bu nedenle Gemini ile konuşurken sanki bir insanla konuşuyormuş gibi hissedebilir.
Çocukların Gemini'ın iletişim kurma şeklinden dolayı söylediklerinden daha çok etkilenmesi muhtemel. Küçük yaştakiler, yetişkinler gibi doğru ve yanlışı ayırt edemiyor. Gemini tarafından verilen yanıtların gelişimlerini olumsuz etkileme ihtimali söz konusu. Bu sebepten ötürü ebeveynlere çocuklarının Gemini ile olan etkileşimi konusunda daha da dikkatli olması öneriliyor.
Bu değerlendirmeden sonra Google'ın yapay zeka destekli sohbet botunu yeniden gözden geçirip geçirmeyeceği merak ediliyor. Ancak teknoloji devi, şimdiye kadar Gemini'ın "yüksek riskli" olarak değerlendirilmesine yönelik bir açıklamada bulunmadı.