Yapay zeka devleri OpenAI ve Anthropic, küçük yaştaki kullanıcıların güvenliğini sağlamak adına önemli adımlar atmaya hazırlanıyor. İki şirketin de üzerinde çalıştığı sistemle birlikte reşit olmayan kişiler otomatik olarak tespit edilecek ve buna göre kullanımı yasaklamaya kadar varan çeşitli tedbirler uygulanacak.
ChatGPT ve Claude, Kullanıcıların Yaşını Tespit edecek
OpenAI, ChatGPT için kullanım koşullarını 13 ile 17 yaş arası kullanıcılar için güncelledi. Dünyanın en çok kullanılan yapay zeka destekli sohbet botlarından biri olan ChatGPT ile olan etkileşimlerde her zaman güvenlik ilk sırada tutulacak. Gençler, çevrim içi ortam yerine gerçek hayatta zaman geçirmeye teşvik edilip destek alabilecekleri kaynaklara yönlendirilecek.
Yapay zeka şirketinin sohbet botu, küçük yaştakilerle konuşurken çok dikkatli olacak. Onlarla bir yetişkin gibi sohbet etmeyecek, daha saygı ve samimi çerçevede yaklaşacak. Şirketin üzerinde çalıştığı yeni sistem ise kullanıcının konuşma tarzından yaşını tahmin edecek. Kişinin eğer 18 yaşının altında olduğu tespit edilirse otomatik olarak kısıtlama uygulanacak. Yanlışlıkla kısıtlama getirilen hesapların sahiplerine ise yaş doğrulama seçeneği sunulacak.
Bilmeyenler için OpenAI'ın eski çalışanları tarafından kurulan Anthropic'in politikası, 18 yaşının altındaki kişilerin Claude'ı kullanmasına zaten izin vermiyor ancak bunun sadece sözde kalmaması adına OpenAI'a benzer şekilde somut bir adım atmaya hazırlanıyor. Şirketin devreye alacağı yeni sistem, ChatGPT'ye benzer şekilde çalışacak.
Anthropic'in yeni yaş tespit sistemi, kullanıcının konuşmalarındaki kelime seçimi, seçilen konular gibi ince ayrıntılar üzerinde durularak kişinin reşit olup olmadığını tespit edecek. Bir kişinin eğer reşit olmadığı tespit edilirse hesabı kapatılacak. Bu sistemlerin hayata geçirilmesinin arkasında ise bazı gençlerin yapay zeka destekli sohbet botları ile kendine zarar verme gibi davranışlar hakkında konuştuktan sonra hayatına son vermesi nedeniyle açılan davalar bulunuyor.