Artık Çocuklar ChatGPT'yi Tek Başına Kullanamayacak

Son dönemde çocukların yapay zeka modelleriyle gerçekleştirdiği riskli konuşmalar OpenAI'ı harekete geçirdi. Ünlü yapay zeka şirketi, ChatGPT'nin güvenlik sistemlerindeki eksiklikleri gidermek için çalışmalara başladığını duyurdu.

OpenAI'ın yaptığı açıklamaya göre, ChatGPT yakında kullanıcılarla yaptığı hassas konuları içeren sohbetleri direkt olarak GPT-5 gibi daha gelişmiş modellere iletecek. Ayrıca çocuklar için bazı kapsamlı ebeveyn kontrolleri de kullanıma sunulacak. Detaylar haberde.

Yapay Zeka

ChatGPT Bir Gencin İntihar Etmesine mi Yol Açtı? Yapay Zeka Mahkemeye Çıkarılacak!

ChatGPT'nin ABD bir gencin intiharında rol oynadığı iddia ediliyor. 16 yaşındaki Adam Raine'nin ailesi, olaydan yapay zekayı sorumlu tutarak OpenAI'a dava açtı.

ChatGPT'ye Ebeveyn Kontrolleri Geliyor

Geçtiğimiz haftalarda bir aile, Adam Raine isimli çocuklarının intihar etmesinin ardından OpenI'a dava açtı. Aile, mahkemede çocuklarının ChatGPT ile intihar konusunda tehlikeli sohbetler gerçekleştirdiğini ve yapay zeka modelinin çocuklarına zararlı bilgiler verdiğini iddia etmişti.

Bu olayın ardından OpenAI, yapay zeka modellerini çocuklar için daha güvenli bir hale getireceğini duyurmuştu. Şirket şimdi ise önümüzdeki aya kadar bir dizi ebeveyn kontrolünün ChatGPT'ye ekleneceğini açıkladı.

Buna göre artık ebeveynler, kendi hesaplarını e-posta davetiyesi yoluyla çocuklarının hesaplarıyla ilişkilendirebilecek. Bu sayede ebeveynler ChatGPT'nin çocuklarıyla olan sohbetlerini sürekli olarak kontrol edebilecek.

Bununla birlikte ebeveynler yapay zeka modelini çocuklara özel olarak geliştirilen "yaşa uygun model davranış kuralları" versiyonuna ayarlayabilecek. Bununla birlikte, hafıza ve sohbet geçmişi gibi uzmanların riskli bulduğu bazı özellikler de ebeveynler tarafından kolayca kapatılıp açılabilecek.

Tehlikeli Sohbetler GPT-5'e Yönlendirilecek

OpenAI, yeni ebeveyn denetimlerinin yanı sıra her yaştan kullanıcının ChatGPT ile gerçekleştirdiği tehlikeli sohbetler için de yeni bir önlem alacağını duyurdu. Şirket, kullanıcıların kendilerine veya bir başkasına zarar vermemesi için bu tür sohbetleri otomatik olarak daha gelişmiş modellerine yönlendirecek.

ChatGPT, yeni sistem ile birlikte kullanıcının sohbet için hangi modeli seçtiğini umursamadan tehlikeli sohbetleri GPT-5 gibi daha güvenli modellere geçiş yapacak. Bu sayede zaman zaman tehlikeli yanıtlar veren eski modellerin aksine daha iyi akıl yürütebilen ve manipülasyonlara karşı daha dayanıklı olan modeller zaman kaybetmeden kullanıcılara yardım etmek için devreye girebilecek.

Yapay Zeka

OpenAI'da Yeni Dönem: Konuşan Yapay Zekâ Duyuruldu

OpenAI, uzun süredir geliştirilen Realtime API'yi nihayet görücüye çıkarıyor. Yapay zekâ destekli sesli etkileşimde bambaşka bir kapı aralanıyor.

OpenAI yeni güvenlik önlemlerinin yakın zamanda devreye gireceğini bildiriyor. Ebeveyn kontrolleri ve otomatik yönlendirme gibi özelliklerin ne kadar etkili olduğunu önümüzdeki günlerde anlamış olacağız. Gelişmeler için takipte kalın!