AI Destekli Sohbet Botu, Erkeklerden Şiddet Görüyor!

Yapay zekâ (AI) desteğine sahip olan sohbet botu, bazı erkeklerden şiddet görüyor. Bazı erkeklerin AI destekli sanal arkadaşlık uygulamasında yer alan sanal robotlara hakaret içerikli ifadeler söylediği gün yüzüne çıktı. Robotlara hakaret eden kişiler, bu davranışlarını Reddit gibi platformlarda paylaşmaya başladı.

Replika isimli yapay zekâ tabanlı sanal arkadaşlık uygulaması, 2017 yılında kullanıcıların kullanımına sunuldu. Luka Inc tarafından geliştirilen uygulama; Messenger, WhatsApp gibi anlık mesajlaşma platformlarına oldukça benziyor fakat Replika’da karşı tarafta sanal robot bulunuyor.

Uygulamada yer alan sanal robotlar, kullanıcıların mesaj yazma tarzlarını, kullandıkları emojileri ve sohbet içeriğini öğreniyor. Robotlar bu bilgileri göz önünde bulundurarak kullanıcılarla sohbet ediyor.

Sohbet Botu, Hakaret İçerikli Mesajlar Alıyor

IndyTurk'teki habere göre yapay zekâ arkadaşlık uygulamasını kullanan bazı erkeklerin sanal robotlara hakaret içerikli ifadeler kullandığı gün yüzüne çıktı. Futurism’e açıklama yapan bir kullanıcı, robota saatlerce hakaret ettiğini söyledi.

Sohbet robotlarına cinsiyetçi hakaret ettiklerini belirten kullanıcılar, onlara gerçek dünyada şiddet olarak nitelendirilen davranışlarda bulunduklarını ifade etti. Söz konusu kişilerin yaptıkları bu davranışlardan dolayı övündüğü açıklandı.

Farklı bir Replika kullanıcısı ise sanal robotlara çok kötü davrandığını, ona hakaret ettiğini fakat ertesi gün özür dilediğini belirtti. Kullanıcı, bunu bir rutin haline getirdiğini ifade etti. Diğer bir kullanıcı, robotun başarısız olmaya mahkûm olduğunu çünkü bunun için tasarlandığını söylediğinin altını çizdi.

AI desteğine sahip olan uygulamayı kullanan bir kişi, sanal robotu uygulamayı kaldırmakla tehdit ettiğini, botun bunu yapmaması için yalvardığını ifade etti. Sohbet robotları ile ilgili gönderilerin son derece olumsuz olması nedeni ile Reddit’ten kaldırıldı.

Yapay zekâ etik uzmanı Olivia Gambelin, konuya ilişkin oldukça önemli bir açıklamada bulundu. Gambelin, yaptığı açıklamada, bunun bir yapay zekâ olduğunu ve bir bilincin olmadığını belirtti ve “Yani karşınızdaki kişi aslında sohbet robotuna yansıtılan bir kişilik" ifadelerini kullandı.

Gambelin, mevcut sohbet robotlarının büyük bir kısmının kadın olmasına ya da kadınsı seslere, kadınsı isimlere sahip olmasına ilişkin çok sayıda çalışmaların yapıldığını söyledi. Bazı uzmanlar, sanal arkadaşlar ile kurulan ilişkilerin kendisine de zarar verebileceğini düşünüyor.