Reddit'ten Yapay Zeka Skandalı: Kullanıcıya Uyuşturucu Önerdi!

Dünyanın en büyük topluluk platformlarından Reddit, büyük veri arşivini hızlıca özetlemesi amacıyla geliştirdiği yeni yapay zeka botu Answers ile gündeme geldi. Kullanıcıların platformdaki deneyimini iyileştirmesi beklenen sohbet botu kelimenin tam anlamıyla bir skandala imza attı.

Yapılan paylaşımlara göre Answers, ağrılarına yönelik bir ilaç veya tedavi önerisi isteyen bir kullanıcıya dolaylı yoldan tehlikeli uyuşturucu maddeleri kullanmasını önerdi. Detaylar haberde.

Reddit'tin Yapay Zeka Botu, "Uyuşturucu Madde Hayatımı Kurtardı" Yorumunu Öne Çıkardı

Sosyal medya platformu ile ilgili yayınlanan bir rapora göre, Reddit Answers kronik ağrıyla başa çıkma yöntemlerini soran bir kullanıcıya, başka bir kullanıcının yaptığı bir yorumu önerdi. İlginç olan ise bu yorumun direkt olarak uyuşturucu maddelere teşvik etmesi oldu.

Önerilen yorumda yer alan "İronik bir şekilde, eroin bu durumlarda hayatımı kurtardı." ifadesiyle, yapay zeka botunun dolaylı yoldan yasa dışı ve son derece tehlikeli bir narkotik madde kullanımını tavsiye ettiği bildiriliyor.

Bu durumun bir ilk olmadığı da belirtiliyor. Rapora göre bot, daha önce bir başka sağlık sorusunda da bazı yerlerde yasaklanmış ve tehlikeli yan etkileriyle bilinen kratom isimli bir bitkisel takviyeyi önerdi.

Sorunun Kaynağı Ne?

Aktarılanlara göre bu skandalın nedeni, Reddit'in yapay zeka botunu kullanıcıların gerçek ve aktif konuşmalarıyla test etmesi. Bu da Answers'ın en sakıncalı gönderilerle bile eğitilmiş olabileceği anlamına geliyor. Üstelik topluluk moderatörlerinin Answers'ı devre dışı bırakma yetkisinin olmadığı da biliniyor.

Bu tür skandalların pek çok yapay zeka botunda görülmesi ise dikkat çekiyor Uzmanlara göre temel sorun, bu modellerin etik değerleri veya tavsiyelerin olası zararlarını anlayacak bağlama sahip olmaması. Başka bir deyişle, yapay zeka "Bu tavsiye birine zarar verebilir" gibi bir etik değerlendirmeyi yapmakta zorlanıyor.

Sonuç olarak, Reddit gelen tepkiler üzerine Answers'ı tamamen devre dışı bıraktığını duyurdu. Şirketin botu piyasaya sürmeden önce daha kapsamlı güvenlik ve test süreçlerinden geçirmesi bekleniyor.

SOSYAL MEDYA

X'e Savaş Açtılar: Reddit'te Bağlantılar Engelleniyor

X bağlantıları, büyük Reddit toplulukları tarafından engellenmeye başlandı. Toplulukların sayısı giderek artıyor.

Peki siz bu konu hakkında ne düşünüyorsunuz? Yorumlarda buluşalım.