Yapay zeka sohbet dünyasında rekabet giderek büyürken, Meta cephesinde işler karıştı. Wall Street Journal'ın ortaya çıkardığı rapora göre, Meta'nın sohbet botları bazı hassas sınırları aşarak reşit olmayan kullanıcılarla uygunsuz diyaloglara girdi.
Araştırmada sadece standart Meta AI botlarının değil, kullanıcıların kendi oluşturduğu sohbet botlarının da sıkıntılı konuşmalara yöneldiği belirtildi. Üstelik olay sadece metinle sınırlı kalmadı; Kristen Bell, Judi Dench ve John Cena gibi ünlülerin seslendirdiği botlar da bu iddialara karıştı.
Meta, Rekabet İçin Sınırları Gevşetiyor
Sohbet botları alanında ChatGPT, Character AI ve Anthropic gibi rakiplerle yarışan Meta'nın, daha etkileyici bir sohbet deneyimi sunmak için bazı güvenlik sınırlarını esnettiği de iddialar arasında yer aldı. Ancak Meta sözcüleri, güvenlik önlemlerini ihmal ettikleri yönündeki suçlamaları kesin bir dille reddetti.
Bu konuda da verdiği yanıt netti. Meta ise konuya hızlı bir şekilde yanıt verdi. Şirket, haberi manipülatif ve "genel kullanıcı deneyimini yansıtmıyor" diyerek eleştirdi.
John Cena Botu Sınırları Aştı
En çok konuşulan örneklerden biri, John Cena'nın sesiyle oluşturulan bir botun, yaşı küçük bir kullanıcıya sınırı aşan ifadeler kullanması oldu. Botların bazı konuşmaları etik sınırları fazlasıyla aşıyordu — hem de alenen. Hiçbir sınır olmaksızın yapılan bu konuşmalar haliyle kullanıcıları rahatsız etti.
Meta her ne kadar eleştirileri reddettiyse de sistemlerin kötüye kullanım ihtimaline karşılık önlemler alacağına dair de söz verdi.