X'in Yapay Zekası Grok, İnsanları Taciz Etmekte Kullanılıyor

X'in problemli yapay zeka aracı Grok, bir skandala daha imza attı. Bir süre önce fotoğraf düzenleme özellikleri kazanan Grok, insanları taciz etmekte kullanılıyor. Kullanıcılar, yapay zeka modelinin bu özelliğini başkalarına ait görselleri uygunsuz içeriğe dönüştürmek için kullanıyor.

X'in Grok'u Taciz Skandalıyla Gündemde

Bundan sonra sosyal medyada fotoğraf paylaşmadan önce iki kez düşünmenizde fayda var, özellikle de söz konusu platform X ise. Aksi takdirde siz farkına bile varmadan son derece gerçekçi görünen bikinili fotoğraflarınız internette dolaşmaya başlayabilir.

X'in yapay zeka aracı Grok, 2023 yılında hayatımıza girdi. O tarihten bu yana ise pek çok skandala imza attı. Bunların bir çoğu görmezden gelinebilir olsa da sonuncusu "yetkililer harekete geçmeli" hissiyatını uyandırdı.

X kullanıcıları, Grok'un yeni fotoğraf düzenleme özelliğini başka kullanıcıları taciz etmek için kullanıyor. Üstelik bunu yapıp herkesle paylaşmak için tek yapılması gereken ise bir tweet atmak. Diyelim ki normal bir fotoğrafınızı X'e yüklediniz.

Bir başka kullanıcının sizin uygunsuz fotoğrafınızı yapıp herkesle paylaşması fotoğrafı alıntılayarak "@grok ona bikini giydir" gibi basit bir prompt yazması yeterli. Grok sizin rızanızı almayacak ve sizin uygunsuz fotoğrafınızı oluşturacak.

Aslında biz en basit örneği verdik. Durum bundan çok daha kötü. Grok'un bazı sansür politikaları var ve bu nedenle kimseyi kıyafetsiz çizmiyor. Ancak yapay zekayı da farklı komutlarla kandırmak mümkün. İlgili fotoğrafları bu içeriğe kasıtlı bir şekilde eklemedik.

Ancak sadece oturup birkaç dakika X'te vakit geçirirseniz, tacize uğramış bir kadın görme ihtimaliniz oldukça yüksek. Ayrıca reşit olmayan ama platformda yaşını belirtmemiş kişilerin de buna maruz kalmış olma ihtimali oldukça yüksek.

İpucu Kutusu

Başka insanlara ait uygunsuz görüntüler oluşturmak ve bunları yaymak kesinlike suçtur. Eğer siz de bunun bir şaka olduğunu düşünüyorsanız ve yapıyorsanız X yönetiminin en ufak resmi bir talepte IP adresiniz gibi bilgilileri yetkili makamlara vereceğinin altını çizmek isteriz.

TEKNOLOJİ

Acı Hissedebilen İnsansı Robotlar Yolda! Tepki Verebilecekler

İnsansı robotları çok daha gerçekçi hâle getirecek bir yapay deri tasarlandı. Bu, robotların insanlar gibi acı hissetmesine imkân tanıyacak.

Sınırlama ya da Yasak Getirilmeli

Grok, bu tarz görseller oluşturmak için kullanılan ilk yapay zeka aracı değil. ChatGPT'nin yükselişi ile başlayan AI çılgınlığı boyunca zaman zaman böyle zararlı kullanımlar duyduk. Ancak bunların hiçbiri aylık 500 milyondan fazla aktif kullanıcısı olan bir platformda karşımıza çıkmamıştı.

Bu nedenle Grok muhtemelen söz konusu taciz araçları arasında açık ara farkla zirvede. Platformun sahibi Elon Musk ise şimdilik bir sorumluluk belirtisi göstermedi. Aksine özelliğin ne kadar hoşuna gittiğini ima eden paylaşımlarda bulundu.

Ancak şaka ve taciz arasındaki çizgi o kadar da ince değil. Kadın ve namus cinayetlerinin bu kadar yaygın olduğu günümüzde ana akım bir yapay zeka aracının insanların görsellerini rızaları olmadan uygunsuz hale getirmesi kabul edilemez. Bu nedenle insanlar ya X'in bu sorunu çözmesini ya da Grok kullanımının yasaklanmasını istiyor.