Deepfake Tehlikelerine Bir Örnek de Amigo Kızın Annesinden Geldi

Deepfake tehlikeleri hakkında her geçen gün yeni bir ürkütücü örnek daha ortaya çıkıyor. Bu siber tehlikenin son örneği bir amigo kızın annesinden geldi. Raffaela Spone isimli kadın, kolluk kuvvetlerine göre amigo takımındaki kızları takımdan uzaklaştırmak için deepfake teknolojisine başvurdu.

Deepfake Tehlikelerinin Ne Kadar Kritik Olduğunu Gösteren Olay

Deepfake teknolojisinin kötüye kullanıldığında ne gibi sonuçlar doğurabileceğini bugün hemen hemen herkes biliyor. Bu konu hakkında bilgisi olmayan kişilerse her geçen gün karşımıza çıkan deepfake skandalları ile bu teknolojinin ne kadar kritik sonuçları olabileceğini öğrenmiş oluyor.

Deepfake teknolojisinin nasıl kötüye kullanılabileceğini gösteren son örnek öncekilerden farklı olarak bir insanın hırsı uğruna ne kadar ileri gidebileceğini gösteriyor. Bu örnek bir amigo kızın annesinden geldi. Genç kızın annesi Spone, kolluk kuvvetlerine göre amigo takımındaki gençlerin içki ve sigara kullandığını göstermek ve onları çıplak hale getirmek için yapay zekadan (AI) yardım aldı.

Spone, deepfake teknolojisini kullanarak düzenlediği sahte fotoğraf ve videoları takımın koçuna gönderdi. Kadının amacı, fotoğraf ve videolarında düzenleme yaparak sahte fotoğraf ve videolar hazırlamak ve hazırlamış olduğu bu fotoğraf ve videoları takımın koçuna gönderip onların takımdan atılmasını sağlamaktı.

Polis, kadının mağdur ettiği gençlerin birinden ilk olarak temmuz ayında haberdar oldu. Kadının kurbanının aldığı isimsiz çağrılardan haberdar olan polisler, takımdaki diğer gençlerin de benzer sorunlar yaşadığını ve kadının mağduru olduğunu öğrendi. Yetkililer, isimsiz numarayı sorgulayarak olayın arkasında Spone'un olduğunu buldu. Kadının akıllı telefonunda yapılan aramalar kanıt olarak kullanıldı.

Spone, çocuklara yönelik siber taciz ve onunla bağlantılı suçları işlemekle suçlanıyor. Ortada kızın annesinin eylemlerinden haberdar olduğunu gösteren hiçbir kanıt olmadığı için yetkililer kadının çocuğu hakkında herhangi bir işlem yapmadı.

Facebook, TikTok ve Twitter gibi sosyal medya platformları, birkaç yıl önce deepfake videolarının ve fotoğraflarının platformlarında yayımlanmasını yasakladı ve bu da onların yayılma oranını oldukça azalttı. Bu elbette ki siber taciz gibi sorunların sonunu getirmede tek başına yeterli olmadı fakat sahte fotoğraf ve videoların çoğalmasının önüne bir miktar da olsa geçti.

Deepfake görüntülerin sahte olup olmadığını belirlemek için araştırmalar hala devam ediyor. Geçtiğimiz günlerde geliştirilen bir yöntem, deepfake tehlikelerinin önüne büyük ölçüde geçebilmiş olsa da bütün görüntülerin sahte olup olmadığını belirleyemiyor.