DeepFake Teknolojisini Kullanan Telegram Botları Tehlike Saçıyor!

Araştırmacılar, gizlilik odaklı mesajlaşma uygulaması Telegram'da "DeepFake" teknolojisini kullanılarak fotoğrafları müstehcen fotoğraflara dönüştüren Telegram botları keşfetti. Normal fotoğrafları müstehcen hale getiren botu kullanan kişilerin genellikle sosyal medyadan tanıdığı kişilerin fotoğraflarını seçtiği ve botu kullanarak elde ettiği fotoğrafı birbirinden çeşitli gruplarda sattığı söyleniyor.

Telegram Botları Binlerce Fotoğrafı Müstehcen Hale Getirdi!

Sensity isimli bir güvenlik firması yakın bir zamanda Telegram'da DeepFake teknolojisi ile çıplak kadın görüntüleri oluşturan botların olduğuna dair bilgilendirme yaptı. Şirket, temmuz ayından bu yana botların yaklaşık olarak 104.000 kadına ait fotoğrafın müstehcen hale gelmesine neden olduğunu tespit etti. Güvenlik firmasına göre bu tür botların kullanımı son üç ay içerisinde yüzde 200 oranında arttı.

Güvenlik firması tarafından aktarılan bilgilere göre insanların fotoğraflarını müstehcen bir hale getiren Telegram botları genellikle sosyal medyada veya gerçek hayatta tanıdığı kişilerin fotoğrafını uygunsuz bir hale getirmek için kullanıldı. Sensity'nin paylaştığı bilgilere göre kurbanların fotoğrafları çoğunlukla Telegram gruplarında satılmak için kullanıldı ve bu fotoğrafların içerisinde reşit olmayan çocukların fotoğrafları da yer alıyor.

TheVerge'de yer alan habere göre Telegram botları için herhangi bir şekilde ödeme yapmak gerekmiyor ancak bot aracılığı ile oluşturulan fotoğrafların üzerinde filigran bulunuyor veya botla oluşturulan fotoğraflar kısmi bir şekilde görüntüleniyor. Botu kullanan kişiler, filigran kaldırmak veya fotoğrafların tamamını indirmek için yedi gün boyunca filigran içermeyen 100 sahte fotoğraf oluşturmak için 100 ruble (1,30$) ödemesi gerekiyor.
Araştırmanın sonuçlarını paylaşan güvenlik firması Sensity, mesajlaşma uygulamasında neden bu tür botlara izin verildiğini sormak için Telegram ile iletişime geçtiğini ancak uygulamanın arkasındaki isimlerden şu ana kadar yanıt almadığını söyledi.

Bu tür görüntüler oluşturmak için kullanılan yazılım ilk olarak "DeepNude" olarak ortaya çıkmıştı ancak uygulama hakkında yapılan şikayetler sonrasında uygulamanın geliştiricisi web sitesini kapattı ve insanları uygulama hakkında bilgilendirmek için yaptığı açıklamada "İnsanların onu kötüye kullanma olasılığı çok yüksek" ifadelerini kullandı. Sensity ise uygulamanın o zamandan bu yana yayılmaya devam ettiğini ve DeepNude'un tersine mühendislik uygulanarak geliştirildiğini söyledi.