Yapay zeka ile artık son derece gerçekçi videolar üretilebiliyor. İçerik üretimi açısından kolaylık sağlasa da bir yandan da insanlar için önemli bir tehdit oluşturuyor. Bu deepfake teknolojisi sayesinde herhangi bir kişinin hiç söylemediği bir şey söyletilebiliyor. Bunun yapılmasına imkân tanıyan birçok araç olsa da tespit edilmesini kolaylaştıran fazla araç bulunmuyor.
Bir sosyal medya kullanıcısı, Elon Musk tarafından satın alınan X (eski adıyla Twitter) üzerinden tam da bu konu ile ilgili endişesini dile getirdi. Daha sonra bu gönderi Musk tarafından alıntılandı. Ünlü milyarder, Grok'a gelecek önemli bir özelliği duyurdu. Aktarılan bilgilere göre Grok yakında deepfake videolarını tespit etmek için kullanılabilecek.
Grok, Deepfake Videolarını Tespit Etmeye Başlayacak
Elon Musk'a göre xAI ekibi, Grok'un yapay zeka ile oluşturulan videoları tespit etmesini sağlamanın bir yolu üzerinde çalışıyor. Yeni özellik sayesinde Grok, videoda gerçek bir insanın fark edemeyeceği yapay zeka bulgularını hızlı bir şekilde tespit edecek. Daha sonra ise bunları doğrulamak için internette araştırma yapacak.
Hatırlarsanız ChatGPT'nin geliştiricisi OpenAI, geçtiğimiz günlerde App Store üzerinden yeni bir uygulama yayınladı. Sora isimli bu uygulama, şirketin en yeni yapay zeka modeli Sora 2'ye erişim imkânı sunuyor. Sadece birkaç kelime girerek istediğiniz herhangi bir görüntüyü oluşturabiliyor. Üstelik videoda bir kişinin sesli olarak konuşmasını da sağlayabiliyorsunuz.
Bu özellikler başlı başına harika olsa da Sora uygulaması bunlarla sınırlı kalmıyor. Kendi yüklediğiniz görüntü ve sesleri kopyalayabiliyor. Yani bu yapay zeka destekli uygulama sayesinde kendinizi uzaya gönderebilir ve "Burada oksijen yok ama ilginç bir şekilde nefes alabiliyorum" dedirtebilirsiniz. Ancak sizin de tahmin edebileceğiniz üzere herkes kendi görüntüsü ve sesini kullanmıyor.
Bazı kötü amaçlı kişiler, Sora uygulamasını kullanarak başkalarına ait yüz ve sesleri içeren videolar üretmeye başladı. Bu da deepfake içeriklerinin sayısında inanılmaz bir artış meydana gelmesine neden oldu. OpenAI, bunun üzerine özelliğe birtakım kısıtlamalar getirdi. Ne var ki deepfake içerikler üretmek için kullanılabilecek tek araç bu değil. Dolayısıyla tehlike tam olarak sona ermedi ancak Grok'a gelecek olan bu yeni özellik ise deepfake tehdidini büyük ölçüde azaltacak.