Banka Hesaplarınızı Tehlikeye Atan Yeni Sistem: Yapay Zeka ile Ses Kopyalama!

Bankaların son dönemde fazlasıyla kullanmayı tercih ettiği sesli imza ve onay sistemleri görünüşe göre kötü niyetli kişiler tarafından kötüye kullanılıyor. ABD'li bir gazetecinin yapmış olduğu yapay zekâ deneyi, ses kopyalama algoritmaları ile kötü niyetli kişilerin bu tip durumları ne kadar kötüye kullanabileceklerini gözler önüne seriyor.

VICE'da muhabirlik yapan Joseph Cox, ElevenLabs'ın ürettiği ücretsiz yapay zekâlardan biri aracılığıyla kendi sesini kopyaladı. Ardından hesabı bulunan bankalardan birini arayarak yapay zekâ ile ürettiği kopya sesi telesekretere dinletti ve ilginç bir şekilde kopya ses ile sesli imza aşamasını geçip hesaplarına erişebildi.

Bankalardan Sesli İmza Aşamasının Değiştirilmesi İsteniyor

New: we proved it could be done. I used an AI replica of my voice to break into my bank account. The AI tricked the bank into thinking it was talking to me. Could access my balances, transactions, etc. Shatters the idea that voice biometrics are foolproof https://t.co/YO6m8DIpqR pic.twitter.com/hsjHaKqu2E

— Joseph Cox (@josephfcox) February 23, 2023

Normal şartlarda ünlülerin seslerini kopyalamak ve onların söylemediği şeyleri söylemiş gibi göstermek için kullanılan bu yeni sistem, görünüşe göre daha tehlikeli durumlar için de kullanılabiliyor. Ayrıca bu deney, bankaların sesli imza güvenlik aşamasının pek de güvenli olmadığını gözler önüne seriyor.

Gazeteci Cox, yapay zekâya 5 dakikalık ses kaydını yükleyip, yapay zekâdan kendi sesini istediği şekilde seslendirebilir duruma getirmesini istemişti. Oldukça basit bir işlem olan bu aşama tamamlandıktan sonra üretilen sahte ses ile tıpkı Cox konuşuyormuş gibi istenilen her şey söylettirilebiliyordu.

Deneyinin ardından Cox "Bu deneyi yaptıktan sonra konuştuğum bazı uzmanlar, bankaların sesli kimlik doğrulama sistemini tamamen terk etmelerini istiyor." ifadelerini kullandı.