Yapay Zekayla Büyük Siber Saldırı Düzenlendi! Kritik Veriler Çalındı

OpenAI'ın (ChatGPT'nin geliştiricisi) eski çalışanları tarafından kurulan Anthropic, kendi yapay zeka modeli Claude'ın siber saldırı ve dolandırıcılık amaçlı nasıl kullanıldığını gösteren ayrıntılı bir rapor yayınladı. Bu rapora göre gerçekleştirilen siber saldırının çok büyük bir kısmı için neredeyse hiç insan müdahalesi bulunmadı.

Claude, Bilgisayar Korsanları Tarafından Kandırıldı

Bir hacker grubu, onlarca kurum ve kuruluşu hedef alan bir siber saldırıda Claude'ı kullandı. Üstelik bunun yüzde 80-90'ında tamamen yapay zekanın etkisi oldu. Anthropic'in yapay zeka modeli, kendi exploit (güvenlik açığından yararlanmak için kullanılır) kodunu yazdı, kullanıcı adı ve şifrelerini ele geçirdi ve büyük miktarda özel veriyi sızdırdı.

Bunun yapay zeka ile gerçekleştirilen belgelenmiş ilk büyük siber saldırı olduğunu ifade eden yapay zeka şirketi, bilgisayar korsanlarının Claude Code aracını kullanarak sağlık, acil servisler dâhil 17 farklı kuruluşu hedef alan büyük çaplı bir saldırı yaptığını belirtti. Claude, güvenlik açığı tespit etme, veri toplama, ağa sızma ve hangi verinin alınacağına karar verme gibi birçok süreçte rol oynadı.

Normal koşullarda Claude gibi yapay zeka modelleri, kullanıcının niyetine göre bazı istemlere karşılık vermeyi reddeder. Ona kötü amaçlı bir kod yazmasını istediğinizde filtreleme sayesinde işlemi gerçekleştirmekten kaçınır. Bilgisayar korsanları, bu engeli ortadan kaldırmak için Claude'ı manipüle etti.

Bilgisayar korsanları, talimatlarını asıl niyetlerini yansıtmayacak şekilde yazarak yapay zeka modelinin etik kuralların dışına çıkmasına neden oldu. Bunun için Claude'a daha küçük ve zararsız gibi görünen görevler verildi. Yapbozu parça parça birleştirmeye başlayan yapay zeka modeli, ne üzerinde çalışıldığından bihaber şekilde kötü niyetli kişileri hedefine ulaştırmak için çalışmaya başladı. Hatta çalınan verileri ayrı dosyada saklama gibi zahmete bile girdi.

GÜVENLİK

1.3 Milyar Şifre Sızdırıldı! Güvende Kalmak İçin Bunu Yapın

Güvenlik araştırmacıları, yaklaşık 2 milyar e-posta adresi ile 1.3 milyar şifrenin sızdırıldığını açıkladı. İşte güvende kalmak için yapmanız gerekenler!

Şirket, kötüye kullanım durumunu tespit eder etmez hesapları yasakladığını, yeni tespit yöntemlerini devreye aldığını açıkladı. Şirkete göre bu raporun yayınlanmasının amacı, yapay zekanın siber savunma için ne kadar kritik bir öneme sahip olduğunu göstermekti. Anthropic, Claude'ın toplanan verilerin tehdit seviyesini analiz etmek için başarılı bir şekilde kullanıldığını vurgulayarak bunun gelecekteki saldırılarda siber güvenlik uzmanlarına yardımcı olabilecek bir araç olabileceğini söyledi.