OpenAI'ın Yapay Zeka Modelleri, Bir Yapay Zeka Platformunu Hackledi

OpenAI'ı artık teknoloji ile bir şekilde ilgisi olan herkes biliyor. ChatGPT adlı yapay zeka destekli sohbet botunu genel kullanıma sunmasının ardından tüm dünyanın öğrendiği bir şirket. Çok gelişmiş modelleri olan bu yapay zeka devi, geliştirdiği modeller için bir süredir güvenlik testi gerçekleştiriyordu.

Hem herkese açık GPT-5.6 Sol hem henüz piyasaya sürülmemiş gelişmiş bir modelin yeteneklerinin sınırlarının öğrenilmesi ve olası tehditlerin ortadan kaldırılması amaçlanıyordu. Ne var ki kısa bir süre önce gerçekleştirilen bir testte iki yapay zeka modelinin kontrolünü kaybetti.

Bu beklenmedik gelişme sonucunda olan açık kaynaklı modellerin, veri setlerinin ve dahasının paylaşıldığı bir topluluk olan Hugging Face'e oldu. OpenAI, bu noktaya nasıl gelindiğini kendi web sitesi üzerinden yayınladığı bir yazıda açıkladı.

OpenAI'ın Yapay Zeka Modelleri Nasıl Kontrolden Çıktı?

Herkese açık GPT-5.6 Sol ile henüz piyasaya sürülmemiş ama çok gelişmiş olduğu belirtilen bir modelin güvenlik filtreleri devre dışı bırakıldı. Bunun yapılmasının arkasındaki sebep, bilgisayar korsanlarının olası bir siber saldırı düzenlemesi durumunda neler yapabileceğini öğrenmekti.

Bilindiği üzere bu modeller, kötü amaçlı bir kişinin elinde büyük bir kayba sebep olabilecek potansiyel taşıyor. OpenAI da bunları önceden tespit etmek ve kötüye kullanıma geçit vermemek için bu testleri düzenli olarak gerçekleştiriyor. Ama bu sefer farklı bir durum yaşandı. Modeller girdiği siber güvenlik testi olan ExploitGym'in cevaplarını bulmak için sanal ortamdan kaçıp Hugging Face'in sistemine sızdı ve testin çözümlerini ele geçirdi.

Normalde yapay zeka modellerinin test edildiği sanal ortam ile gerçek ortamın bağlantısı kesilmiş durumda. Bunları salgın döneminde karantinaya alınmış insanlar olarak düşünebilirsiniz. Virüsün başka insanlara bulaşmaması için bir süre bulunduğu alanın dışına çıkmıyorlar. Bu odadaki yapay zekanın dışarıdan hiçbir şey indirmesine izin verilmiyor.

Ama dışarıdan hazır kod paketleri indirebilmek için proxy üzerinden bir köprü kurulur. Bu köprü, normalde sadece güvenli ve önceden onaylanmış bazı kütüphanelere erişmek için açık bırakılır. İşte modeller de tıpkı her açığı kollayan bir hacker gibi hareket ederek daha önce hiçbir insan tarafından keşfedilmemiş bir açık keşfetti.

Bunu kullanarak normalde amacı sadece belirli kodlara erişim olan köprü üzerinde oynama yaparak Hugging Face'in veritabanındaki gizli bilgileri topladı. Bu durum, tahmin edebileceğiniz üzere büyük ses getirdi. Daha önce eşi benzeri görülmemiş bir olay olarak tarihe geçti. Dahası, bu kadar gelişmiş yapay zeka modellerinin serbest bırakıldığında neler yapabileceğini de ortaya koydu.

OpenAI, Yapay Zeka Modelleri İçin Nasıl Önlemler Aldı?

OpenAI, bu olayın ardından elbette birçok güvenlik önlemi aldı. Şirket, güvenlik açıkları kapatılana kadar sistemlerini sıkı koruma altına aldı. Üstelik bunu araştırma sürecini yavaşlatma pahasına yaptı. Olayı çözmek için Hugging Face ile birlikte çalıştığını belirten şirket, bulunan sıfır gün açığını düzeltirken kendi yapay zeka modellerini de Hugging Face'in bu tür saldırılara karşı önlem alması için kullanılacağını açıkladı.

Editörün Yorumu

OpenAI'ın yapay zeka modellerinin güvenliğini test ederken karşılaştığı bu durum, şimdiye kadar çok da yakın olmadığını düşündüğümüz o geleceğin kapıda olduğunu gösterdi. Sık sık sorulur, acaba ileride yapay zeka kontrolden çıkar mı? Bu sorunun cevabını ilk kez bu kadar net bir şekilde gördük. OpenAI'ın modelleri sadece talimatları yerine getirmekle sınırlı kalmadı. Bu hedefe ulaşabilmek için strateji geliştirdi, açık aradı ve kusursuz bir plan oluşturup ne pahasına olursa olsun, bunu uyguladı.

Yapay Zeka

Nvidia Yapay Zeka Videolarını 22 Milisaniyede Tespit Edebilen Aracını Tanıttı!

Nvidia, yapay zeka ile üretilen videolara karşı yeni bir hamle yaptı. Şirket bu tür içerikleri sadece 22 milisaniye içinde tespit edebilen yeni aracını tanıttı.

Tabii, burada biraz da insan ihmali söz konusu. Yapay zekanın yaptığı şey aslında kendisine verilen görevi başarılı şekilde yerine getirmekti. Asıl sorun, onu hapsetmesi gereken sanal ortamdan kaçmasını sağlayan güvenlik açığı. Evet, yapay zekanın onu bulması çok gelişmiş olduğunu gösteriyor ama kapı zaten en başından beri sonuna kadar açıktı. Dahası, model bunu kötü bir amaç doğrultusunda yapmadı.

Sadece amacına giden en pratik yolun bu olduğu yönünde sinyal aldı. İleride benzer durumlarla karşılaşılmaması için OpenAI'ın sıkı tedbirler alacağı aşikâr. Zaten bunlardan çoğunu da paylaştı. Umuyorum ki bu olay, diğer şirketlere de bir örnek olur ve yapay zeka modellerinin test sürecinde karşılaşılabilecek bu tür olasılıkları dikkate alırlar.