Anthropic Çalışanı: Yapay Zekanın İnsanlığı Yok Etme İhtimali %10'dan Fazla

Anthropic bünyesinde yapay zeka güvenliği üzerine çalışan araştırmacılardan Evan Hubinger, yapay zeka ile ilgili çarpıcı bir açıklamada bulundu. Bilmeyenler için Anthropic, özellikle kodlama ve siber güvenlik konusunda oldukça gelişmiş modellere sahip bir şirket ve bu nedenle Hubinger tarafından yapılan açıklama da oldukça önemli.

Hubinger, çok da uzak olmayan bir gelecekte yapay zekanın insanlığı yok etme ihtimalinin yüzde 10'dan yüksek olduğunu ifade etti. Tabii, şu anki modeller özelinde böyle bir yorumda bulunmadı. Daha kapsamlı bir perspektiften durumları ele alan araştırmacı, bunun yaşanıp yaşanmayacağını belirli kriterlerin karşılanmasına bağlı olduğuna işaret etti.

Yapay Zeka Ne Zaman İnsanlık İçin Tehlike Oluşturabilir?

Mevcut yapay zeka modelleri gerçekten oldukça gelişmiş durumda. Hiç bilmediğiniz bir programlama dilini size öğretebileceği gibi, dilerseniz hiç fikriniz olmamasına rağmen size sıfırdan oyun, uygulama ve web sitesi tasarlama konusunda da yardımcı olabilir. Tabii, bunların önemli bir kısmı için ChatGPT gibi yapay zeka destekli sohbet botlarının ötesine geçip agent odaklı çalışmak gerekiyor.

Bunu yapsanız dahi yapay zekanın en azından şu anki çalışma biçimiyle insanlık için bir risk oluşturması mümkün değil. Hubinger, yapay zekanın insanlığa tehdit oluşturmaya başlamasının ancak kendi yeteneklerini hızla geliştirmeye başlaması hâlinde gerçekleşebileceğini söylüyor.

Henüz AGI yani insan seviyesinde kapasiteye ulaşılamadı. Bu, yapay zeka alanında asıl dönüm noktası olacak. Şimdilik ulaşılması pek mümkün görünmüyor ama bu teknolojinin ne zaman ortaya çıkacağı da belirsiz. Yarın da olabilir, öbür gün de olabilir. Hatta hiç bu seviyeye ulaşılamama ihtimali de var. Eğer sonuncu yerine daha olumlu bir tablo ortaya çıkarsa bundan sonraki hedef insan üstü yeteneğe sahip yapay zeka olur.

Hubinger, işte tam da bu seviyede bir zekadan endişeleniyor. Bunun varoluşsal bir tehdide dönebileceğini değerlendiriyor. Tabii, önümüzde oldukça uzun bir yol var. Kendisi bunun 10 yıl içinde yaşanabilecek büyük dönüşümle mümkün olabileceğini düşünüyor ama belirli bir noktadan sonra duraklama dönemine girilmesi de ihtimaller dahilinde.

Yapay Zekayı Asıl Tehlikeli Yapacak Sorun Nedir?

Yapay zekanın asıl tehdit oluşturabileceği senaryo, güvenlik sorunları ile dolu modellerin yayınlanmasını içeriyor. Örneğin AISI'ın (Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü), Anthropic'in en yeni modeline erişemediği yönünde iddialar var. Bu enstitü, gelişmiş yapay zeka modellerinin güvenlik açısından risklerini bağımsız şekilde değerlendirmeye odaklanıyor.

Eğer gelişmiş bir model yeterince bağımsız güvenlik testinden geçmezse yapay zekanın kötüye kullanımı da mümkün hâle gelebilir. Sahip olduğu yetenekler kötüye kullanılarak çeşitli sistemlere sızılabilir. Örneğin hastanelerdeki işler sırf bu yüzden aksamaya başlayabilir ki yapay zeka kullanılmadan gerçekleştirilen saldırılarda zaten bunun ne kadar büyük problem olabileceği görüldü.

Editörün Yorumu

Yapay zeka şu an olduğu seviyede kalmayacak, bu bir gerçek ama felaket senaryoları üzerinde düşünmek için şu anlık erken. Dünya genelinde çok sayıda şirket şu an AGI seviyesine ulaşmanın peşinde. Bizi düşündürmeye başlayacak olan nokta da burası olacak. Bir kere bu seviyeye gelindikten sonra geri dönüşü olmayacak. Dahası, şirketler de durmayıp daha da üzerine katacak.