OpenAI'ın ChatGPT'sinin en büyük rakiplerinden biri olan Anthropic'in Claude modeli, Claude 4 Opus serisiyle görücüye çıktı. Diğerlerinden farklı olarak test ortamında bu modele başına buyruk davranışlar sergileyebilmesi için yetki tanımlandı. Claude 4, bu yetkiyi suçluları adalete teslim etmek için kullanabiliyor.
Örneğin bir kullanıcı; yapay zekayı sahte pasaport tasarlamak için kullanmaya çalışırsa Claude hemen sistem komut satırını kullanıyor ve gerekli mecralara, hatta basına bile haber gönderiyor. Gerekli durumlarda kullanıcıların erişimini de engelliyor.
Suç İşlemeyenleri İhbar Eder mi Endişesi
Kimsenin durduk yere panik olmasına gerek yok. Zira bu senaryo, olabilecek en kötü senaryo olarak planlanmış. Yapay zeka botunu normal bir şekilde işlerinde kullanmak isteyenlerin karşı karşıya kalacağı bir durum olmayacak.
Bu özellik daha önceki Claude sürümlerinde de zaman zaman görülmüştü ama Claude 4'te bu davranışın ortaya çıkma ihtimali çok daha yüksek.
X (eski Twitter) platformunda Claude üzerine çalışan Anthropic araştırmacısı Sam Bowman daha önceden "Eğer Claude kullanarak etik veya yasa dışı bir şey yapmaya kalkarsanız sizi anında ihbar eder" şeklinde bir tweet'i olmuştu ancak sonradan bu tweet silindi.
Sosyal Medyada Tepkiler Büyüdü
Her yapay zeka güncellemesinde olduğu gibi bunda da tepkiler sosyal medyada paylaşıldı. Ancak burada durum, diğerlerine göre çok daha hassastı. Claude'un bu davranışlarını oldukça tehlikeli bulanlar oldu. Kullanıcılar, yapay zekanın hatalı bir karar vermesi durumunda insanların başını durduk yere belaya sokabileceğini savundu.
Bu senaryo bir test ortamında gerçekleştirildi. Claude'un sisteminde, gerektiğinde kullanıcıyı ihbar etmesini sağlayacak yetkiler bulunuyor. Yapay zekanın test ortamında bile agresif bir şekilde ihbarda bulunmaya çalışması, haklı olarak endişelere sebep oldu.
Claude 4 Opus test sürümünden çıktığında bu özellik yerinde kalacak mı yoksa tartışmaları haklı bulan yetkililerin inisiyatifince kaldırılacak mı ilerleyen günlerde göreceğiz. Siz ne dersiniz? Yorumlarda buluşalım.