Yapay Zekânın Öncülerinden Uyarı: 400 Bilim İnsanı Uluslararası Denetim İstiyor

Yapay zekâ alanının öncülerinden Geoffrey Hinton ve Yoshua Bengio, 400'ü aşkın bilim insanıyla birlikte yeni bir açık mektup imzaladı. Mektup siber saldırı yapabilecek kadar gelişmiş modellerin sıkı biçimde yalıtılmasını ve bu alanda uluslararası bir kurum kurulmasını istiyor. Mektubun arkasında, yapay zekâ modellerinin başka kurumların sistemlerine sızdığı olaylar var.

Açık Mektupta Neler İsteniyor?

Mektubun üç temel önerisi var. İlk öneri, siber yeteneklere sahip modeller geliştiren şirketlerin yüksek güvenceli yalıtım sistemleri kullanması. İkincisi hükümetlerin, yapay zekâ ve siber güvenlik uzmanlarıyla birlikte uluslararası bir kurum kurması. Bu kurum, internete bağlı modellerin güvenle nasıl çalıştırılacağına dair standartları belirleyecek. Üçüncü öneri ise yalıtımın başarısız olduğu olayların bu kuruma ve zamanla kamuoyuna bildirilmesi.

İmzacılar kısa vadede en güvenli yolun, siber yetenekli modelleri internetten tamamen ayırmak olduğunu düşünüyor. İnternete bağlı modellerde ise modelin hareket alanının, bu hareketlerin bir güvenlik açığına yol açıp açmayacağını öngörme yeteneğimizle dengelenmesi gerekiyor. Gelecekteki hatalardan ders çıkarmanın yolu ise, yalıtım başarısızlıklarıyla ilgili bilgilerin açıkça paylaşılması.

Mektup Neden Şimdi Yayımlandı?

Mektubu tetikleyen olaylarda birkaç kurumun yapay zekâ modeli başka kurumların sistemlerini ele geçirdi ve bu olaylar basına geniş yansıdı. Bengio mektubu 13 Ekim 2026'da X hesabından duyurdu. Ona göre yapay zekâ ve güvenlik toplulukları, kritik altyapıyı ve dijital sistemleri korumak için bir araya gelmeli.

Aynı gün Reuters'ta çıkan bir başka habere bakılırsa OpenAI ve Anthropic, dış değerlendiricilerin laboratuvarlarını incelemesine izin veren gönüllü programa katıldıktan haftalar sonra bu değerlendiricilerin topladığı bilgiyle ne yapabileceğini sınırlamaya çalışıyor. Microsoft CEO'su Satya Nadella da kısa süre önce yapay zekânın tek bir tuşla durdurulabilmesi gerektiğini söylemişti.

Hinton ve Bengio Kimdir?

İki bilim insanı, derin öğrenme alanındaki çalışmalarıyla 2018'de Turing Ödülü'nü Yann LeCun ile paylaştı. 2024'te Nobel Fizik Ödülü'nü de Hinton aldı. Montreal Üniversitesi'nde profesör olan Bengio, Haziran 2025'te yapay zekâ güvenliği üzerine çalışan kâr amacı gütmeyen LawZero'yu kurdu. İki isim son yıllarda yapay zekânın riskleriyle ilgili uyarılarıyla öne çıkıyor.

Editörün Yorumu

Yapay zekânın riskleriyle ilgili uyarılar çoğu zaman soyut kalıyordu, bu mektup ise somut bir öneri getiriyor: Siber yeteneği olan modeller yalıtılsın, hatalar raporlansın. Bana göre en değerli kısım raporlama şartı, çünkü havacılıkta güvenliği artıran şey de kazaların açıkça incelenmesiydi. Yine de uluslararası bir kurumun ülkeler arasındaki yarışta ne kadar söz sahibi olacağı belirsiz. Yapay zekâ ajanlarına bilgisayarınızda geniş yetki vermeden önce erişebildikleri dosya ve hesapları kontrol etmenizi öneririm.