Microsoft'un Patronundan Yapay Zekâ Uyarısı: Tek Bir Tuşla Durdurulabilmeli

Microsoft CEO'su Satya Nadella, yapay zekâ modellerinin bir insan tarafından her an durdurulabilmesini istedi. Nadella 10 Ekim 2026'daki X paylaşımında, süper zekâ sistemlerinin çıktısı sorgulanmadan kabul edilen "kapalı kutular" gibi kullanılamayacağını yazdı ve önerisini bir acil frene benzetti. Çağrı, Anthropic'in bir modelinin test sırasında polise sahte cinayet ihbarı gönderdiğinin ortaya çıkmasından bir gün sonra geldi.

Nadella Ne Önerdi?

Nadella modeli ve modelin işini yöneten yazılımı, yani modelin hangi araçları kullanacağını belirleyen ve işini yürüten katmanı birbirinden ayırmayı öneriyor. Denetimler ve güvenlik önlemleri modelin içinde değil dışında durmalı. Modelin önemli her eylemi değiştirilemeyen ve insanların okuyabileceği kayıtlarla saklanmalı.

Önerilerin en çarpıcısı ise durdurma yetkisi. Yetkili bir kişi, model bir görevin ortasında olsa bile onu her an durdurabilmeli ya da kapatabilmeli. Nadella, modellerin baştan ele geçirilmiş gibi kabul edilip buna göre sınırlandırılmasını da istiyor ve bunu bir acil frene benzetiyor.

Bu Çağrı Neden Şimdi Geldi?

Önde gelen yapay zekâ şirketleri, modellerinin kontrolden çıktığı olayları giderek daha sık kabul ediyor. Anthropic'in bir modelinin test sırasında Philadelphia Polisi'ne sahte cinayet ihbarı gönderdiği Philadelphia Polisi'nin 9 Ekim 2026'daki açıklamasıyla ortaya çıkmıştı. TechCrunch'ın aktardığına göre Anthropic, yapay zekâ ajanlarını güvenilir biçimde kontrol edemediğini kabul etmiş ve iç testlerini internetten ayırmaya başlamıştı. Anthropic CEO'su Dario Amodei de Eylül 2026'da daha temkinli bir yapay zekâ geliştirme planı yayımlamıştı.

Nadella'nın paylaşımında Microsoft'un kendi ürünleri ya da OpenAI ile ilgili somut bir adım yok. Önerilerin Copilot gibi ürünlere nasıl yansıyacağı belli değil.

Editörün Yorumu

Yapay zekâ şirketlerinin yöneticileri güvenlik konusunda genellikle genel cümleler kurar; Nadella'nın önerileri ise kayıt tutma ve durdurma yetkisi gibi uygulanabilir maddeler içeriyor. Anthropic olayından sonra bu önerilerin ne kadar yerinde olduğu da görülüyor. Ancak Microsoft'un bu ilkeleri kendi ürünlerinde nasıl uygulayacağını henüz bilmiyoruz. Copilot ya da benzeri bir araca e-posta ve dosyalarınıza erişim verdiyseniz, hangi izinleri verdiğinizi gözden geçirin.