Robot İstilasına Doğru Adım Adım Yaklaşıyor muyuz?

Robot İstilasına Doğru Adım Adım Yaklaşıyor muyuz?

Hemen herkes 1984 yılında gösterime giren Terminatör filmini hatırlar. Microsoft laboratuvarlarının yeni güvenlik ve korunma planları için yapılan çalışmalar da insanlığı aynı dehşete düşürmeye yetecek gibi görünüyor.

Hayır, henüz Skynet kadar kararlı, insanlığı tamamen düşman bellemiş ve onu yok etmeye odaklı sistemlerden bahsetmiyoruz. Ancak yapay zeka çalışmalarının insan hüküm ve karar mekanizması ile yer değiştirilmesi düşünülen noktalar oldukça ürkücü duruyor. 

Özellikle büyük şirketlerin güvenlik önlemlerinin otomasyonunda robotlar ve yapay zeka ile karar veren otonom sistemler çok tercih ediliyor. Bu şirketlerden biri de Microsoft. Şirketlerin tercih ettiği kendi kendine hareket edebilen, güvenlik protokollerine karar verebilen robotlar sonun başlangıcı olabilir mi?

Madalyonun iki yüzü

Bu noktada insanlık ikiye ayrılıyor. Bir taraf güvenlik için artık insan gücünün ve hayatının tehlikeye atılmaması gerektiğini savunurken, diğer yandan robotların güvenlik kararları alırken hiç de insaflı davranmayacağını masumların da tehlikede olabileceğini savunuyor. Bu noktada Robocop filmini düşünmeden edemiyoruz.

Memur Alex j. Murphy (Robocop) kendisine uygulanan yapay zeka ile koşullanmış güvenlik protokolleri ve insan vicdanı arasında bir gelgit yaşıyordu. Sonunda insan vicdanının galip geldiği küçük hikayenin en önemli detayı Murphy’nin zaten insanlık kırıntılarını hala barındırabilen bir zihni olmasıydı. Ancak bahsettiğimiz durum Robocop filminden çok farklı. 

Vicdan olmadan hüküm vermek etik olabilir mi?

Burada makinelere karşı gelebilecek bir vicdan unsuru yok. Bir kere çalıştırdığınızda protokoller uygulanmaya başlayacak ve tüm şarj süreleri boyunca da uygulanmaya devam edecek. Yeni uygulamalarda kullanılan bazı güvenlik robotları birbirlerini şarj olabilmek için değiştirip nöbet devir alabiliyor ve sadece 20 dakikada 24 saatlik bir şarj gücüne sahip olabiliyorlar.  Bu durum aralıksız devam eden ve görevi birbirine aktarabilen bir güvenlik gücü anlamına da geliyor.

Güvenlik protokolleri makineler tarafından yorumlanmayacağından, protokollerin kesin ve net olmaları sebebiyle, tehdit olarak algılanması muhtemel her hareketin güvenlik robotları tarafından sorgusuz sualsiz bertaraf edilecek. İşte özellikle bu nokta düşündürüyor. Elektronik sensörler, kızıl ötesi kameralarla donatılmış ve silahlı bu makinaların karar verme ve uygulama arasında her hangi bir hüküm boşluğu yok. Sadece infaza odaklı olabiliyorlar. 

Erdem ve vicdan sorunsalı

Gündem bu güvenlik sistemlerinin “erdem” sorunu yaşayacağının gün gibi ortada olduğunu tartışıyor. Güvenlik protokolleri tıpkı Robocop ya da Terminatör örneklerinde olduğu gibi komutlardan oluşuyor. Arada yumuşak geçişler ya da alternatif hükümler bulunmuyor. Bu durum herkese uygulanabilecek olan güvenliğin tarafsız kararlarla desteklenebileceği anlamına gelebilir. Belki de adalet tarafsız kalmalıdır ama bunun bir kademesi, derecesi olması gerekiyor. 

Ancak suçun kademeleri ve ceza yöntemleri arasında belli farklılıklar uygulanması yolunda insani kolluk kuvvetleri ile arasında çok büyük farklar oluşabiliyor.  Güvenlik robotu soru sormuyor, onun görevi bölgede tehdit olarak görülmesi muhtemel tüm olasılıkları bir veri tabanından karşılaştırarak buna karşı önlem almak. Çok yakın zamanda hiçbir güvenlik robotunun “dur, ne yapıyorsun orada, açıkla” gibi bir muhabbete girmesini beklemiyoruz ancak esas problem; bu soruların direk infaza dönüşmesi paranoyasının çoktan yayılmış olması.

  1. Robot İstilasına Doğru Adım Adım Yaklaşıyor muyuz?
  2. Robot Güvenlik sistemlerinin 100 Yılllık Sinema Macerası

YORUMLAR