Yapay Zekayı Durdurmayı Amaçlayan "Zehirli Çeşme" Harekatı Başladı

Yapay zeka endüstrisinde çalışan bir grup insan, insanlık için tehdit oluşturduğuna inandıkları bu teknolojiye karşı harekete geçti. Zehirli Çeşme anlamına gelen Poison Fountain adında birproje başlatan bu kimliği belirsiz kişiler, AI teknolojisini zehirleyerek gelişimine engel olmayı hedefliyor.

Poison Fountain, Yapay Zeka Modellerini Zehirlemek İstiyor

Yapay zeka teknolojileri adeta bir salgın gibi yayılıyor. Öyle ki günümüzde A'dan Z'ye neredeyse her ürün ve hizmette AI özelliklerine rastlamak mümkün. Ancak bu teknoloji insanlık için bir tehdit de oluşturuyor.

Şu anda bile işsizlik, çevre kirliliği, ekonomik istikrarsızlık gibi sorunlara neden olan yapay zeka, gelecekte insan kontrolünden çıkma riski barındıran bir teknoloji. Poison Fountain projesi de tam olarak bunu durdurmak istiyor.

Üstelik bunu yapan insanlar kendi çıkarlarını düşünen kişiler değil. Aksine proje, yapay zeka endüstrisinde çalışan ve OpenAI ile Google gibi dev şirketlerde doğrudan görev alan insanlar tarafından başlatıldı.

Bu insanlar bizim henüz adını bile duymadığımız geliştirme aşamasındaki yapay zeka projelerini görüyorlar ve gördükleri şeyler onları böylesine radikal bir yola itecek kadar rahatsız edici. Düşününce bu oldukça korkutucu. 

MOBİL

24 GB RAM'li Oyun Telefonu İçin Tarih Verildi! 120W Hızlı Şarja Sahip

RedMagic 11 Air'in tanıtım tarihi açıklandı. Peki, 24 GB RAM'e sahip amiral gemisi telefonu ne zaman tanıtılacak? İşte merak edilen sorunun yanıtı!

Yapay Zeka Nasıl Zehirlenir?

Peki yapay zekayı zehirlemek tam olarak olarak ne demek? Elbette ki buradaki "zehir" gerçek bir madde değil. Yapay zeka, bildiği şeyleri öğrenmek için sürekli internetteki bilgileri tarayan bir teknoloji. Örneğin tıpkı şu an sizin yaptığınız gibi yapay zeka da Tamindir'e giriyor ve okuduğu bilgileri öğreniyor.

Poison Fountain ise tam olarak bu aç gözlülüğü kullanmak istiyor. Proje kapsamında önce kasıtlı olarak bozuk hatalı bilgiler yani zehir üretiliyor. Bu zehir kolay fark edilemeyecek bir mantık hatası içeren bir kod ya da yanlış bir bilgiler gibi kasıtlı hatalardan oluşuyor.

Daha sonra bu zehir farklı internet sitelerine ekleniyor ve yapay zekanın gelip onu içmesi bekleniyor. Poison Fountain ekibi, internetteki diğer web sitesi sahiplerinden de bu zehirli içeriğe link vermelerini istiyorlar ki zehir daha hızlı yayılsın.

Bu yanlış bilgi zaman içinde yapay zeka modelinin hatalar yapmasına, güvenilmez olmasına ve gelişiminin tıkanmasına neden oluyor. Yeterince zehir verildiğinde ise "model çöküşü" denen bir sürecin tetiklenme ihtimali bulunuyor. Poison Fountain'ın başarılı olup olmayacağı ise şimdilik belirsiz.