Tamamen Kötü Amaçlar İçin Yapay Zeka Üretildi: ChaosGPT

Süper kahramanlardan bildiğimiz Flash ile Reverse Flash gibi ChatGPT'nin de tam zıttı olması için üretilen ChaosGPT adlı yapay zekâ için işler pek de beklendiği gibi gitmedi.

Pek çok kişi insan zekâsını ve karar verme yeteneklerini aşma potansiyeli nedeniyle yapay zekânın insanlık için tehlikeli olduğuna inanıyor. İnsanlardan daha zeki yapay zekâ sistemleri yaratırsak, bunların bizim çıkarlarımıza aykırı hareket edebileceği ve hatta hayatta kalmamız için bir tehdit hâline gelebileceği endişesi her daim var. Ayrıca yapay zekânın ön yargılı veya etik olmayan değerlerle programlanarak zararlı eylemlere veya ayrımcılığa yol açma riski de bulunmakta.

Tüm bu faktörler, yapay zekânın insanlık için tehlikeli olma potansiyeline sahip olduğu inancına katkıda bulunuyor. Bu amaçla bir yazılımcı, popüler dil modeli ChatGPT'ye referans olarak ChaosGPT adında bir yapay zekâ programı yarattı.

ChaosGPT Beklenen "Kaos"u Yaratamadı

ChaosGPT, ChatGPT'ye benzer bir yapay zekâ modeli tasarlama girişimi olarak ortaya çıktı ve otonom yapay zekânın potansiyel tehlikesi hakkında endişeleri artırdı. İnsanlığı yok etmek, ölümsüzlüğe ulaşmak ve küresel hakimiyet kurmak amacıyla tasarlanan ChaosGPT, nükleer silahlar temin etmeye ve Twitter'da amacına destek toplamaya çalıştı. Proje, ChatGPT ve Bard gibi kapalı kaynak programları da dâhil olmak üzere diğer yapay zekâ programlarının benzer komutlarla nasıl başa çıkabileceği konusunda fikir veriyor.

ChaosGPT'nin internette gezinme, dosya okuma/yazma işlemleri, diğer GPT yapay zekâlarına iletişim ve kod yürütmeden oluşan bir saldırı planı olsa da dünyayı sona erdiren büyük bir atılım yapamadı. Görevleri diğer bir GPT 3.5 yapay zekâya devretmeye çalıştığında karşı savunma ile karşılaştı ve çabalarında başarısız oldu. Bu deney endişe verici olsa da bunun nedeni yapay zekânın başarabildiklerinden ziyade arkasındaki insan motivasyonlarından ibaret.

Uzmanların üçte birinin yapay zekânın "nükleer düzeyde" bir felakete neden olabileceğine inandığı bu deney, yapay zekâ teknolojisinin geliştirilmesinde dikkatli olunması ve etik hususlara dikkat edilmesi gerektiğini vurguluyor. ChaosGPT yetersiz kalmış olsa da otonom yapay zekâların insan çıkarlarına karşı hareket etme potansiyeli, ileriye dönük olarak ele alınması gereken gerçek bir endişe kaynağı olmaya devam ediyor.