Anthropic CEO'su Dario Amodei, yapay zekanın çalışma şekline dair ilginç bir itirafta bulundu: "Nasıl çalıştığını bilmiyoruz."
Aslında bu itiraf günümüz yapay zeka şirketlerinin sıkça dile getirmesi gereken bir konu olmasına karşılık hiçbir şirketin böyle bir yorum yaptığını görmüyoruz. Zira yapay zeka (AI) hızla gelişiyor, hayatımıza daha fazla nüfuz ediyor. Ama bu sistemlerin nasıl işlediğini hâlâ çözememiş olmamız Amodei'ye göre büyük bir risk.
CEO, paylaştığı blog yazısında şöyle diyor:
Bir yapay zeka modeli bir finansal belgeyi özetlediğinde, hangi kelimeyi neden seçtiğini ya da neden bazı hatalar yaptığını spesifik olarak anlayamıyoruz. Oysa güçlü yapay zekalar insanlığın kaderini şekillendirecek. O halde hayatımızı dönüştürmeden önce onları anlamamız lazım.
Amodei, geliştiricilerin bile modellerin karar alma süreçlerini çözemediğini açıkça söyledi. Ve bu durumun teknoloji tarihindeki neredeyse hiçbir gelişmede görülmemiş bir bilinmezlik olduğunun altını çizdi.
Anthropic, Yapay Zekaya Beyin Taraması Yapacak
Amodei, kişisel sitesinde yayımladığı yazıda oldukça iddialı bir plan paylaştı. Önümüzdeki on yıl içinde yapay zekanın iç işleyişini adeta bir "beyin taraması" gibi çözümleyebilecek bir sistem kurmak istiyor. Amaç, yapay zekanın neyi neden yaptığını anlayabilmek ve potansiyel tehlikeleri önceden görebilmek olacak.
Yapay zeka sistemleri ilkelerle değil istatistikleri baz alarak çalışırlar. Onlara milyarlarca veri yükleniyor ve sistemler bu verilerden anlam çıkarıyor. Neyi neye göre baz alıyorlar bunları bilmiyor oluşumuz bugünün Anthropic'inin var oluş sebebiymiş.
Dario ve kız kardeşi Daniela Amodei, 2020 sonunda tam da bu sebepten ötürü OpenAI'dan ayrılma kararı aldı. OpenAI'ın güvenlikten çok kâr odaklı hareket ettiğini düşünen ekip, ertesi yıl Anthropic'i kurdu.
Foto: Dario & Daniela Amodie
O günden beri sadece daha güçlü değil, daha güvenli yapay zeka üretmenin yollarını arıyorlar. Amodei açıkça işin daha başlangıç aşamasında olduğunu belirtti ancak peşini bırakmayacağının da altını çizdi.