Yapay Zeka Halüsinasyon Görebiliyor

Yapay Zeka halüsinasyon

Dünyanın en iyi üniversitelerinden Massachussetts Institute of Technology (MIT) ve Berkeley’de yapay zeka üzerinde araştırmalar yapmaya devam eden bir grup bilim insanı, yapay zekaların halüsinasyon görebildiklerini ortaya çıkardı.

The Wire isimli internet sitesinin, Massachussetts Institute of Technology (MIT) bünyesinde çalışmalarını sürdüren Anish Athalye ve Berkeley’den Nicholas Carlini ile David Wagner tarafından yazılan makaleden derlediği bilgilerle oluşturduğu haberde, yapay zekaların sanrı görebildikleri bilgisi yer aldı. 

Google, Amazon ve diğer büyük teknoloji şirketleri tarafından üretilen yapay zekaların denendiği araştırmada, imaj, ses ve metinlerde yapılan küçük oynamalar sonucunda yapay zekaların aslında var olmayan şeyleri görmeye başladıkları belirlendi.

Yapılan deneyler sırasında hemen yukarıda gördüğünüz kayak yapan iki insan fotoğrafında küçük değişikliklere gidildi. Değişikliğin ardından Google tarafından geliştirilen Cloud Vision, fotoğrafta yüzde 91 oranında bir köpek yer aldığı bilgisini elde ederken, yüzde 87 oranında köpek benzeri bir memelinin olduğunu iddia etti. Çalışmada benzer türde değişiklikler 'Dur' işaretinin görünmez hale gelmesine ya da seslerin söylenenlerden tamamen farklı algılanmasına yol açtı.

Araştırmacılar yapay zekaların çok küçük oynamalarla kandırılabildiklerini gördükleri deneyler sonucunda, yapay zeka destekli sürüş sistemlerinin büyük tehlikede olduğunu belirttiler. Sürücüsüz olarak hareket eden arabaların, yanlış algılama sonucunda kazalara ve ölümlere sebep olabileceklerini kaydeden bilim insanları, kötü düşünceli insanlar tarafından yapay zekaların halisünasyon yoluyla sabotaja uğrayabileceklerini aktardılar.

 

YORUMLAR