Yapay zeka gün geçtikçe hayatımızın her alanına girerken, en hassas noktamız olan sağlık konusunda ne kadar güvenilir olduğu tartışmaları da beraberinde geliyor. Son olarak Google'ın arama sonuçlarının en tepesinde sunduğu yapay zeka özetleri de bu tartışmalardan nasibini aldı.
Yapılan araştırmalara göre yeni yapay zeka özetleri tıbbi sorgularda kullanıcılara zaman zaman yanlış veya kesin olmayan bilgiler sunuyordu. Google bunun üzerine yeni aracını sağlık alanında yapılan aramalar kapsamında kaldırdı. İşte detaylar!
Yapay Zeka Özetleri Sağlık Alanında Kullanıcıları Yanıltıyor mu?
Olayın fitilini ateşleyen gelişme The Guardian gazetesinin yaptığı kapsamlı bir inceleme oldu. Gazetenin paylaştığı raporlara göre kullanıcılar Google'a "karaciğer kan testleri için normal değerler nedir?" gibi sorular sorduğunda yapay zeka oldukça genel geçer sayılar sunuyordu.
Ancak tıbbi gerçekler bu kadar basit değil. Yapay zekanın sunduğu veriler yaş, cinsiyet, etnik köken veya diğer demografik faktörleri hesaba katmıyordu. Bu sebeple özetler hasta olan bir kişinin sonuçlarını normal sanmasına ya da sağlıklı birinin panik yapmasına neden olabiliyordu.
Raporun yayınlanmasının ardından hızla harekete geçen Google, özellikle sağlık ile ilgili aramalarda yapay zeka özetlerini kaldırma kararı aldı. Bu gelişme ile birlikte artık "karaciğer fonksiyon testi normal aralığı" gibi aramalar yapıldığında yapay zeka özetleri görüntülenemiyor. Her ne kadar "LFT referans aralığı" gibi benzer aramalarda yapay zeka bazen devreye girse de sistemin büyük ölçüde temizlendiği görülüyor.
Özetler Hala Geliştirme Aşamasında
Google cephesinden konuyla ilgili ilk resmi açıklama geldi. Şirket sözcüsü yapay zeka özetlerinde geniş kapsamlı iyileştirme çalışmalarının devam ettiğini açıkladı.
Eleştirilere de yanıt veren şirket, bünyesindeki doktorlardan oluşan özel bir ekibin sorguları incelediğini aktardı. Dahası şirket özetlerde yanlış olduğu iddia edilen bilgilerin büyük bir kısmı aslında hatalı olmadığını, aksine saygın web sitelerinden alıntılanmış doğru veriler olduğunu ifade ediyor.
Peki siz bu konu hakkında ne düşünüyorsunuz? Sizce sağlık konularında yapay zekaya güvenmeli miyiz? Yorumlarda buluşalım.