Eski Diye Bir Kenara Atmayın: 13 Yıllık PS4'te Yapay Zeka Çalıştırıldı

Bir geliştirici, 13 yıllık PlayStation 4'te Qwen3.5-9B yapay zeka modelini çalıştırmayı başardı. Hız için pratik düşünerek etkili yöntemler geliştirdi.

Akıllı Özetleme Bu içeriği saniyeler içinde ChatGPT ile özetleyin.

⚡ Önemli Bilgiler

  • PlayStation 4'te 9 milyar parametreli bir yapay zeka modeli çalıştırıldı.
  • Projenin arkasındaki geliştirici, oyun konsolunun eski donanımı dolayısıyla modelin boyutunu 4,5 GB'a düşürdü.
  • Başlangıçta saniyede yaklaşık 22 token (yapay zekanın girdiyi işlemek için böldüğü en küçük hece parçaları) üretiyordu. Geliştiricinin uyguladığı yöntem sayesinde 31 ila 39 token'a ulaşıldı.

PlayStation 4'ün (PS4) piyasaya sürülmesinden bu yana çok uzun zaman geçti. İlk olarak 2023 yılında oyuncularla buluşan oyun konsolu, aradan geçen onca yıla rağmen hâlâ bazıları tarafından değerlendiriliyor. Tabii, herkesin değerlendirme şekli aynı değil. Bir kullanıcı, PS4'te Qwen3.5-9B modelini çalıştırdı.

PS4 Üzerinde Nasıl Yapay Zeka Çalıştırıldı?

Leonardo Alegria isimli bir geliştirici, 2013'te piyasaya sürülen PlayStation 4'te 9 milyar parametreli bir yapay zeka modeli çalıştırmayı başardı. Sorun şu ki bu konsol hiçbir zaman yapay zeka ile ilgili işlemler gerçekleştirmeyi kolaylaştıracak hazır araçlar için tasarlanmadı. Alegria da sadece oyun çalıştırmaya odaklanan bu makine için standart sürücüleri tamamen devreden çıkarıp donanımla doğrudan etkileşime geçmeyi sağlayacak bir yöntem geliştirdi.

Konsolda 8 GB RAM mevcut. Hem işlemci hem grafik birimi bu alanı ortak kullanıyor. Qwen3.5-9B gibi bir modeli çalıştırmak bu nedenle oldukça zor. Projenin arkasındaki isim, tam da bu nedenle model üzerinde önemli bir değişikliğe gitti ve modelin boyutunu sıkıştırma yöntemiyle yaklaşık 4,5 GB'a düşürdü. Bu yöntem sayesinde yapay zekanın tek seferde hatırlayabildiği veri parçasını ifade eden bağlam penceresi de yaklaşık 16 bin token (yapay zekanın metni işlerken böldüğü en küçük kelime veya hece parçaları) ulaştı.

Qwen3.5-9B'nin PS4'te Hızlı Çalışması İçin Neler Yapıldı?

İlk başta yapay zeka yanıt üretirken saniyede yaklaşık 22 token üretebiliyordu. Geliştirici de buna çözüm olarak yapay zekanın bir sonraki kelimeyi beklemek yerine sıradaki iki kelimeyi önceden tahmin edip tek seferde kontrol etmesini sağlayan bir yöntem devreye aldı. Geliştirici, bununla birlikte hızın saniyede 31 ile 39 token'a ulaştığını belirtti. Hatta kod yazarken saniyede 43 token'ın bile görüldüğünü ifade etti.

Aylık Ücretsiz Oyunlar Sunan PS Plus Aboneliklerinde İndirim Başladı
OYUN

Aylık Ücretsiz Oyunlar Sunan PS Plus Aboneliklerinde İndirim Başladı

Sony, aylık ödeme yapmakla uğraşmak istemeyenler için önemli bir fırsat başlattı. Tüm PS Plus aboneliklerinin 1 yıllık sürümlerinde indirime gidildi.

Editörün Yorumu

Doğrusunu söylemek gerekirse, 9 milyar parametreli bir model, kapsamlı kodlama işleri için çok uygun sayılmaz. Ayrıca hafızası konusunda da sınırlı. Açıkçası eski cihazları bu gibi farklı işlerde kullanma fikrini ben de seviyorum ancak günün sonunda baktığımızda söz konusu yöntemler sadece deneysel bir iş olarak kalıyor. Yine de 2013 yılında sadece oyun oynatması için üretilen bir konsolun aradan geçen bunca yılın ardından böylesine önemli bir işte kullanılabilmesi takdire şayan.

Tamindir'i Google'da takip et Tamindir'i Google'da takip et

Teknoloji Editörü

Anıl Özünaldım, 2019’dan bu yana teknoloji yayıncılığı alanında içerik üreten deneyimli bir editördür. Hatay Mustafa Kemal Üniversitesi ve Anadolu Üniversitesi’nde Basın-Yayıncılık ile Halkla İlişkiler eğitimi alan Özünaldım, iletişim alanındaki akademik birikimini teknoloji dünyasına duyduğu ilgiyle birleştiriyor. Başta akıllı telefonlar ve mobil teknolojiler olmak üzere bilgisayar donımları, oyunlar ve tüketici elektroniği üzerine içerikler hazırlıyor. Yeni çıkan cihazların teknik özelliklerini, performansını, fiyatlandırmasını ve günlük kullanımda sunduğu avantajları yakından takip ediyor. Telefon karşılaştırmaları, satın alma rehberleri, oyun performansı değerlendirmeleri ve güncel teknoloji haberlerinde teknik verileri farklı kullanıcı ihtiyaçlarıyla birlikte ele alıyor. İçeriklerini hazırlarken karmaşık teknik konuları sade ve anlaşılır bir dille aktararak okuyucuların teknoloji ürünleri hakkında daha bilinçli kararlar vermesine yardımcı olmayı amaçlıyor.