ChatGPT'de Ne Kadar Elektrik Yaktığınızı Merak Ettiniz Mi? Bu Araç Size Cevabı Veriyor

Bir prompt ne kadar enerji yakıyor? Hugging Face'ten Julien Delavande, yapay zeka sohbetlerinin elektrik tüketimini ölçen ilginç bir araç geliştirdi.

Yapay zekaya bir soru sordunuz, hatta kibarca teşekkür bile ettiniz diyelim... Peki, bunun ne kadarlık bir enerji harcadığını merak ettiniz mi? Hugging Face mühendisi Julien Delavande bu sorunun peşine düştü ve cevabını verebilecek küçük ama etkili bir araç geliştirdi.

OpenAI CEO'su Açıkladı: Yapay Zekaya Lütfen Demek Bile Milyon Dolar
Yapay Zeka

OpenAI CEO'su Açıkladı: Yapay Zekaya Lütfen Demek Bile Milyon Dolar

ChatGPT'yi kullanıp işiniz bittikten sonra kibarlık gösterip teşekkür ediyorsanız veya promptlarda "lütfen" diyorsanız bunun faturası ağır oluyor.

Delavande'nin geliştirdiği bu araç, yapay zeka sohbetlerinin gerçek zamanlı olarak ne kadar elektrik tükettiğini hesaplıyor.

Meta Llama 3.3 70B ile Test Edildi

Watt-saat ya da Joule cinsinden gösterilen bu veriler, aynı zamanda evde kullandığımız mikrodalga ya da LED ampullerle kıyaslanarak sunuluyor. Örnek vermek gerekirse Meta'nın Llama 3.3 70B modeline sıradan bir e-posta yazdırdığınızda, mikrodalgayı yaklaşık 0.12 saniye çalıştırmış kadar enerji harcamış oluyorsunuz. Bu da yaklaşık 0.1841 Watt-saate tekabül ediyor.

Ancak bu rakamlar kesin veriler değil. Tamamen tahmini ölçümler. Yine de geliştiricilerin vurguladığı gibi, küçük gibi görünen tüketimler milyonlarca sorguda devasa bir etki yaratabiliyor. Bu araç tam da bu farkındalığı artırmak için geliştirilmiş.

 

Özellikle yakın zamanda OpenAI CEO'su Sam Altman'ın yaptığı açıklamadan sonra hangi prompt kaç yakıyor merak ediliyordu. Altman, yapay zeka botlarına kibar olmanın faturasının ağır olduğunu söylemişti.

"Enerji Etiketi Koyun"

Araç şu anda açık kaynaklı Chat UI arayüzüyle uyumlu çalışıyor. Yani Google'ın Gemma 3'ü ya da Meta'nın Llama 3.3 70B modeliyle sohbet ederken bu tüketimi takip etmek isterseniz bunu yapabilirsiniz.

Geliştiricilere göer bu projenin önemi şu: Çevresel şeffaflık. Delavande ve ekibi, gelecekte bu tür enerji etiketlerinin tıpkı yiyeceklerdeki besin değerleri gibi her yapay zeka hizmetinde görünür hale gelmesi için çalışıyor. 

Özellikle büyük dil modelleri, GPU ve özel çiplere dayalı olarak çalıştıkları için ciddi bir enerjiye ihtiyaç duyuyor. Artan yapay zeka kullanımıyla birlikte elektrik talebinin daha da artacağı tahmin ediliyor. Delavande'nin geliştirdiği bu tarz araçlar da kullanıcıları sadece teknolojinin sunduklarıyla değil, onun doğaya maliyetiyle de yüzleştirmek niyetinde. Yapay zekaya selam verip konuşma başlatanlar ne yaptıklarını görsün istiyorlar.

Beklenti Büyüktü ama OpenAI'ın ChatGPT o3 Modeli Büyük Hayal Kırıklığı Oldu
Yapay Zeka

Beklenti Büyüktü ama OpenAI'ın ChatGPT o3 Modeli Büyük Hayal Kırıklığı Oldu

OpenAI'ın yeni modeli o3, şirketin açıkladığı test sonuçlarından daha düşük puan aldı. Gerçek performansla tanıtım arasında dağlar kadar fark var.