Bagaimana Mengurangi Konsumsi Energi AI hingga 90%?

Sebuah studi ilmiah yang diterbitkan Selasa ini di bawah pengawasan UNESCO menyimpulkan bahwa konsumsi energi AI dapat dikurangi hingga 90% dengan menggunakan model yang lebih kecil dan lebih terspesialisasi, serta pertanyaan yang lebih singkat.

Pada bulan Juni terungkap bahwa setiap pertanyaan yang dikirimkan ke aplikasi “ChatGPT” rata-rata mengonsumsi 0,34 watt-jam listrik, karena chatbot tersebut menerima hampir satu miliar pertanyaan setiap hari.

Jumlah ini setara dengan 310 gigawatt-jam per tahun, mirip dengan konsumsi listrik tiga juta orang di Ethiopia, menurut laporan badan PBB yang disajikan di forum “AI for Good” di Jenewa.

AI Generatif

Untuk mengurangi konsumsi energi yang terus meningkat akibat penggunaan massal AI generatif, UNESCO merekomendasikan untuk memperkecil ukuran model melalui teknik kompresi.

Pertanyaan yang lebih pendek dan membatasi panjang jawaban model AI juga dapat mengurangi konsumsi energi hingga 50%, menurut studi tersebut.

Para peneliti menunjukkan bahwa menggunakan model yang lebih kecil sebagai pengganti model bahasa yang multifungsi dan besar adalah strategi efektif lainnya.

Menggabungkan kedua pendekatan—model bahasa kecil dengan pertanyaan singkat—dapat mengurangi konsumsi energi hingga 90% sambil mempertahankan “relevansi yang tinggi”.

Raksasa Teknologi

Studi ini menunjukkan bahwa pertanyaan harian kepada model bahasa multifungsi (dengan jawaban rata-rata 300 kata) setara dengan konsumsi listrik 38.000 rumah tangga Inggris.

Sebaliknya, pertanyaan serupa hanya dengan 150 kata yang ditujukan kepada model khusus yang lebih kecil mengonsumsi lebih sedikit listrik daripada 4.000 rumah tangga.

Studi tersebut menjelaskan bahwa, meskipun model kecil lebih efisien untuk tugas-tugas spesifik, model tersebut mungkin kurang efektif untuk penggunaan umum.

Sadar akan tantangan energi ini, perusahaan teknologi besar kini menawarkan versi tereduksi dari model bahasa mereka, dengan lebih sedikit parameter.

Misalnya, Google mempromosikan “Gemma”, Microsoft menawarkan “Phi-3”, dan OpenAI menghadirkan “GPT-4o mini”.