Uno studio scientifico pubblicato martedì sotto la supervisione dell’UNESCO ha concluso che il consumo energetico dell’IA potrebbe essere ridotto del 90% utilizzando modelli più piccoli e specializzati, insieme a query più brevi.
A giugno è stato rivelato che ogni query inviata all’applicazione “ChatGPT” consuma in media 0,34 wattora di elettricità, poiché il chatbot riceve circa un miliardo di query al giorno.
Ciò equivale a 310 gigawattora annui, simili al consumo elettrico di tre milioni di persone in Etiopia, secondo un rapporto di un’agenzia dell’ONU presentato al forum “IA per il Bene” a Ginevra.
IA generativa
Per ridurre questo crescente consumo energetico dovuto all’uso massiccio dell’IA generativa, l’UNESCO raccomanda di ridurre le dimensioni dei modelli tramite tecniche di compressione.
Query più brevi e la limitazione dell’estensione delle risposte dei modelli di IA possono anche ridurre il consumo energetico del 50%, secondo lo studio.
I ricercatori hanno sottolineato che utilizzare modelli più piccoli invece di modelli linguistici multifunzionali ed estesi è un’altra strategia efficace.
Combinare entrambi gli approcci—modelli linguistici piccoli con query brevi—può ridurre il consumo energetico del 90% mantenendo una “elevata rilevanza”.
Giganti tecnologici
Lo studio ha dimostrato che le query giornaliere ai modelli linguistici multifunzionali (con risposte medie di 300 parole) equivalgono al consumo elettrico di 38.000 famiglie britanniche.
Al contrario, query simili di sole 150 parole rivolte a modelli specializzati più piccoli consumano meno elettricità di 4.000 famiglie.
Lo studio ha chiarito che, sebbene i modelli piccoli siano più efficienti per compiti specifici, possono essere meno efficaci per usi generali.
Consapevoli di questa sfida energetica, le grandi aziende tecnologiche offrono ora versioni ridotte dei loro modelli linguistici, con meno parametri.
Ad esempio, Google promuove “Gemma”, Microsoft offre “Phi-3” e OpenAI presenta “GPT-4o mini”.
