Научное исследование, опубликованное во вторник под руководством ЮНЕСКО, пришло к выводу, что потребление энергии ИИ можно сократить на 90% за счет использования более компактных, специализированных моделей и коротких запросов.

В июне стало известно, что каждый запрос, отправленный приложению «ChatGPT», потребляет в среднем 0,34 ватт-часа электроэнергии, поскольку чатбот ежедневно получает около миллиарда запросов.

Это составляет 310 гигаватт-часов в год, что эквивалентно годовому потреблению электроэнергии тремя миллионами жителей Эфиопии, говорится в докладе агентства ООН, представленном на форуме «ИИ во благо» в Женеве.

Генеративный ИИ

Чтобы снизить растущее энергопотребление при широком использовании генеративного ИИ, ЮНЕСКО рекомендует сокращать размеры моделей с помощью методов сжатия.

Короткие запросы и ограничение длины ответов моделей ИИ также могут сократить потребление энергии на 50 %, говорится в исследовании.

Исследователи отметили, что для этой цели также целесообразно использовать небольшие модели вместо больших многоцелевых языковых моделей.

Сочетание обоих подходов — более мелких языковых моделей и коротких запросов — позволяет снизить энергопотребление на 90 % при сохранении «высокой релевантности»

Технологические гиганты

Исследование показало, что ежедневные запросы, требующие объяснений от больших многоцелевых языковых моделей (в среднем 300 слов), эквивалентны потреблению электроэнергии 38 000 британских домохозяйств.

В отличие от этого, аналогичные запросы, состоящие всего из 150 слов, направленные на небольшие специализированные модели, потребляют меньше электроэнергии, чем 4 000 домохозяйств.

В исследовании отмечается, что, хотя небольшие модели могут быть более эффективны для решения конкретных задач, они могут быть не столь эффективны для использования в общих целях.

Признавая эту энергетическую проблему, крупные технологические компании теперь предлагают уменьшенные версии своих больших языковых моделей с меньшим количеством параметров.

Например, Google предлагает модель «Gemma», Microsoft — «Phi-3», а OpenAI — «GPT-4o mini»