Күрделі ЖИ-модельдер CO₂-ні 50 есе көп шығарады
Зерттеу нәтижелері бойынша күрделі жасанды интеллект тілдік модельдері қарапайым баламаларымен салыстырғанда CO₂ шығарындыларын 50 есеге дейін көп өндіруі мүмкін, әсіресе толық жауаптар генерацияланған кезде. Модельдердің энергия тиімділігі мен дәлдігі олардың архитектурасы мен тапсырма түріне байланысты айтарлықтай өзгереді.
Natura
Германиядағы Hochschule München Қолданбалы ғылымдар университетінің зерттеушілері ірі тілдік модельдерді (LLM) қолданудың экологиялық салдарын талдады. Зерттеу аясында 14 түрлі LLM — қарапайымнан күрделіге дейін — 1 000 бірдей стандартты сұрақпен сыналды. Әр модельдің жасаған токен саны парниктік газдар шығарындыларына айналдырылып есептелді.
Зерттеу нәтижелерінің негізгі тұжырымдары
Зерттеу барысында күрделі ойлау механизмдері бар модельдер қысқа жауап беретін модельдерге қарағанда CO₂ шығарындыларын 50 есеге дейін көп тудыратыны анықталды. Бұл күрделі модельдер көбірек токен жасап, есептеу үшін айтарлықтай энергия жұмсайтындықтан, шығарындылар көлемі артады.
Энергия тұтынуды бағалау үшін NVIDIA A100 GPU-ы бар компьютер мен Perun фреймворкі, сондай-ақ 480 г CO₂/кВт·сағ орташа шығарындылар коэффициенті қолданылды. 14 модельдің әрқайсысы философия, әлем тарихы, халықаралық құқық, абстрактілі алгебра және математика бойынша 1 000 сұраққа жауап берді. Зерттеуге Meta, Alibaba, Deep Cognito және Deepseek компанияларының мәтіндік және ойлау модельдері қатысты.
Модельдерді салыстыру
Ойлау модельдері бір сұраққа орта есеппен 543,5 токен, ал мәтіндік модельдер — шамамен 37,7 токен жасады. Алайда токен санының артуы әрдайым дәлдіктің өсуіне әкелмеді — көбіне жауаптар тек кеңейтіліп берілді.
- Ең дәл модель — Deep Cogito 70B (70 миллиард параметр) 84,9% дәлдік көрсетті. Бірақ ол ұқсас көлемдегі, қарапайым жауап беретін модельдерге қарағанда үш есе көп шығарындылар тудырды.
- Ең энергияны көп тұтынатын модель — Deepseek R170B, 1 000 сұраққа 2 042 г CO₂-эквивалент шығарындыларымен, бұл 15 км автокөлікпен жүруге тең. Оның дәлдігі — 78,9%. Есеп бойынша, егер бұл модель 600 000 сұраққа жауап берсе, шығарындылар Лондон — Нью-Йорк бағытына ұшып барып қайтуға тең болады.
- Ең энергия тиімді модель — Alibaba Qwen 7B (27,7 г CO₂-эквивалент), бірақ оның дәлдігі небәрі 31,9% болды.
Сұрақ түрінің әсері
Энергия тұтыну сұрақ түріне де байланысты болды: абстрактілі алгебра мен философия бойынша тапсырмалар қарапайым сұрақтарға қарағанда көбірек есептеуді талап етті. Зерттеуде кейбір ірі LLM — OpenAI-дың ChatGPT, Google-дың Gemini, X-тың Grok және Anthropic-тің Claude — қарастырылмады.
Зерттеу нәтижелері Frontiers in Communication журналында жарияланды.