Marketing X Business

Koliko nafte dnevno troše podatkovni centri umjetne inteligencije, a koliko ChatGPT?

Marx.ba

(Foto: Ilustracija)

Prema procjenama, 2017. godine za rudarenje jednog Bitcoina bilo je potrebno približno 20 barela naftnog ekvivalenta energije po kovanici. Danas je ta brojka višestruko veća i kreće se oko 500 barela po jednom Bitcoinu. Bitcoin mreža trenutno troši između 138 i 175 teravat-sati (TWh) električne energije godišnje, ovisno o metodologiji procjene.

Nakon posljednjeg „halvinga” (prepolovljenja nagrade za rudare), godišnje se proizvede oko 164.000 novih Bitcoina. Kada se ukupna godišnja potrošnja energije mreže podijeli s brojem novih kovanica, dolazi se do procjene od približno 500 barela naftnog ekvivalenta po Bitcoinu, a prema višim procjenama i više od 600 barela.

No Bitcoin je samo dio priče. Mnogo veći energetski izazov predstavlja umjetna inteligencija. Prema podacima International Energy Agency (IEA), podatkovni centri su tijekom 2024. godine potrošili oko 415 TWh električne energije, prenose financije.hr

Kada se ta količina energije izrazi kroz naftni ekvivalent, dobiva se približno 670.000 barela naftnog ekvivalenta dnevno. Drugim riječima, toliko energije troše podatkovni centri svakoga dana samo za rad poslužitelja, pohranu podataka i izvođenje računalnih zadataka, uključujući sisteme umjetne inteligencije.

IEA procjenjuje da bi se do 2030. godine potrošnja podatkovnih centara mogla povećati na oko 945 TWh godišnje, što odgovara približno 1,5 miliona barela naftnog ekvivalenta dnevno.

To je količina energije usporediva s dnevnom proizvodnjom jedne srednje velike države proizvođača nafte, a koristila bi se za rad podatkovnih centara, treniranje AI modela i generisanje odgovora na korisničke upite. Pritom mnogi stručnjaci upozoravaju da postojeća elektroenergetska infrastruktura u brojnim državama nije projektirana za tako brz rast potražnje za električnom energijom, zbog čega će biti potrebna značajna ulaganja u proizvodne kapacitete i elektroenergetske mreže.

Zato je investitor Kevin O’Leary, podržao drugačiji pristup: korištenje prihoda od rudarenja Bitcoina za razvoj niskougljične energetske infrastrukture koja može opskrbljivati podatkovne centre umjetne inteligencije.

O’Leary je investirao u Bitzero Holdings Inc., kompaniju koju ne vidi samo kao rudara Bitcoina, već prije svega kao energetsku kompaniju. Kako je izjavio, među svojim kripto ulaganjima Bitzero smatra jednom od ključnih pozicija upravo zato što kompanija kombinuje rudarenje Bitcoina s razvojem energetskih kapaciteta.

Još prije naglog rasta umjetne inteligencije i povećane potražnje za električnom energijom, Bitzero je koristio prihode od rudarenja kako bi osigurao pristup velikim količinama povoljne električne energije u Norveškoj, Finskoj i Sjedinjenim Državama.

Ta strategija počela je donositi rezultate 5. maja, kada je Bitzero objavio sporazum s OneQode Networks o korištenju punog kapaciteta energije iz svojih norveških postrojenja u prvoj fazi projekta. Time je kompanija službeno ušla na tržište infrastrukture za velike AI podatkovne centre.

Koliko energije troši ChatGPT?

U istraživanju koje je proveo Josh You u saradnji s Alexom Erbenom i Egeom Erdilom navodi se da tipični ChatGPT upiti koji koriste GPT-4o vjerojatno troše otprilike 0,3 vat-sata, što je deset puta manje od starije procjene da je za pojedini ChatGPT upit potrebno oko 3 vat-sata električne energije.

Ova razlika proizlazi iz učinkovitijih modela i hardvera u usporedbi s početkom 2023. te pretjerano pesimistične procjene broja tokena u izvornoj procjeni. Za kontekst, 0,3 vat-sata je manje od količine električne energije koju LED lampa ili prijenosni računar potroše u nekoliko minuta.

ChatGPT i drugi chatbotovi pokreću se modelima velikih jezika (LLM). Pokretanje ovih modela (također poznatih kao inferencija) zahtijeva računanje, a čipovi i podatkovni centri koji obrađuju ta računanja zahtijevaju električnu energiju, otprilike proporcionalno količini potrebnog računanja, kaže istraživanje. Ako se zbroje svi parametri: jedna sekunda H100 vremena po upitu, 1500 vata po H100 i faktor iskorištenja energije od 70 posto daje nam 1050 vat-sekundi energije, što je oko 0,3 vat-sata po upitu. To je oko 10 puta niže od široko citirane procjene od 3 vat-sata, objasnio je You u istraživanju.

Najvažniji razlog zašto se ovo istraživanje i procjena razlikuje od drugih jest taj što je koristila realniju pretpostavku za broj izlaznih tokena u tipičnoj upotrebi chatbota. Također, istraživači su svoju procjenu temeljili na novijem i učinkovitijem čipu (NVIDIA H100 vs A100) i modelu s nešto manje aktivnih parametara.

Ova procjena od 0,3 vat-sata zapravo je relativno pesimistična (tj. ukazuje na visoke troškove energije) i moguće je da su mnogi ili većina upita zapravo još puno jeftiniji. Međutim, to će varirati ovisno o slučaju upotrebe – upiti s dugim ulaznim dužinama ili s dužim izlazima (npr. korištenjem modela zaključivanja) mogu biti znatno energetski intenzivniji od 0,3 vat-sata. A obuka i zaključivanje za buduće modele mogu potrošiti puno više energije nego korištenje ChatGPT-a danas, stoji u istraživanju Josh Joua.