Energie besparen met Generative AI
Dat klinkt als water naar de zee dragen, zal menig wetenschapper beweren. Feiten en cijfers over AI als de grote energieslurper vliegen ons om de oren. De slimme technologie is per definitie niet duurzaam, is inmiddels het stigma. Wat mij betreft ligt de waarheid toch wat genuanceerder. Het goede nieuws is dat er echt nog winst te behalen valt om inzet van kunstmatige intelligentie te verduurzamen.
AI heeft veel energie nodig
‘Als de vraag naar AI in het huidige tempo doorgroeit, verbruikt de slimme technologie in 2027 net zoveel energie als heel Nederland nu.’ Dat becijferde datawetenschapper Alex de Vries afgelopen jaar. Eén ChatGPT trainingsiteratie is goed voor 500 ton Co2-uitstoot dat ongeveer gelijk staat aan duizend auto’s die hetzelfde aantal kilometers rijden. Dat is enkel nog voor de training van het model. Het overgrote merendeel (80 tot 90%) van het energieverbruik gaat op aan de ontwikkeling van het Large Language Model (LLM). Als het LLM eenmaal staat, kost de productie van een plaatje evenveel energie als het opladen van een telefoon. Om maar een paar energieverslindende voorbeelden te noemen die onomkeerbaar lijken. Kortom, generatieve kunstmatige intelligentie waarmee teksten, beelden, muziek en video gemaakt wordt, heeft flink veel energie nodig.
Maak de balans op
Een weg terug lijkt er niet want je zou zeggen wie gaat nog dagen aan het werk, als met een paar drukken op de knop de mooiste plaatjes uit het slimme systeem te halen zijn? Generatieve AI mag dan veel energie verbruiken, het alternatief is slechter voor het milieu als het energieverbruik in breder perspectief geplaatst wordt. Een Teams-vergadering gaat ook gepaard met veel energieverbruik. Dat we allemaal in een eigen auto stappen om naar dezelfde vergaderlocatie te rijden, is toch echt een slechter alternatief. Met AI is dat eigenlijk net zo. Uit recent onderzoek blijkt dat het genereren van een pagina vol tekst met ChatGPT 130 tot 1500 keer duurzamer is dan wanneer een mens dat produceert. Daarom is het zaak voortdurend de balans op te maken vanuit zowel economische, maatschappelijke als klimaatvriendelijke waarde voor een organisatie.
Wat betreft de klimaatvriendelijke waarde, valt er nog wel wat te winnen met de inzet van generatieve AI. Een groene AI-pijplijn bouwen, staat bij veel IT-organisaties nog niet hoog op de agenda. Iedereen heeft vooralsnog de handen vol aan vraagstukken op het vlak van economische waarde, wet- en regelgeving en hoe AI-gebruik veilig en betrouwbaar te maken. Toch is het raadzaam het duurzaamheidsvraagstuk direct mee te nemen in het organisatiebeleid rondom de inzet van AI. Zo wordt GPT-4 nog maar al te vaak gebruikt voor bijvoorbeeld een hele specifieke use-case. Onder het mom te kiezen voor een groot taalmodel dat het beste presteert. Dat is vaker niet dan wel nodig. Ook een kleiner model kan van grote waarde zijn. Het taalmodel kiezen dat het beste past bij een specifieke taak levert al veel energiewinst op. Is het juiste model nog niet voorhanden? Zorg er dan voor dat logging zo is ingeregeld dat de data in de toekomst gebruikt kan worden voor training van zo’n model. Als het model eenmaal getraind is, is energiebesparing eveneens mogelijk met het verminderen van de complexiteit van het model. Bijvoorbeeld met quantization methodes wordt een LLM een stuk milieuvriendelijker met minimaal prestatieverlies. Hiermee zet je getallen in een model om naar eenvoudiger getallen waardoor berekeningen minder rekenkracht vragen.
Bewustzijn
Energie-efficiënte AI begint veelal met bewustzijn en het creëren van draagvlak in de organisatie. Dat wordt makkelijker als de energie-uitstoot inzichtelijk is. Het verbruik monitoren gaat vaak hand in hand met de duurzaamheidsvolwassenheid van een organisatie. Gebruikers hebben immers geen idee. Veelal zien zij niet meer dan het aantal ChatGPT-gesprekken of de hoeveelheid plaatjes die gegenereerd zijn met bijvoorbeeld Dall-E. Als duidelijk wordt hoeveel energieverbruik daarmee gemoeid is, is het begin van een duurzaam AI-beleid in ieder geval gemaakt.
Waarom AI & Sogeti?
AI is de toekomst ‒ ook van Sogeti. Daarom hebben we een groot team AI-specialisten die zich bezighouden met het ontwikkelen van AI en met toepassingen die we niet alleen uittekenen, maar ook in de praktijk brengen. Lees meer over Artifical Intelligence en/of vraag ons naar de workshop AI in a Day.
Dit artikel is ook verschenen in Computable
