I costi nascosti dello sviluppo che contano davvero
ETutti sono consapevoli della crisi climatica dovuta al riscaldamento globale provocato dalle attività umane. Per prevenirne le conseguenze catastrofiche (1), il mondo deve ridurre drasticamente le emissioni di gas serra e molti paesi fissano l’obiettivo di zero emissioni nette entro il 2050.
Il boom tecnologico dell’intelligenza artificiale negli ultimi anni ha anche sollevato preoccupazioni sui suoi costi ambientali. Se guardiamo solo ai suoi contributi diretti, ciò avverrà attraverso l’uso dell’elettricità per addestrare e alimentare i modelli. Ad esempio, l’addestramento di ChatGPT-3 con i suoi 175 miliardi di parametri ha generato ben 502 tonnellate di emissioni di carbonio equivalente (tCO2e) (2). Il nuovo arrivato sul mercato, Llama2, produce 539 tCO2e simili per addestrare la sua famiglia di quattro modelli (3). Per contestualizzare, ciascuno di questi equivale alle emissioni di un passeggero che prende un volo di sola andata da New York a San Francisco 500 volte.
Lavoro in un team di ingegneri che si occupano di machine learning e anche questa domanda mi ha dato costantemente una spinta. Quante emissioni di carbonio contribuiamo attraverso il consumo di elettricità? Ci sono modi per ridurlo? E qui inizia un primo tentativo di contabilizzare noi stessi il carbonio.
Non esiste un modo unico e diretto per misurare il nostro consumo di elettricità e di conseguenza il nostro impatto in termini di carbonio. Ciò è dovuto alla varietà di piattaforme e servizi che utilizziamo. Non approfondirò le implementazioni tecniche, ma ad alto livello si compone di tre metodi.
- Fornito: I dati esatti sulle emissioni di carbonio sono già calcolati per noi. Questo è stato fornito dal nostro fornitore di servizi cloud (CSP).
- Utensili: Abbiamo utilizzato alcuni strumenti software come Powermetics, Nvidia-SMI e Turbostat per misurare la potenza in Watt, che tiene traccia del calcolo di CPU e GPU per i nostri laptop e server in sede.
- Autocalcolato: Quando quanto sopra non è possibile, utilizziamo metodi proxy per il calcolo. Ciò consiste nel registrare la durata del calcolo, stimare la percentuale di utilizzo del/dei chip, nonché trovare la potenza di progettazione termica (TDP) di ciascun tipo di chip per calcolare la potenza consumata. Il resto delle piattaforme vengono calcolate in questo modo.
Fonte: towardsdatascience.com
