Cât de generativ ne supraîncărcă rețeaua consumul imens de electricitate al IA

Datorită dezvoltării în plină expansiune a inteligenței artificiale, noi centre de date apar ca ciupercile după ploaie, iar companiile le construiesc într-un ritm rapid. Acest lucru se traduce printr-o cerere uriașă de putere pentru rularea și răcirea servomotoarelor interne. Există acum preocupări tot mai mari cu privire la faptul dacă SUA vor putea genera suficientă energie pentru adoptarea pe scară largă a inteligenței artificiale și dacă rețeaua noastră îmbătrânită poate face față sarcinii.

„Dacă nu începem să ne gândim la această problemă de putere în mod diferit, nu ne vom realiza niciodată acest vis”, a spus Dipti Vachani, șeful afacerii de automobile ale companiei cu cipuri, sunt din ce în ce mai populare în rândul hiperscalarilor de exemplu. Google, Microsoft , Oracol și Amazon ——Tocmai pentru că pot Reduceți consumul de energie electrică cu până la 15% În centrul de date.

NvidiaCel mai nou cip de inteligență artificialăGrace Blackwell folosește un procesor bazat pe Arm despre care se spune că poate rula modele AI generative cu un consum de energie de 25 de ori mai mic decât generația anterioară.

„Economisirea fiecărei puteri ar fi un design fundamental diferit de încercarea de a maximiza performanța”, a spus Vachani.

Această strategie de reducere a consumului de energie prin creșterea eficienței de calcul, denumită adesea „mai multe locuri de muncă pe watt”, este un răspuns la criza energetică a AI. Dar acest lucru nu este suficient.

O interogare ChatGPT consumă de aproape 10 ori mai multă energie decât o căutare tipică pe Google Raport de Goldman Sachs. Se poate folosi generarea de imagini AI La fel de multă putere ca și încărcarea unui smartphone.

Această problemă nu este nouă. 2019 Descoperire estimată Antrenarea unui model de limbă mare Produce la fel de mult CO2 ca cinci mașini pe benzină de-a lungul vieții lor.

Hyperscalerele, care construiesc centre de date pentru a face față unui astfel de consum masiv de energie, înregistrează, de asemenea, o creștere a emisiilor. Cea mai recentă protecție a mediului de la Google Raport Afișați emisiile de gaze cu efect de seră cu aproape 50% Din 2019 până în 2023, acest lucru s-a datorat parțial consumului de energie al centrului de date, deși a mai spus că centrele sale de date au fost de 1,8 ori mai eficiente din punct de vedere energetic decât un centru de date obișnuit. emisiile Microsoft Trandafir aproape 30% Din 2020 până în 2024, o parte din motiv se datorează și centrului de date.

În Kansas City, unde Meta construiește un centru de date axat pe inteligență artificială, cererea de energie este atât de mare încât Planurile de închidere a centralelor pe cărbune au fost suspendate.

Sunt mai mult decât 8.000 de centre de date în întreaga lume, a căror concentrație cea mai mare se află în Statele Unite, iar datorită inteligenței artificiale, acest număr va crește semnificativ până la sfârșitul acestui secol. Boston Consulting Group estima Până în 2030, cererea centrelor de date va crește cu 15%-20% anual și este de așteptat să reprezinte 16% din consumul total de energie electrică din SUA. Aceasta este în creștere față de 2,5% înainte de lansarea ChatGPT al OpenAI în 2022 și este echivalent cu puterea folosită de aproximativ două treimi dintre oameni. din totalul fondului de locuințe din SUA.

CNBC a vizitat un centru de date din Silicon Valley pentru a afla cum se confruntă industria cu această creștere rapidă și unde poate fi găsită suficientă putere pentru a face acest lucru.

„Suspectăm că cererea pentru aplicații specifice inteligenței artificiale va fi la fel de mult sau mai mare decât cererea pentru cloud computing din punct de vedere istoric”, a declarat Jeff Tench, vicepreședinte executiv pentru America de Nord și Asia Pacific la Vantage Data Center.

Multe companii mari de tehnologie contractează cu companii precum Vantage pentru a-și găzdui serverele. Centrele de date Vantage folosesc de obicei mai mult de 64 de megawați de putere, echivalentul a zeci de mii de case, a spus Tench.

“Multe dintre acestea sunt ocupate de un singur client care le va închiria întregul spațiu. Când ne gândim la aplicațiile de inteligență artificială, acele cifre pot crește semnificativ, la sute de megawați”, a spus Tench.

CNBC a vizitat Vantage în Santa Clara, California, care a fost mult timp unul dintre punctele fierbinți pentru clusterele de centre de date din țară, aproape de clienții cu nevoi mari de date. Sediul Nvidia poate fi văzut de pe acoperiș. Tench a spus că sursele de alimentare din California de Nord „încetinesc” din cauza „lipsei de energie de la utilitățile din zonă”.

Vantage construiește noi campusuri în Ohio, Texas și Georgia.

„Industria în sine caută locuri în care să aibă acces imediat la energie regenerabilă (eoliană sau solară) și alte infrastructuri care pot profita de ea, fie că face parte dintr-un program de stimulare pentru a converti centralele pe cărbune în gaze naturale, fie că caută tot mai mult să Treceți de la cărbune la gaze naturale Modul în care instalațiile nucleare obțin energie”, a spus Tench.

Un efort de 5,2 miliarde de dolari pentru a extinde liniile către o zonă din Virginia cunoscută sub numele de „Data Center Alley” s-a întâlnit cu opoziție de la contribuabilii locali care nu vor să-și vadă facturile crescând pentru a finanța proiectul.

O altă soluție este utilizarea software-ului predictiv pentru a reduce defecțiunile la una dintre cele mai slabe verigi din rețea: transformatoarele.

„Toată electricitatea generată trebuie să treacă prin transformator”, a spus Tehnologia Vian CEO-ul Rahul Chaturvedi a adăugat că există între 60 și 80 de milioane de astfel de oameni în Statele Unite

Transformatoarele au, de asemenea, o durată medie de viață de 38 de ani, deci sunt o cauză comună a întreruperilor de curent. Înlocuirea lor este costisitoare și lentă. VIE realizează un mic senzor care se atașează la transformatoare pentru a prezice defecțiunile și pentru a determina care transformatoare pot gestiona mai multă sarcină, astfel încât să poată fi îndepărtat de transformatoare cu risc de defecțiune.

Chaturvedi a spus că volumul de afaceri s-a triplat de la lansarea ChatGPT în 2022 și este de așteptat să se dubleze sau să se tripleze din nou anul viitor.

Se estimează că până în 2027, centrele de date cu inteligență artificială generativă vor trebui să atragă 4,2 miliarde până la 6,6 miliarde de metri cubi de apă pentru a se menține rece. Cercetarea lui Ren. Acesta este mai mult decât totalul retragerilor anuale de apă în jumătate din Regatul Unit

“Toată lumea este îngrijorată că inteligența artificială va consuma multă energie. Când încetăm să fim așa idioți în problemele nucleare, putem rezolva această problemă, nu? Se poate rezolva. Apa este factorul limitator fundamental pentru dezvoltarea viitoare a inteligenței artificiale. ,”El a spus. Tom Ferguson, managing partner la Burnt Island Ventures.

Echipa de cercetare a lui Ren Zhengfei a descoperit că fiecare 10-50 de solicitări ChatGPT au fost arse Despre ce se află într-o sticlă de apă standard de 16 uncii.

Cea mai mare parte a apei este folosită pentru răcirea evaporativă, dar centrul de date Santa Clara de la Vantage are unități mari de aer condiționat care răcesc clădirea fără a pompa apă.

O altă soluție este să folosești lichid pentru a răci direct napolitana.

„Pentru multe centre de date, acest lucru necesită o mulțime de modificări. În cazul nostru, la Vantage, în urmă cu aproximativ șase ani, am implementat un design care ne-a permis să utilizăm circulația apei rece pe podeaua sălii de date”, spune Vantage’s Tench.

like-urile companiei mărSamsung și Qualcomm Promovează beneficiile inteligenței artificiale de pe dispozitiv, ținând interogările înfometate de energie din cloud și departe de centrele de date lipsite de energie.

„Vom avea la fel de multă inteligență artificială pe cât pot suporta aceste centre de date. Poate fi mai puțin decât își doresc oamenii. Dar, în cele din urmă, sunt mulți oameni care lucrează din greu pentru a găsi modalități de a elimina unele dintre aceste constrângeri de aprovizionare”, Tench. a spus.