V dynamickom svete umelej inteligencie sa opäť raz ocitá v centre pozornosti vizionár Elon Musk. Jeho nedávno založená spoločnosť xAI, ktorá si kladie za cieľ „pochopiť pravú podstatu vesmíru“, sa dostala do sporu s ochrancami životného prostredia v Memphise, Tennessee. Tento incident však predstavuje len špičku ľadovca v rozsiahlom ekosystéme dátových centier, ktoré poháňajú Muskove ambiciózne projekty v oblasti AI.
Kontroverzia v Memphise
Podľa správy zverejnenej 28. augusta 2024 environmentálni aktivisti tvrdia, že xAI prevádzkuje plynové turbíny na napájanie svojho dátového centra v Memphise bez potrebného povolenia. Tieto turbíny údajne emitujú znečisťujúce látky do ovzdušia, čím prispievajú k už existujúcemu problému so smogom v meste.
Memphis už dlhodobo bojuje s problémami kvality ovzdušia. Okres, v ktorom sa nachádza dátové centrum xAI, dostal od Americkej pľúcnej asociácie hodnotenie „F“ za zlú kvalitu ovzdušia. Aktivisti sa obávajú, že neautorizované emisie z dátového centra xAI by mohli ešte viac zhoršiť túto už aj tak kritickú situáciu.
Gigafactory of Compute
Napriek kontroverziám, plány xAI v Memphise sú grandiózne. Spoločnosť buduje to, čo nazýva „Gigafactory of Compute“ – údajne najväčší superpočítač na svete. Toto zariadenie bude umiestnené v dátovom centre s výkonom 150 megawattov (MW) v priemyselnom parku neďaleko rieky Mississippi v juhozápadnom Memphise. Konkrétne bude dátové centrum okupovať bývalý 750 000 štvorcových stôp veľký závod Electrolux v oblasti Boxtown v južnom Memphise.
Elon Musk plánuje, že nové zariadenie xAI bude plne funkčné do jesene 2025, čo predstavuje investíciu v hodnote niekoľkých miliárd dolárov do Memphisu. V rámci tohto záväzku xAI plánuje investovať 24 miliónov dolárov do novej elektrickej rozvodne a zabezpečila si prísľub kapacity 150 MW od Memphis Light, Gas and Water (MLGW) do konca roka 2024.
Známy aj ako Memphis Supercluster, systém bude využívať jedinú sieť remote direct memory access (RDMA) na prepojenie až 100 000 GPU NVIDIA H100. Servery pre superpočítač xAI v Memphise dodávajú spoločnosti Dell a Supermicro.
Masívna výpočtová sila
Elon Musk v júli oznámil, že xAI začalo trénovať svoje AI modely s využitím 100 000 procesorov Nvidia H100. Táto informácia naznačuje obrovský rozsah operácií a potenciálne vysokú energetickú náročnosť centra.
xAI v súčasnosti trénuje Grok-2 s použitím 20 000 GPU NVIDIA H100. Elon Musk odhaduje, že Grok-3 bude vyžadovať 100 000 GPU. S týmto cieľom krátkodobé plány xAI pre dátové centrá zahŕňajú:
– Nasadenie tréningového klastra so 100 000 GPU NVIDIA H100 s vodným chladením do konca roka 2024
– Pridanie ďalšieho klastra s 300 000 GPU NVIDIA B200 (Blackwell) od leta 2025
Rýchly rast a vysoké ambície
xAI, ktoré bolo založené len v roku 2023, už stihlo získať financovanie vo výške 6 miliárd dolárov pri valuácii 24 miliárd dolárov. Elon Musk v súčasnosti žiada predstavenstvo Tesly o schválenie 5 miliardovej investície do xAI.
Širší kontext: Dátové centrá Elona Muska
Dátové centrá sú kľúčové pre mnohé spoločnosti, ktoré Elon Musk založil, spoluzaložil alebo sa na nich významne podieľa, vrátane Tesly, X Corp (Twitter) a xAI. Tieto spoločnosti sa spoliehajú na dátové centrá pri spracovaní, ukladaní a analýze obrovského množstva používateľských a prevádzkových dát.
Tesla
Tesla využíva dátové centrá na spracovanie a ukladanie masívneho množstva dát zhromaždených z miliónov elektrických vozidiel (EV) po celom svete. Tieto dáta zahŕňajú údaje zo senzorov, informácie o správaní pri jazde, výkone autopilota a aktualizáciách softvéru cez vzdialený prístup.
Tesla nasadila viac ako 35 000 GPU NVIDIA H100 pre svoj AI tréningový klaster pre samočinné riadenie a do konca roka 2024 plánuje zvýšiť svoju kapacitu na takmer 90 000 ekvivalentných GPU NVIDIA H100.
Kľúčovou súčasťou infraštruktúry Tesly je superpočítač Dojo, ktorý používa vlastné čipy D1 špeciálne navrhnuté pre tréning AI. Tesla plánuje investovať viac ako 1 miliardu dolárov do vývoja Doja.
X Corp (formerly Twitter)
X Corp (predtým Twitter) využíva dátové centrá na ukladanie a spracovanie obrovského množstva používateľských dát vrátane tweetov, priamych správ a nahrávaných médií. Od Muskovej akvizície za 44 miliárd dolárov v októbri 2022 spoločnosť racionalizuje svoju IT infraštruktúru.
X Corp nedávno zakúpil 10 000 GPU NVIDIA na vývoj AI s cieľom vybudovať on-premises GPU superpočítačové klastre. Spoločnosť prevádzkuje dátové centrá na viacerých kľúčových miestach v USA, vrátane Atlanty v Georgii a Hillsboro v Oregone.
xAI
xAI využíva dátové centrá na poskytovanie výpočtového výkonu a úložiska potrebného na trénovanie a prevádzku svojho AI chatbota Grok. Tieto dátové centrá sa zaoberajú úlohami, ako je trénovanie veľkého jazykového modelu na používateľských dátach X Corp (Twitter), vykonávanie inferencií a ukladanie obrovského množstva dát.
Okrem plánovaného zariadenia v Memphise xAI v súčasnosti prenajíma približne 16 000 GPU NVIDIA H100 od Oracle Cloud a uzavrela zmluvu na 24 000 GPU NVIDIA H100 od Oracle Cloud na trénovanie Grok-2. Spoločnosť tiež využíva cloudové služby od Amazon Web Services (AWS) a využíva voľnú kapacitu v dátových centrách X Corp (Twitter).
Otázky do budúcnosti
Táto situácia vyvoláva mnoho otázok o udržateľnosti rýchlo sa rozvíjajúceho odvetvia umelej inteligencie. Ako môžeme vyvážiť potrebu výpočtového výkonu pre pokrok v AI s ochranou životného prostredia? Aká je zodpovednosť technologických gigantov voči komunitám, v ktorých pôsobia?
Zatiaľ čo xAI sľubuje revolúciu v oblasti umelej inteligencie, tento incident nám pripomína, že technologický pokrok nesmie byť na úkor životného prostredia a zdravia miestnych komunít. S tým, ako Elon Musk a jeho spoločnosti pokračujú v rozširovaní svojej AI infraštruktúry, bude kľúčové nájsť rovnováhu medzi inováciami a zodpovednosťou voči životnému prostrediu.
Zdroj: dgtlinfra.com, cnbc.com