Nvidia kontroluje ok. 65 proc. globalnej mocy obliczeniowa AI

Globalna moc obliczeniowa przekracza obecnie 15 milionów odpowiedników H100. Wskaźnik ten porównuje wydajność różnych układów z procesorem H100 firmy Nvidia.

Nowy układ B300 firmy Nvidia generuje obecnie większość przychodów firmy z AI, podczas gdy starszy układ H100 spadł poniżej 10 proc. Analiza obejmuje układy firm Nvidia, Google, Amazon, AMD i Huawei.

Firma Epoch AI opublikowała kompleksową bazę danych dotyczącą sprzedaży układów AI, w której szacuje, że ten sprzęt łącznie zużywa ponad 10 gigawatów energii – mniej więcej dwa razy tyle, ile Nowy Jork. Dane te opierają się na raportach finansowych i szacunkach analityków, ponieważ dokładne dane dotyczące sprzedaży często nie są ujawniane bezpośrednio. Zbiór danych jest dostępny bezpłatnie i ma na celu zapewnienie transparentności w zakresie mocy obliczeniowej i zużycia energii.

Rozkład globalnej mocy obliczeniowej AI

• Nvidia kontroluje ok. 65 proc. i pozostaje podstawą szkolenia AI, jednocześnie przejmując coraz większy udział w we wnioskowaniu, w miarę jak przechodzi z H100/H200 do B200/B300.

• Google kontroluje ok. 15 proc., a TPU v7 szybko się rozwija, ale ta moc obliczeniowa jest w dużej mierze wewnętrzna i nie stanowi szerokiej konkurencji na otwartym rynku.

• Amazon kontroluje ok. 10 proc. poprzez Trainium i Inferentia, które są wykorzystywane głównie do kontrolowanego kosztowo wnioskowania i obrony marży AWS, a nie do zastępowania procesorów graficznych ogólnego przeznaczenia.

•​​AMD kontroluje ok. 5 proc., a MI300X działa jak zawór bezpieczeństwa, gdy podaż Nvidii jest ograniczona.

Hiperskalery (centra danych, ogromne obiekty o znaczeniu krytycznym dla biznesu, zaprojektowane z myślą o efektywnym wspieraniu niezawodnych, skalowalnych aplikacji, często powiązane z firmami generującymi duże ilości danych, takimi jak Google, Amazon, Facebook, IBM i Microsoft) to skalowalne alternatywy, ale Nvidia pozostaje domyślną warstwą obliczeniową, na której nadal opiera się cała gospodarka AI.

Moc obliczeniowa płynie z Chin

Tymczasem według Elona Muska Chiny są na dobrej drodze do prześcignięcia wszystkich innych krajów pod względem mocy obliczeniowej sztucznej inteligencji. Argumentuje on, że wytwarzanie energii elektrycznej, a nie czipy, staje się głównym ograniczeniem skalowania systemów AI.

Musk powiedział, że zdolność Chin do szybkiego rozwoju wytwarzania energii daje im decydującą przewagę w globalnym wyścigu AI. Zasugerował, że do 2026 roku Chiny mogłyby osiągnąć około trzykrotnie większą produkcję energii elektrycznej niż Stany Zjednoczone, co umożliwiłoby im zaspokojenie ogromnego zapotrzebowania energetycznego centrów danych AI. Opierając się na obecnych trendach, Musk stwierdził, że Chiny prawdopodobnie „znacznie przewyższą resztę świata” pod względem mocy obliczeniowej AI, dodając, że chociaż czipy mają znaczenie, to ostatecznie Chiny „rozgryzą czipy”.

Komentarze Muska wpisują się w rosnące obawy w USA, że to dostępność energii i ograniczenia sieci, a nie same algorytmy czy sprzęt, coraz bardziej ograniczają wdrażanie sztucznej inteligencji. Skoncentrowany popyt ze strony hiperskalowych centrów danych i dużych firm technologicznych ograniczył dostawy energii elektrycznej w kilku regionach, spowalniając rozwój projektów.

W odpowiedzi chińscy eksperci stwierdzili, że uwagi Muska odzwierciedlają jego osobistą ocenę, ukształtowaną przez ograniczenia występujące w USA, a nie proste porównanie Chin z USA. Zhou Mi z Chińskiej Akademii Handlu Zagranicznego i Współpracy Gospodarczej powiedział, że względna przewaga Chin leży w ich infrastrukturze energetycznej i skalowalności energetycznej, które stanowią podstawę zrównoważonego wzrostu mocy obliczeniowej.

Zhou dodał, że rozwijająca się w Chinach baza odnawialnych źródeł energii, obejmująca duże instalacje wiatrowe i słoneczne, wspiera długoterminowy rozwój sztucznej inteligencji, zapewniając niezawodne dostawy energii elektrycznej, co jest warunkiem koniecznym do realizacji intensywnych zadań obliczeniowych.