Kto ma najwydajniejszy sprzęt do sztucznej inteligencji? Elon Musk podważa wiarygodność rankingów – Tesla i xAI mają oferować dużo lepszy potencjał, niż wskazują na to zestawienia dostępne w sieci.
Sztuczna inteligencja rozwija się w ogromnym tempie, ale konieczna jest tutaj jeszcze odpowiednia infrastruktura. Największe firmy technologiczne masowo korzystają z akceleratorów obliczeniowych NVIDIA Hopper H100, które obecnie zapewniają najlepsze możliwości w branży (jeszcze w tym roku planowana jest premiera wydajniejszych układów NVIDIA B100 i B200).
Kto ma najwydajniejszy sprzęt do obsługi AI?
The Technology Brother opublikował ranking wydajności systemów obliczeniowych (pod względem liczby użytych akceleratorów NVIDIA H100).
W rankingu prowadzi Meta (odpowiedzialna m.in. za Facebook, Messenger i Instagram), która ma dysponować 350 tys. akceleratorów H100. Na drugiej pozycji znajduje się infrastruktura Lambda z 30 tys. akceleratorami, a na trzeciej sieć superkomputerów Google A3 z 26 tys. akceleratorami… a przynajmniej tak wskazują dane State of AI Report Compute Index.
Elon Musk twierdzi, że dane są niedokładne. Co prawda, miliarder nie podał dokładnej liczby akceleratorów, ale jego firmy miałyby się znaleźć na podium rankingu – Tesla na drugim miejscu, a start-up xAI na trzecim (można zatem oszacować, że każda z firm dysponuje co najmniej 30 tys. akceleratorów H100).
Musk nie zdradza szczegółów na temat swojego "arsenału", a w sieci znajdziemy tylko strzępki informacji na temat zakupów. W kwietniu 2023 r. Musk miał kupić 10 tys. procesorów graficznych NVIDIA Ampere A100 lub Hopper H100, które miałyby zajmować się trenowaniem dużego modelu językowego (LLM).
Wiemy, że w planach miliardera są kolejne inwestycje. Na początku roku zapowiedział on zakup superkomputera Dojo - spekulowano tutaj o cenie 500 mln dolarów, ale taki budżet miałby wystarczyć "tylko" na 10 tys. akceleratorów NVIDIA H100, a Musk podobno chce wydać jeszcze więcej pieniędzy na sprzęt NVIDII (jak sam twierdzi, do konkurencyjności w tej branży podobno wymagane są inwestycje na poziomie co najmniej kilku miliardów dolarów rocznie).
Źródło: X @ The Technology Brother, X @ Elon Musk
Komentarze
3