NVIDIA A100 i H100 gotowe na CUDA, z zainstalowanymi PyTorch i TensorFlow i z NVLink między GPU. Zacznij trenować modele w kilka minut, nie dni. Twoje GPU, w pełni odizolowane.
Gotowe na CUDA od pierwszego uruchomienia
Od lekkiej inferencji po trenowanie ogromnych LLM: GPU na wyłączność, nigdy niedzielone i nigdy nieprzydzielane w kawałkach czasu.
Dostrajanie i inferencja
Poważne trenowanie modeli
Sieć NVLink z wieloma GPU
Wszędzie to samo oprogramowanie: wybieraj według VRAM, TFLOPS i połączenia.
| Funkcja | AI A100 | AI H100 | AI Cluster |
|---|---|---|---|
| GPU | |||
| Model GPU | A100 80GB | H100 80GB SXM | 4× H100 SXM |
| VRAM | 80 GB HBM2e | 80 GB HBM3 | 320 GB HBM3 |
| Moc obliczeniowa FP16 | 312 TFLOPS | 1,979 TFLOPS | 7,916 TFLOPS |
| Połączenie NVLink | ✓ | ✓ | |
| Moc obliczeniowa | |||
| Rdzenie vCPU | 16 | 26 | 96 |
| Pamięć RAM systemu | 120 GB | 200 GB | 768 GB |
| Pamięć masowa i sieć | |||
| Dyski NVMe Gen4 | 1 TB | 2 TB | 8 TB |
| Sieć | 10 Gbps | 10 Gbps | 25 Gbps |
| Oprogramowanie | |||
| CUDA + cuDNN zainstalowane fabrycznie | ✓ | ✓ | ✓ |
| Gotowe na PyTorch i TensorFlow | ✓ | ✓ | ✓ |
| Docker + NVIDIA toolkit | ✓ | ✓ | ✓ |
| Zarządzanie | |||
| Pełny dostęp root | ✓ | ✓ | ✓ |
| Migawki | ✓ | ✓ | ✓ |
| Panel po arabsku i angielsku | ✓ | ✓ | ✓ |
| Dedykowany inżynier | ✓ | ||
GPU, które branża SI uznała za standard: na wyłączność, nigdy dzielone na części ani w czasie.
Idealny do: dostrajania, inferencji produkcyjnej, trenowania średniej skali
Idealny do: trenowania dużych LLM, klastrów wielu GPU, badań
Pięć zadań, które nasze GPU wykonują każdego dnia, z gotowym oprogramowaniem.
Liczby, które decydują o czasie trenowania: policzone, a nie obiecane.
Bez szukania sterowników i bez piekła wersji CUDA: uruchom, aktywuj środowisko, zacznij trenować.
CUDA + cuDNN Podstawa każdego frameworka GPU, z wersją dopasowaną do sterownika. Zainstalowane fabrycznie 
PyTorch Zainstalowany fabrycznie z pełną obsługą CUDA: torch.cuda.is_available() już zwraca true. Zainstalowane fabrycznie 
TensorFlow Obsługa GPU włączona od razu, gotowe na XLA. Zainstalowane fabrycznie 
Hugging Face Transformers + Diffusers: pobierz model i uruchom go w kilka minut. Zainstalowane fabrycznie 
JupyterLab Badaj i eksperymentuj w przeglądarce, na prawdziwym GPU. Jedno polecenie dalej 
Docker + NVIDIA Container Toolkit dla odizolowanych, powtarzalnych środowisk trenowania. Jedno polecenie dalej GPU, które czeka na dane, to zmarnowane GPU. Ścieżka danych nadąża.
Dane treningowe i wagi to tajemnica firmy i platforma tak je traktuje.
Serwery SI działają w naszych europejskich centrach danych. Te poniżej są dziś w sprzedaży.
Dostroiliśmy Llama 3 70B na A100 w mniej niż 8 godzin. Dzięki NVLink trenowanie na wielu GPU było naprawdę płynne.
Inferencja produkcyjna przy 10 tys. żądań na minutę. Opóźnienie nigdy nie przekroczyło 180 ms, nawet w szczycie.
Przeszliśmy od chmurowego giganta i oszczędzamy 35% miesięcznie na trenowaniu przy tych samych TFLOPS.
Tak. CUDA Toolkit i cuDNN są zainstalowane i dopasowane wersją do sterownika. PyTorch i TensorFlow widzą GPU od pierwszego uruchomienia.
H100 to nowsza generacja: ok. 6× więcej mocy FP16 (1,979 wobec 312 TFLOPS), szybsza pamięć HBM3 (3.35 wobec 2 TB/s) i mocniejszy silnik transformerów. A100 pozostaje bardzo opłacalne do dostrajania i inferencji.
Tak. Docker i NVIDIA Container Toolkit są gotowe, więc `--gpus all` działa od razu w powtarzalnych środowiskach trenowania.
Przez sieć 10-25 Gbps za pomocą rsync/scp lub narzędzi do pamięci obiektowej. Zbiór 1 TB trafia na serwer w znacznie mniej niż pół godziny w większych pakietach.
Tak. AI Cluster łączy 4× H100 przez NVLink z prędkością 600 GB/s, dostrojone do trenowania rozproszonego. Po większe konfiguracje zgłoś się do działu sprzedaży.
JupyterLab instaluje się jednym poleceniem i jest opisany w szybkim starcie w panelu. Wiele zespołów uruchamia go za wbudowanymi regułami zapory.
80 GB HBM zarówno w A100 (HBM2e), jak i H100 (HBM3). Wystarczy do inferencji modeli 70B z kwantyzacją albo trenowania z równoległością modelu.
W pełni: bez części MIG, bez dzielenia w czasie, bez współdzielenia. GPU widać w nvidia-smi jako całkowicie Twoje, bo takie jest.
Rób migawki serwera przy ważnych punktach kontrolnych albo synchronizuj je poza serwer do pamięci obiektowej. Oba sposoby są opisane w panelu.
Dziś Frankfurt (FRA-1) i Helsinki (HEL-1), oba regiony UE przyjazne RODO. Nowe regiony ogłaszamy na stronie centrów danych.
Tak. Wystaw porty za zaporą w chmurze i ochroną DDoS. Wielu klientów obsługuje ruch produkcyjny prosto ze swojego serwera SI.
Tak, płatność roczna to 15% oszczędności na każdym pakiecie GPU.
Konfiguracje z wieloma GPU dobieramy z naszymi inżynierami: GPU, połączenia, pamięć masowa i sieć są wyceniane jako jeden pakiet na miarę.
Jeszcze nie. Wszystkie serwery GPU są zarezerwowane i stałe. Przy zadaniach skokowych elastyczność zapewnia płatność miesięczna z możliwością rezygnacji w każdej chwili.
Serwery A100 i H100 zwykle działają w kilka minut od zamówienia; klastry uruchamiamy z inżynierem w ciągu 1-2 dni roboczych.
To najczęstsze zadanie, jakie widzimy. Jedno A100 80GB swobodnie dostraja modele 7B-13B z LoRA lub QLoRA; pełne dostrajanie większych modeli wymaga H100 albo konfiguracji wielu GPU z NVLink. Zbiory danych trafiają na lokalną przestrzeń NVMe, punkty kontrolne do dowolnej pamięci zgodnej z S3, a gotowe środowisko PyTorch przeprowadzi Cię od tokenizera do trenowania w pierwszej godzinie.
CUDA gotowa, PyTorch zainstalowany, GPU tylko Twoje. Minuty do pierwszej epoki, bez maratonu konfiguracji.
A100 od $1,199/mies. Płatność roczna to 15% oszczędności.Pomogę Ci we wszystkim, co chcesz zrobić.
Wybierz temat i zapytaj mnie o cokolwiek z nim związanego.
W tej chwili nie ma tematów, o które można zapytać.
Porozmawiaj z człowiekiem
Porozmawiaj z człowiekiem
Welcome! Please note that our website is currently in its beta phase. We are delighted to have you browse our site and explore our products, but we kindly apologize that we cannot accept or process any orders at this time. Thank you for your patience and understanding until our official launch soon.
