AI A100
Fine-tuning en inferentie
$1,199.00/mo per maand gefactureerd, altijd opzegbaar
- NVIDIA A100
- 80 GB HBM-VRAM
- 16 vCPU-kernen
- 120 GB RAM
- 1 TB NVMe Gen4
- CUDA + cuDNN vooraf geïnstalleerd
- Klaar voor PyTorch en TensorFlow
- Volledig eigen GPU
NVIDIA-GPU, klaar voor CUDA
Infrastructuur gebouwd voor AI-werk
NVIDIA A100 en H100, klaar voor CUDA, met PyTorch en TensorFlow vooraf geïnstalleerd en NVLink tussen de GPU's. Begin binnen minuten met het trainen van uw modellen, niet binnen dagen. Uw GPU, volledig van u alleen.
Klaar voor CUDA vanaf de eerste start
1,979 TFLOPS FP16 per H100
0 GB HBM-VRAM per GPU
0 GB/s NVLink tussen de GPU's
24/7 Deskundige support die AI begrijpt
Kies de juiste GPU-kracht voor uw werk
Van lichte inferentie tot het trainen van grote LLM's: eigen GPU's, nooit gedeeld, nooit in tijdsblokken verdeeld.
AI H100
Serieus modellen trainen
$2,499.00/mo per maand gefactureerd, altijd opzegbaar
- NVIDIA H100 SXM
- 80 GB HBM-VRAM
- 26 vCPU-kernen
- 200 GB RAM
- 2 TB NVMe Gen4
- NVLink-verbinding
- Alles uit AI A100
- HBM3 - 3.35 TB/s bandbreedte
- Klaar voor NVLink om op te schalen
AI Cluster
NVLink-netwerk met meerdere GPU's
Prijs op aanvraag Clusters op maat, samengesteld met onze engineers
- 4× NVIDIA H100 SXM
- 320 GB HBM-VRAM
- 96 vCPU-kernen
- 768 GB RAM
- 8 TB NVMe Gen4
- NVLink-verbinding
- 4× H100 via NVLink 600 GB/s
- Afgestemd op gedistribueerd trainen
- Eigen engineer voor oplossingen
Elke AI-server bevat
- CUDA Toolkit + cuDNN vooraf geïnstalleerd
- Klaar voor PyTorch + TensorFlow
- Volledig eigen GPU
- Snelle NVMe voor datasets
- Volledige root-toegang
- Snapshots voor checkpoints
- Endpoints beschermd tegen DDoS
- 24/7 support door specialisten
Pakketten vergelijken
Overal dezelfde software. Kies op VRAM, TFLOPS en verbinding tussen GPU's.
| Functie | AI A100 | AI H100 | AI Cluster |
|---|---|---|---|
| GPU | |||
| GPU-model | A100 80GB | H100 80GB SXM | 4× H100 SXM |
| VRAM | 80 GB HBM2e | 80 GB HBM3 | 320 GB HBM3 |
| FP16-rekenkracht | 312 TFLOPS | 1,979 TFLOPS | 7,916 TFLOPS |
| NVLink-verbinding | ✓ | ✓ | |
| Rekenkracht | |||
| vCPU-kernen | 16 | 26 | 96 |
| Systeem-RAM | 120 GB | 200 GB | 768 GB |
| Opslag en netwerk | |||
| NVMe Gen4-opslag | 1 TB | 2 TB | 8 TB |
| Netwerk | 10 Gbps | 10 Gbps | 25 Gbps |
| Software | |||
| CUDA + cuDNN vooraf geïnstalleerd | ✓ | ✓ | ✓ |
| Klaar voor PyTorch en TensorFlow | ✓ | ✓ | ✓ |
| Docker + NVIDIA toolkit | ✓ | ✓ | ✓ |
| Beheer | |||
| Volledige root-toegang | ✓ | ✓ | ✓ |
| Snapshots | ✓ | ✓ | ✓ |
| Paneel in het Arabisch en Engels | ✓ | ✓ | ✓ |
| Eigen engineer | ✓ | ||
De hardware: NVIDIA A100 en H100
De GPU's die de AI-wereld als standaard koos. Alleen voor u, nooit opgedeeld, nooit gedeeld in de tijd.
- 80 GB HBM2e-VRAM
- 312 TFLOPS (FP16)
- 2 TB/s geheugenbandbreedte
Ideaal voor: fine-tuning, inferentie in productie, training op middelgrote schaal
- 80 GB HBM3-VRAM
- 1,979 TFLOPS (FP16)
- 3.35 TB/s geheugenbandbreedte
Ideaal voor: training van grote LLM's, clusters met meerdere GPU's, onderzoek
Wat kunt u bouwen?
Vijf soorten werk die onze GPU's elke dag draaien, met de software al klaar.
Prestaties gemeten op elk punt
De cijfers die uw trainingstijd bepalen: geteld, niet beloofd.
0 TFLOPS FP16 - H100
0 GB VRAM per GPU
3.35 TB/s Geheugenbandbreedte - H100
0 GB/s NVLink tussen de GPU's
0 MB/s NVMe bij het lezen van datasets
Uw software staat er al op
Geen drivers zoeken, geen gedoe met CUDA-versies. Opstarten, de omgeving activeren, beginnen met trainen.
CUDA + cuDNN De basis voor elk GPU-framework, met de versie die past bij de driver. Vooraf geïnstalleerd 
PyTorch Vooraf geïnstalleerd met volledige CUDA-ondersteuning. torch.cuda.is_available() is al true. Vooraf geïnstalleerd 
TensorFlow GPU-ondersteuning direct aan, klaar voor XLA. Vooraf geïnstalleerd 
Hugging Face Transformers + Diffusers: haal een model op en draai het binnen minuten. Vooraf geïnstalleerd 
JupyterLab Onderzoek en experimenteer in de browser, op de echte GPU. Eén commando verwijderd 
Docker + NVIDIA Container Toolkit voor afgeschermde trainingsomgevingen die u steeds opnieuw zo kunt opbouwen. Eén commando verwijderd Opslag en netwerk op GPU-snelheid
Een GPU die op data wacht, is een verspilde GPU. De aanvoer van data houdt het tempo bij.
Snelle NVMe 7.000 MB/s Het lezen van datasets remt uw epochs nooit af.
Netwerk van 10Gbps+ 10-25 Gbps Verplaats checkpoints en datasets in minuten, niet in uren.
NVLink-verbinding 600 GB/s Bandbreedte tussen GPU's waardoor training met meerdere GPU's echt opschaalt.
Uw modellen blijven van u
Trainingsdata en gewichten zijn bedrijfsgeheimen, en zo behandelt het platform ze ook.
GPU-capaciteit in Europese regio's
AI-servers draaien in onze Europese datacenters. De datacenters hieronder zijn vandaag te koop.
Teams die hun modellen op Hostrena draaien
Llama 3 70B gefinetuned op A100 in minder dan 8 uur. Door NVLink ging trainen met meerdere GPU's echt naadloos.
We draaien inferentie in productie met 10k verzoeken per minuut. De vertraging kwam zelfs op de drukste momenten nooit boven 180 ms.
Overgestapt van een grote cloudaanbieder. We besparen 35% per maand op onze trainingen, met dezelfde TFLOPS.
Veelgestelde vragen
Is CUDA vooraf geïnstalleerd?
Ja. CUDA Toolkit en cuDNN zijn vooraf geïnstalleerd, met de versie die past bij de driver. PyTorch en TensorFlow zien de GPU vanaf de eerste start.
Wat is het verschil tussen A100 en H100?
H100 is de nieuwere generatie: ongeveer 6× meer FP16-rekenkracht (1,979 tegen 312 TFLOPS), sneller HBM3-geheugen (3.35 tegen 2 TB/s) en een sterkere transformer-engine. A100 blijft erg voordelig voor fine-tuning en inferentie.
Kan ik Docker met de GPU gebruiken?
Ja. Docker en de NVIDIA Container Toolkit staan klaar, dus `--gpus all` werkt meteen voor trainingsomgevingen die u steeds opnieuw zo kunt opbouwen.
Hoe zet ik grote datasets op de server?
Via het netwerk van 10-25 Gbps met rsync/scp of tools voor objectopslag. Een dataset van 1 TB staat er bij de grotere pakketten ruim binnen een half uur op.
Kan ik meerdere GPU's koppelen?
Ja. Het AI Cluster verbindt 4× H100 via NVLink met 600 GB/s, afgestemd op gedistribueerd trainen. Praat met verkoop voor grotere opstellingen.
Is Jupyter direct klaar?
JupyterLab installeert u met één commando, en de snelstart in het paneel legt het uit. Veel teams draaien het achter de ingebouwde firewallregels.
Hoeveel VRAM is er per GPU?
80 GB HBM op zowel A100 (HBM2e) als H100 (HBM3). Genoeg voor inferentie met 70B parameters met kwantisatie, of training met modelparallellisme.
Is de GPU echt alleen van mij?
Helemaal. Geen MIG-delen, geen tijdsblokken, niets gedeeld. De GPU staat in nvidia-smi als volledig van u, omdat hij dat ook is.
Hoe bewaar ik checkpoints van modellen veilig?
Maak een snapshot van de server bij belangrijke checkpoints, of synchroniseer checkpoints naar objectopslag buiten de server. Beide manieren staan uitgelegd in het paneel.
Welke regio's hebben GPU-capaciteit?
Vandaag Frankfurt (FRA-1) en Helsinki (HEL-1), allebei EU-regio's die goed samengaan met de AVG. Nieuwe regio's maken we bekend op de pagina met datacenters.
Kan ik inferentie-API's openbaar draaien?
Ja. Stel uw poorten open achter de cloudfirewall en de DDoS-bescherming. Veel klanten bedienen hun productieverkeer direct vanaf hun AI-server.
Is er korting bij jaarlijks betalen?
Ja, jaarlijks betalen bespaart 15% op elk GPU-pakket.
Wat betekent "prijs op aanvraag" bij clusters?
Opstellingen met meerdere GPU's stellen we samen met onze engineers samen. GPU's, verbindingen, opslag en netwerk krijgt u als één pakket op maat aangeboden.
Hebben jullie spot-prijzen of servers die onderbroken mogen worden?
Nog niet. Alle GPU-servers zijn vast gereserveerd en blijven draaien. Voor werk in pieken blijft u flexibel met per maand betalen en altijd kunnen opzeggen.
Hoe snel kan ik beginnen?
A100- en H100-servers zijn meestal binnen enkele minuten na bestellen online. Clusters zetten we met een engineer op binnen 1-2 werkdagen.
Kan ik hier open modellen zoals Llama of Mistral fine-tunen?
Dat is het werk dat we het vaakst zien. Eén A100 80GB fine-tunet modellen van 7B-13B parameters zonder moeite met LoRA of QLoRA. Volledige fine-tuning van grotere modellen vraagt om de H100 of een opstelling met meerdere GPU's en NVLink. Datasets zet u klaar op lokale NVMe-opslag, checkpoints gaan naar elke S3-compatibele opslag, en met de kant-en-klare PyTorch-omgeving gaat u binnen het eerste uur van tokenizer naar training.
Begin vandaag met het trainen van uw modellen
Klaar voor CUDA, PyTorch geïnstalleerd, een GPU die helemaal van u is. Binnen minuten bij uw eerste epoch, zonder eindeloos instellen.
A100 vanaf $1,199/mnd. Jaarlijks betalen bespaart 15%.