AI A100
微调与推理
$1,199.00/月 按月计费——随时可取消
- NVIDIA A100
- 80 GB HBM 显存
- 16 个 vCPU 核心
- 120 GB 内存
- 1 TB NVMe Gen4
- 预装 CUDA + cuDNN
- PyTorch 与 TensorFlow 就绪
- GPU 完全独享
NVIDIA GPU — CUDA 就绪
为 AI 工作负载 打造的专属基础设施
NVIDIA A100 与 H100，预装 CUDA、PyTorch 和 TensorFlow，GPU 之间通过 NVLink 互联——几分钟内即可开始训练模型，而不是等上几天。GPU 完全独享。
首次开机即可使用 CUDA
1,979 每块 H100 的 FP16 TFLOPS 算力
0 GB 每块 GPU 的 HBM 显存
0 GB/s NVLink GPU 互联带宽
24/7 资深 AI 专家支持
为您的工作负载选择合适的 GPU 算力
从轻量级推理到大规模 LLM 训练——GPU 完全独享，绝不共享，绝不分时。
AI H100
大规模模型训练
$2,499.00/月 按月计费——随时可取消
- NVIDIA H100 SXM
- 80 GB HBM 显存
- 26 个 vCPU 核心
- 200 GB 内存
- 2 TB NVMe Gen4
- NVLink 互联
- 包含 AI A100 的一切
- HBM3 — 3.35 TB/s 带宽
- 支持 NVLink 弹性扩展
AI 集群
多 GPU NVLink 架构
价格面议 由我们的工程师为您定制集群规模
- 4× NVIDIA H100 SXM
- 320 GB HBM 显存
- 96 个 vCPU 核心
- 768 GB 内存
- 8 TB NVMe Gen4
- NVLink 互联
- 4× H100，通过 NVLink 互联，600 GB/s
- 专为分布式训练调优
- 专属解决方案工程师
每台 AI 服务器均包含
- 预装 CUDA Toolkit + cuDNN
- PyTorch + TensorFlow 就绪
- GPU 完全独享
- 高速 NVMe 用于存放数据集
- 完整 Root 权限
- 支持快照，用于保存检查点
- DDoS 防护端点
- 24/7 专业技术支持
套餐对比
所有套餐软件环境相同——按显存、TFLOPS 算力和互联方式挑选。
| 功能 | AI A100 | AI H100 | AI 集群 |
|---|---|---|---|
| GPU | |||
| GPU 型号 | A100 80GB | H100 80GB SXM | 4× H100 SXM |
| 显存 | 80 GB HBM2e | 80 GB HBM3 | 320 GB HBM3 |
| FP16 算力 | 312 TFLOPS | 1,979 TFLOPS | 7,916 TFLOPS |
| NVLink 互联 | ✓ | ✓ | |
| 计算 | |||
| vCPU 核心数 | 16 | 26 | 96 |
| 系统内存 | 120 GB | 200 GB | 768 GB |
| 存储与网络 | |||
| NVMe Gen4 存储 | 1 TB | 2 TB | 8 TB |
| 网络 | 10 Gbps | 10 Gbps | 25 Gbps |
| 软件 | |||
| 预装 CUDA + cuDNN | ✓ | ✓ | ✓ |
| PyTorch 与 TensorFlow 就绪 | ✓ | ✓ | ✓ |
| Docker + NVIDIA 工具包 | ✓ | ✓ | ✓ |
| 管理 | |||
| 完整 Root 权限 | ✓ | ✓ | ✓ |
| 快照 | ✓ | ✓ | ✓ |
| 阿拉伯语和英语双语面板 | ✓ | ✓ | ✓ |
| 专属工程师 | ✓ | ||
硬件配置——NVIDIA A100 与 H100
AI 行业公认的标准 GPU——完全为您独享，绝不拆分，绝不分时共享。
- 80 GB HBM2e 显存
- 312 TFLOPS（FP16）
- 2 TB/s 显存带宽
适用于：模型微调、生产环境推理、中等规模训练
- 80 GB HBM3 显存
- 1,979 TFLOPS（FP16）
- 3.35 TB/s 显存带宽
适用于：大规模 LLM 训练、多 GPU 集群、科研场景
您可以构建什么？
我们的 GPU 集群每天承载的五种典型工作负载——软件环境已提前配好。
各项基准性能均表现出色
决定您训练时长的关键数据——实测得出，绝非空谈。
0 FP16 TFLOPS 算力 — H100
0 每块 GPU 显存（GB）
3.35 TB/s 显存带宽 — H100
0 NVLink 互联带宽（GB/s）
0 NVMe 数据集读取速度（MB/s）
软件环境已为您装好
无需查找驱动，无需在 CUDA 版本间挣扎——开机、激活环境，即可开始训练。
CUDA + cuDNN 每个 GPU 框架的基础——版本与驱动精确匹配。 已预装 
PyTorch 预装并完整支持 CUDA——torch.cuda.is_available() 开机即为 true。 已预装 
TensorFlow 开箱即启用 GPU 支持，XLA 就绪。 已预装 
Hugging Face Transformers + Diffusers——拉取模型即可在几分钟内运行。 已预装 
JupyterLab 在浏览器中直接对接真实 GPU 进行研究与实验。 一条命令即可安装 
Docker + NVIDIA Container Toolkit 提供隔离、可复现的训练环境。 一条命令即可安装 匹配 GPU 速度的存储与网络
GPU 一旦"喂不饱"就是浪费——数据通道必须跟得上。
高速 NVMe 7,000 MB/s 数据集读取绝不拖慢您的训练周期。
10Gbps+ 网络 10–25 Gbps 检查点与数据集传输只需几分钟，而非几小时。
NVLink 互联 600 GB/s GPU 间带宽让多 GPU 训练真正实现线性扩展。
模型始终归您所有
训练数据与模型权重是您的商业机密——我们如此对待它们。
欧洲多地已提供 GPU 算力
AI 服务器部署于我们位于欧洲的数据中心。下列数据中心今天即可订购。
正在 Hostrena 上构建模型的团队
在 A100 上用不到 8 小时完成了 Llama 3 70B 的微调——NVLink 让多 GPU 训练真正做到了无缝衔接。
生产环境推理请求量达每分钟 1 万次——即使在峰值时延迟也从未超过 180 毫秒。
从某云计算巨头迁移过来——在算力（TFLOPS）相同的情况下，每月训练成本节省了 35%。
常见问题
CUDA 是否已预装？
是的——CUDA Toolkit 与 cuDNN 出厂预装，并与驱动版本精确匹配。PyTorch 和 TensorFlow 首次开机即可识别 GPU。
A100 和 H100 有什么区别？
H100 是更新一代产品：FP16 算力约为 A100 的 6 倍（1,979 对比 312 TFLOPS），HBM3 显存更快（3.35 对比 2 TB/s），Transformer 引擎也更强大。A100 在微调和推理场景中依然极具性价比。
我能在 GPU 上使用 Docker 吗？
可以——Docker 及 NVIDIA Container Toolkit 已就绪，`--gpus all` 可直接使用，方便搭建可复现的训练环境。
如何向服务器传输大型数据集？
可通过 10–25 Gbps 网络，使用 rsync/scp 或对象存储工具传输。在较大规格的套餐上，1 TB 数据集传输远用不到半小时。
我能连接多块 GPU 吗？
可以——AI 集群套餐通过 NVLink 以 600 GB/s 连接 4 块 H100，专为分布式训练调优。更大规模的架构请联系销售团队。
Jupyter 是否开箱即用？
JupyterLab 一条命令即可安装，面板的快速入门指南中已有说明——许多团队会将其运行在内置防火墙规则之后。
每块 GPU 的显存是多少？
A100（HBM2e）与 H100（HBM3）均配备 80 GB 显存——足以在量化后进行 700 亿参数模型的推理，或结合模型并行进行训练。
GPU 真的是完全独享的吗？
完全独享——没有 MIG 切分，没有分时复用，没有共享。在 nvidia-smi 中显示的 GPU 完完全全属于您，因为它本来就是。
如何安全保存模型检查点？
可在训练里程碑处为服务器创建快照，或将检查点同步到对象存储——两种方式在面板中均有详细说明。
哪些地区提供 GPU 算力？
目前为法兰克福（FRA-1）和赫尔辛基（HEL-1）——均为符合 GDPR 的欧盟地区。新地区上线会在数据中心页面公布。
我能公开提供推理 API 吗？
可以——将端口部署在云防火墙和 DDoS 防护之后即可对外提供。许多客户直接从其 AI 服务器提供生产环境流量服务。
是否有年付优惠？
有——所有 GPU 套餐按年计费均可节省 15%。
集群的"价格面议"是什么意思？
多 GPU 架构由我们的工程师按需定制规模——GPU、互联、存储与网络会作为一个整体方案统一报价。
是否支持竞价/可中断计费？
暂不支持——所有 GPU 服务器均为预留且持续运行。如需应对突发工作负载，按月计费并可随时取消能为您保留灵活性。
多快可以开始使用？
A100 和 H100 服务器通常在下单后几分钟内即可上线；集群则会由工程师在 1–2 个工作日内完成部署。
我可以在这里微调 Llama 或 Mistral 等开源模型吗？
这是我们最常见的工作负载。单块 A100 80GB 即可轻松使用 LoRA 或 QLoRA 微调 70 亿至 130 亿参数的模型；更大模型的全精度微调则建议使用 H100 或搭配 NVLink 的多 GPU 方案。数据集可暂存于本地 NVMe 暂存空间，检查点可推送到任意兼容 S3 的存储，预置的 PyTorch 环境让您在第一个小时内就能从分词器一路走到训练。
立即开始训练您的模型
CUDA 就绪，PyTorch 已装好，GPU 完全归您独享。几分钟即可完成首轮训练——无需漫长的搭建过程。
A100 最低 $1,199/月起——按年计费可节省 15%。