AI A100
ファインチューニングと推論
- NVIDIA A100
- 80 GB HBM VRAM
- 16 vCPU コア
- 120 GB RAM
- 1 TB NVMe Gen4
- CUDA + cuDNN インストール済み
- PyTorch & TensorFlow 設定済み
- 完全な GPU 独立環境
CUDA 設定済みの NVIDIA A100 および H100、PyTorch と TensorFlow を事前インストール、GPU 間を NVLink で接続。何日も待つことなく、わずか数分でモデルの学習を始められます。完全に独立した、あなただけの GPU です。
初回起動時から CUDA が使えます
手軽な推論から大規模な LLM の学習まで。他の利用者と共有・分割されない、専用の GPU です。
ファインチューニングと推論
本格的なモデル学習
マルチ GPU NVLink ファブリック
どのプランもソフトウェア構成は共通です。VRAM、TFLOPS、相互接続の違いでお選びください。
| 機能・性能 | AI A100 | AI H100 | AI Cluster |
|---|---|---|---|
| GPU | |||
| GPU モデル | A100 80GB | H100 80GB SXM | 4× H100 SXM |
| VRAM | 80 GB HBM2e | 80 GB HBM3 | 320 GB HBM3 |
| FP16 演算性能 | 312 TFLOPS | 1,979 TFLOPS | 7,916 TFLOPS |
| NVLink 相互接続 | ✓ | ✓ | |
| コンピュート | |||
| vCPU コア | 16 | 26 | 96 |
| システム RAM | 120 GB | 200 GB | 768 GB |
| ストレージ&ネットワーク | |||
| NVMe Gen4 ストレージ | 1 TB | 2 TB | 8 TB |
| ネットワーク | 10 Gbps | 10 Gbps | 25 Gbps |
| ソフトウェア | |||
| CUDA + cuDNN インストール済み | ✓ | ✓ | ✓ |
| PyTorch & TensorFlow 設定済み | ✓ | ✓ | ✓ |
| Docker + NVIDIA toolkit | ✓ | ✓ | ✓ |
| 管理機能 | |||
| フル root 権限 | ✓ | ✓ | ✓ |
| スナップショット | ✓ | ✓ | ✓ |
| アラビア語・英語対応パネル | ✓ | ✓ | ✓ |
| 専任エンジニア | ✓ | ||
AI 業界の標準となっている GPU を、分割や時間共有なしで、あなた専用にご提供します。
最適な用途:ファインチューニング、本番推論、中規模モデル学習
最適な用途:大規模 LLM 学習、マルチ GPU クラスター、先端研究
必要な環境がすでに整った Hostrena の GPU サーバーで、日常的に行われている 5 つの活用例です。
学習時間を左右する重要な数値。机上の空論ではなく、実際の計測結果です。
ドライバー探しや CUDA バージョンの不整合に悩まされることなく、起動して環境を有効化すれば、すぐに学習を始められます。
データの供給が追いつかなければ、GPU のパワーが無駄になります。Hostrena では高速なデータ経路を確保しています。
学習データとモデルの重みは重要な資産です。当プラットフォームはその前提で厳重に保護します。
AI サーバーはヨーロッパのデータセンターに設置されます。以下は本日ご利用可能な拠点です。
A100 上で Llama 3 70B のファインチューニングを 8 時間未満で完了できました。NVLink の構成のおかげで、マルチ GPU 学習が驚くほどスムーズでした。
毎分 1 万リクエストの本番推論を運用していますが、ピーク時でも遅延が 180ms を超えることはありませんでした。
大手メガクラウドから移行したところ、同じ TFLOPS の計算性能を維持したまま、月々の学習コストを 35% 削減できました。
はい。CUDA Toolkit と cuDNN が、ドライバーと整合したバージョンでインストールされています。PyTorch や TensorFlow は初回起動時から GPU を認識します。
H100 はより新しい世代で、FP16 演算性能が約 6 倍(312 TFLOPS に対し 1,979 TFLOPS)、高速な HBM3 メモリ(2 TB/s に対し 3.35 TB/s)、そして強化された Transformer Engine を搭載しています。一方、A100 もファインチューニングや推論用途において非常に優れたコストパフォーマンスを発揮します。
はい。Docker と NVIDIA Container Toolkit が設定済みのため、`--gpus all` を指定するだけで、再現性の高い学習環境をすぐに動かせます。
10〜25 Gbps の高速ネットワーク経由で、rsync、scp、またはオブジェクトストレージツールを使って転送できます。上位プランであれば、1 TB のデータセットも 30 分足らずで転送が完了します。
はい。AI Cluster プランでは 4 台の H100 が 600 GB/s の NVLink で相互接続されており、分散学習向けに最適化されています。より大規模な構成をご希望の場合は、営業担当にお問い合わせください。
JupyterLab はコマンド 1 つでインストールでき、管理画面のクイックスタートガイドに手順が記載されています。多くのチームが組み込みのファイアウォール保護下で運用しています。
A100(HBM2e)と H100(HBM3)のどちらも 80 GB の HBM を搭載しています。量子化を施した 70B パラメータモデルの推論や、モデル並列化を用いた学習に十分な容量です。
はい、完全に専用です。MIG による分割や時間共有(タイムスライス)、他ユーザーとの共有は一切行いません。nvidia-smi で確認しても、あなただけの GPU として表示されます。
重要な節目でサーバーのスナップショットを作成するか、外部のオブジェクトストレージへチェックポイントを同期してください。どちらの手順も管理画面に案内がございます。
現在はフランクフルト(FRA-1)とヘルシンキ(HEL-1)で提供しています。どちらも GDPR に準拠した EU 地域です。新しい地域はデータセンター一覧ページで随時お知らせします。
はい。クラウドファイアウォールと DDoS 保護の背後で必要なポートを公開できます。多くのお客様が AI サーバーから直接本番トラフィックを処理しています。
はい。すべての GPU プランで年払いを選択いただくと 15% の割引が適用されます。
マルチ GPU 構成はお客様の用途に合わせて当社のエンジニアが設計します。GPU、相互接続、ストレージ、ネットワークをひとつにまとめた専用パッケージとしてお見積もりいたします。
現在は提供しておりません。すべての GPU サーバーは予約確保された固定インスタンスです。一時的なご利用には、いつでも解約可能な月払いプランをご活用ください。
A100 および H100 サーバーは、通常ご注文から数分でオンラインになります。クラスター構成はエンジニアによる準備のため、1〜2 営業日ほどでお引き渡しいたします。
はい、最も多くご利用いただいている用途です。単一の A100 80GB でも、LoRA や QLoRA を使用して 7B〜13B パラメータのモデルを快適にファインチューニングできます。さらに大規模なモデルの全精度チューニングには、H100 または NVLink 搭載のマルチ GPU 構成をおすすめします。データセットはローカルの高速 NVMe に配置し、チェックポイントは任意の S3 互換ストレージに保存可能。用意された PyTorch 環境により、使い始めて 1 時間以内にはトークナイザーから学習開始まで進められます。
CUDA 設定済み、PyTorch インストール済み、完全にあなただけの GPU。面倒な初期設定なしで、数分で最初のエポックを回せます。
A100 は月額 $1,199 から — 年払いで 15% お得になります。Welcome! Please note that our website is currently in its beta phase. We are delighted to have you browse our site and explore our products, but we kindly apologize that we cannot accept or process any orders at this time. Thank you for your patience and understanding until our official launch soon.