AI A100
미세 조정 및 추론
$1,199.00/월 매월 청구 — 언제든 취소 가능
- NVIDIA A100
- 80 GB HBM VRAM
- 16개 vCPU 코어
- 120 GB RAM
- 1 TB NVMe Gen4
- CUDA + cuDNN 사전 설치
- PyTorch 및 TensorFlow 준비 완료
- 완전한 GPU 격리 환경
NVIDIA GPU — CUDA 준비 완료
AI 워크로드를 위해 설계된 전용 인프라
CUDA 환경이 사전 구성된 NVIDIA A100 및 H100, PyTorch와 TensorFlow 기본 설치, GPU 간 NVLink 연결 — 며칠씩 기다릴 필요 없이 단 몇 분 만에 모델 학습을 시작하세요. 100% 완전 격리된 전용 GPU입니다.
첫 부팅부터 CUDA 즉시 사용 가능
1,979 H100당 FP16 TFLOPS
0 GB GPU당 HBM VRAM
0 GB/s NVLink GPU 상호 연결
24/7 AI 전문 엔지니어 지원
워크로드에 맞는 최적의 GPU 성능 선택
가벼운 추론부터 대규모 LLM 학습까지 — 다른 사용자와 공유하거나 분할하지 않는 순수 전용 GPU입니다.
AI H100
본격적인 모델 학습
$2,499.00/월 매월 청구 — 언제든 취소 가능
- NVIDIA H100 SXM
- 80 GB HBM VRAM
- 26개 vCPU 코어
- 200 GB RAM
- 2 TB NVMe Gen4
- NVLink 상호 연결
- AI A100의 모든 기능 포함
- HBM3 — 대역폭 3.35 TB/s
- 확장에 최적화된 NVLink 지원
AI Cluster
멀티 GPU NVLink 패브릭
가격 문의 엔지니어와 함께 설계하는 맞춤형 클러스터
- 4× NVIDIA H100 SXM
- 320 GB HBM VRAM
- 96개 vCPU 코어
- 768 GB RAM
- 8 TB NVMe Gen4
- NVLink 상호 연결
- 600 GB/s NVLink 기반 4× H100
- 분산 학습 최적화
- 전담 솔루션 엔지니어 배정
모든 AI 서버에 기본 포함된 구성
- CUDA Toolkit + cuDNN 사전 설치
- PyTorch + TensorFlow 준비 완료
- 완전한 GPU 격리 환경
- 데이터셋용 초고속 NVMe
- 완전한 루트 권한
- 체크포인트용 스냅샷
- DDoS 보호 엔드포인트
- 24/7 전문 엔지니어 지원
요금제 비교
동일한 소프트웨어 스택 제공 — VRAM, TFLOPS 및 상호 연결 사양에 따라 선택하세요.
| 기능 및 성능 | AI A100 | AI H100 | AI Cluster |
|---|---|---|---|
| GPU | |||
| GPU 모델 | A100 80GB | H100 80GB SXM | 4× H100 SXM |
| VRAM | 80 GB HBM2e | 80 GB HBM3 | 320 GB HBM3 |
| FP16 연산 성능 | 312 TFLOPS | 1,979 TFLOPS | 7,916 TFLOPS |
| NVLink 상호 연결 | ✓ | ✓ | |
| 컴퓨팅 | |||
| vCPU 코어 | 16 | 26 | 96 |
| 시스템 RAM | 120 GB | 200 GB | 768 GB |
| 스토리지 및 네트워크 | |||
| NVMe Gen4 스토리지 | 1 TB | 2 TB | 8 TB |
| 네트워크 | 10 Gbps | 10 Gbps | 25 Gbps |
| 소프트웨어 | |||
| CUDA + cuDNN 사전 설치 | ✓ | ✓ | ✓ |
| PyTorch 및 TensorFlow 준비 완료 | ✓ | ✓ | ✓ |
| Docker + NVIDIA 툴킷 | ✓ | ✓ | ✓ |
| 관리 및 운영 | |||
| 완전한 루트 권한 | ✓ | ✓ | ✓ |
| 스냅샷 | ✓ | ✓ | ✓ |
| 다국어 지원 제어판 | ✓ | ✓ | ✓ |
| 전담 엔지니어 지원 | ✓ | ||
탑재 하드웨어 — NVIDIA A100 및 H100
AI 업계의 표준으로 자리 잡은 최고급 GPU — 분할이나 시간 공유 없이 단독으로 제공됩니다.
- 80 GB HBM2e VRAM
- 312 TFLOPS (FP16)
- 메모리 대역폭 2 TB/s
추천 용도: 미세 조정, 프로덕션 추론, 중규모 모델 학습
- 80 GB HBM3 VRAM
- 1,979 TFLOPS (FP16)
- 메모리 대역폭 3.35 TB/s
추천 용도: 대규모 LLM 학습, 멀티 GPU 클러스터, 첨단 연구
어떤 프로젝트를 구축할 수 있나요?
스택이 완벽하게 사전 준비된 당사 GPU 인프라에서 매일 실행되는 5가지 주요 활용 사례입니다.
모든 지표에서 입증된 벤치마크 성능
학습 완료 시간을 실질적으로 결정하는 핵심 수치들 — 약속이 아닌 실측 데이터입니다.
0 H100 기준 FP16 TFLOPS
0 GPU당 GB VRAM
3.35 TB/s H100 메모리 대역폭
0 NVLink 상호 연결 대역폭 (GB/s)
0 NVMe 데이터셋 읽기 속도 (MB/s)
필요한 개발 환경이 이미 준비되어 있습니다
드라이버를 헤매거나 CUDA 버전 불일치로 고통받을 필요가 없습니다. 부팅 후 환경을 활성화하고 즉시 학습을 시작하세요.
CUDA + cuDNN 모든 GPU 프레임워크의 기초가 되는 핵심 드라이버 매칭 버전. 사전 설치됨 
PyTorch 완벽한 CUDA 지원으로 사전 설치됨 — torch.cuda.is_available()이 즉시 true를 반환합니다. 사전 설치됨 
TensorFlow 기본적으로 GPU 가속이 활성화되어 있으며 XLA 준비 완료. 사전 설치됨 
Hugging Face Transformers 및 Diffusers — 몇 분 만에 오픈 모델을 다운로드하여 실행할 수 있습니다. 사전 설치됨 
JupyterLab 실제 GPU 환경과 연동하여 브라우저에서 편리하게 연구 및 실험. 명령어 한 줄로 설치 가능 
Docker + NVIDIA 격리되고 재현 가능한 학습 환경 구성을 위한 NVIDIA Container Toolkit. 명령어 한 줄로 설치 가능 GPU 속도에 맞춘 초고속 스토리지 및 네트워크
데이터 공급이 늦어지면 GPU가 낭비됩니다 — 고속 데이터 전송 경로가 지속적으로 데이터 흐름을 유지합니다.
초고속 NVMe 7,000 MB/s 데이터셋 읽기 속도가 학습 에포크의 병목이 되지 않습니다.
10Gbps+ 네트워크 10–25 Gbps 체크포인트와 데이터셋을 몇 시간이 아닌 몇 분 만에 전송합니다.
NVLink 상호 연결 600 GB/s GPU 간 초고속 대역폭으로 멀티 GPU 학습 효율을 극대화합니다.
고객님의 모델과 데이터를 완벽하게 보호합니다
학습 데이터와 가중치는 핵심 기업 자산입니다 — 당사 플랫폼은 이를 최우선으로 보호합니다.
유럽 리전의 GPU 인프라 용량
AI 서버는 유럽 데이터센터에 배포됩니다. 아래는 오늘 바로 주문 가능한 리전입니다.
Hostrena에서 모델을 실서비스하는 고객 팀들의 평가
A100에서 8시간 이내에 Llama 3 70B를 미세 조정했습니다. NVLink 설정 덕분에 멀티 GPU 학습이 매우 매끄럽게 진행되었습니다.
분당 1만 건의 요청을 처리하는 프로덕션 추론을 운영 중이며, 피크 시간대에도 지연 시간이 180ms를 넘지 않았습니다.
대형 클라우드에서 이전한 후 동일한 TFLOPS 성능을 유지하면서 월간 학습 비용을 35% 절감했습니다.
자주 묻는 질문
CUDA가 사전 설치되어 있나요?
네 — CUDA Toolkit과 cuDNN이 드라이버와 정확히 일치하는 버전으로 사전 설치되어 제공됩니다. 첫 부팅 시 PyTorch와 TensorFlow가 GPU를 즉시 감지합니다.
A100과 H100의 차이점은 무엇인가요?
H100은 차세대 모델로, 약 6배 더 높은 FP16 연산 성능(312 대비 1,979 TFLOPS), 더 빠른 HBM3 메모리(2 대비 3.35 TB/s), 강력한 Transformer Engine을 탑재하고 있습니다. A100은 미세 조정 및 추론 작업에 있어 여전히 뛰어난 가성비를 제공합니다.
GPU와 함께 Docker를 사용할 수 있나요?
네 — Docker와 NVIDIA Container Toolkit이 사전 준비되어 있으므로 `--gpus all` 옵션을 사용하여 재현 가능한 학습 환경을 즉시 실행할 수 있습니다.
대용량 데이터셋은 어떻게 서버로 전송하나요?
rsync/scp 또는 오브젝트 스토리지 도구를 사용하여 10–25 Gbps 초고속 네트워크를 통해 전송할 수 있습니다. 상위 요금제에서는 1 TB 규모의 데이터셋도 30분 이내에 빠르게 전송됩니다.
여러 대의 GPU를 연결할 수 있나요?
네 — AI Cluster 등급에서는 4개의 H100이 600 GB/s 속도의 NVLink로 연결되어 분산 학습에 최적화되어 있습니다. 더 큰 패브릭이 필요한 경우 영업팀에 문의하세요.
Jupyter 환경을 바로 사용할 수 있나요?
JupyterLab은 한 줄의 명령어로 설치할 수 있으며 제어판 빠른 시작 가이드에 설명되어 있습니다. 많은 팀이 기본 방화벽 규칙 뒤에서 안전하게 운영하고 있습니다.
GPU당 제공되는 VRAM 용량은 얼마인가요?
A100(HBM2e)과 H100(HBM3) 모두 80 GB HBM이 탑재되어 있습니다. 양자화를 적용한 70B 파라미터 모델 추론이나 모델 병렬화 학습에 충분한 크기입니다.
GPU가 정말로 단독 전용으로 제공되나요?
네, 100% 완전 전용입니다. MIG 분할, 시간 공유(Time-slicing), 타인과의 공유가 일절 없습니다. nvidia-smi 실행 시 온전히 고객님만의 장치로 표시됩니다.
모델 체크포인트를 어떻게 안전하게 저장하나요?
체크포인트 시점마다 서버 스냅샷을 생성하거나, 외부 오브젝트 스토리지로 체크포인트를 동기화할 수 있습니다. 두 방법 모두 제어판에 자세히 안내되어 있습니다.
어느 리전에 GPU 용량이 마련되어 있나요?
현재 프랑크푸르트(FRA-1)와 헬싱키(HEL-1)에서 제공 중이며, 두 곳 모두 GDPR 규정을 완벽히 준수하는 EU 리전입니다. 새로운 리전은 데이터센터 페이지에서 공지됩니다.
추론 API를 외부에 공개 서비스할 수 있나요?
네 — 클라우드 방화벽과 DDoS 방어 체계 뒤에서 필요한 포트를 외부에 열 수 있습니다. 많은 고객이 AI 서버에서 실시간 프로덕션 트래픽을 직접 처리하고 있습니다.
연간 할인 혜택이 있나요?
네 — 연간 결제를 선택하시면 모든 GPU 요금제에서 15% 할인이 적용됩니다.
클러스터 요금제의 "가격 문의"는 어떤 의미인가요?
멀티 GPU 패브릭은 고객님의 요구사항에 맞춰 전문 엔지니어와 함께 설계됩니다. GPU, 상호 연결, 스토리지 및 네트워크가 하나의 맞춤형 패키지로 산정되어 견적이 제공됩니다.
스팟/중단 가능 인스턴스를 지원하나요?
아직 지원하지 않습니다. 모든 GPU 서버는 예약된 지속적 전용 인스턴스입니다. 유연한 단기 사용을 원하시면 언제든 취소 가능한 월간 결제를 이용하세요.
주문 후 얼마나 빨리 시작할 수 있나요?
A100 및 H100 단일 서버는 주문 후 대개 몇 분 이내에 온라인 상태가 됩니다. 클러스터 환경은 엔지니어와 함께 1–2 영업일 이내에 세팅됩니다.
Llama나 Mistral 같은 오픈 모델을 여기서 미세 조정할 수 있나요?
가장 널리 활용되는 용도입니다. 단일 A100 80GB 머신에서도 LoRA 또는 QLoRA를 활용하여 7B–13B 파라미터 모델을 쾌적하게 미세 조정할 수 있습니다. 더 큰 모델의 전체 정밀도 튜닝에는 H100이나 NVLink 멀티 GPU 구성이 권장됩니다. 데이터셋은 로컬 초고속 NVMe 공간에 로드하고 체크포인트는 S3 호환 스토리지로 업로드할 수 있으며, 사전 준비된 PyTorch 환경을 통해 첫 1시간 안에 토크나이저부터 학습까지 원활히 진행할 수 있습니다.
오늘 바로 모델 학습을 시작하세요
CUDA 준비 완료, PyTorch 설치 완료, 100% 온전한 고객님만의 GPU. 복잡한 환경 설정 없이 단 몇 분 만에 첫 에포크를 실행하세요.
A100 월 $1,199부터 — 연간 결제 시 15% 할인 혜택 제공.