AI A100
تنظیم دقیق و استنتاج
- NVIDIA A100
- 80 گیگابایت HBM VRAM
- 16 هسته vCPU
- 120 گیگابایت RAM
- 1 ترابایت NVMe Gen4
- CUDA + cuDNN از پیش نصبشده
- PyTorch و TensorFlow آماده
- جداسازی کامل GPU
کارتهای NVIDIA A100 و H100 با CUDA آماده، PyTorch و TensorFlow از پیش نصبشده و ارتباط NVLink میان GPUها — آموزش مدلهای خود را به جای چند روز، در چند دقیقه آغاز کنید. پردازنده گرافیکی شما، کاملاً مجزا و اختصاصی.
آماده با CUDA از اولین راهاندازی
از استنتاج سبک تا آموزش مدلهای بزرگ زبانی (LLM) — پردازندههای گرافیکی اختصاصی، بدون اشتراکگذاری، بدون تقسیم زمانی.
تنظیم دقیق و استنتاج
آموزش جدی مدلها
بستر ارتباطی چند پردازندهای NVLink
مجموعه نرمافزاری یکسان در همه جا — بر اساس VRAM، TFLOPS و ارتباط داخلی انتخاب کنید.
| ویژگی | AI A100 | AI H100 | خوشه هوش مصنوعی (AI Cluster) |
|---|---|---|---|
| GPU | |||
| مدل GPU | A100 80GB | H100 80GB SXM | 4× H100 SXM |
| VRAM | 80 GB HBM2e | 80 GB HBM3 | 320 GB HBM3 |
| محاسبات FP16 | 312 TFLOPS | 1,979 TFLOPS | 7,916 TFLOPS |
| ارتباط داخلی NVLink | ✓ | ✓ | |
| محاسبات | |||
| هستههای vCPU | 16 | 26 | 96 |
| حافظه رم سیستم | 120 GB | 200 GB | 768 GB |
| ذخیرهسازی و شبکه | |||
| ذخیرهسازی NVMe Gen4 | 1 TB | 2 TB | 8 TB |
| شبکه | 10 Gbps | 10 Gbps | 25 Gbps |
| نرمافزار | |||
| CUDA + cuDNN از پیش نصبشده | ✓ | ✓ | ✓ |
| PyTorch و TensorFlow آماده | ✓ | ✓ | ✓ |
| Docker + ابزارهای NVIDIA | ✓ | ✓ | ✓ |
| مدیریت | |||
| دسترسی کامل root | ✓ | ✓ | ✓ |
| اسنپشاتها | ✓ | ✓ | ✓ |
| پنل عربی و انگلیسی | ✓ | ✓ | ✓ |
| مهندس اختصاصی | ✓ | ||
پردازندههای گرافیکی استانداردی که صنعت هوش مصنوعی بر آنها بنا شده — منحصراً برای شما، بدون قطعهبندی، بدون اشتراک زمانی.
ایدهآل برای: تنظیم دقیق، استنتاج در مقیاس عملیاتی، آموزش میانمقیاس
ایدهآل برای: آموزش مدلهای بزرگ LLM، خوشههای چند پردازندهای، تحقیقات پیشرفته
پنج مورد از بارهای کاری که ناوگان GPU ما هر روز اجرا میکند — با پشته نرمافزاری کاملاً آماده.
اعدادی که زمان آموزش شما را تعیین میکنند — ثبتشده، نه صرفاً وعده دادهشده.
بدون نیاز به جستجوی درایور یا درگیری با ناسازگاری نسخههای CUDA — سرور را روشن کنید، محیط را فعال نمایید و آموزش را آغاز کنید.
یک پردازنده گرافیکی منتظر داده، یک پردازنده تلفشده است — مسیر انتقال داده کاملاً همگام است.
دادههای آموزشی و وزنهای مدلها اسرار تجاری هستند — سامانه نیز با آنها بر همین اساس رفتار میکند.
سرورهای هوش مصنوعی در مراکز داده اروپایی ما مستقر میشوند. مراکز داده زیر هماکنون برای سفارش در دسترس هستند.
مدل Llama 3 70B را روی A100 در کمتر از 8 ساعت تنظیم دقیق کردم — پیکربندی NVLink آموزش چند پردازندهای را واقعاً بینقص کرد.
استنتاج در مقیاس عملیاتی را با ۱۰ هزار درخواست در دقیقه اجرا میکنیم — تاخیر حتی در زمان اوج مصرف هرگز از 180 میلیثانیه فراتر نرفت.
از یک غول ابری مهاجرت کردیم — ماهانه ۳۵٪ در اجرای دورههای آموزشی خود با همان TFLOPS یکسان صرفهجویی کردیم.
بله — مجموعه ابزار CUDA Toolkit و cuDNN از پیش نصب شده و نسخهشان کاملاً با درایور مطابقت دارد. کتابخانههای PyTorch و TensorFlow از همان اولین راهاندازی GPU را شناسایی میکنند.
مدل H100 نسل جدیدتر است: حدود ۶ برابر توان محاسباتی بیشتر FP16 (1,979 در مقایسه با 312 TFLOPS)، حافظه HBM3 سریعتر (3.35 در مقایسه با 2 ترابایت بر ثانیه) و موتور پردازش ترنسفورمر قدرتمندتر. با این حال A100 همچنان ارزش فوقالعادهای برای تنظیم دقیق و استنتاج دارد.
بله — داکر به همراه NVIDIA Container Toolkit کاملاً آماده هستند، بنابراین دستور --gpus all بلافاصله برای محیطهای آموزشی بازتولیدپذیر کار میکند.
از طریق شبکه 10 تا 25 گیگابیت بر ثانیه با ابزارهایی مانند rsync/scp یا ذخیرهسازی ابری شیء (Object Storage). یک مجموعهداده 1 ترابایتی در طرحهای بزرگتر در کمتر از نیم ساعت منتقل میشود.
بله — سطح خوشه هوش مصنوعی (AI Cluster) چهار کارت H100 را از طریق NVLink با سرعت 600 گیگابایت بر ثانیه به هم متصل میکند که برای آموزش توزیعشده تنظیم شده است. برای خوشههای بزرگتر با بخش فروش گفتگو کنید.
نرمافزار JupyterLab تنها با یک دستور نصب میشود و مراحل آن در راهنمای شروع سریع پنل مستند شده است — بسیاری از تیمها آن را پشت قوانین فایروال داخلی اجرا میکنند.
80 گیگابایت حافظه HBM در هر دو مدل A100 (از نوع HBM2e) و H100 (از نوع HBM3) — که برای استنتاج مدلهای دارای ۷۰ میلیارد پارامتر با کوانتیزاسیون، یا آموزش با موازیسازی مدل کاملاً کافی است.
کاملاً — بدون تقسیم MIG، بدون تقسیم زمانی و بدون هیچگونه اشتراکگذاری. پردازنده گرافیکی در دستور nvidia-smi کاملاً متعلق به شما نمایش داده میشود، زیرا واقعاً متعلق به شماست.
در نقاط عطف آموزش از سرور اسنپشات بگیرید، یا نقاط ذخیره را با ذخیرهسازی ابری شیء همگامسازی کنید — هر دو روش در پنل مستند شدهاند.
هماکنون فرانکفورت (FRA-1) و هلسینکی (HEL-1) — که هر دو مناطقی در اتحادیه اروپا و منطبق با قوانین GDPR هستند. مناطق جدید در صفحه مراکز داده اعلام میشوند.
بله — پورتهای خود را پشت فایروال ابری و محافظت در برابر DDoS قرار دهید. بسیاری از مشتریان ترافیک عملیاتی خود را مستقیماً از سرور هوش مصنوعی خود ارائه میدهند.
بله — صورتحساب سالانه 15% صرفهجویی در تمام طرحهای GPU به همراه دارد.
شبکههای چند پردازندهای همراه با مهندسان ما اندازهگیری و طراحی میشوند — پردازندههای گرافیکی، ارتباطات داخلی، ذخیرهسازی و شبکه به صورت یک پکیج سفارشی قیمتگذاری میشوند.
هنوز نه — تمام سرورهای GPU رزروشده و پایدار هستند. برای بارهای کاری مقطعی، صورتحساب ماهانه با امکان لغو در هر زمان انعطافپذیری شما را حفظ میکند.
سرورهای A100 و H100 معمولاً ظرف چند دقیقه پس از سفارش آنلاین میشوند؛ خوشهها ظرف ۱ تا ۲ روز کاری به همراه یک مهندس راهاندازی میگردند.
این متداولترین بار کاری است که میبینیم. یک کارت تکی A100 با ظرفیت 80 گیگابایت مدلهای ۷ تا ۱۳ میلیارد پارامتری را به راحتی با LoRA یا QLoRA تنظیم دقیق میکند؛ آموزش با دقت کامل برای مدلهای بزرگتر به H100 یا راهاندازی چند پردازندهای با NVLink نیاز دارد. مجموعهدادهها روی فضای محلی پرسرعت NVMe قرار میگیرند، نقاط ذخیره به هر فضای ذخیرهسازی سازگار با S3 ارسال میشوند و محیط آماده PyTorch شما را در همان ساعت اول از آمادهسازی توکنها به مرحله آموزش میرساند.
CUDA آماده، PyTorch نصبشده، و یک GPU که کاملاً متعلق به شماست. چند دقیقه تا اولین epoch — بدون دردسرهای طولانی راهاندازی.
مدل A100 از 1,199 دلار در ماه — پرداخت سالانه 15% صرفهجویی به همراه دارد.در هر کاری که بخواهید انجام دهید کمکتان میکنم.
یک موضوع انتخاب کنید و هر سؤالی درباره آن دارید بپرسید.
اکنون موضوعی برای پرسیدن وجود ندارد.
گفتگو با یک انسان
گفتگو با یک انسان
Welcome! Please note that our website is currently in its beta phase. We are delighted to have you browse our site and explore our products, but we kindly apologize that we cannot accept or process any orders at this time. Thank you for your patience and understanding until our official launch soon.