AI 호스팅

GPU 한 대를 통째로.
베어메탈로 드립니다

GPU 를 물리적으로 장착한 서버를 한 고객에게 그대로 드립니다. 다른 고객과 GPU 를 나누지 않습니다. GPU 메모리와 연산 규격을 등급마다 그대로 적었습니다 — 견적을 받아야 알 수 있는 숫자를 두지 않았습니다.

월 191,835원부터 GPU 10등급 베어메탈 · GPU 미공유
상품

GPU 등급 10종

GPU 종류와 장수, GPU 메모리 총량을 그대로 적었습니다. 월 단위 임대이며 시간·일 단위는 받지 않습니다 — 한 대를 통째로 드리는 방식이라 켜지 않은 시간에도 그 장비를 다른 곳에 쓸 수 없습니다.

카드의 「성능」 점수는 무엇인가 — 연산(FP32 × 장수)과 GPU 메모리 총량을 같은 비중으로 합쳐 최고 등급이 10.0 이 되도록 환산한 자체 지표입니다 — 벤치마크 측정값이 아닙니다. 등급 사이의 상대 비교에만 쓰십시오. 어느 쪽이 더 중요한지는 하시려는 작업이 정하므로 가중치를 저희가 정하지 않았습니다. 아래 성능 비교에서 두 값을 따로 보실 수 있습니다.

월 기준 부가세 별도입니다. 표기 사양은 최소 기준이고 실제 배정은 동급 이상입니다.
스토리지를 더 붙이실 수 있습니다 — 1TB·10TB 단위로 최대 70TB, 요금은 대용량VM 요금표와 같습니다.

성능 비교

등급마다 무엇이 얼마나 다른가

고르실 때 보셔야 할 것은 두 가지입니다 — 모델이 GPU 메모리에 들어가는가, 그리고 얼마나 빠른가. 순서가 중요합니다: 메모리에 들어가지 않으면 연산이 아무리 빨라도 돌지 않습니다.

GPU 메모리 총량

모델과 배치가 여기에 들어가야 합니다. 저희가 배정하는 값입니다.

AI-W1 32GBAI-A1 20GBAI-T1 16GBAI-W2 64GBAI-R1 48GBAI-A2 40GBAI-T2 32GBAI-W4 128GBAI-R2 96GBAI-A4 80GB

장수를 곱한 총량입니다. 여러 장을 합쳐 쓰는 것은 프레임워크가 지원하는 범위에서 됩니다.

연산 성능 (FP32 · 등급 합산)

GPU 1장 규격에 장수를 곱한 값입니다. 왼쪽 차트와 같은 등급 순서로 놓았습니다.

AI-W1 17.8 TFAI-A1 26.7 TFAI-T1 8.1 TFAI-W2 35.6 TFAI-R1 38.7 TFAI-A2 53.4 TFAI-T2 16.2 TFAI-W4 71.2 TFAI-R2 77.4 TFAI-A4 106.8 TF

FP32 값은 제조사 공개 규격입니다 (AMD·NVIDIA 제품 자료 기준). 실제 체감 성능은 모델·프레임워크·연산 정밀도에 따라 달라집니다.
장수를 곱한 단순 합산입니다 — 실제 다중 GPU 성능은 선형으로 늘지 않고 작업의 병렬화 정도에 따라 달라집니다.
1장 기준 규격: Tesla T4 8.1 TFLOPS · Radeon PRO W6800 17.8 TFLOPS · RTX 4000 Ada 26.7 TFLOPS · RTX A6000 38.7 TFLOPS

옆으로 밀어서 나머지 열을 볼 수 있습니다

등급GPU장수GPU 메모리FP32 합산성능 (10점)vCPURAM월 요금
AI-W1Radeon PRO W68001장32GB17.8 TF2.5660GB191,835원
AI-A1RTX 4000 Ada1장20GB26.7 TF2.4860GB223,650원
AI-T1Tesla T41장16GB8.1 TF1.2430GB283,500원
AI-W2Radeon PRO W68002장64GB35.6 TF5.012120GB383,670원
AI-R1RTX A60001장48GB38.7 TF4.4860GB441,000원
AI-A2RTX 4000 Ada2장40GB53.4 TF4.916120GB445,500원
AI-T2Tesla T42장32GB16.2 TF2.4860GB567,000원
AI-W4Radeon PRO W68004장128GB71.2 TF10.024240GB767,340원
AI-R2RTX A60002장96GB77.4 TF8.816120GB882,000원
AI-A4RTX 4000 Ada4장80GB106.8 TF9.832240GB891,000원

월 기준 부가세 별도입니다. GPU 메모리는 장수를 곱한 총량이고 FP32 도 장수를 곱한 합산입니다.
연산(FP32 × 장수)과 GPU 메모리 총량을 같은 비중으로 합쳐 최고 등급이 10.0 이 되도록 환산한 자체 지표입니다 — 벤치마크 측정값이 아닙니다. 등급 사이의 상대 비교에만 쓰십시오.

방식

왜 베어메탈인가

GPU 를 나누지 않습니다

가상화로 쪼개 팔지 않습니다. 장착된 GPU 전체를 그대로 쓰십니다 — 다른 고객의 작업이 성능에 영향을 주지 않습니다.

월 단위만 받습니다

한 대를 통째로 배정하므로 켜지 않은 시간에도 그 장비를 다른 곳에 쓸 수 없습니다. 시간 단위로 받으면 그 비용을 다른 고객이 나눠 내게 됩니다.

스토리지를 붙입니다

VM서버와 같은 방식입니다. 학습 데이터·체크포인트를 1TB·10TB 단위로 붙여 최대 70TB 까지 구성합니다.

숫자를 적어 둡니다

GPU 메모리는 저희 값, 연산 규격은 제조사 공개 자료임을 구분해 적었습니다. 쓰시려는 모델의 요구 사양과 직접 대조해 보실 수 있습니다.

자주 묻는 것

먼저 확인하실 것

시간 단위나 일 단위로 쓸 수 있나요?
아니요. 월 단위로만 받습니다. GPU 서버는 한 대를 한 고객에게 통째로 드리는 베어메탈이라, 켜지 않은 시간에도 그 장비를 다른 곳에 쓸 수 없습니다. 시간 단위로 받으면 그 비용을 다른 고객이 나눠 내게 됩니다.
가상화된 GPU 인가요?
아니요. 베어메탈입니다. GPU 를 물리적으로 장착한 서버 한 대를 그대로 쓰십니다. 다른 고객과 GPU 를 나누지 않습니다.
성능 비교 표의 숫자는 어디서 온 것인가요?
GPU 메모리는 저희가 배정하는 값이고, FP32 TFLOPS 는 제조사가 공개한 제품 규격입니다. 저희가 측정한 값이 아닙니다. 실제 체감 성능은 모델·프레임워크·연산 정밀도(FP16·BF16·INT8)에 따라 달라지므로, 쓰시려는 작업으로 직접 견주어 보시는 것이 가장 정확합니다.
어느 등급을 골라야 하나요?
먼저 모델이 GPU 메모리에 들어가는지를 보십시오 — 들어가지 않으면 연산 성능이 아무리 높아도 돌지 않습니다. 그다음이 연산 속도입니다. 판단이 어려우시면 쓰시려는 모델과 데이터 크기를 알려 주시면 함께 봅니다.
여러 장 묶인 등급은 GPU 를 합쳐 쓰나요?
장수만큼 물리적으로 장착돼 있고, 합쳐 쓰는 것은 프레임워크가 지원하는 범위에서 됩니다. RTX A6000 은 NVLink 로 두 장을 이을 수 있고, 나머지는 PCIe 로 나눠 씁니다. 구성에 따라 달라지므로 문의 주시면 확인해 드립니다.
스토리지를 더 붙일 수 있나요?
네. VM서버와 같은 방식으로 붙입니다. 1TB·10TB 단위로 최대 70TB 까지 구성하며 요금은 대용량VM 요금표와 같습니다.
요금에 부가세가 포함돼 있나요?
아니요. 표의 모든 요금은 월 기준 부가세 별도입니다.