3kW로 돌아가는 에이전트 추론 어플라이언스
한 노드에 RIGEL 8장. 대형 언어·멀티모달 모델을 낮은 지연으로 서비스하고, 표준 랙에 그대로 들어가는 전력·발열로 설계했습니다.
8×
RIGEL 카드
4PFLOPS
추론 연산 성능
384GB
HBM3 메모리
12TB/s
메모리 대역폭
3kW
TDP
배포 파트너
Nuri CloudSamho SDSVega SystemsOrbit DCBaro Labs
“RIGEL로 바꾸고 같은 전력에서 처리량이 눈에 띄게 늘었습니다. 곧바로 서비스에 올릴 만큼 완성도가 높았습니다.”
Nuri Cloud
김서준 · 플랫폼 엔지니어링 리드
같은 전력으로, 4배 더 많은 추론
같은 랙, 같은 전력에서 RIGEL은 더 많은 사용자와 더 높은 처리량을 감당합니다.
항목RIGEL기존 GPU
랙당 서버5대2대
노드 소비 전력3kW7.5kW
처리량 (토큰/s)26,4006,600
동시 사용자880220
RIGEL로 추론을 운영하는 팀들
Hanwool AIUpstartNuri CloudSamho SDSKanariMEGArackBaro LabsDeepnodeOrbit EnergySejong GovVega SystemsLumen X
행렬곱이 아니라, 텐서 스트리밍
Tensor Streaming Fabric은 행렬곱이 아니라 텐서 흐름으로 연산합니다. 데이터가 오가는 거리를 줄여 노는 사이클을 없앱니다.
메모리 대역폭 병목을 걷어내 더 큰 배치와 더 긴 컨텍스트도 안정적으로 처리합니다.
실행 순서가 미리 정해져 지연시간이 일정합니다. 운영 SLA를 잡기 쉽습니다.
LLM 배포를 위한 소프트웨어
컴파일러부터 런타임, 서빙까지 한 번에. 익숙한 프레임워크로 만든 모델을 그대로 RIGEL에서 최적화해 돌립니다.
모델 · LLM / 멀티모달PyTorch · Hugging Face
Tesser SDK · 컴파일러 · 런타임Serving · Quantization
커널 라이브러리BF16 · FP8 · INT8/4
RIGEL 하드웨어 · TSFPCIe · NXT Server
엔터프라이즈 배포
시큐어 부트·멀티 인스턴스·가상화로 안전하게 운영합니다.
DC 활용률
카드 간 P2P와 스케줄링으로 가속기를 놀리지 않습니다.
에코시스템 지원
주요 오픈소스 모델과 서빙 스택을 폭넓게 지원합니다.
Tesser Access로 지금 바로 검증하세요
Tesser Access는 RIGEL을 평가하고 통합·검증·배포하는 전 과정을 온·오프라인에서 함께합니다. 4개 거점에서 상시 운영합니다.
SeoulKOR
Santa ClaraUSA
MunichDEU
SingaporeSGP
DataForgeEquinox IX
Get started with Tesser Access