About-PREM
AI 워크스테이션은 데스크탑에 최대 576GB HBM3e 및 16TB/s의 메모리 대역폭을 제공할 것을 약속합니다.
기계 학습 연구자들은 로컬 AI 실행을 위한 새롭고 값비싼 옵션을 가지고 있습니다. AMD는 방금 예비 부품 상자를 급습하여 Threadripper Halo라고 불리는 최대 576GB의 HBM3e 메모리를 자랑하는 DGX 스테이션 경쟁업체를 구성했습니다.
IFA 2026에서 발표된 이 시스템은 내년에 출시될 예정이며, AMD의 Instinct 가속이 워크스테이션 폼 팩터에 제공되는 최초의 사례입니다.
하지만 우리가 올해 초에 리뷰한 Halo AI처럼 스레드리퍼 헤일로 우리가 전에 본 적이 없는 것은 아무것도 없습니다. 수냉식 시스템은 2025년에 출시된 96코어 Threadripper PRO 9995WX로 구동됩니다. CPU는 최대 2TB의 DDR5 메모리와 최대 2.6TB의 시스템 메모리를 지원합니다.
이미 짐작하셨겠지만, AMD는 이 상자를 연구자들을 위한 로컬 AI 워크스테이션으로 포지셔닝하고 있습니다. 우리가 수집한 바에 따르면 이 시스템에는 회사의 PCIe 기반 Instinct GPU를 최대 4개까지 장착할 수 있습니다. 하지만 IFA에 전시된 시스템에는 2개만 설치된 것으로 나타났습니다.
5월에 출시된 MI350P는 본질적으로 PCIe 폼 팩터에 포장된 MI350X의 절반입니다. 각 가속기는 4TB/s의 메모리 대역폭과 최대 4.6페타플롭스의 FP4 컴퓨팅을 위해 144GB의 고속 HBM3e를 탑재합니다. 그러나 우리는 그것이 600W 구성이라는 점에 주목할 것입니다. Threadripper Halo에 배치하면 AMD가 450W 쿼드 코어 구성에서 카드를 실행할 것으로 예상합니다.
Threadripper Halo는 최대 576GB의 HBM3e와 16TB/s의 메모리 대역폭을 약속하여 시스템이 GPU 메모리에서 1조 개가 넘는 매개변수(4비트 정밀도)의 모델을 완전히 실행할 수 있도록 해줍니다. 일부 모델을 시스템 메모리에 로드함으로써 시스템은 Kimi K3의 2조 8천억 매개변수 Moonshot.AI와 같은 개방형 가중치 모델을 실행할 수 있어야 합니다.
데스크탑에서 대규모 경계급 모델을 실행할 수 있는 기능은 저렴하지 않으며 적어도 전력 서비스 업그레이드 없이는 모든 시장에서 사용 가능하지 않을 수 있습니다. AMD는 가격을 공유하지 않았지만 구성된 대로 $100,000에서 $150,000 사이에 판매될 것으로 예상합니다.
MI350P 쿼드 시스템은 AMD가 카드를 600W에서 300W로 낮추거나 20A 회로를 요구하지 않는 한 표준 북미 소켓의 한계를 뛰어 넘습니다. 이는 AMD가 IFA에서 두 개의 시스템만 전시한 이유를 설명할 수 있습니다.
이 가격과 전력 수준에서 이 시스템은 Nvidia의 주력 AI 스테이션인 Station DGX와 경쟁할 수 있는 좋은 위치에 있습니다. GTC 2025에서 발표된 DGX 스테이션은 496GB LPDDR5x 메모리와 함께 252GB B300 GPU 및 72코어 Grace CPU를 갖추고 있습니다. 약 $100,000 재고가 있는 경우 찾을 수 있습니다.
Zen House는 이 시스템이 DGX 스테이션의 전체 시스템 메모리의 최대 3.4배와 메모리 대역폭의 2배 이상을 제공한다고 자랑합니다. 이는 CPU의 PCIe 버스에서 텐서 병렬 작업이 방해가 되지 않는 한 LLM의 결론에서 이점을 제공해야 합니다.
AMD는 Threadripper Halo가 내년부터 출시될 것이라고 밝혔습니다. ®
