반도체 망고부스트, AMD 칩으로 LLM 학습 신기준 “MLPerf 멀티노드 기록“

1노드에서 2노드, 4노드 확장 시 95~100%에 달하는 선형적 성능 확장성 보여 망고부스트가 글로벌 AI 벤치마크인 MLPerf Training v5.0에서 AMD Instinct MI300X GPU 기반 최초의 멀티노드 학습 결과를 공개했다. 이번 성과를 통해 망고부스트는 대규모 AI 모델 학습에서 확장성과 실용성을 입증하며 AI 인프라 시장에서의 입지를 강화했다. 데이터 센터에서 대규모 모델 학습을 안정적으로 운영하기 위해서는 고성능 연산력과 네트워크 병목 해소, 유연한 시스템 구성, 그리고 특정 벤더에 종속되지 않는 인프라가 필수적이다. 망고부스트는 이번 MLPerf 결과를 통해 이 같은 요구를 충족하는 솔루션을 제시하며 온프레미스와 클라우드 모두를 아우르는 인프라 유연성을 확보했다. 망고부스트는 자체 개발한 Mango LLMBoost 최적화 소프트웨어와 Mango GPUBoost RoCEv2 RDMA 네트워크 솔루션을 통해 Llama2-70B-LoRA 모델을 32개의 MI300X GPU로 10.91분 만에 파인튜닝하는 데 성공했다. 이는 MLPerf 기준 AMD GPU 기반 최초의 멀티노드 결과로, 1노드에서 2노드, 4노드로 확장할 때 95~10

• 서재창 기자
• 2025-06-05 14:32