최신 인텔X13 및 AMD H13 기반의 다종의 GPU 서버 선보여
슈퍼마이크로 한국 공식 총판인 슈퍼솔루션은 지난 12일까지 열린 서울 삼성동 코엑스에서 열린 ‘국제인공지능대전(AI EXPO KOREA 2023)’에 참가해 슈퍼마이크로 최신 NVIDIA GPU 서버, 8-WAY MP 서버 및 Liquid Cooled 워크스테이션 등 AI 및 빅데이터 인프라 도입에 필요한 다양한 서버 제품을 전시했다.
국제인공지능대전은 2018년도부터 열린 AI 분야 국내 최대 규모 전시회로 국내 및 해외 AI 인프라의 현주소와 관련 산업의 제품을 확인할 수 있는 자리다. 슈퍼솔루션은 이번 전시회에서 골드 스폰서로 참가해 스폰서쉽 프로그램으로 세미나 발표를 진행했다.
이날 세미나에서 슈퍼마이크로 한국 FAE인 김성민 상무는 “최근의 3년동안 언어모델의 파라미터 개수가 약 1만5500배 늘어남에 따라 과거 음성인식 수준에서 현재는 대화형 인공지능 서비스가 가능하게 됐다. 이것은 개발 작업을 뒷받침할 수 있는 특화된 GPU의 수천 개의 연산코어가 수천 개의 작업을 한꺼번에 병렬 처리를 할 수 있기 때문이다"고 말했다.
이어 그는 "AI 모델이 커지고, 데이터의 양도 늘어나기에 챗GPT 같은 거대한 AI 언어 모델 개발이 필요로 하는 작업에는 데이터의 수집 및 가공 그리고 AI 모델 트레이닝을 거치면서 대규모 저장 공간이 필요하다. 또한 RDMA 기술을 통해 CPU의 간섭없이 여러 노드의 GPU 서버를 한 개의 거대한 연산장비로 통신해야 하기에 최근에는 GPU 성능뿐 아니라 네트워크 및 스토리지 성능의 중요성이 커지고 있다"고 덧붙였다.
이에 슈퍼마이크로는 서버 개발단계에서 제조 및 생산을 모두 자체적으로 직접하기에 슈퍼마이크로의 빌딩 블록 아키텍처 솔루션을 바탕으로 최신 CPU나 GPU가 출시가 됐을 때 빠르게 최적화한 서버를 공급할 수 있는 장점이 있다.
한편, 이번 전시회에서 슈퍼솔루션은 AI 연구 개발을 주력으로 하는 기업 관람객에게 최신 인텔X13 및 AMD H13 기반의 다종의 GPU 서버를 소개했다. 엔비디아 최신 H100 GPU 전시 및 A100 8개 GPU가 탑재된 AI 슈퍼컴퓨터 시스템 AS -4124GO-NART는 엔비디아 SXM방식의 GPU 8개가 탑재된 HGX 모델이다.
이 시스템은 NVLink 기반의 NVIDIA GPU를 장착해 최대 600GB/s 대역폭의 NVLink로 GPU간 커뮤니케이션이 가능하고, GPU 메모리 간 직접 통신이 가능한 GPUDirect RDMA 기술을 지원한다. NVSwitch 인터커넥트 기술 방식으로 8개의 GPU가 상호 스위치에 연결돼 높은 대역폭과 지연 시간 절감을 제공한다. 또한, 상단 CPU 노드와 하단 GPU 노드로 나눠져 CPU와 GPU 공간을 분리해 GPU 서버의 냉각 효율을 극대화했다
아울러, 국내에 처음 소개하는 독립형 액체냉각 시스템으로 조용한 사무실에서도 AI 개발작업을 할 수 있는 Liquid-Cooled 워크스테이션 SYS-751GE-TNRT는 4개의 엔비디아 A100 텐서코어 GPU와 2개의 4세대 인텔 제온 스케일러블 CPU, 512GB DDR5 메모리, 6개의 1.92TB NVMe 스토리지 장치, ConnectX-6 DX 25GB 네트워크 어댑터를 탑재했다. 독립형 액체 냉각 솔루션이 갖춰져 있어 플랫폼을 냉각하면서 적은 소음으로 작동이 가능해, 가정이나 사무실 환경에서 고성능의 AI 워크로드를 처리할 수 있다.
단일 서버 최대 용량 메모리를 지원하는 8-WAY MP 시스템 SYS-681GE-TR는 뛰어난 성능과 높은 가용성으로 특히 HPC분야에 최적화된 8-CPU 단일 노드 시스템이며, 4세대 인텔 제온 스케일러블 CPU 최대 480코어 및 128개의 DDR5 메모리 슬롯을 통해 최대 32TB 대용량 메모리를 탑재한다. 또한, 최대 12개의 더블슬롯 GPU 탑재가 가능해 높은 I/O 유연성을 제공한다. 특히 32TB의 대용량 메모리는 현재 시중의 단일 서버 중 최대 용량으로, 인-메모리 컴퓨팅에 최적화해 있다.
슈퍼솔루션 관계자는 “슈퍼솔루션 부스에 대기업, 공공기관 등 많은 관람객들이 모여 자체 냉각기능을 보유하여 저소음을 자랑하는 Liquid Cooled Workstation 시스템인 SYS-751GE-TNRT에 높은 관심을 보였다. 고객 여러분의 관심과 성원에 깊은 감사를 드리며 앞으로도 관련 전시회에 지속적으로 참가해 슈퍼솔루션의 높은 기술력과 다양한 서버 제품을 고객에서 선보일 수 있는 자리를 마련하겠다”고 전했다.
헬로티 서재창 기자 |
