모레는 AMD와 함께 최신 기술 트렌드를 공유하고 AMD 생태계 협업을 촉진하기 위한 ‘AI 개발자 밋업’을 개최했다고 11일 밝혔다.
이번 행사는 10일 알로프트 서울 강남에서 진행됐으며, 국내외 AI 개발자와 오픈소스 커뮤니티, 업계 관계자 등 약 100여 명이 참석했다. 참석자들은 AMD 생태계에서 오픈소스 LLM, 비전 모델, 추론 프레임워크를 가속화하는 최신 기술과 현황을 공유했다.
AMD에서는 정승록 수석 AI/ML 소프트웨어 엔지니어가 ‘AMD GPU 최적화를 통한 오픈소스 LLM 가속화’를 주제로 발표를 진행했으며, 모레에서는 정우근 CTO가 자체 개발한 차세대 AI 추론 플랫폼인 ‘MoAI 추론 프레임워크’를 소개했다.
정우근 CTO는 ‘MoAI 추론 프레임워크’를 활용해 AMD GPU 클러스터 환경에서 딥시크 등 거대 AI 모델의 고처리량 추론을 성공적으로 실증한 사례를 공유했다. 또한 모레의 독자적인 분산 추론 솔루션을 적용해 모델 추론 성능을 높이고 TCO를 절감한 성과, AMD 생태계 확대 측면에서의 기술적 이점을 설명했다. 이어 추론 비용 절감을 위한 차세대 대형 추론 클러스터 운영 기술 및 이기종 GPU 통합 기술 등 모레의 최신 기술 전략도 소개했다.
모레의 ‘MoAI 추론 프레임워크’는 전 세계 AI 산업에서 주목하고 있는 분산 추론 기술을 AMD 생태계에서 세계 최초로 구현해 상용화한 사례로 평가받는다. 모레의 분산 추론 및 이기종 통합 기술은 AI 서비스 비용을 획기적으로 줄여 글로벌 확산을 돕는 차세대 추론 인프라 기술로, 글로벌 AI 산업 확산의 걸림돌로 지적되는 대형 모델로 인한 인프라 비용 및 서비스 가격 상승 문제에 대한 해법으로 주목받고 있다.
AI 모델 개발 기업 모티프테크놀로지스의 오동빈 멀티모달 AI 팀장은 AMD GPU로 구성된 대규모 클러스터를 활용해 LLM과 이미지 생성 모델을 개발한 경험을 기반으로 AI 개발 조직이 체감하는 AMD 에코시스템의 발전 양상을 설명했다.
알리바바 클라우드, 하이퍼엑셀, 프렌들리AI 등도 참여해 최신 기술 현황을 공유했으며, SGLang, 알리바바 클라우드 오픈소스 커뮤니티인 모델스코프 등 글로벌 오픈소스 생태계 관계자들도 함께해 기술 교류 및 협력 방안을 논의했다.
조강원 모레 대표는 “이번 행사는 AMD와 모레의 긴밀한 협업 관계를 바탕으로 오픈소스 생태계 강화를 위해 마련한 자리”라며 “모레는 앞으로도 AMD 개발자 커뮤니티 활성화를 위한 기술 세미나 공동 개최, 공동 소프트웨어 개발 등 협력 활동을 지속적으로 강화하겠다”고 말했다.
한편, 모레는 AI 인프라의 핵심 엔진을 자체 개발하고 있으며, 파운데이션 LLM 전문 자회사인 모티프테크놀로지스를 통해 모델 분야까지 아우르는 전방위 기술 역량을 확보하고 있다. AMD, 텐스토렌트, SGLang 등 주요 파트너들과 협력을 기반으로 글로벌 시장에서 영향력을 확대하고 있다.
헬로티 이창현 기자 |
