AI 모레-AMD, AI 개발자 밋업서 추론 프레임워크 최신 기술 발표
모레는 AMD와 함께 최신 기술 트렌드를 공유하고 AMD 생태계 협업을 촉진하기 위한 ‘AI 개발자 밋업’을 개최했다고 11일 밝혔다. 이번 행사는 10일 알로프트 서울 강남에서 진행됐으며, 국내외 AI 개발자와 오픈소스 커뮤니티, 업계 관계자 등 약 100여 명이 참석했다. 참석자들은 AMD 생태계에서 오픈소스 LLM, 비전 모델, 추론 프레임워크를 가속화하는 최신 기술과 현황을 공유했다. AMD에서는 정승록 수석 AI/ML 소프트웨어 엔지니어가 ‘AMD GPU 최적화를 통한 오픈소스 LLM 가속화’를 주제로 발표를 진행했으며, 모레에서는 정우근 CTO가 자체 개발한 차세대 AI 추론 플랫폼인 ‘MoAI 추론 프레임워크’를 소개했다. 정우근 CTO는 ‘MoAI 추론 프레임워크’를 활용해 AMD GPU 클러스터 환경에서 딥시크 등 거대 AI 모델의 고처리량 추론을 성공적으로 실증한 사례를 공유했다. 또한 모레의 독자적인 분산 추론 솔루션을 적용해 모델 추론 성능을 높이고 TCO를 절감한 성과, AMD 생태계 확대 측면에서의 기술적 이점을 설명했다. 이어 추론 비용 절감을 위한 차세대 대형 추론 클러스터 운영 기술 및 이기종 GPU 통합 기술 등 모레의 최신