초거대 AI 시대의 인프라 소프트웨어와 클라우드의 발전 방안 발표해 모레가 지난 2일 삼성동 그랜드 인터컨티넨탈 서울 파르나스에서 열린 'kt 클라우드 서밋 2024’에 연사로 참가해 초거대 AI 시대의 인프라 소프트웨어와 클라우드의 발전 방안에 대해 발표했다. 작년에 이어 두 번째로 열린 이 행사는 올해 ‘AICT for all Business with Cloud·IDC’라는 슬로건을 기반으로 인공지능(AI), 클라우드, 인터넷데이터센터(IDC) 분야의 산업 동향과 전략, 기술 중심의 서비스 구현 및 고객 경험을 소개했다. AICT는 통신 역량에 IT와 AI를 더해 IT 관련 전 산업군에서 AI 적용을 확대하는 디지털 혁신 파트너가 되겠다는 KT의 새로운 성장 전략이다. 모레 조강원 대표는 주제발표를 통해 "초거대 AI 시대를 맞아 전체 AI 기술 스택에서 인프라, 특히 인프라 SW의 역할이 본질적으로 바뀌고 있다. 계산 자원을 잘 활용하는 것이 초거대 AI의 품질을 좌우하는 핵심 요소"라며, "컴퓨팅 인프라를 키우고 활용하는 능력을 개발해 수백, 수천 개의 GPU를 동시에 잘 활용하는 것이 중요하다"고 설명했다. 조 대표는 "최고 수준의 LLM을 빠르게
MoMo-70B, 700억 개 파라미터 가진 거대언어모델로 성능 증명해 모레가 자체 개발한 거대언어모델(LLM)이 머신러닝 플랫폼 허깅페이스에서 운영하는 ‘오픈 LLM 리더보드’ 평가에서 77.29점이라는 높은 점수를 기록하며 글로벌 1위에 올랐다. 허깅페이스 오픈 LLM 리더보드는 글로벌 AI 모델의 성능 검증 창구로 활용되는 개발형 플랫폼이다. 현재 3400개가 넘는 모델이 등록돼 추론, 상식 능력, 언어 이해 능력 등 6가지 평가 지표를 기준으로 순위를 다투고 있다. 이번에 1위에 오른 모레의 최신 모델 'MoMo-70B'은 700억 개의 파라미터를 가진 거대언어모델로 지난 17일 처음 리더보드 1위에 올라 현재까지 자리를 지키고 있다. 모델 개발 착수에서 1위 달성까지 단 3개월 만에 거둔 성과다. 모레가 이처럼 단기간에 LLM 분야에서 세계 1위의 두각을 나타낼 수 있었던 데는 모레가 자체 개발 및 보유하고 있는 AI 플랫폼 ‘MoAI’의 기술력이 뒷받침됐기 때문이다. 최고 수준의 LLM을 빠르게 개발하기 위해서는 무엇보다 효율적인 모델 학습 방법을 확보하는 것이 중요한데 모레의 MoAI 플랫폼은 고도의 병렬화 처리 기법을 통해 대규모 AI 모델을
2027년까지 벤처·스타트업과 사업협력에 약 2조원을 투입 KT 그룹은 AI 인프라 소프트웨어 전문 기업인 '모레'에 150억원을 투자하는 등 'AI 풀스택' 사업 가속화에 나선다고 23일 밝혔다. 2021년에 이어 두 번째 투자로, KT가 100억원, KT클라우드가 50억원을 각각 낸다. AI 풀스택은 AI 반도체와 클라우드 같은 인프라부터 고객에게 제공되는 서비스까지 전 과정을 아우르겠다는 전략이다. KT는 그간 외산 GPU 의존도를 극복하기 위해 KT클라우드와 모레, 리벨리온 등 국내 테크 기업과 함께 AI 풀스택 전략을 추진해왔다. 모레는 AI 인프라 소프트웨어 스택과 AI 클러스터·클라우드 설루션을 제공하는 기업이다. 먼저 AI 인프라 소프트웨어 스택을 적용하면 엔비디아의 병렬 컴퓨팅 플랫폼인 '쿠다'와 호환되는 인프라 소프트웨어를 통해 개발 환경이 동일해져 외산 GPU의 의존도를 낮출 수 있다는 장점이 있다. 쿠다는 GPU를 AI 연산·개발 등에 활용하는 데 필요한 소프트웨어로, 엔비디아는 쿠다를 앞세워 AI 서비스 개발에 필요한 컴퓨팅 인프라 구축 시장에서 80%에 육박하는 GPU 점유율을 자랑한다. AI 클러스터·클라우드 설루션은 컴파일러 자동
주최 측 '올해의 국가'로 한국 선정하면서 60여개 국내 기업 참여해 6월 14일부터 17일까지 프랑스 파리에서 열리는 유럽 스타트업 전시회 '비바 테크놀로지(이하 비바테크) 2023'에는 최소 60곳의 한국 기업이 참가해 유럽 투자자를 만난 것으로 알려졌다. 비바테크가 한국을 '올해의 국가'로 선정하면서 설치한 K-스타트업 통합관에는 중소벤처기업부, 창업진흥원, KT, 삼성전자, 한국디자인진흥원, 창조경제혁신센터 등에서 모집한 45개 기업이 자리했다. KT와 협업하는 인공지능(AI) 인프라 솔루션 업체 모레는 챗GPT와 같은 생성형 AI 서비스가 부상하면서 수요가 폭주하는 엔비디아에 대한 의존도를 낮출 소프트웨어를 제시해 눈길을 끌었다. 현재 초거대 AI 모델 구현에 필요한 그래픽처리장치(GPU) 시장은 90% 이상을 엔비디아가 장악하다 보니, 수요가 늘어남에 따라 가격도 크게 올라가 있는 상태다. 윤도연 모레 공동대표는 15일(현지시간) 연합뉴스와 만나 모레가 개발한 솔루션이면 엔비디아가 아닌 다른 기업이 만든 AI 반도체를 사용해도 동일한 효과를 기대할 수 있다고 설명했다. 올해 처음으로 비바테크에 참여한 삼성전자는 스타트업 지원 프로그램인 C랩이 사내
한국형 AI 반도체를 세계 시장으로 확산하겠다는 계획 밝혀 KT는 지난 22일 내년 인공지능(AI) 인프라와 솔루션, 서비스를 모아 '한국형 AI 풀스택'을 구축한다고 밝혔다. KT는 전날 서울 종로구 KT 이스트빌딩에서 열린 'AI 반도체 사업협력위원회 워크숍'에서 이런 계획을 공개했다. 풀스택은 인프라부터 서비스까지 전 과정을 아우르는 서비스·제품 개발 능력을 일컫는다. 이번 회의에서 KT는 내년 화두로 '해외 진출'을 꼽고, AI 서비스·반도체·하드웨어·소프트웨어 공동 영업으로 해외 판로를 개척하겠다는 뜻을 내비쳤다. 이로써 한국형 AI 반도체를 글로벌 시장으로 확산하고, 전 세계 통신 사업자를 대상으로 KT의 AI 풀스택 구축 노하우를 이식하겠다는 전략이다. 이번 회의에는 KT클라우드, 리벨리온, 모레 등도 참여했다. 김채희 KT 전략기획실장은 "하나의 목표를 항해 꾸준히 다져온 협력관계를 되짚어 보고 앞으로 AI 풀 스택 글로벌 진출이라는 공통 목표와 실행 방안을 강구한 뜻깊은 자리"라고 말했다. 헬로티 서재창 기자 |
KT는 내년 인공지능(AI) 인프라와 솔루션, 서비스를 모아 '한국형 AI 풀스택'을 구축한다고 22일 밝혔다. KT는 전날 서울 종로구 KT 이스트빌딩에서 열린 'AI 반도체 사업협력위원회 워크숍'에서 이런 계획을 공개했다. 풀스택은 인프라부터 서비스까지 전 과정을 아우르는 서비스·제품 개발 능력을 일컫는다. 이번 회의에서 KT는 내년 화두로 '해외 진출'을 꼽고, AI 서비스·반도체·하드웨어·소프트웨어 공동 영업으로 해외 판로를 개척하겠다는 뜻을 내비쳤다. 이로써 한국형 AI 반도체를 글로벌 시장으로 확산하고, 전 세계 통신 사업자를 대상으로 KT의 AI 풀스택 구축 노하우를 이식하겠다는 전략이다. 이번 회의에는 KT클라우드, 리벨리온, 모레 등도 참여했다. 김채희 KT 전략기획실장은 "하나의 목표를 항해 꾸준히 다져온 협력관계를 되짚어 보고 앞으로 AI 풀 스택 글로벌 진출이라는 공통 목표와 실행 방안을 강구한 뜻깊은 자리"라고 말했다. 헬로티 김진희 기자 |
헬로티 김진희 기자 | AI 모델 확산에 따라 대용량 데이터 처리 능력이 기업의 중요 역량으로 떠오른 가운데, KT가 AI 인프라 역량 강화를 위한 행보에 나선다. KT가 국내 AI 인프라 솔루션 전문기업 모레(Moreh)와 AI 인프라 역량 강화를 위한 업무협약을 체결했다고 지난 11일 밝혔다. 모레는 AI를 구현하고 실행하기 위한 AI컴파일러·라이브러리 및 대규모 AI 클러스터 운영 솔루션을 개발하는 기업이다. 글로벌 수준의 대규모 클러스터 자동화 솔루션 및 최적화 운영 역량을 보유했다. 대부분의 AI 인프라는 클라우드 서비스로 기업이나 개발자들에게 제공되고 있다. 기업 입장에서는 AI 연구 및 서비스를 위한 하이퍼스케일 컴퓨팅 인프라를 직접 갖추는 것보다 클라우드 서비스를 이용해 빌려 쓰는 것이 유리하기 때문이다. 따라서 AI 인프라 역량 강화는 클라우드 사업자가 경쟁우위를 확보하는 데 중요한 요소다. KT는 모레와 협력해 하이퍼스케일 AI 인프라로 활용할 수 있는 클라우드 서비스를 올 연말 출시할 계획이다. KT 클라우드를 기반으로 GPU 인프라 환경을 구성하고 GPU 클러스터 성능을 검증 중이다. 대규모 GPU 클러스터링이 주요한 특징이며, 동일 사