AI 모델 용량 줄이고, 초기 GPU 투자비와 운영비 절감하는 방안 모색

 

SK텔레콤이 글로벌 AI 최적화 스타트업 '투게더AI'에 전략적 투자를 단행하며 AI 플랫폼 구축을 위한 협력을 본격화한다. 24일 SK텔레콤은 이번 투자를 통해 북미 시장 진출을 앞둔 글로벌 개인 AI 에이전트 '에스터(A*)'와 LLM, GPU 효율화 분야에서 시너지를 창출할 계획이라고 밝혔다. 

 

투게더AI는 2022년 미국 캘리포니아주에 설립된 AI 클라우드 및 오픈소스 전문 기업으로, 최근 3억 5백만 달러 규모의 시리즈B 투자 유치에 성공하며 글로벌 AI 업계에서 주목받고 있다. 특히 AI 효율화 분야의 혁신적 알고리즘인 '플래시어텐션(FlashAttention)' 개발로 유명한 연구진들이 합류해 있으며, 줌, 워싱턴포스트, 세일즈포스 등 글로벌 기업을 포함한 50만 고객을 확보하고 있다.

이번 협력의 핵심은 투게더AI가 보유한 AI 모델 학습 및 파인튜닝 역량과 컴퓨팅 리소스 효율화 기술이다. 양사는 투게더AI의 'GPU 연산 효율화 기술(Together Kernel Collection)'과 모델 압축 양자화 기술 '큐팁(QTIP)'을 활용해 AI 모델 용량을 혁신적으로 줄이고, 초기 GPU 투자비와 운영비를 절감하는 방안을 모색 중이다.

 

 

SK텔레콤은 자체 LLM인 에이닷엑스(A.X)와 AI 데이터센터 등 AI 생태계 전반에서 추가 사업협력 기회를 발굴할 계획이다. 양사는 AI 모델, AI 플랫폼부터 AI 데이터센터까지 SK텔레콤의 AI 에코시스템을 구성하는 다양한 영역에서 협력할 것으로 기대된다.

SK텔레콤은 지난 2년간 AI 분야에서 과감한 투자를 이어왔다. 대표적으로 LLM 모델 선도 기업 앤트로픽, 혁신적 검색 경험을 제공하는 퍼플렉시티, AI 영상 기술 스타트업 트웰브랩스 등이 있다. 특히 앤트로픽과 퍼플렉시티는 SK텔레콤의 투자 이후 기업가치가 3배 이상 상승하며 투자 전략의 성공을 입증했다.

 

앤트로픽은 SK텔레콤이 글로벌 AI 기업으로의 도약을 선언한 이후 진행한 첫 대규모 AI 투자처로, 약 1,400억 원을 투자했다. 양사는 앤트로픽의 생성형 AI '클로드(Claude)'에 SK텔레콤의 한국어 데이터를 학습시킨 '통신 특화 LLM'을 개발해 고객센터와 T월드의 상담 업무 지원에 활용하고 있으며, 사내 구성원과 B2B 고객사에도 제공 중이다.

 

퍼플렉시티와는 개인 AI 에이전트(PAA) 분야에서 협력하고 있다. SK텔레콤의 국내 PAA '에이닷'에는 퍼플렉시티 검색엔진이 탑재되어 있으며, 글로벌 PAA '에스터' 개발도 공동으로 진행 중이다. SK텔레콤은 퍼플렉시티의 국내 진출을 지원하고 자사 고객에게 1년 무료 구독권을 제공하는 등 국내 AI 서비스 저변 확대에도 힘쓰고 있다.

 

비풀 베드 프라카시 투게더AI 공동창업자 겸 CEO는 "AI는 기존 프로세스 최적화를 넘어 새로운 혁신 가능성을 열어 모든 산업을 재편하고 있다"며 "SK텔레콤과의 협업은 투게더AI에도 중요한 파트너십이며, SK텔레콤의 개인 AI 에이전트 개발에 큰 시너지를 낼 것"이라고 기대감을 표했다.

 

이재신 SK텔레콤 AI성장전략본부장은 "이번 협업을 통해 AI 플랫폼 기술력을 강화하고 글로벌 AI 고객에게 혁신적인 서비스를 제공할 것"이라며 "지속적인 AI 스타트업 투자 및 협력으로 'SK텔레콤만의 AI 사용법'을 만들어 나갈 것"이라고 밝혔다.

 

SK텔레콤은 'AI 피라미드 2.0' 전략에 기반해 국내외 AI 산업 흐름에 맞춘 투자 협력으로 글로벌 AI 업계에서의 입지를 강화하고, AI 산업 기반인 AI 데이터센터 분야에서도 람다, 펭귄 솔루션즈 등과 파트너십을 구축하며 AI 가치사슬을 확장해 나가고 있다. 

 

헬로티 서재창 기자 |