헬로티 –매일 만나는 첨단 산업, 경제, IT 소식

일반뉴스 리벨리온, 스퀴즈비츠와 소형언어모델 경량화 위해 협력

다양한 소형언어모델을 리벨리온 NPU에 최적화해 경량화하는데 협력할 계획 리벨리온과 스퀴즈비츠가 NPU(Neural Processing Unit, 신경망처리장치)에 최적화한 생성형 AI 모델, 특히 소형언어모델(SLM)의 경량화 기술협력을 위한 전략적 파트너십을 체결했다. 스퀴즈비츠는 정확도 손실을 최소화하면서도 AI 모델의 계산량을 압축하는 경량화 전문성을 가지고 있다. 리벨리온은 국내에선 최초로 소형언어모델 가속이 가능한 NPU를 양산한다. 이번 파트너십을 기반으로 양사는 각사가 가진 AI 경량화 노하우와 AI 추론 전용 하드웨어 기술을 바탕으로 다양한 소형언어모델을 리벨리온의 NPU에 최적화해 경량화하는데 전략적으로 협력한다. 스퀴즈비츠는 현재 지원 중인 엔비디아 GPU뿐 아니라 리벨리온의 NPU향으로 생성형 AI 모델을 경량화할 수 있는 기술적 기반을 확보하게 된다. 리벨리온 또한 자사 하드웨어에 최적화한 경량화 언어모델을 활용해 생성형 AI용 NPU의 판매 활로를 확장한다. 이번 파트너십은 생성형AI에 특화된 하드웨어를 기반으로 경량화 소프트웨어 기술을 개발하는 국내 최초 사례다. 양사는 소형언어모델 경량화 분야에 선도적인 역할을 수행해 지속가능한

서재창 기자

2024-05-29 10:16

일반뉴스 생산성·비용절감 마스코트 된 생성형 AI, 실무 적용 가능성은?

기업들은 올해 생성형 AI 기술로 조직 생산성 혁신과 비용 절감에 초점 맞춰 생성형 AI가 산업계 전반에 대변화를 끌어내고 있다. 2022년 11월 챗GPT의 등장 이후, 급속도로 확산된 생성형 AI는 빅데이터 분석, 콘텐츠 제작, 광고, 검색 등 우리 일상에서 쉽게 접할 수 있게 됐다. 올해 생성형 AI의 키워드는 생산성과 비용 절감이다. 이코노미스트는 올해 비용 절감과 생산성 향상을 위해 AI를 본격적으로 도입하는 기업이 AI의 최대 수혜자가 될 것이라고 봤다. 딜로이트가 2월 발간한 보고서에 따르면 전 세계 비즈니스 및 기술 리더 2800여 명 가운데 56%가 생성형 AI 도입을 통해 효율성 및 생산성 향상을 목표로 하고 있다. 국내에서도 생성형 AI 기술로 조직의 생산성 혁신과 비용 절감을 돕는 AI 스타트업이 주목받고 있다. 올해 포브스코리아가 선정한 '30세 미만 30인'에 선정된 생성형 AI 전문가 3명인 심규현 렛서 대표, 김정현 리빌더AI 대표, 김형준 스퀴즈비츠 대표가 만든 각 스타트업을 통해 최근 생성형 AI 트렌드를 알아본다. 기업에서 기존 AI 개발은 대부분 외주 프로젝트로 진행된다. 따라서 도입 비용이 높고 유지보수가 어렵다는 문제가

서재창 기자

2024-03-15 11:11