개선된 성능과 비용 효율성 갖춰...교차 리전 추론으로 지연시간 최소화

 

아마존웹서비스(AWS)가 차세대 생성형 AI 기반 파운데이션 모델(FM)인 '아마존 노바(Amazon Nova)'를 아시아태평양 및 유럽연합(EU) 지역에 출시했다고 7일 밝혔다. 이번 출시를 통해 서울, 도쿄, 뭄바이, 싱가포르, 시드니 등 아태 지역과 스톡홀름, 프랑크푸르트, 파리 등 유럽 주요 리전에서 해당 모델을 이용할 수 있게 됐다. 

 

아마존 노바는 AWS가 자체 개발한 최첨단 AI 모델로, 개선된 성능과 비용 효율성을 갖춘 것이 특징이다. 특히 이번 모델은 여러 리전에 걸쳐 사용자의 요청을 자동으로 라우팅하는 ‘교차 리전 추론(Cross-Region Inference)’을 지원하며, 이를 통해 지연시간을 최소화하고 불필요한 비용 발생을 방지했다. 

 

 

이번에 출시된 아마존 노바 모델은 총 세 가지다. 텍스트 전용의 초저비용 모델 '노바 마이크로(Nova Micro)', 이미지와 비디오를 포함한 멀티모달 입력을 처리하는 경제적인 모델 '노바 라이트(Nova Lite)', 그리고 다양한 업무에서 높은 정확성과 속도를 제공하는 고성능 모델 '노바 프로(Nova Pro)'다. 세 가지 모델 모두 200개 이상의 언어를 지원하며, 고객사의 자체 데이터를 활용한 맞춤형 파인튜닝도 가능하다. 특히 노바 프로는 복잡한 추론을 수행하는 에이전트 애플리케이션과도 최적화된 호환성을 제공한다.

 

아마존 노바 모델은 AWS의 생성형 AI 통합 서비스인 '아마존 베드록'과 완벽히 통합돼 있다. 이를 통해 고객들은 자체 데이터를 활용한 응답 생성과 지식기반 검색증강생성(RAG)을 쉽고 효율적으로 구현한다. 기존 AWS의 모델 대비 비용은 최대 75%까지 절감되며 속도는 오히려 빨라졌다. 

 

아마존의 로힛 프라사드(Rohit Prasad) 인공일반지능(AGI) 수석부사장은 "현재 아마존 내부에서만 약 1000개 이상의 생성형 AI 프로젝트가 진행 중이며, 이번에 출시된 노바 모델은 내외부 개발자들이 겪는 공통적인 문제를 실질적으로 해결할 것"이라고 말했다. 

 

한편, 이미 글로벌 기업이 아마존 노바를 도입하기 시작한 것으로 알려졌다. SAP는 AI 기반 업무 자동화 및 재무 분석 등에 노바 모델을 적용했고, 딜로이트는 고객 맞춤형 AI 서비스 구현을 위해 해당 모델의 고급 미세조정 기능을 활용하고 있다. 팔란티어 테크놀로지스는 노바 프로 모델을 자사의 AI 플랫폼과 통합해 공급망 관리, 보험 처리 등 주요 의사결정 프로세스를 빠르고 정확하게 구현하고 있다.

 

AWS는 아마존 노바의 신뢰성을 높이기 위해 책임 있는 AI 원칙을 적용했으며, 사용자에게 AI 서비스 카드를 제공해 모델의 사용 사례와 제한사항 등을 투명하게 공개할 계획이다. 

 

헬로티 서재창 기자 |