벡터 DB로의 데이터 이동 없이 생성형 AI 효과를 엔터프라이즈 데이터에 구현
오라클이 업계 최초 인-데이터베이스 거대언어모델(LLM), 자동화한 인-데이터베이스 벡터 저장소, 확장 벡터 처리 및 비정형 콘텐츠 기반의 맥락화한 자연어 대화 기능을 제공하는 히트웨이브 생성형 AI를 발표했다.
히트웨이브 생성형 AI는 AI 전문가가 아니더라도 별도 벡터 데이터베이스로의 데이터 이동 없이 생성형 AI의 효과를 엔터프라이즈 데이터에 구현하도록 지원한다. 히트웨이브 생성형 AI는 히트웨이브 고객이라면 오라클 클라우드 리전과 오라클 클라우드 인프라스트럭처 전용 리전 및 여타 주요 클라우드 서비스 전반에서 추가 비용 없이 즉시 이용 가능하다.
히트웨이브 생성형 AI는 개발자가 내장형 임베딩 모델을 사용해 단일 SQL 명령어로 기업의 비정형 콘텐츠를 위한 벡터 저장소를 생성하게 해준다. 사용자는 인-데이터베이스 LLM, 혹은 외부 LLM을 사용해 단일 동작으로 자연어 검색을 수행한다. 데이터는 데이터베이스 내에서 안전하게 유지되며, 히트웨이브의 뛰어난 확장성과 성능 덕분에 GPU를 프로비저닝할 필요도 없다. 개발자는 결과적으로 애플리케이션의 복잡성을 최소화하는 동시에 성능 및 데이터 보안을 강화하고, 비용을 절감한다.
에드워드 스크리븐(Edward Screven) 오라클 최고기업아키텍트는 “히트웨이브 생성형 AI는 히트웨이브 레이크하우스, 히트웨이브 오토파일럿, 히트웨이브 오토ML, 히트웨이브 마이SQL 등 기존 내장형 히트웨이브 기술군에 새롭게 추가됐다. 이로써 히트웨이브 기술의 혁신은 놀라운 속도로 이어지고 있다”고 말했다.
이어 그는 “오늘날의 통합 및 자동화한 AI 기능은 개발자가 데이터를 이전하거나 AI 전문성을 확보하지 않고도 풍부한 생성형 AI 애플리케이션을 빠르게 구축하게 해준다. 히트웨이브 사용자는 이제 직관적인 방식으로 기업 데이터를 활용해 비즈니스에 필요한 정확한 답변을 신속하게 얻는다”고 말했다.
스마터D의 비제이 선다(Vijay Sundhar) 최고경영자는 “히트웨이브 생성형 AI 덕분에 생성형 AI의 활용이 쉬워졌다”며 “인-데이터베이스 LLM 과 인-데이터베이스 벡터 생성 기능 덕분에 애플리케이션 복잡성이 크게 줄었고, 추론 작업 시 지연은 예측 범위내로 관리가 가능하며, 무엇보다 LLM을 활용하고 임베딩을 생성하는 데 추가 비용이 들지 않는다. 앞으로 히트웨이브 생성형 AI는 풍성한 애플리케이션 구축 및 고객의 생산성 향상에 큰 도움이 될 것”이라고 말했다.
히트웨이브 생성형 AI는 아마존 베드록의 지식 기반을 사용할 때보다 PDF, PPT, WORD, HTML 형식 문서용 벡터 저장소 생성 속도는 23배 빠르며, 비용은 1/4 수준으로 저렴하다. 1.6GB에서 300GB 크기의 테이블에서 다양한 유사성 검색 쿼리를 사용해 이루어진 서드파티 벤치마크를 통해 입증된 바와 같이, 히트웨이브 생성형AI는 스노우플레이크 대비 30배 빠른 속도와 25% 저렴한 비용, 데이터브릭스 대비 15배 빠른 속도와 85% 저렴한 비용, 구글 빅쿼리 대비 18배 빠른 속도와 60% 저렴한 비용을 자랑한다.
별도의 벤치마크에 따르면, pg벡터를 사용하는 아마존 오로라 포스트그레SQL의 벡터 인덱스는 정확도가 떨어져 오답을 산출할 가능성이 있는 것으로 나타났다. 반면 히트웨이브의 유사성 검색 처리는 항상 정확한 결과를 제공하고, 예측 범위 내의 응답 시간을 보장했으며, 유사한 메모리 속도로 수행되어 동일한 수의 코어를 사용하는 오로라 대비 10배-80배 빠른 속도를 제공한다.
AMD의 댄 맥나마라(Dan McNamara) 수석 부사장 겸 총괄 관리자는 “오라클과의 강력한 협업을 바탕으로 히트웨이브 생성형 AI를 통해 핵심 엔터프라이즈 워크로드 및 데이터 세트에 AI의 파워와 생산성을 계속 제공할 수 있어 기쁘다”며 “AMD와 오라클이 공동으로 수행하는 엔지니어링 작업은 개발자들이 AMD EPYC 프로세스의 코어 밀도와 탁월한 가격 대비 성능을 기반으로 하는 히트웨이브 생성형 AI를 사용해 혁신적인 AI 솔루션을 설계할 수 있게 지원한다”고 설명했다.
헬로티 서재창 기자 |
