배너
닫기
배너

[헬로AI] 미지의 AI 초원 속 신뢰도 높은 LLM 길러내다

URL복사
[선착순 마감임박] 우리 기업에 꼭 필요한 AI를 활용해 비즈니스를 확장할 수 있는 방법은? AI융합 비즈니스 개발 컨퍼런스에서 확인하세요 (5/3, 코엑스3층 E홀1~4)

에이프리카 김동규 부대표 인터뷰

 

생성형 AI는 마치 신대륙과 같다. 기업은 새롭게 등장한 기술을 향해 거침없이 뛰어들고 있다. 그 중에서 주목받는 분야는 거대언어모델(LLM)이다. 기업은 LLM을 적용함으로써 운영 효율성과 생산성을 극대화하는데 초점을 맞췄다. 물론 이 같은 기술 도입을 현실화하기 위한 선결 과제와 어려움은 여전히 존재한다. 이를 고려해 에이프리카는 안전하고 전문성을 갖춘 LLM을 선보였다. 에이프리카는 AI라는 넓은 초원에서 경쟁력이라는 우물을 만들고 있다. 



AI로 가는 지름길 제공하다

 

오늘날 기업은 AI를 주목한다. 챗GPT로부터 촉발한 생성형 AI의 성장이 비즈니스에 큰 변화를 가져올 것이 분명하기 때문이다. 특히 LLM은 기업 운영에 효율성을 더해줄 열쇠로 손꼽힌다. 이와 동시에 LLM과 같은 AI 모델 도입에는 여러 과제가 수반된다. 기업은 고품질 데이터 확보를 비롯해 데이터 프라이버시, 사이버 보안, AI 윤리 등의 고민거리를 해결해야 한다. 

 

에이프리카는 AI 기술과 클라우드 네이티브 서비스를 운영관리하는 소프트웨어를 개발하는 회사로, 언어 모델과 컨테이너 관리, 개발 및 배포를 위한 플랫폼을 제공하며, 기업이 혁신적인 AI 서비스를 개발하고 사용자가 편리하게 활용하도록 돕고 있다. 에이프리카 김동규 부대표는 “레거시 시스템에 익숙한 기업은 AI와 클라우드 기술이 낯설기 마련이다. 에이프리카는 AI 플랫폼과 클라우드 관리 소프트웨어를 개발해 사용자가 AI을 손쉽게 개발하고 운영하도록 지원한다”고 밝혔다. 

 

‘세렝게티’라 일컫는 멀티 클라우드 통합관리 플랫폼은 고객의 다양한 클라우드 환경과 VM 및 컨테이너를 표준화한 형식으로 관리하도록 지원한다. 단일 화면에서 모니터링하고 제어하는 IaaS 환경과 다양한 서비스 최적화 기능을 활용해 운영 관리 생산성을 향상시킨다. 에이프리카는 한국산업단지공단, 한국고용정보원, 마인즈랩, 대전대학교 등 세렝게티 레퍼런스를 기반으로 사업을 꾸준히 확장시키고 있다. 

 

AI 통합 개발 플랫폼인 ‘치타’는 손쉽게 AI를 개발하는 편의성과 전문가를 위한 고성능 옵션을 모두 제공한다. 치타는 AI 실습 환경을 인터넷, 인트라넷으로 서비스해 시간·장소 제약없이 AI 연구, 개발 및 AI API 서비스를 쉽게 운영할 수 있도록 지원한다. 개발자는 컴퓨터 자원과 사용자를 직관적으로 관리하며, 다수의 연구를 위한 공유환경도 제공한다.

 

특히 에이프리카 AI 연구소는 최적화한 AI 기술을 현장에 적용해 해결책을 도출하도록 컨설팅 서비스를 진행한다. 이와 함께 도메인별 AI, 알고리즘, 데이터 정제 서비스, SW 및 클라우드 플랫폼 운영 등을 포함한 교육 서비스를 구성한다. 


경량화한 sLLM, 성능과 안전 극대화하다

 

김동규 부대표는 올해부터 본격적으로 LLM을 활용한 업무 자동화가 개화할 것으로 예상했다. 김 부대표는 “기업은 목적에 따라 LLM과 sLLM(경량화 언어 모델)을 혼합 운영하는 형태로 활용하며, 비용을 낮추기 위한 전략으로 sLLM 활용도가 높아질 것으로 보인다”고 말했다.

 

이와 함께 클라우드 네이티브 시스템의 확산으로 클라우드에 접근해 업무 프로세스를 통제하고 추가적인 서비스를 제공하는 체계가 발전되고 있다고 언급했다. 그는 “에이프리카는 현재 언어 모델을 비롯해 다양한 AI 서비스를 개발하고, 정확한 정보를 제공하는 MLOps를 만들어왔다. 최근에는 외부로부터 언어 모델을 적용해 기존 서비스를 개선하는 제안이 들어오며 구체적인 논의로 이어지고 있다”고 덧붙였다. 

 

김동규 부대표는 기업들이 LLM을 활용하기에 앞서 보안과 데이터 신뢰성의 중요성을 강조했다. 김 부대표는 “퍼블릭 LLM은 초기 비용이 저렴하고 API 연결만으로 손쉽게 구축하지만, 데이터 유출과 할루시네이션으로부터 자유롭지 못하다. 프라이빗 LLM은 정보 보호에 강점이 있으나, 구축 비용과 데이터 모델링이 수반돼야 한다”고 말했다.

 

특히 공공기관과 민간기업은 업무 특성상 폐쇄형 환경에서 시스템을 운영해야 한다. 이 과정에서 발생할 수 있는 할루시네이션 현상은 생성형 AI에 대한 신뢰를 상실시키고, 데이터 유출은 기업의 치명적인 피해로 번질 가능성을 안고 있다. 

 

이에 에이프리카는 지난해 11월 폐쇄형 환경에서 환각현상으로부터 자유로운 프라이빗 LLM 서비스를 발표해 화제를 모았다. 에이프리카가 자체 개발한 ‘가젤(Gazelle)’은 할루시네이션을 억제하고 사용자에게 정확한 답변을 제공하기 위해 RAG(Retrieval-Augmented Generation)를 적용했다. 임베딩 모델과 프라이빗 LLM을 파인튜닝해 높은 검색 정확도와 정확한 답변을 생성해 내부지식에 기반한 답변을 제공한다.

 

김동규 부대표는 “에이프리카는 자체 AI 연구소를 통해 프라이빗 LLM 컨설팅부터 MLOps 플랫폼 치타를 기반으로 한 LLM 시스템 구축까지 엔드투엔드 서비스를 제공할 계획이다”고 말했다. 김 부대표는 “특히 각 산업군 별로 도메인 특화 엔진 개발이 가능하도록 학습 데이터 구축부터 파인튜닝까지 전 과정을 지원할 예정이다”고 덧붙였다. 

 

이 같은 에이프리카의 행보는 LLMOps 플랫폼을 앞세워 엔터프라이즈 LLM 시장을 본격적으로 공략하겠다는 의지였다. 에프리카는 일찍이 인공지능 개발 플랫폼 치타를 개발하고 운영하며, MLOps와 LLM에 대한 기술 경험을 축적해왔다.

 

김동규 부대표는 “에이프리카의 LLMOps는 치타 플랫폼을 기반으로 LLM 특화 기능이 추가되는 형태며, RAG 기반의 LLM 모델을 배포,모니터링하는 기능을 시작으로 LLM 모델 파인튜닝, 프롬프트 관리, 벡터데이터 관리 등의 기능이 순차적으로 지원될 예정이다”고 말했다. 이어 그는 “폐쇄형 환경에서 내부 데이터로 LLM을 만들고 싶은 기업이나 전문인력이 없는 기업도 손쉬운 프로세스를 통해 LLM을 구축하게 될 것”이라고 덧붙였다. 

 

에이프리카는 지난 2022년 브레인즈컴퍼니에 인수된 이후부터 경영 환경 역시 개선되고 있다. 여기에 지난 2021년부터 4년 연속 AI 바우처 지원사업의 공급기업으로 선정되며, 업계 내에서의 입지를 다져가고 있다. 김동규 부대표는 올해부터 AI와 클라우드 사업을 기반으로 LLM 비즈니스 확장에 나설 것이라고 밝혔다. 민간 기업과 공공기관과의 다양한 네트워크를 통해 자사 LLMOPs와 Gazelle LLM 보급을 원활히 하고 시장에서 성능을 인정받기 위해 노력할 것이라고 강조했다. 

 

헬로티 서재창 기자 |










배너









주요파트너/추천기업