기업들의 생성 AI 도입이 가속화되고 있다. 챗GPT와 같은 생성 AI 서비스의 인기가 높아지며 유료 고객을 대상으로 고객 데이터 학습을 지원하는 서비스도 활발히 제공되고 있다. 그러나 최근 기업들은 클로즈드 모델 대신 오픈소스 모델을 파인튜닝해 각자 기업 목표에 최적화한 맞춤형 서비스를 구축하는 방식으로 전환하고 있다.

 

파인튜닝은 라마(Llama), 미스트럴(Mistral), 퀜(Qwen)과 같은 오픈소스 모델을 특정 데이터로 재학습해 기업 내부 데이터나 특정 업무 관련 정보를 반영한 AI 서비스를 구축하는 기술이다. 이 기술의 강점은 투명성과 소유권에 있다. 기업은 모델의 내부 구조를 이해함으로써 신뢰성 높은 AI 서비스를 설계할 수 있으며 외부 서비스의 정책이나 비용 변동에 영향 받지 않고 안정적으로 AI 서비스를 운영할 수 있다.

 

이러한 흐름 속에서 기업 프렌들리에이아이는 지난 10월 오픈소스 모델을 활용한 기업 맞춤형 AI 개발 서비스 ‘프렌들리 파인튜닝’을 출시했다고 18일 밝혔다. 이 서비스를 통해 기업은 비용 효율적인 오픈소스 모델을 최적화해 사내 업무와 서비스에 효과적으로 도입할 수 있으며 이 과정에서 발생하는 높은 GPU 비용과 실무적 부담을 크게 줄일 수 있다고 회사는 설명했다.

 

 

프렌들리에이아이의 플랫폼은 고객이 쉽고 빠르게 파인튜닝 서비스를 활용할 수 있도록 설계됐다. 사용자는 웹 인터페이스에서 오픈소스 모델을 선택하거나 자체 모델을 업로드하고 보유한 데이터셋으로 즉시 학습을 진행할 수 있다. 실시간 학습 과정과 결과를 모니터링할 수 있으며 학습이 완료된 모델은 즉시 배포해 빠르고 비용 효율적으로 운영할 수 있다.

 

고객이 학습된 맞춤형 모델을 프렌들리 엔드포인트에서 서빙하면 프렌들리에이아이의 최적화 및 자동화 기술을 사용해 빠르게 저비용으로 인프라 운영에 대한 걱정 없이 해당 모델을 고객의 서비스로 내보낼 수 있다. 또한 해당 모델을 활용해 AI 에이전트를 쉽게 만들어 운영할 수 있다.

 

고객이 다양한 상황에 맞춰 여러 어댑터를 사용해야 할 경우 여러 맞춤형 모델을 동시에 효율적으로 운영하면서 큰 비용 절감을 이룰 수 있다. 고객이 기업 내부에서 운영해야 할 때는 프렌들리 컨테이너를 활용할 수 있다.

 

또한 프렌들리에이아이는 AI 학습 기술에 익숙하지 않은 기업 고객을 위한 ‘전문가와 함께하는 모델 학습 프로그램’을 운영하고 있다. 이 프로그램을 통해 전담 엔지니어가 데이터셋 준비, 모델 선택, 학습 및 배포 등 모든 과정을 함께하며 필요에 따라 맞춤형 모델 개발까지 지원한다. 이를 통해 기업 고객은 비즈니스 목적에 부합하는 AI 모델을 손쉽게 구축하고 활용할 수 있다.

 

파인튜닝은 다양한 산업 분야에서 적용될 수 있다. 콘텐츠 마케팅에서는 브랜드 톤을 일관하게 유지하고 고객 서비스에서는 FAQ(자주 묻는 질문)와 제품 매뉴얼을 활용한 자동화된 문의 응답 시스템을 구축 가능하다. 번역 서비스에서는 전문 용어를 적용한 정확한 번역을 의료 산업에서는 질병 진단 및 치료 분석 개선 등에 기여할 수 있다.

 

전병곤 프렌들리에이아이 대표는 “기업이 생성 AI를 도입해 원하는 업무를 수행하는 것을 가능하게 하거나 최적화된 성과를 창출하려면 파인튜닝이 필수적”이라며 “파인튜닝은 오픈소스 모델을 활용해 기업 목표를 위해 차별화된 생성AI를 사용할 수 있는 핵심 방안”이라고 강조했다.

 

헬로티 이창현 기자 |