초거대 AI의 단점을 보완하고, 실제 업무에 안전하게 적용 가능해
포티투마루가 한국IT서비스학회 2023 춘계학술대회에서 자사의 초거대 AI 기업용 경량화 모델인 LLM42를 소개하며, 초거대 AI를 기업 내에 도입하고 활용하는 전략을 공유한다고 밝혔다.
한국IT서비스학회와 개인정보보호위원회, 정보통신기획평가원, 한국지능정보사회진흥원이 주최한 2023 춘계학술대회는 24일(수) 한국과학기술회관 국제회의장에서 ‘디지털플랫폼정부, 글로벌 혁신선도국가의 비전과 과제’를 주제로 진행됐다.
이 행사는 대통령직속 디지털플랫폼정부(디플정)위원회, 행정안전부, 과학기술정보통신부, 문화체육관광부, 국방부, 외교부 등 관련 주요 정부기관이 후원하며, 미국 스탠포드대, 영국, 호주 등 해외 정부관계자와 학계의 전문가들이 참가해 주목을 받았다.
초거대 AI 세션은 네이버클라우드 하정우 센터장이 초거대 AI시대를 준비하는 네이버 하이퍼클로바의 노력과 사례들을 공유하고, 비트나인 정선영 팀장이 차세대 AI 그래프 기술을 주제로, 그리고 앱플랫폼 류덕민 소장이 프롬프트 엔지니어링에 대해 세션을 진행한다.
포티투마루 김동환 대표는 데이터와 AI를 활용한 DPG & IT 서비스 트랙의 초거대 AI 세션에서 ‘LLM42: 포티투마루의 초거대 AI 기업용 경량화 모델’을 주제로 세션 발표를 진행했다. 김동환 대표는 초거대 AI의 난제인 환각(hallucination) 현상과 기업 및 고객 데이터 유출과 같은 보안 문제, 학습 및 추론 과정에서의 고비용 문제를 되짚어보고, 이에 대한 해결 방안을 제시했다.
포티투마루는 이달 초 생성형 인공지능 기반 초거대 AI의 기업용 경량화 모델인 LLM42를 출시했다. 자사의 통합 질의응답 모델과의 엔지니어링으로 초거대 AI의 단점을 보완하고, 안전하게 실제 업무에 적용 가능한 기업 특화 초거대 언어 모델이다.
포티투마루 김동환 대표는 “자사의 질의응답 엔진은 100억 원 이상의 매출을 통해 국내외 대기업과 기관으로부터 품질과 성능을 인정받았다. 초거대 AI와의 통합으로 풍성한 답변을 제공함과 동시에 기존 초거대 AI의 환각 현상을 방지하는 등 밸런스가 안정된 통합 응답 모델을 구현했다”고 말했다.
이어 그는 “이번 학술대회에서 그 경험과 노하우를 공유해 생성형 AI 기술 발전에 기여하고, 기업 내 초거대 AI 도입 전략을 수립하는데 이바지하겠다”라고 밝혔다.
헬로티 서재창 기자 |
