헬로티 –매일 만나는 첨단 산업, 경제, IT 소식

일반뉴스 에이프리카, 폐쇄망 환경서 RAG 및 LLMOps 구축 방안 제시

에이프리카는 AI Summit Seoul 2024에서 인공지능 연구소 주철휘 소장의 세션발표를 통해 폐쇄망 환경에서 고도화된 RAG 및 LLMOps 구축 방안을 제시했다. 주철휘 소장은 지난 11일 '기업 폐쇄망에서의 Private LLM 기반 Agentic RAG 구축'이라는 제목으로 세션 발표를 진행했다. 이번 발표에서 주철휘 소장은 고객 데이터로 파인튜닝된 검색 및 생성용 Private LLM들이 벡터 DB와 통합하여 AI 모델의 정확도와 효율성을 크게 향상시키는 방법론을 소개했다. 특히, 폐쇄망 환경에서 최적화된 LLM 기반 기술을 통해 제한된 인프라 상황에서도 고성능 AI의 구축 및 운영이 가능하다는 점을 강조했다. 발표에서는 Agentic RAG 기술을 통해 기존 RAG의 기능을 고도화하는 방안이 강조되었다. Agentic RAG는 단순히 검색 결과를 제공하는 것을 넘어, 탐색적 검색, 동적 프롬프트 생성, 외부 툴 통합 등을 활용하여 더욱 지능적이고 발전된 워크플로우를 지원한다. 특히, 기존 RAG에서 구현이 어려웠던 회고 기반 복합 질의 처리와 외부 툴을 활용한 동적 데이터 접속 기능을 통해, 보다 확장된 지식 기반을 대상으로 탐색적이고 심층적

서재창 기자

2024-12-22 23:07

인사동정 KT, 신설 AI연구소장에 SKT 출신 윤경아 상무 영입

KT가 신설 인공지능(AI) 연구소 등을 이끌 외부 인사들을 추가 영입했다. 3일 통신업계에 따르면 KT는 이날 기술혁신부문 AI테크랩(AI Tech Lab)장에 윤경아 상무를 임명했다. 윤 상무는 통신업계 라이벌인 SK텔레콤과 현대카드를 거친 AI와 빅데이터, 클라우드 기술 전문가다. AI테크랩은 지난해 11월 말 김영섭 대표 취임 후 첫 조직개편에서 신설된 조직으로, AI·빅데이터 거버넌스 수립과 미래 핵심기술 개발을 담당하는 기존 AI2XLab와 달리 초거대 AI '믿음'을 기반으로 고객 중심의 AI 응용 기술과 서비스·플랫폼 개발을 수행한다. 이로써 KT의 두 AI 연구소는 모두 여성 임원이 이끌게 됐다. 기존 AI2XLab은 배순민 소장(상무)이 계속 지휘한다. 또한 KT는 검사 출신 법조계 인사인 추의정 전무를 감사실장으로, 허태원 상무를 컴플라이언스추진실장으로 각각 영입했다. 대구지검 김천지청 형사1부장을 지낸 추 전무는 방송통신위원회 파견 검사로 근무한 적이 있어 통신 업무에 낯설지 않은 것으로 전해졌다. 지난해 퇴직 후에는 법무법인 광장 변호사로 활약했다. 역시 검사 출신인 허 상무는 김앤장을 거쳐 법무법인 율정과 아인에서 대표변호사로 활동했

이창현 기자

2024-01-03 15:16