카카오엔터프라이즈는 11일 삼성동에 위치한 카카오 강남오피스에서 ‘NVIDIA X 카카오클라우드 원데이 AI 개발자 부트캠프’를 성황리에 개최했다고 밝혔다.
이번 행사는 카카오클라우드의 엔비디아 GPU 인스턴스를 활용한 온·오프라인 행사로 ‘AI와 클라우드 기술세미나’ 및 ‘카카오클라우드와 엔비디아 AI를 활용한 AI인퍼런스 부트캠프’로 나눠 진행됐다.
1부 행사인 ‘AI와 클라우드 기술세미나'에서는 엔비디아의 AI 솔루션 소개 및 카카오클라우드의 기술과 서비스를 주제로 한 세션이 진행됐다. 온라인으로 진행된 1부 행사는 200명 모집에 400여 명이 넘게 신청해 신청자 전원 참여로 확대 실시할 만큼 AI와 클라우드를 향한 높은 관심도를 보였다.
2부 행사는 카카오클라우드 기반 엔비디아 GPU를 활용해 거대 언어 모델 라마3(LLaMa3)의 인퍼런스 최적화 및 배포 관련 최신 기술을 실습했다. 오프라인으로 진행된 2부 행사는 깊이 있는 양질의 교육을 위해 30명으로 제한해 진행됐는데 다양한 산업군의 개발자들이 참석해 높은 만족도를 나타냈다.
특히 2부 행사인 부트캠프에서는 엔비디아의 솔루션 아키텍트가 직접 카카오클라우드 기반 환경부터 인퍼런스 실습까지 진행해 AI·클라우드에 대한 깊이 있는 이해를 도왔다. 구체적으로는 ▲카카오클라우드 실습 환경 셋업 ▲TensorRT-LLM 및 Triton Inference Server 소개 ▲TensorRT-LLM 실습 ▲최적화된 엔진 배포 실습 in Triton Inference Server ▲NIM 소개(강의) ▲NIM 실습(랩) 등이 진행됐다.
이지혜 카카오엔터프라이즈 CGO(최고성장책임자)는 “엔비디아와 공동으로 개최한 부트캠프가 참여자들의 높은 관심과 만족도를 보여 준비한 보람을 느낀다”며 “카카오클라우드 기반의 엔비디아 GPU를 활용한 교육에 더해 고성능 클라우드 컴퓨팅 시장에서 차별화된 기술력으로 성장해 갈 수 있도록 양사의 협력 관계를 공고히 할 것”이라고 말했다.
헬로티 이창현 기자 |
