바로에이아이 이용덕 대표 인터뷰
AI는 각 산업 분야에서 혁신을 주도하고 있는 핵심 기술로 각광받고 있다. 이에 수많은 기업 및 관련 기관이 미래의 경쟁력을 확보하기 위해 AI 연구에 힘을 쏟는다. 그러나 이러한 연구에서 가장 큰 난관 중 하나는 바로 AI 개발을 위한 효율적인 인프라 구축이다. 이는 초기 연구 단계에서 부담스러운 과제로 작용한다. 바로에이아이는 이러한 어려움을 극복하기 위해 효율적인 인프라 운용 전략을 제안하는 기업이다. 온프레미스 인프라를 효과적으로 유지 보수하고 관리함으로써 AI 연구에 대한 현실적인 해결책을 제시하고 있다.
AI 연구 가속할 동력 제공하다
AI 연구를 진행하기 위한 인프라 구축에는 어려움이 존재한다. 하드웨어 비용 부담, 데이터 보안과 규정 준수의 복잡성, 유지 보수 및 관리에 따른 시간과 노력 등이 그것이다. 특히 AI 연구를 수행하는 초기 과정에서 온프레미스 인프라의 필요성은 여러 측면에서 중요하다.
담당자는 학습 모델을 훈련시키기 위해 온프레미스 인프라에 구축된 하드웨어 자원을 즉시 활용할 수 있어야 한다. 성능과 대역폭 측면에서도 온프레미스 인프라는 매력적인 선택지다. 최근 대용량 데이터를 다루거나 높은 성능이 요구되는 AI 모델의 경우 클라우드보다 선호받는다.
이러한 이유로, 온프레미스 AI 인프라는 다양한 측면에서 이점을 제공함으로써 연구를 위한 필수도구로 인식된다. 이에 바로에이아이는 AI 연구에 최적화한 인프라 구축 서비스를 제공한다. 바로에이아이 이용덕 대표는 자사에 대해 단연코 ‘기술 기업’이라고 소개했다.
이용덕 대표는 “우리는 지난 3년간 기술 완성도를 높이기 위한 작업을 수행했다. 회사의 가치는 고객으로부터 기술력을 인정받는 순간 만들어진다”고 말했다. 이 대표는 “우리의 목표는 ‘고객에게 기술에 대한 가치를 전달하는 것’이다. 4년 전부터 제품을 판매하기 시작해 작년부터 좋은 성과가 나오기 시작했다. 그 결과, 현재 우리 고객사는 약 200여곳에 달한다”고 덧붙였다.
바로에이아이는 AI를 개발하기 위한 모든 환경을 제공하는데 집중한다. 사용자 최적의 개발 환경을 만들기 위한 컨설팅부터 AI 서버 제작, 클라우드를 비롯한 소프트웨어 구축, 운영에 대한 교육까지 이르는 토탈 솔루션을 지원한다. 이와 함께 바로에이아이가 추구하는 콘셉트는 ‘사무실에 들어온 서버실’이다. 공간 제약에 없는 연구 환경을 제공하는 것이다. 바로에이아이의 AI 서버 ‘포세이돈’은 그렇게 탄생했다.
AI 연구 최적화 시스템 ‘포세이돈’
포세이돈은 수랭식 멀티 GPU 서버로 복잡한 AI 트레이닝, 추론 및 분석, 증강, 시뮬레이션, 렌더링과 딥러닝 초기 연구부터 발전된 모델까지 광범위한 AI 연구에 활용된다. 이용덕 대표는 “워크스테이션 서버에서 출발한 포세이돈은 랙 서버까지 라인업을 구축했다. 고객이 원하는 만큼 구축하고 원하는 때에 스케일업하는 소규모의 프라이빗 클라우드를 만드는 것이 우리의 방향성이다”고 말했다.
포세이돈은 세 가지 버전으로 구성돼 있다. 각각의 제품은 연구 환경에 맞게 사무실이나 연구실 내에서 활용하는 스테이션 타입, 서버실에서 연구 규모를 확장하기 용이한 랙 타입으로 제공된다. 포세이돈 ‘알파(Alpha)’는 엔비디아 RTX 4090 기반으로 한 범용 서버로, 유연한 전환과 확장이 가능해 초기 AI 연구 환경을 구축하기에 적합하다. 연구가 확대됐을 때 GPU 추가를 통한 스케일업이 가능하다.
엔비디아 6000ada가 장착된 ‘쿼드로(Quadro)’는 그래픽스 및 렌더링, 시뮬레이션과 같은 대규모 데이터셋의 워크플로우 성능을 향상시킨다. 쿼드로는 디자이너, 엔지니어, 과학자 등의 직종에서 필요한 그래픽 컴퓨팅 및 워크플로우를 제공한다. 특히 시스템 소프트웨어 및 응용 프로그램에서 멀티 GPU가 동작하는 것과 산업 현장에서 GPU를 활용한 다중 디스플레이 환경을 지원한다.
끝으로 ‘얼티밋(Ultimate)’은 엔비디아 H100 GPU를 탑재한 고성능 서버다. 얼티밋은 모든 스케일의 딥러닝, 머신러닝, 데이터 분석에 합당한 퍼포먼스를 제공하고 MIG(Multi Instance GPU)를 활용한 GPU 가상화로 격리 분할된 워크로드를 가속해 최대 리소스 활용을 유지한다.
인프라 위한 생태계 완성한 바로AI
바로에이아이가 갖춘 또 하나의 경쟁력은 AI 연구 효율을 극대화하는 에코 솔루션을 구축했다는 점이다. 이 에코 솔루션은 서버 활용도를 효율적으로 만들어 AI 연구 효율을 끌어올리는 서버 자원 소프트웨어 솔루션이다.
여기에는 복수 노드를 통합해 하나의 시스템으로 동작하는 클러스터링 솔루션 ‘TIE’, GPU 서버에 다중 사용자가 접속해 사용하도록 지원하는 클라우드 솔루션 ‘NET’, GPU가 사용되는 어플리케이션을 최적화해 사용자가 손쉽게 사용하도록 돕는 솔루션 ‘SOS’, AI 연구 방향성을 찾도록 도움을 주는 샘플코드와 AI 컨설팅을 제공하는 AI 인스피레이션 패키지 ‘TIP’가 포함된다.
TIP의 경우 실무자 AI 교육과 자체적으로 제작한 AI 신경망 소스코드를 제공하며, AI 컨설팅을 통해 기술 도입 효용성을 검증해보도록 지원한다. 다시 말해 교육을 받은 실무자가 업무에 적용 가능한 과제를 직접 발굴하도록 지원하는 것이다.
이뿐 아니라 바로에이아이는 고객사에 대한 케어 서비스를 이행하는데 집중한다. 바로에이아이는 제품에 대한 3년간의 무상 AS를 제공하며, 응급 상황일 경우 즉시 방문을 통해 문제를 해결한다. 또한, 제품의 안정적인 사용을 위해 3개월마다 정기방문을 실시하며, 필요한 기본 소프트웨어를 사용자에 최적화해 효율적인 연구환경을 구현한다.
이용덕 대표는 “결국 우리는 하드웨어 시스템을 비롯해 클라우드 네트워킹, 보안 규정, 인프라 서비스를 지원함으로써 AI 개발자가 연구에만 몰두하는 환경을 제공하는데 집중하는 회사다. 이 같은 비전 아래 재능 있는 사내 구성원들이 건강한 기업 문화를 만들고 기업 가치를 제고하고 있다”고 밝혔다.
끝으로, 이용덕 대표는 “올해는 연초 설정했던 매출 목표를 향해 노력할 계획이다. 이와 함께 프라이빗 클라우드 구축을 위해 시스템부터 소프트웨어, 네트워크 환경을 고도화할 예정”이라고 말했다. 이어 그는 “기술적인 완성도는 일정 수준에 올라왔다. 이를 기반으로 고객과의 지속적인 협업을 통해 최적화한 환경을 만들어가는데 주력할 것이다. 나아가 스몰 사이즈, 미들 사이즈의 프라이빗 클라우드 분야를 선도하는 기업이 되고 싶다”고 소감을 밝혔다.
헬로티 서재창 기자 |
