컴퓨팅 플랫폼에서 프레임워크까지 모든 산업에 인공지능 도입 기원
세계적으로 가장 핫한 기업인 엔비디아가 지난 5월 미국 캘리포니아에서 제8회 엔비디아 GPU 테크놀로지 컨퍼런스(GPU Technology Conference, 이하 GTC)에서 엔비디아의 주요 성과를 발표했다. 7,000여 명의 전 세계 개발자 및 업계 전문가들이 모인 가운데, 150개 기업이 전시에 참여하고 세계 10대 자동차 제조사를 비롯해 100여 개 이상의 인공지능 및 VR 분야 스타트업이 참여해 자리를 빛냈다.
▲ 제8회 엔비디아 GTC 현장
사상 최대 규모 GTC
강력한 트렌드 융합 선보였다
올해 GTC는 7,000여 명의 참가자를 운집하며 사상 최대 규모로 치러졌다. 성공적으로 마무리된 GTC는 인공지능에 대해 의구심을 갖던 사람들을 포함한 모든 이들에게 인공지능 혁명의 놀라운 발전 속도를 증명하는 자리가 됐다. GTC 기간 동안 미디어, 엔터테인먼트, 제조, 의료, 운송 분야의 세계적인 기업들이 GPU 컴퓨팅에 기반한 엔비디아의 기술적 발전에 대해 공유하는 시간을 가졌다.
GTC 개최의 배경에는 강력한 주요 트렌드 간 융합이 있다. 컴퓨팅 파워의 발전은 ‘무어의 법칙’의 정체 현상을 타개하는 기반이 됐고, 이를 통해 인공지능 역시 비약적인 발전을 이룰 수 있었다. 인공지능 개발자들은 경쟁적으로 새로운 프레임워크를 구축, 현 시대의 난제를 해결하는 데 적극 나서고 있다. 뿐만 아니라 각자의 인공지능 소프트웨어를 강력한 클라우드 서비스에서 클라우드 말단에 위치한 다양한 기기에 이르기까지 모든 영역에서 구동시키기를 원하고 있다.
인공지능 컴퓨팅의 시대는 곧 GPU 컴퓨팅의 시대
엔비디아는 올해 GTC에서 세계 최첨단 인공지능 컴퓨팅 아키텍처인 볼타(Volta™)를 공개했다. 210억 개의 트랜지스터를 장착한 볼타는 엔비디아에 최적화된 12nm TSMC 공정을 기반으로 하며, 삼성의 최고속 HBM 메모리를 탑재하고 있다. 또한 새로운 숫자 형식 및 CUDA 명령을 통해 기본적인 딥러닝 연산인 4x4 행렬 연산을 매우 빠른 속도로 수행한다.
각각의 볼타 GPU는 120 테라플롭에 이른다. 엔비디아의 인공지능 슈퍼컴퓨터인 DGX-1은 8대의 테슬라 V100 GPU를 상호 연결해 1 페타플롭에 가까운 딥러닝 성능을 낼 수 있다.
▲ GTC 기조연설 무대에서 볼타를 발표하는 엔비디아 젠슨 황 CEO
무어의 법칙의 종말을 통한 폭발적 성장
데나드 스케일링(Dennard scaling)과 CPU 아키텍처 발전의 결합에 기반한 무어의 법칙이10여 년 전부터 둔화되기 시작했음에도 불구하고 인공지능 혁명은 도래했다. 트랜지스터의 크기와 전압을 줄임으로써 설계자가 전력밀도는 유지하면서 동시에 트랜지스터의 밀도 및 속도를 개선할 수 있다는 데나드 스케일링은 이제 장치 물리학(device physics)에 의해 제한되고 있다.
CPU 설계자들은 명령어 수준 병렬성(ILP: instruction-level parallelism)만을 구현할 수 있으며, 이 마저도 회로와 에너지는 여전히 증가하게 된다. 따라서 무어의 법칙 이후의 시대에서는 CPU 트랜지스터와 에너지가 대규모로 증가함에도 불구하고 애플리케이션 성능 향상은 상대적으로 미약한 수준에 머물게 된다. 과거에는 연간 50%의 성능 개선을 이루었던 것에 비해, 최근의 성능 개선은 연간 10%에 불과하다.
엔비디아가 이끌어 온 가속 컴퓨팅 접근 방식은 알고리즘의 특정 영역을 대상으로 한다. CPU 오프로드(offload)를 위해 전문화된 프로세서를 추가하고, 산업별 개발자들이 참여해 엔비디아의 아키텍처용으로 최적화함으로써 자신들의 애플리케이션을 가속화한다. 엔비디아는 알고리즘, 솔버, 애플리케이션 등 전반적인 부문에서 모든 병목 현상을 제거함으로써 빛의 속도를 달성할 수 있도록 지원한다.
이러한 이유로 볼타가 인공지능 작업 부하에서 놀라운 속도를 낼 수 있는 것이다. 볼타는 최고 테라플롭에서 현세대 엔비디아 GPU 아키텍처인 파스칼(Pascal)대비 5배 향상됐으며, 2년 전 출시된 맥스웰(Maxwell) 아키텍처 대비15배 가량 개선돼, 무어의 법칙으로 예측할 수 있는 수준을 넘어서고 있다.
▲ 최신 프레임워크는 엔비디아 볼타의 성능을 활용해 눈에 띄게 빨라진 트레이닝 시간과 더욱 높은 멀티 노드 트레이닝 성능을
구현할 수 있다.
인공지능을 향한 접근 가속화
성능의 비약적인 발전은 모든 산업에서 혁신 기업들의 탄생을 도래했다. GPU 중심의 인공지능 서비스를 구축하고 있는 스타트업의 숫자는 지난 한 해 동안 4배 이상 증가해 무려 1,300여 개에 이른다.
그 누구도 새로운 기회를 놓치고 싶지 않을 것이다. 마크 안드레센(Marc Andreessen)은 소프트웨어가 세상을 먹어 치우고 있다고 말했으나, 이제는 인공지능이 소프트웨어를 먹어 치우고 있다해도 과언이 아니다. GitHub 오픈소스 소프트웨어 등록 사이트에서 선도적인 AI 프레임워크를 활용하고 있는 개발자들의 수는 지난 2년 사이 5천 명 미만에서 7만 5천 명 이상으로 증가했다.
딥러닝은 모든 주요 기술 기업들에게 당면한 전략적 과제로, 인프라에서 도구, 제품 생산 방식에 이르기까지 모든 영역에 빠르게 스며들고 있다. 엔비디아는 최상의 성능 구현을 위해 모든 프레임워크 개발 업체들과 협력 중이다. 각 프레임워크를 엔비디아의 GPU용으로 최적화함으로써, 하나의 모델을 트레이닝 하는 데 필요한 수백 회의 반복 작업을 매번 수 시간 내지 수 일 가량 개선할 수 있다. Caffe2, Chainer, Microsoft Cognitive Toolkit, MXNet, PyTorch, TensorFlow의 모든 네트워크가 볼타 용으로 세심하게 최적화될 예정이다.
엔비디아는 개발자들이 어떤 프레임워크를 통해서든 자신의 작업을 할 수 있는 환경을 창출하는 것이 목표이다. 올해 GTC에서 엔비디아는 내부적으로 데이터를 유지하고 싶은 기업을 위해 강력한 신규 워크스테이션 및 서버를 소개했다.
2,470억 달러 규모의 공공 클라우드 서비스 시장은 가장 활기 넘치는 시장이라 할 수 있다. 지난 6개월간, 알리바바, 아마존, 바이두, 페이스북, 구글, IBM, 마이크로소프트, 텐센트가 자사의 데이터센터에 엔비디아 GPU를 활용했다.
또한 엔비디아는 올해 GTC에서 혁신 기업들이 클라우드 서비스로 무리 없이 이동할 수 있도록 엔비디아 GPU 클라우드 플랫폼을 발표했다. 엔비디아 GPU 클라우드 플랫폼에는 모든 프레임워크의 사전 구성 및 최적화된 스택이 등록되어 있다. 소프트웨어의 각 레이어와 모든 조합 구성이 미리 조정 및 테스트되어 패키지로 구성됐으며 이는 NVDocker 컨테이너에 수록됐다. 엔비디아는 앞으로 이를 꾸준히 모강 및 유지할 계획이라고 한다. 현재 발견되는 모든 버그는 수정 작업을 진행 중이다.
▲ 인공지능 혁명과 함께 구축되고 있는 새로운 산업 생태계
자동화 기기의 급속한 성장
미가공 데이터에서 특징을 잡아내는 딥러닝 능력에 기반해 자동화 기기의 급성장을 위한 제반 조건이 마련됐다. 바로 인공지능을 갖춘 사물인터넷(IoT)이다. 인공지능에 기반한 수십 억, 수조 억 개의 기기들이 생겨날 것으로 예측된다.
엔비디아는 GTC를 통해 로봇 제작을 위한 가상 로봇인 아이작(Isaac)을 발표했다. 현재의 로봇은 일일이 프로그래밍돼 오직 프로그램된 작업만 정확하게 처리한다. 하지만 엔비디아에서 조명한 기술은 조금 다르다. 엔비디아는 자율주행 차량을 해결하는 데 필요한 컴퓨터 비전이라는 획기적인 기술을 나선현의 뉴럴 네트워크를 통해 확보했듯이, 증강 학습과 모방 학습이 로봇 기술을 해결하는 데 필요한 획기적인 기술일 수도 있다는 의견을 내놓았다.
일단 트레이닝을 거친 로봇의 브레인은 모듈 형태의 엔비디아 인공지능 슈퍼컴퓨터인 젯슨(Jetson)으로 다운로드됨으로써 로봇은 가상과 실제 세계 사이의 차이에 적응하게 된다. 새로운 로봇이 탄생하는 것이다. 엔비디아는 GTC에서 하키 및 골프 치는 방법을 학습한 아이작을 선보이기도 했다.
엔비디아는 딥러닝 액셀러레이터(Deep Learning Accelerator, DLA)를 오픈 소스로 제공한다. DLA를 오픈 소스로 제공하는 이유는 엔비디아가 인공지능 차량용 슈퍼칩인 자비에(Xavier superchip for AI cars)에 탑재된 전용 추론 TPU인 본 액셀러레이터를 통해 인공지능이 가능한한 빠르게 도입되길 희망하기 때문. DLA를 통해 인공지능을 도입하려는 기업들이 별도로 추론용 TPU 구축에 투자할 필요가 없도록 지원하는 것이다. 뿐만 아니라 엔비디아는 세계적인 칩 디자이너들이 설계한 제품도 무료로 제공 중이다.
지금까지 엔비디아 GPU 컴퓨팅이 우리 시대의 다빈치와 아인슈타인 같은 개발자들을 위한 핵심 도구로 자리잡을 수 있었던 비결을 단적으로 보여주는 사례들을 소개했다. 이러한 성공을 거둔 엔비디아가 국내 업계 관계자들에게도 최신 인공지능 트렌드를 공유하고자 작년에 이어 딥러닝 데이 2017을 개최했다. 해당 행사에는 400여 명 이상의 국내 소프트웨어 개발자 및 빅데이터 전문가, IT 업계 종사자들이 참석한 가운데 성황리에 마무리됐다.
▲ GTC에서 소개된 엔비디아의 로봇 아이작
▲ 400여명의 개발자 및 관련 종사자들이 참석한 ‘엔비디아 딥러닝 데이 2017' 전경
딥러닝 데이 2017
국내 인공지능 관심도 증명
엔비디아 딥러닝 데이는 증가하고 있는 전 세계 엔터프라이즈, 정부 기관 및 대학 내 딥러닝 기술 및 최신 인공지능 전문 지식에 대한 수요에 대응하고자 마련된 행사이다. 작년에 이어 전문가 강연 및 실질적인 트레이닝랩으로 구성된 올해 딥러닝 데이에는 다양한 관련 분야 개발자 및 업계 종사자들이 대거 참석해 딥러닝에 대한 국내 업계의 높은 관심과 열기를 증명했다.
뿐만 아니라 GPU 기반 딥러닝 기술을 이끌고 있는 엔비디아의 전문가들이 국내 업계 종사자 및 교수, 학생들과 함께 딥러닝 및 인공지능의 최신 기술과 정보를 논의함으로써 국내 인공지능 인사이트 공유의 장 역할을 톡톡히 해냈다.
특히 엔비디아의 솔루션 아키텍처 및 엔지니어링 부사장인 마크 해밀턴(Marc Hamilton)의 기조 연설이 참가자들에게 큰 인상을 남겼다. ‘딥러닝 애플리케이션 가속화’를 주제로 진행된 이 연설에서는 GPU 가속 컴퓨팅이 가능케 한 딥 러닝 및 현대 인공지능 발전에 대해 설명하고 현재의 기술이 인공지능 혁명이라 불리는 역사적인 변화의 한 가운데 있음을 강조했다. 또한 위에서 소개했던 올해 GTC에서 발표된 가장 최신의 인공지능, 딥러닝 기술 및 트렌드도 함께 공유하며 참가자들로부터 열띤 호응을 이끌어냈다.
해밀턴 부사장의 연설에 이어 국내 전문가들의 강연도 진행됐다. 한국 IBM 시스템즈 서버 솔루션 허욱 본부장은 딥러닝의 인지에 관해 설명했으며, 카이스트 바이오 및 뇌 공학과의 이상완 교수는 강화학습의 알고리즘 및 뇌를 주제로 인공신경망에서 발전한 형태의 인공지능인 딥러닝의 원리와 확장성에 대한 인사이트를 전달했다.
▲ 엔비디아 마크 해밀턴 부사장이 딥러닝 가속화를 주제로 기조연설을 진행하고 있다.
강연과 함께 진행된 딥러닝 인스티튜트(Deep Learning Institute)에서는 딥러닝의 발전 양상에 따라 참가자들이 실제 딥러닝 설계 및 훈련, 배포하는 방법을 실습해 볼 수 있는 시간을 가졌다. 총 4시간 동안 밀도있게 진행된 본 세션을 통해 업계 개발자 및 학생들은 사전에 신청한 트레이닝 랩에 참여하고 엔비디아 기술을 활용한 심도 높은 실습을 진행했다.
▲ 엔비디아 ‘딥러닝 데이 2017’ 딥러닝 인스티튜트에 참여한 참가자들이 딥 러닝 설계,
훈련, 배포를 배우고 있다.
엔비디아는 올해 GTC에서 4차 산업혁명의 도래와 함께 급격히 증가하고 있는 인공지능 분야 전문지식에 대한 수요에 대응하기 위해 딥러닝 인스티튜트 확대를 통한 개발자 양성 계획을 발표한 바 있다. 본계획을 통해 엔비디아는 올해 안에 작년 대비 10배 증가한 규모인 10만 명의 개발자를 전 세계적으로 양성할 예정이다.
엔비디아 코리아 이용덕 지사장은 “딥 러닝을 기반으로 한 인공지능으로의 변혁은 피할 수 없는 4차 산업혁명 시대의 흐름이 되고 있으며 업계를 막론하고 관련 개발자들에 대한 수요도 급격하게 증가하고 있는 추세이다.”라며, “엔비디아는 기술력과 전문성을 기반으로 한 실습 위주의 교육 프로그램을 국내 개발자 및 학생들에게 전국 단위로 제공함으로써, 국내 기술력 및 인재 양성에 기여하고 인공지능 생태계를 공고히 해 나갈 것이다.”라고 밝혔다.
엔비디아 딥러닝 데이 2017은 지난 5월 30일 대전 인터시티 호텔에서도 진행됐다. 엔비디아 솔루션 아키텍처 및 엔지니어링 디렉터인 도널드 챈(Donald Chen)을 비롯해 HPE 정석원 부장, 중앙대학교 손민기 교수가 연사로 참석해 최신 딥 러닝 트렌드와 사례를 발표했다.