딥러닝은 컴퓨터 인공지능 학습법 중의 하나이다. 최근 딥러닝과 관련, 컴퓨터가 알아들을 수 있는 형태로 표현하고 이를 학습에 적용하기 위해 많은 연구가 진행되고 있다. 딥러닝 기술이 어디까지 왔는지, KAIST 김준모 교수가 발표한 내용을 정리했다.
딥러닝이란 무엇인가?
딥러닝이란 딥 네트워크(딥 뉴럴 네트워크)를 트레이닝해서 어떤 일을 하는 절차를 뜻한다. 여기서 딥 네트워크(Deep Network)란 인풋과 아웃풋 사이에 숨어 있는 히든 레이어가 2개인 것을 말하며, 히든 레이어가 없거나 1개면 쉘로우 네트워크(Shallow Network)라고 한다.
뉴럴 네트워크의 역사를 보면, 1세대(1958년~)는 퍼셉트론(Perceptron) 방식이었고, 2세대(1986년~)는 멀티레이어 퍼셉트론 방식이었다. 이때는 정답이 틀린 에러를 역전파함으로써 뉴럴 네트워크를 훈련시키는 기술이었다. 즉, 쉘로우 네트워크를 사용하고 있었다.
20년이 지나서야 3세대(2006년~) 딥러닝이 나왔다. 힐튼 교수에 의해 소개된 딥 빌리프네츠(Deep Belief Nets)였다. 그 후 1989년에 얀 리쿤과 그의 동료들은 오류역전파 알고리즘에 기반해, 우편물에 손으로 쓰인 우편번호를 인식하는 딥 뉴럴 네트워크(Deep Neural Network)를 소개했다.
최근에는 콘벌루션 뉴럴 네트워크(Con-volutional Neural Network) 기반의 딥러닝 알고리즘이 뛰어난 성능을 발휘하고 있다.
딥러닝 개발 동향
딥러닝의 최근 이슈는 아무래도 스탠포드대학의 앤드류 Ng 교수와 구글이 함께한 딥러닝 프로젝트 ‘구글 브레인’일 것이다. 이 프로젝트는 뉴럴 네트워크가 유튜브 비디오를 보는 것만으로 ‘고양이’와 같은 높은 수준의 콘셉트를 인식할 수 있게 된 것으로 유명하다. 실험에서 앤드류 Ng 교수는 16,000개의 컴퓨터 프로세스와 10억 개 이상의 뉴럴 네트워크, 그리고 딥 뉴럴 네트워크를 이용해 유튜브에 업로드되어 있는 1,000만 개 이상의 비디오 중 고양이 인식에 성공했다.
구글 브레인이라는 프로젝트에서 알 수 있듯이 구글은 딥러닝 분야에 앞서나가고 있다(그림 1). 2012년 12월에 레이 커즈와일이 풀타임 엔지니어링 디렉터로 구글에 합류했고, 2013년 3월에는 힐튼 교수의 회사 DNN리서치가 구글에 인수 합병됐다.
▲ 그림 1. Google
최근 인공지능의 새로운 강자로 떠오르고 있는 페이스북이 구글의 독주에 도전장을 냈다(그림 2). 페이스북은 딥러닝 전문가 마르크스 아우렐리오 랑자또를 구글에서 스카우트했고, 2013년에는 딥러닝의 대가인 얀 리쿤 교수를 AI Lab 헤드로 채용했다. 얀 리쿤 교수는 딥러닝 창시자 세 명 중의 한 명이다. 페이스북은 딥러닝을 사용해 뉴스피드와 페이스북의 ‘킬러 앱(Killer App)’인 최근 업데이트 개인 목록(Personalized List of Recent Updates)을 더 발전시킬 수 있다고 봤다. 또한, 딥러닝은 사용자들이 사진들을 정리하고 페이스북에 올릴 사진을 선택하는 것도 도와줄 수 있을 것으로 기대했다.
▲ 그림 2. Facebook
한편 페이스북은 최근 얼굴인식을 사람 수준만큼 잘할 수 있는 ‘CVPR 2004’를 소개했다. CVPR 2004는 97%의 인식률을 보인 것으로 알려졌다.
그 외에도 마이크로소프트, 바이두, IBM 등도 연구팀을 인수하거나 자체 개발팀을 운영하면서 업적들을 만들어 내고 있다.
정리 임근난 기자(fa@hellot.net)
