작은 모델은 1억1100만 개, 큰 모델은 130억 개 매개변수 가진 것으로 알려져
챗GPT가 세계적인 열풍을 일으키는 가운데 미국 AI 반도체 스타트업 세레브라스 시스템스가 28일(현지시간) 챗GPT와 유사한 챗봇 7종을 출시했다고 발표했다.
세레브라스는 특히 이번 공개에서 연구·사업 등 영역에서 협업을 촉진하기 위해 프로그램 개발에 필요한 소스코드를 무상으로 공개하는 오픈소스 방식을 채택했다. 로이터통신에 따르면 세레브라스는 자신들의 AI 슈퍼컴퓨터 '안드로메다'가 학습시킨 챗봇 7개 모델을 공개했다.
세레브라스의 창업자이자 최고경영자(CEO) 앤드루 펄드먼은 "막대한 자금이 투입되기에 AI 분야에서 오픈소스로 제공되던 것이 비공개로 바뀌는 흐름은 놀랄 일은 아니다"며 "업계에서 흥분하는 것은 우리가 이룬 진전의 상당 부분을 개방했기 때문"이라고 말했다.
7개 모델 가운데 작은 모델은 1억1100만 개, 큰 모델은 130억 개의 매개변수를 각각 가졌다. 매개변수를 많이 가진 모델일수록 더 복잡한 콘텐츠를 생성할 수 있다. 예를 들어 오픈AI의 챗GPT는 1750억개의 매개변수를 가지고 있어 시(詩) 창작과 연구 등을 해낼 수 있다는 것이다.
펠드먼 CEO는 긴 글을 요약하는 것처럼 복잡한 작업에는 대형 모델이 필요하겠지만, 소형 모델은 휴대전화나 스마트 스피커 등에, 그보다 더 큰 모델은 PC나 서버 등에 적용할 수 있다고 설명했다. AI 분석업체 캠브리언 AI의 컨설턴트 칼 프로인드는 "작은 모델도 학습을 많이 하면 정확해질 수 있다는 흥미로운 논문들이 발표되는 등 크다고 무조건 좋은 것은 아니다"며 "큰 모델과 잘 학습된 모델 사이에 균형점이 있다"고 설명했다.
펠드먼 CEO는 또 자사의 가장 큰 모델의 경우 AI 학습을 위해 개발된 식사용 접시 크기의 반도체 등으로 만든 자사 시스템 덕분에 통상 수개월에 이르는 학습 기간이 실제로는 1주일여밖에 되지 않았다고 소개했다. 현재 AI 모델 대부분이 엔비디아의 반도체로 학습하지만, 세레브라스와 같은 스타트업이 그 분야 시장점유율을 높이려 하고 있다고 로이터는 덧붙였다.
헬로티 서재창 기자 |
