AI 구글 신기술 터보퀀트, 메모리 업계 재앙일까 혁신 기폭제일까
인공지능(AI)의 메모리 사용량을 줄여주는 구글의 신기술 개발 소식이 알려지면서, 메모리 수요가 감소할 수 있다는 전망과 중장기적으로 AI 인프라 혁신을 촉진할 것이라는 비교적 상반된 전망이 동시에 나오고 있다. 연합뉴스에 따르면, 구글리서치가 지난 25일(현지시간) 논문을 통해 발표한 '터보퀀트'는 AI 추론 과정에서 발생하는 키-값 캐시(KV 캐시)를 효율적으로 압축시켜 정확도 저하 없이 AI의 메모리 사용량을 6분의 1로 줄인 기술이다. KV 캐시는 AI가 대화의 맥락을 기억하고 새로운 정보를 찾아낼 때 필요한 임시 기억장치다. AI의 기능이 학습에서 추론으로 진화하면서 필요한 KV 캐시가 늘어났고, 이에 쓰이는 메모리 용량도 급증했다. 이에 구글은 최근 KV 캐시 데이터를 6분의 1로 줄여, 일종의 '요약본'으로 압축해 메모리 병목현상을 해결하는 기술을 내놓았다. 현재 진행형인 메모리 공급 부족을 해결할 수 있는 기술이란 이유로 터보퀀트 발표 후 주요 메모리 기업 주가는 폭락했다. 지난 26일 삼성전자 주가는 4.7% 하락했고, SK하이닉스는 6.2% 급락 마감했다. 미국의 마이크론 주가도 전날 3% 넘게 떨어졌다. 그러나 업계에서는 터보퀀트를 같은