개요

 

이 글에서는 차세대 무선 통신을 위한 전력 증폭기(PA)의 신호 왜곡과 에너지 비효율 문제를 해결하기 위한 방안으로 AI 기반 DPD(digital predistortion) 프레임워크를 소개한다. 기존의 다항식 기반 DPD 방식은 계산 복잡성과 비선형성, 메모리 효과에 대한 적응력의 한계로 어려움을 겪고 있다. 이 글에서 제안한 시스템은 첨단 신경망 아키텍처를 활용하여 전치왜곡을 동적으로 최적화함으로써 효율, 적응성, 실시간 보정 성능 면에서 기존 방식보다 뛰어나다. 모델 해석 가능성과 에너지 소비 같은 과제가 남아 있기는 하지만, 이 프레임워크는 확장 가능하고 에너지 효율적인 솔루션을 제공하여 현대 통신망을 위한 RF 송신기 설계에서 중요한 발전을 나타낸다.

 

머리말

 

 

2022년 11월 오픈AI(OpenAI)가 출시한 챗GPT는 인공지능(AI)의 잠재력을 보여주며 가장 빠르게 채택된 소프트웨어 제품 중 하나가 되었다. AI의 하위 분야인 머신러닝(ML)은 의사결정과 데이터 분석과 같은 작업을 가능하게 하여 산업 전반을 변화시키고 있다. 통신 분야에서는 AI와 ML이 신호 왜곡을 줄이고 전력 증폭기(PA)의 효율을 향상시키는 핵심 기술인 DPD(digital predistortion)의 발전을 이끌고 있다. 그러나 기존의 DPD 모델은 5G와 같은 첨단 통신 시스템에서 발생하는 비선형성과 메모리 효과를 처리하는 데 어려움을 겪을 수 있다. 기존 방식은 PA의 동작이 정적이고 메모리 효과가 없다고 가정하며, 순간적인 입력-출력 관계만을 고려하는 다항식 모델에 의존한다. 반면 AI와 ML은 복잡한 패턴을 학습하는 데 뛰어나, 보다 정밀한 해법을 제공할 수 있다. 이 글에서는 PA 데이터를 활용해 이득/위상 오차를 줄이고 효율과 스펙트럼 성능을 향상시켜 기존 방법을 능가하는 인공 신경망 기반 DPD 프레임워크를 소개한다.

 

DPD와 AI 혁신의 결합을 통한 PA 효율 향상

 

DPD는 전력 증폭기가 선형성을 떨어트리지 않으면서도 포화 영역 근처에서 효율적으로 동작할 수 있게 하는 핵심 기술이다. DPD는 전력 증폭기의 선형 동작 범위를 확장함으로써, OFDM(orthogonal frequency division multiplexing)과 같은 복잡한 변조 방식에서 요구되는 송신 신호의 선형성을 유지하면서도 비선형 전력 증폭기의 효율을 극대화할 수 있게 한다.

 

DPD의 핵심 원리는 전력 증폭기의 진폭-진폭(AM-AM) 및 진폭-위상(AM-PM) 특성의 역함수를 모델링하여 도출한 전치왜곡 계수를 입력 신호에 적용하는 것이다. 이 과정은 입력 파형에 정밀한 보정 왜곡(antidistortion)을 가함으로써 전력 증폭기의 비선형성을 효과적으로 보상한다. 그 결과, DPD는 신호 품질을 향상시키는 동시에 전력 증폭기가 최고 효율로 동작할 수 있도록 한다.

 

DPD 알고리즘의 세부 내용과 아나로그디바이스(ADI)의 ADRV9040 RF 트랜시버가 이를 설계 및 구현할 수 있도록 간소화된 하드웨어 플랫폼을 제공하는 방법에 대해서는 “5G 기지국 송신기의 구성, 설계 및 평가 간소화하기” 기사에서 자세히 다루고 있다. 그림 1은 전력 증폭기의 응답을 선형화하기 위한 DPD 개념을 보여준다.

 

 

전력 증폭기는 포화 영역 근처에서 비선형 특성을 보이며, 이로 인해 신호 왜곡, 스펙트럼 재성장, 효율 저하가 발생한다. 특히 I/Q 불균형이나 메모리 효과와 같은 결함이 존재하는 고대역폭 시스템에서 이러한 문제가 두드러진다. AI와 ML, 특히 신경망(NN)은 전력 증폭기의 왜곡을 모델링하고 전치왜곡을 동적으로 최적화함으로써 근본적인 해결책을 제공한다. 이러한 AI 기반 접근 방식은 효율과 적응성을 향상시키며, 성능과 계산 복잡성 간의 균형을 유지하면서 기존 방식보다 뛰어난 결과를 보여준다.

 

신경망 모델을 통한 DPD 엔진 최적화: 게임 체인저가 될 새로운 프레임워크 제안

 

인공 신경망은 AI의 핵심 구성 요소로, 특히 딥러닝 분야에서 기존 머신러닝 알고리즘의 한계를 극복하기 위해 설계되었다. 인간의 뇌가 정보를 처리하는 방식을 모방한 신경망은 패턴 인식, 학습, 의사결정에 탁월하여 복잡하고 비선형적인 문제를 해결하는 데 이상적이다. 예를 들어 5G LTE 시스템에서는 I/Q 불균형, 위상 변화, 직류 오프셋, 누화(crosstalk), 전력 증폭기 비선형성 등의 문제를 신경망 기반 DPD 접근법을 통해 효과적으로 해결할 수 있다.

 

시스템의 동작 원리에 대한 깊은 이해를 요구하고 확장성 측면에서 한계를 보이는 다항식 기반 DPD 솔루션과 달리, 신경망 모델은 복잡한 비선형 거동을 더 적은 제약으로 처리하는 데 강점을 보인다. 다음에서는 이러한 문제를 완화하기 위한 신경망 기반 DPD 프레임워크를 소개한다. 이 과정은 세 가지 핵심 단계들로 구성된다. 1단계에서는 전력 증폭기의 특성을 분석하고 대규모 데이터를 수집한다. 2단계에서는 포스트디스토터(postdistorter) 신경망 모델을 학습시킨다. 3단계에서는 모델을 실제 시스템에 배치하고 성능을 모니터링하며 필요에 따라 조정한다. 머신러닝을 활용한 이 접근법은 방대한 데이터를 실질적인 통찰로 전환하여 첨단 통신 시스템의 복잡한 문제에 대응할 수 있는 견고하고 확장 가능한 솔루션을 가능하게 한다.

 

1단계: 전력 증폭기 특성 데이터 수집

 

무선 전력 증폭기의 최적화를 위한 AI/ML 모델을 설계 및 구현하기 위해서는, 다양한 조건에서 전력 증폭기의 실제 동작 성능을 정확히 반영하는 포괄적이고 고품질의 특성 데이터를 수집하는 것이 필수적이다. 그림 2는 전력 증폭기 특성 데이터를 수집하기 위한 구성도를 예시한 것이다.

 

그림 2의 측정 구성은 S-파라미터, 출력 전력, 전력 부가 효율(PAE), 입력 임피던스, 입력 반사 손실, 전력 이득, AM-PM 변환 등과 같은 매개변수를 추출함으로써 전력 증폭기의 전반적인 특성을 분석할 수 있게 해준다. 표 1에는 모델 입력용 데이터 항목이 종합적으로 제시되어 있다. 다만, 모델의 차원 수가 응답 시간에 직접적인 영향을 미친다는 점에 유의해야 한다. 또한 수집된 데이터는 학습 과정에서 활용되기 전에 반드시 디지털화되어야 한다.

 

 

 

 

 

이와 같은 체계적이고 엄격한 데이터 수집 접근법은 전력 증폭기의 성능을 정확하게 예측하고 최적화할 수 있는 AI/ML 모델 개발의 기반을 형성한다. 이러한 포괄적인 데이터세트를 활용함으로써 설계 엔지니어는 신뢰성과 효율이 높은 무선 통신 시스템을 구현할 수 있다.

 

2단계: 모델 학습

 

모델 학습 과정에서는 표 1에서 수집된 신호(일부 또는 전체)를 시스템에 입력하여 손실 함수(loss function)를 통해 오차를 최소화하도록 DPD 모델을 최적화한다. 신경망 구조는 그림 3에 제시된 것처럼 여러 개의 노드(예를 들어 인공 뉴런)가 서로 연결된 계층들로 구성되며, 이들이 신경망의 핵심 구성 요소를 이룬다.

 

 

학습 과정에서 은닉층은 데이터를 순방향으로 전파하고, 가중치와 바이어스는 경사하강법(gradient descent)을 이용한 역전파(backpropagation) 과정을 통해 최적화된다. 네트워크 구조는 비선형성이 강한 요소에는 더 많은 뉴런을, 부드러운 요소에는 더 적은 뉴런을 배치하도록 조정할 수 있다.

 

효율적이고 확장 가능한 AI 모델 학습 환경을 구축하기 위한 최적의 하드웨어, 소프트웨어 및 도구에 대한 보다 심층적인 논의는 이 글의 범위를 벗어나지만, AI 엔지니어에게는 데이터 분석 및 머신러닝용 노코드(no-code) 플랫폼인 KNIME을 활용할 것을 권장한다. KNIME는 노드를 간단히 드래그-앤-드롭 방식으로 처리하여 워크플로를 설계할 수 있는 GUI를 제공하므로, 복잡한 코딩 지식이 필요 없다. 이러한 시각적 워크플로는 이해하기 쉽고 직관적이어서 다양한 사용자층이 손쉽게 활용할 수 있다. 파이썬 기반 접근을 선호하는 사용자에게는 Keras와 TensorFlow® 조합이 매우 유용하다. 이 조합은 Keras의 단순성과 TensorFlow의 견고함 및 확장성을 결합하고 있어, 실험 단계부터 상용 수준의 딥러닝 애플리케이션까지 폭넓은 프로젝트에 적합한 선택지를 제공한다.

 

전력 증폭기 특성 분석 과정에서는 수백만 개의 샘플이 수집되며, 그중 70%는 학습용, 30%는 테스트 및 검증용으로 사용되어 모델이 전력 증폭기의 동작을 얼마나 잘 모사하는지를 평가한다. 모델 성능 평가는 정확도, 정밀도, 재현율, F1 점수, 그리고 ROC-AUC와 같은 지표를 통해 수행된다.

 

3단계: 신경망 모델 검증 및 배포

 

모델 배포 프로세스는 신뢰성과 정확성을 보장하기 위한 검증으로부터 시작된다. 검증 데이터는 학습 중 모델 품질을 모니터링하고 조기 종료 조건을 설정하는 데 사용되며, 테스트 데이터는 학습과 별개로 모델의 정확도와 일반화 성능을 평가한다. 과적합(overfitting)과 과소적합(underfitting)을 해결하는 것은 모델이 새로운 데이터에 잘 일반화되도록 하는 핵심 요소다. 과적합은 모델 구조를 단순화하기 위해 층 수, 은닉 뉴런 수, 또는 파라미터 수를 줄이는 방법으로 완화할 수 있다. 또한 학습 데이터세트를 확장하거나, 성능에 거의 기여하지 않는 중복 뉴런을 제거하는 가지치기(pruning) 기법을 활용해 일반화 성능을 향상시킬 수도 있다. 반대로 과소적합은 모델 복잡도를 높이기 위해 은닉 뉴런 수를 늘리거나, 학습률(learning rate), 배치 크기(batch size), 정규화 강도(regularization strength) 등의 하이퍼파라미터를 조정하여 성능을 개선하는 방식으로 완화할 수 있다. 머신러닝 엔지니어는 이러한 전략 간의 균형을 유지하면서 DPD 모델의 성능을 반복적으로 평가해야 한다. 이 과정에서 모델의 실행 속도 또한 함께 고려되어야 한다. 그림 4는 신경망 기반 DPD 모델 평가 시스템의 상위 블록 다이어그램을 보여준다.

 

최적의 은닉 뉴런 수를 결정하기 위해서는 실험적 연구, 시행착오, 혹은 학습 과정에서의 적응적(adaptive) 방법이 필요하다. 이러한 조정을 통해 신경망은 복잡성과 성능 사이의 적절한 균형을 이루어 효율적이고 효과적인 모델 배포가 가능해진다. 모델 배포는 ADI의 MAX78000 컨볼루셔널 신경망(CNN) 가속기 칩과 같은 엣지 AI 임베디드 MCU를 활용하여 구현할 수 있다.

 

AI/ML과 DPD 시스템 통합의 과제와 기회

 

AI와 ML을 DPD 시스템에 통합하는 것은 성능을 향상할 수 있는 커다란 가능성을 제공하지만, 동시에 여러 실질적인 과제를 수반한다. DPD 시스템은 매우 낮은 지연시간과 높은 처리 속도를 요구하는데, 이는 계산 부하가 큰 머신러닝 모델에서는 달성하기 어려운 목표일 수 있다. 또한 온도 변화나 하드웨어 노화와 같은 동적 운용 환경에서는 최적의 성능을 유지하기 위해 실시간 학습이나 전이 학습과 같은 적응형 기술이 필요하다.

 

에너지 효율 역시 중요한 고려 요소다. 특히 딥러닝 아키텍처와 같은 복잡한 AI/ML 모델은 기존 DPD 방식보다 더 많은 전력을 소비하는 경향이 있어, 에너지 제약이 큰 환경에서는 적합하지 않을 수 있다. 따라서 향후 연구에서는 경량 신경망을 활용한 실험이 필요하다. 경량 신경망은 기존 신경망을 최적화한 형태로, 파라미터 수를 줄이고 계산량을 최소화하며 메모리 사용 효율을 높이도록 설계된다. 이러한 특성 덕분에 모바일 기기, 사물인터넷(IoT) 디바이스, 또는 기타 연산 자원이 제한된 시스템과 같은 환경에서 특히 유용하다.

 

많은 머신러닝 모델, 특히 심층 신경망(deep neural network)은 해석 가능성의 부족으로 인해 DPD 시스템과의 통합을 더욱 복잡하게 만든다. 이러한 모델은 복잡한 연산 과정을 가중치, 바이어스, 활성화 함수로 단순화하기 때문에 내부 의사결정 과정을 명확히 파악하기 어렵다. 그 결과, 디버깅과 최적화 과정이 까다로워지고, 시스템의 동작 원리를 이해하거나 문제의 원인을 추적하는 데 추가적인 도전 과제들이 수반된다.

 

결론

 

대규모 MIMO와 같은 5G 기술이 더 낮은 전력 소모와 높은 정밀도를 요구함에 따라, DPD 시스템은 이러한 새로운 복잡성을 해결하도록 진화해야 한다. AI와 ML은 적응형 학습과 하이브리드 모델링 같은 혁신을 통해 확장 가능하고 에너지 효율적인 솔루션을 구현하는 핵심 역할을 하게 될 것이다. 신경망은 복잡한 비선형성과 메모리 효과를 모델링할 수 있는 능력을 바탕으로, 명시적인 수학적 공식 없이도 비선형 함수를 근사함으로써 DPD 시스템 설계를 단순화한다.

 

AI/ML의 통합은 전력 효율을 높여 전력 증폭기가 포화 영역에 더 가까운 상태에서 동작할 수 있도록 하며, 비선형 증폭기를 사용하더라도 비용을 절감할 수 있게 해준다. 물론 모델 해석성, 계산 복잡성, 에너지 소비 등 해결해야 할 과제들이 여전히 남아 있지만, AI/ML 기반 시스템은 DPD의 정확도, 적응성, 확장성을 크게 향상시킬 잠재력을 지니고 있다. 특히 전통적인 다항식 기반 기법과 AI/ML 기술을 결합한 하이브리드 접근 방식은 고전적 모델의 해석 가능성과 AI/ML의 고도화된 성능을 균형 있게 융합한다. 이러한 과제들을 혁신적 전략으로 극복한다면, AI/ML은 DPD 시스템의 근본적인 변화를 이끌며 현대 통신 기술의 진화를 뒷받침하게 될 것이다.
 

헬로티 김재황 기자 |