최근 인공 신경망의 비선형 처리 능력을 통해 직접 검출 시스템의 비선형 파형 왜곡을 보상하기 위한 연구가 활발히 이루어지고 있다. 인공 신경망 기반의 등화기(ANN-based equalizer)로서 적절한 동작을 수행하기 위해서는 사전에 전송 과정에서 왜곡된 신호를 기존의 신호로 복원하는 학습하는 과정이 필요하다. 이를 위해서 미리 정해져 있는 시퀀스인 유사 랜덤 이진 시퀀스(Pseudorandom Binary Sequence: PRBS)가 주로 사용된다. 하지만 이 경우 인공 신경망이 전송 과정에서 발생하는 왜곡의 특성을 파악하지 않고 유사 랜덤 시퀀스의 발생 규칙을 학습하는 과적합(overfitting)이 발생할 수 있어 이를 해결하기 위한 연구도 진행되고 있다. 본 고에서는 위에서 제시한 인공 신경망이 직접 검출 시스템에서 비선형 등화기로써 어떻게 활용되고 있는지와 이를 학습하는 과정에서 발생하는 과적합에 대해 살펴본다.

[원문보기]