대규모 언어 모델(LLM)의 성능은 지속적으로 발전해 왔지만, 여전히 고차원적 추론과 지식 응용에서 한계를 보이고 있다. 이를 해결하기 위해 최근 업계에서는 LLM의 추론 능력을 강화하는 사고 기반 기법(Chain of Though, Tree of Thought)과 외부 데이터베이스 활용(RAG, RIG)을 통한 지식 확장에 주목하고 있다. 또한, 모델 병합과 결합을 통해 각 모델의 장점을 최적화하여, 추론 능력을 강화하거나, 복합적인 기능을 부여하는 시도가 이루어지고 있다. 본 고에서는 이러한 기술들을 종합적으로 탐구한다.