최근 인공지능 기술의 발전에서 가장 주목할 만한 변화 중 하나는 단순한 ‘지식 AI’에서 복잡한 사고 과정을 수행할 수 있는 ‘추론 AI’로의 진화입니다. 이러한 흐름 속에서 LG AI 연구원이 개발한 ‘엑사원 딥(EXAONE Deep)’은 국내 기업이 세계적 수준의 추론 AI를 개발했다는 점에서 큰 의미를 갖습니다. 이번 포스팅에서는 엑사원 딥의 기술적 특징과 성능, 그리고 그 의의에 대해 살펴보겠습니다.
추론 AI란 무엇인가?
먼저 ‘추론 AI’가 왜 중요한지 이해할 필요가 있습니다. 기존의 많은 AI 모델들은 학습된 패턴을 바탕으로 답변을 생성하는 “지식 AI” 수준에서 작동합니다. 이러한 모델들은 학습 데이터에서 본 패턴을 인식하고 유사한 출력을 생성할 수 있지만, 복잡한 문제에 대해 단계적으로 생각하거나 논리적 추론을 수행하는 능력이 제한적입니다.
반면 ‘추론 AI’는 단순히 학습된 패턴을 재현하는 것이 아니라 문제를 분석하고, 가설을 세우며, 논리적 단계를 따라 결론에 도달하는 과정을 수행할 수 있습니다. 이는 수학, 과학 문제 해결이나 복잡한 의사결정에서 특히 중요합니다. 더 나아가 ‘에이전틱(Agentic) AI’는 이런 추론 능력을 기반으로 스스로 문제를 파악하고 해결책을 찾아내는 능동적인 AI를 의미합니다.
EXAONE Deep의 주요 특징
LG AI 연구원이 개발한 엑사원 딥은 크게 세 가지 모델로 구성되어 있습니다:
- EXAONE Deep 32B: 주력 모델로 309억 5천만 개의 파라미터를 가지고 있습니다.
- 64개의 레이어
- GQA 방식의 어텐션 매커니즘(40개의 Q-헤드, 8개의 KV-헤드)
- 102,400개의 어휘 크기
- 32,768 토큰의 컨텍스트 길이
- EXAONE Deep 7.8B: 경량 모델로, 32B 모델의 24% 크기에 불과하지만 성능은 95%까지 유지합니다.
- EXAONE Deep 2.4B: 온디바이스 모델로, 32B 모델의 7.5% 규모이지만 성능은 86%에 달합니다.
특히 주목할 점은 엑사원 딥이 중국의 딥시크 R1(671B 파라미터)과 같은 거대 모델에 비해 훨씬 작은 규모이면서도 경쟁력 있는 성능을 보여준다는 것입니다. 이는 모델의 효율성 측면에서 큰 의미가 있습니다.
성능 평가
엑사원 딥의 성능은 여러 벤치마크에서 검증되었습니다:
- 수학 문제 해결 능력:
- MATH-500: 32B 모델이 95.7점 기록
- 2025학년도 수능 수학: 94.5점으로 1등급 달성
- AIME 2024/2025: 각각 72.1%/65.8%의 정답률
- 과학 추론 능력:
- GPQA Diamond 테스트: 66.1점 기록
- 코딩 능력:
- LiveCodeBench: 59.5점 기록
특히 경량 모델인 7.8B는 OpenAI의 o1-mini보다 우수한 성능을 보였으며, 가장 작은 2.4B 모델도 동급 모델들 중 최고 수준의 성능을 보여주었습니다.
기술적 의의
엑사원 딥의 가장 큰 기술적 의의는 다음과 같습니다:
- 모델 효율성: 모델 크기를 크게 줄이면서도 성능을 유지하는 기술을 보여주었습니다. 이는 실제 응용 환경에서 비용과 자원 효율성 측면에서 큰 장점입니다.
- 온디바이스 AI: 2.4B 모델은 스마트폰, 자동차, 로봇 등 다양한 기기에서 외부 서버 연결 없이 작동할 수 있어 보안성과 개인정보 보호 측면에서 강점이 있습니다.
- 한국어 지원: 엑사원 파운데이션 모델을 기반으로 하고 있어 한국어에 강점이 있습니다.
- 오픈소스 공개: 허깅페이스를 통해 오픈소스로 공개되어 다양한 연구자와 개발자들이 활용할 수 있습니다.
실제 활용 방법
엑사원 딥은 허깅페이스를 통해 누구나 쉽게 접근하고 사용할 수 있습니다. 기본적인 사용 방법은 다음과 같습니다:
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "LGAI-EXAONE/EXAONE-Deep-32B"
model = AutoModelForCausalLM.from_pretrained(
model_name,
torch_dtype=torch.bfloat16,
trust_remote_code=True,
device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(model_name)
# 프롬프트 설정
prompt = r"""수학 문제 또는 원하는 질문"""
messages = [
{"role": "user", "content": prompt}
]
input_ids = tokenizer.apply_chat_template(
messages,
tokenize=True,
add_generation_prompt=True,
return_tensors="pt"
)
# 생성
output = model.generate(
input_ids.to("cuda"),
eos_token_id=tokenizer.eos_token_id,
max_new_tokens=32768,
do_sample=True,
temperature=0.6,
top_p=0.95,
)
print(tokenizer.decode(output[0]))
다양한 프레임워크(TensorRT-LLM, vLLM, SGLang, llama.cpp, Ollama, LM-Studio 등)에서도 사용 가능하며, AWQ 및 GGUF 형식의 양자화 모델도 제공되어 자원이 제한된 환경에서도 활용할 수 있습니다.
한계점
모든 AI 모델과 마찬가지로 엑사원 딥도 몇 가지 한계가 있습니다:
- 부적절한 응답 생성 가능성
- 연령, 성별, 인종 등과 관련된 편향된 응답 가능성
- 의미적 또는 구문적으로 부정확한 문장 생성 가능성
- 최신 정보 미반영으로 인한 잘못된 정보 제공 가능성
LG AI 연구원은 이러한 잠재적 위험을 줄이기 위해 노력하고 있으며, 사용자들은 불법적이거나 부적절한 정보 생성을 유도하는 활동을 삼가야 합니다.
결론 및 전망
엑사원 딥의 개발과 공개는 한국 AI 기술의 발전을 보여주는 중요한 이정표입니다. 특히 효율적인 모델 설계를 통해 적은 자원으로도 높은 성능을 달성했다는 점은 향후 AI 개발 방향에 시사하는 바가 큽니다.
향후 엑사원 딥은 다음과 같은 분야에서 활용될 것으로 기대됩니다:
- 교육 분야: 수학, 과학 등 복잡한 문제 해결을 위한 지원 도구
- 연구 개발: 새로운 가설 설정 및 검증을 위한 보조 도구
- 산업 분야: 복잡한 의사결정 과정을 지원하는 비즈니스 인텔리전스 도구
- 개인화된 서비스: 온디바이스 모델을 통한 개인정보 보호 강화
LG의 엑사원 딥은 단순히 기존 AI 모델의 한국형 대체재가 아닌, 효율성과 추론 능력에서 독자적인 가치를 제공하는 혁신적 모델로 평가받을 수 있습니다. 이러한 기술 발전은 국내 AI 생태계 발전에도 긍정적인 영향을 미칠 것으로 기대됩니다.
답글 남기기