Base Model(베이스 모델): AI 모델 선택의 첫 번째 기준

AI 서비스를 만들 때 가장 먼저 해야 할 일은 어떤 Base Model을 선택할 것인지 결정하는 일이다. Base Model은 AI의 기초 체력을 결정하는 두뇌이며, 이후의 파인튜닝과 RAG, AI Agent의 성능까지 좌우하는 출발점이다.

같은 데이터를 학습시키더라도 어떤 Base Model을 선택했느냐에 따라 AI의 사고방식과 성능은 크게 달라진다. 결국 좋은 전문가 AI는 좋은 데이터뿐 아니라, 좋은 Base Model 선택에서부터 시작된다.

베이스 모델의 개념

베이스 모델(Base Model)은 일반적으로 파운데이션 모델(Foundation Model)에서 파생되어 배포되는 기본 학습 모델을 의미한다. 실무에서는 두 용어를 비슷한 의미로 사용하는 경우가 많지만, 실제 파인튜닝과 AI 서비스 개발에서는 Base Model이 직접적인 출발점이 된다.

베이스 모델은 AI의 두뇌다. 하지만 두뇌가 뛰어나다고 곧바로 전문가가 되는 것은 아니다. 어떤 데이터를 학습시키고, 어떤 방식으로 파인튜닝하며, 어떤 지식을 연결하느냐에 따라 같은 베이스 모델도 전혀 다른 전문가 AI로 성장할 수 있다.

인공지능 서비스가 만들어지는 과정

베이스 모델 선택이 중요한 이유

실무에서 흔히 하는 실수가 있다. 똑같은 커스텀 데이터셋을 쓰고, 동일한 방식의 LoRA 학습을 거쳐, 같은 RAG 가이드를 연결했으니 결과도 비슷할 것이라 믿는 점이다.

현실은 전혀 다르다. 뼈대가 되는 베이스 모델이 바뀌면 추론 능력, 한국어 자연스러움, 코딩 역량, 그리고 응답 속도까지 완전히 다른 결과물이 나온다. 기초 체력이 다른 사람에게 같은 교과서를 쥐여주어도 습득하는 속도와 아웃풋이 다른 것과 같은 원리다.

사람마다 재능이 다른 것처럼 베이스 모델도 저마다 타고난 강점과 약점이 명확하다. 수학을 잘하는 사람, 글을 잘 쓰는 사람, 외국어에 능통한 사람이 따로 있듯 AI 모델도 학습한 데이터의 종류와 구조에 따라 전공 분야가 갈린다.

어떤 모델은 복잡한 소스코드를 완벽하게 짜내지만 일상 대화가 어색하고, 어떤 모델은 한국어 문장을 기가 막히게 쓰지만 복잡한 연산에서 버벅거리기도 한다. 또 다른 모델은 정답률은 조금 떨어지더라도 번개처럼 빠른 속도로 답변을 뱉어내는 데 특화되어 있다. 100점짜리 만능 AI는 존재하지 않기에, 우리가 만들려는 서비스의 핵심 기능이 무엇인지 먼저 정의하고 그 과목을 가장 잘하는 모델을 골라야 한다.

시장을 이끄는 대표적인 베이스 모델 계열

• Llama : 메타가 주도하며 전 세계 오픈소스 AI의 생태계를 지배하는 표준 역할을 맡고 있다.
  • 생태계가 워낙 넓어 수많은 개발 도구, 확장 라이브러리, 커뮤니티의 기술 지원을 받기 가장 쉽다.
  • 검증된 안정성과 균형 잡힌 범용 성능 덕분에 기업들이 자체 인프라를 구축할 때 1순위로 검토한다.
• Gemma : 구글이 제작했으며 초대형 모델인 Gemini 개발 과정에서 축적된 연구 성과를 바탕으로 공개된 오픈소스 모델이다.
  • 모델의 덩치는 작지만 상위 모델 뺨치는 정교한 논리 추론 능력과 깔끔한 한국어 표현력을 보여준다.
  • 학계나 연구소는 물론, 제한된 리소스 안에서 텍스트의 구조적 완성도를 높이려는 서비스에 자주 쓰인다.
• Qwen : 알리바바가 개발한 모델로 한글, 중국어, 일본어 등 동아시아 언어 처리에서 독보적인 성능을 낸다.
  • 방대한 다국어 코퍼스와 고품질 소스코드를 학습하여 복잡한 코딩 명령어도 막힘없이 구현한다.
  • 아시아권 비즈니스를 타겟으로 하면서도 클라우드 비용을 획기적으로 아끼고 싶을 때 압도적인 가성비를 자랑한다.
• Mistral : 유럽 AI의 자존심이라 불리는 프랑스 미스트랄 AI의 작품으로 가벼우면서도 영리한 구조가 특징이다.
  • 적은 메모리로도 고성능을 내는 혼합 전문가(MoE) 구조를 적극 도입하여 인프라 유지 비용을 크게 낮췄다.
  • 속도가 빠르고 장기적인 비용 절감에 유리해 대규모 트래픽을 처리해야 하는 상용 서비스 챗봇으로 인기가 높다.
• Phi : 마이크로소프트가 공들여 만든 초경량화 모델로 “작은 고추가 맵다”는 것을 증명하는 대표 주자다.
  • 책 한 권 분량의 고품질 교과서 데이터 위주로 학습하여 크기 대비 상식과 논리력이 매우 탄탄하다.
  • 무거운 클라우드 서버 없이 스마트폰, 노트북, 키오스크 등 기기 자체 내부(On-Device)에서 AI를 돌릴 때 가장 최적화되어 있다.

나에게 맞는 베이스 모델 선택 기준

• 추론: 복잡한 논리 구조를 풀거나 단계별 사고가 필요한가?
• 한국어: 국내 사용자를 위한 자연스러운 문장 표현과 문화적 맥락이 중요한가?
• 코딩: 개발 프로세스를 자동화하거나 소스코드를 정확히 뱉어내야 하는가?
• 속도: 실시간 챗봇처럼 밀리초 단위의 빠른 응답 속도가 필수인가?
• GPU: 우리가 보유한 인프라나 클라우드 비용으로 감당 가능한 메모리 요구량인가?
• 라이선스: 상업적 서비스로 출시했을 때 법적인 문제가 없는 규정인가?

모델 크기와 끊임없이 진화하는 베이스 모델

모델 이름 뒤에 붙는 1B, 3B, 7B, 14B, 32B, 70B 같은 표기는 매개변수(Parameter)의 수를 의미한다. 여기서 B(Billion) 는 10억 개를 뜻하며, 일반적으로 숫자가 클수록 더 많은 정보를 표현하고 복잡한 문제를 처리할 수 있는 잠재력이 높아진다.

하지만 모델이 크다고 항상 좋은 것은 아니다. 70B 모델은 뛰어난 성능을 제공할 수 있지만, 그만큼 GPU 메모리와 추론 비용이 크게 증가한다. 반면 최근의 7B나 14B 모델은 아키텍처와 학습 기법이 크게 발전하면서 과거의 대형 모델에 가까운 성능을 보여주는 경우도 많다. 결국 모델 선택은 성능뿐 아니라 비용과 운영 환경까지 함께 고려해야 한다.

또한 베이스 모델은 매우 빠른 속도로 발전하고 있다.

Llama 2 → Llama 3 → Llama 4
Gemma 2 → Gemma 3
Qwen 2 → Qwen 3

오픈소스 AI 시장에서는 몇 달 단위로 새로운 버전이 등장한다. 따라서 특정 모델 이름만 쫓기보다 서비스 목적에 맞는 모델 계열을 선택하고, 최신 버전으로 지속적으로 교체할 수 있는 기준을 갖추는 것이 더 중요하다.

실무 현장에서의 모델 선택 전략

실무에서 특히 주의해야 할 점이 있다. 같은 모델 계열이라도 Base, Instruct(Instruction), Coder, Reasoning 등 목적에 따라 다양한 변형 모델이 존재한다. 이러한 모델들은 학습 목적 자체가 다르므로 이름만 보고 선택했다가는 기대했던 성능이 나오지 않을 수 있다.

실제 여러 Base Model과 변형 모델을 비교해 보면, 같은 데이터와 동일한 파인튜닝 기법을 사용하더라도, Base 모델의 특성에 따라 결과는 기대 이상으로 크게 달라질 수 있다. 따라서 프로젝트를 시작하기 전에는 모델의 크기(B)보다 어떤 목적을 위해 만들어진 모델인지를 먼저 확인하는 것이 중요하다.

• 개인 공부 및 프로토타입: 노트북에서도 가볍게 돌아가는 1B~3B 규모의 작은 모델을 쓴다.
• 사내 업무용 챗봇: 비용과 성능의 균형이 가장 잘 잡힌 7B~14B 규모를 기본으로 선택한다.
• 개발자 지원 도구: 일반 모델 대신 코드 생성에 특화된 Coder 계열의 변형 모델을 가져온다.
• 장문의 계약서 및 논문 분석: 대화 기록을 길게 유지할 수 있는 Long Context 지원 모델이 필수다.
• 자체 인프라 예산 부족: 성능을 조금 타협하더라도 메모리를 적게 먹는 경량화 모델로 타겟을 잡는다.

베이스 모델의 한계와 AI의 진화

베이스 모델은 세상의 일반적인 지식은 폭넓게 알고 있다. 하지만 우리 회사의 내부 규정이나 최신 업무 문서, 어제 발표된 신제품 정보처럼 사전 학습 이후에 생성된 정보는 알지 못한다. 인터넷의 공개 데이터를 기반으로 학습되었기 때문이다.

이러한 한계를 보완하기 위해 특정 분야의 전문성과 업무 방식을 학습시키는 파인튜닝(Fine-tuning), 최신 문서를 실시간으로 검색해 활용하는 RAG(Retrieval-Augmented Generation) 기술이 함께 사용된다.

최근 AI 기술은 Base Model → Prompt Engineering → Fine-tuning → RAG → AI Agent 순으로 발전하고 있으며, 궁극적으로는 로봇과 각종 디바이스를 제어하는 피지컬 AI(Physical AI) 시대로 확장되고 있다. 이 모든 기술의 출발점에는 언제나 Base Model이 자리 잡고 있다.

나만의 기준이 만드는 AI 경쟁력

좋은 AI는 가장 큰 모델에서 시작되는 것이 아니라, 목적에 가장 적합한 Base Model을 선택하는 것에서 시작된다. 같은 데이터와 같은 파인튜닝 기법을 사용하더라도 어떤 Base Model을 선택했느냐에 따라 결과는 크게 달라질 수 있다.

AI 프로젝트의 첫 번째 경쟁력은 가장 큰 모델을 선택하는 것이 아니라, 목적에 가장 적합한 Base Model을 선택하는 데 있다. 좋은 AI는 좋은 데이터 이전에, 올바른 Base Model 선택에서부터 시작된다.

---

글에서 사용한 머리 아픈 용어

• 파인튜닝 (Fine-tuning): 이미 완성된 기본 AI 모델에 특정 분야의 데이터를 추가로 학습시켜 특정 업무를 더 잘하도록 맞춤형 교육을 하는 과정이다.
• RAG (검색 증강 생성): AI가 거짓말을 하지 않도록 외부 문서나 데이터베이스에서 정확한 정보를 먼저 찾아낸 뒤, 그 내용을 기반으로 답변을 생성하게 만드는 기술이다.
• LoRA (Low-Rank Adaptation): AI를 파인튜닝할 때 모든 핵심 부품을 고치지 않고, 일부 부품만 아주 적은 비용으로 효율적으로 수정하여 성능을 바꾸는 최신 기법이다.
• 매개변수 (Parameter): 인간 뇌의 시냅스처럼 AI 내부에서 지식을 저장하고 연결하는 신경망의 핵심 단위이며, 이 숫자가 많을수록 보통 더 똑똑하다고 평가한다.