AI 이후의 세상을 읽다
저렴한 AI를 번역 징검다리로 쓸 때 얻는 비용적 혁신 가격이 아주 저렴한 오픈소스 소형 모델이나 경량화 AI(예: GPT-4o-mini, Claude Haiku 등)를 전처리 가공 단계에 배치하는 전략은 매우 영리한 비용 절감 기술이다. 사용자가 입력한 날것의 한글 프롬프트를 이 저렴한 모델에 먼저 밀어 넣는다. 그리고 “이 한글 지시문을 가장 토큰 효율적이고 명확한 영문 프롬프트 구조로 변환해라”라는 임무를 … 더 읽기
인간은 문장 속 단어를 보며 직관적으로 의미를 읽어낸다. 하지만 AI는 우리가 모니터에 입력한 ‘안녕하세요’라는 글자를 있는 그대로 단 한 자도 읽지 못한다. AI가 텍스트를 처리하기 위해 문장을 잘게 쪼개는 최소 정보 단위, 즉 ‘토큰(Token)’의 세계를 들여다보면 생성형 AI의 작동 원리와 비용 구조가 명확히 보이기 시작한다. AI는 왜 Token(토큰)으로 문장을 이해할까? 사람은 어릴 때부터 언어를 배우며 … 더 읽기
생각만 하던 인공지능이 마침내 현실 세계의 기계를 움직이기 시작했다.그동안 디지털 화면에 갇혀 있던 AI 두뇌에 현실과 연결되는 강력한 손발이 생겼다.그 핵심 열쇠인 MCP가 바꾸어 놓을 피지컬 AI의 미래와 그 이면을 알아본다. AI가 똑똑해도 공장 설비를 못 멈춘 이유 인공지능은 그동안 방대한 지식을 뽐냈지만 정작 현실의 기계 하나 제대로 움직이지 못했다. 챗GPT에게 공장 온도가 높으니 지금 … 더 읽기
챗GPT가 모든 것을 외우지 못한다는 한계에서 출발한 RAG 기술은 AI에게 실시간으로 책을 찾아주는 오픈북 시스템이다. 기존의 파인튜닝이 AI의 말투와 전문성을 훈련한다면, RAG는 최신 정보와 내부 문서를 실시간으로 공급하는 역할을 맡는다. 두 기술은 대립하는 것이 아니라 상호 보완하며 발전하고 있으며, 앞으로는 문서 검색을 넘어 인간의 행동과 감각을 검색하는 단계로 진화할 준비를 하고 있다. 챗GPT가 모든 것을 … 더 읽기
AI 서비스를 만들 때 가장 먼저 해야 할 일은 어떤 Base Model을 선택할 것인지 결정하는 일이다. Base Model은 AI의 기초 체력을 결정하는 두뇌이며, 이후의 파인튜닝과 RAG, AI Agent의 성능까지 좌우하는 출발점이다. 같은 데이터를 학습시키더라도 어떤 Base Model을 선택했느냐에 따라 AI의 사고방식과 성능은 크게 달라진다. 결국 좋은 전문가 AI는 좋은 데이터뿐 아니라, 좋은 Base Model 선택에서부터 … 더 읽기
범용 인공지능을 특정 목적에 맞는 전문가로 만드는 파인튜닝(Fine-tuning)의 핵심 원리와 활용 전략을 살펴본다. 파운데이션 모델이 수능 만점자라면, 파인튜닝은 그 인재에게 새로운 직무를 가르치는 과정이다. 아무리 뛰어난 AI라도 나만의 업무 방식과 규정, 전문 지식은 처음부터 알지 못한다. 결국 내가 가진 지식과 경험을 학습시켜 원하는 분야의 전문가 AI로 성장시키는 것이 파인튜닝의 본질이다. 거대 모델(LLM)이 기업 업무를 모르는 … 더 읽기
오늘날 인공지능을 처음부터 학습시키려면 수만 대의 GPU와 수개월의 학습, 그리고 막대한 비용이 필요하다. 그래서 대부분의 기업은 이미 학습이 끝난 거대한 모델을 기반으로 필요한 능력만 추가한다. 이는 단순히 비용을 절약하기 위한 선택이 아니다. 인간이 이전 세대의 지식을 이어받아 새로운 분야를 배우듯, AI 역시 이미 검증된 지식을 계승하는 것이 가장 효율적인 학습 방식이기 때문이다. 이러한 지식 계승은 … 더 읽기