본문 바로가기

분류 전체보기215

SFT란? LLM이 지시를 따르고 도구를 쓰게 만드는 지도 미세조정 사전학습을 마친 언어모델은 문장을 이어 쓰는 능력은 뛰어나지만, 사용자의 요청을 ‘업무 지시’로 받아들이는 법까지 저절로 익히지는 않는다. 질문을 받았는데 웹 문서처럼 말을 이어 가거나, 계산기가 필요한 순간에도 그럴듯한 숫자를 만들어 낼 수 있다. SFT(Supervised Fine-Tuning, 지도 미세조정)는 이 간극을 입력과 모범 출력의 짝으로 메운다. 핵심은 지식을 새로 주입하는 것보다 “이 상황에서는 어떤 형식과 행동이 정답인가”를 반복해서 보여 주는 데 있다.여기서 자주 생기는 오해가 있다. SFT와 LoRA를 같은 종류의 기술로 보는 것이다. 둘은 답하는 질문이 다르다. SFT는 무엇을 정답으로 삼아 학습할 것인가라는 학습 목적이고, LoRA와 QLoRA는 그 목적을 달성할 때 어떤 파라.. 2026. 7. 28.
Continued Pretraining이란? 도메인 지식을 추가하는 학습과 파인튜닝의 차이 범용 LLM에 사내 기술 문서를 몇 개 보여줬는데도 전문 용어를 자꾸 일반적인 뜻으로 해석한다면, 문제는 답변 형식이 아니라 모델이 익힌 텍스트 세계에 있을 수 있다. ‘질문에는 이렇게 답하라’고 가르치는 파인튜닝만으로는 부족한 경우다. Continued Pretraining, 우리말로 계속 사전학습은 이미 만들어진 모델이 특정 도메인의 언어 분포를 다시 익히게 하는 방법이다.한 문장으로 구분하면계속 사전학습은 정답 표시가 없는 전문 문서를 읽으며 “이 분야에서는 어떤 말이 어떤 맥락에 이어지는가”를 학습하고, 지도 미세조정은 질문과 모범 답을 보며 “이 요청에는 어떤 형태로 답해야 하는가”를 학습한다.Continued Pretraining의 정확한 뜻계속 사전학습(Continued Pretraining.. 2026. 7. 27.
LLM 포스트 트레이닝이란? 프리트레이닝·파인튜닝과 차이부터 전체 과정까지 같은 거대언어모델이라도 ‘다음 단어를 잘 잇는 모델’과 ‘질문 의도를 파악해 쓸 만한 답을 주는 모델’ 사이에는 큰 간격이 있다. 인터넷 문서를 대규모로 읽힌 모델이 곧바로 친절한 상담원이나 안전한 코딩 도우미가 되는 것은 아니다. 이 간격을 줄이는 학습이 LLM 포스트 트레이닝(post-training)이다.핵심 관점프리트레이닝이 언어와 세상에 관한 넓은 확률 지도를 만든다면, 포스트 트레이닝은 그 지도를 어떤 방식으로 꺼내 쓰게 할지 조정한다. 따라서 포스트 트레이닝의 성패는 모델 크기만이 아니라 시범 답변, 선호 데이터, 평가 기준의 품질에 달려 있다.먼저 ‘학습’이 무엇인지부터언어모델은 문장을 그대로 외우는 문서함이 아니다. 텍스트를 토큰(token)이라는 작은 단위로 나눈 뒤, 앞에 나온 토큰을.. 2026. 7. 27.
opencodex란? Codex에 Kimi·Grok·GLM을 붙이는 로컬 프록시 실전 화면 정리 Codex는 좋은데, 모델이 OpenAI 쪽으로만 묶여 있으면 아쉽다. 더 싼 모델, 더 긴 컨텍스트, 다른 코딩 특화 모델을 같은 워크플로 안에서 돌리고 싶을 때 쓰는 로컬 프록시가 있다. 이름이 opencodex다.이 글은 2026년 7월 23일 기준, 실제 로컬 대시보드 opencodex v2.7.31 화면을 기준으로 정리한다. 설치 튜토리얼 전체가 아니라 “이게 뭐고, 화면에 뭐가 보이고, 언제 쓰는지”에 초점을 둔다. 한 줄 결론opencodex는 Codex CLI/앱 앞에 두는 로컬 라우팅 프록시다. OpenAI 네이티브 모델뿐 아니라 Kimi, xAI, Z.ai 같은 프로바이더 모델을 Codex 모델 선택기에 붙여 쓸 수 있다. 계정 풀 로테이션, 사용량 집계, 서브에이전트 모델 우선순위까지.. 2026. 7. 27.

티스토리툴바