본문 바로가기

AI 에이전트6

AI 에이전트 포스트 트레이닝: 도구 호출 궤적을 SFT·DPO·RL로 학습하는 법 AI 에이전트가 도구 이름을 알고 있다는 것과 실제 일을 끝낸다는 것은 다르다. “가격을 확인해 달라”는 요청에 검색 도구를 한 번 부르는 모델은 만들기 쉽다. 하지만 검색 결과가 비어 있을 때 조건을 바꾸고, 권한 오류가 나면 멈추고, 최신 정보를 다시 확인한 뒤, 중복 결제 없이 작업을 마치는 모델은 훨씬 어렵다. 에이전트 포스트 트레이닝의 대상은 예쁜 최종 문장 하나가 아니라 이런 상호작용의 전 과정이다.포스트 트레이닝은 사전학습이 끝난 모델의 행동을 특정 목적에 맞게 다듬는 단계다. 여기에는 정답 행동을 모방하는 SFT, 더 나은 행동과 나쁜 행동을 비교하는 DPO 계열, 실제 또는 모의 환경에서 보상을 최대화하는 강화학습(RL)이 포함된다. 세 방법은 유행에 따라 순서대로 갈아타는 기술이 아니다.. 2026. 7. 29.
SFT란? LLM이 지시를 따르고 도구를 쓰게 만드는 지도 미세조정 사전학습을 마친 언어모델은 문장을 이어 쓰는 능력은 뛰어나지만, 사용자의 요청을 ‘업무 지시’로 받아들이는 법까지 저절로 익히지는 않는다. 질문을 받았는데 웹 문서처럼 말을 이어 가거나, 계산기가 필요한 순간에도 그럴듯한 숫자를 만들어 낼 수 있다. SFT(Supervised Fine-Tuning, 지도 미세조정)는 이 간극을 입력과 모범 출력의 짝으로 메운다. 핵심은 지식을 새로 주입하는 것보다 “이 상황에서는 어떤 형식과 행동이 정답인가”를 반복해서 보여 주는 데 있다.여기서 자주 생기는 오해가 있다. SFT와 LoRA를 같은 종류의 기술로 보는 것이다. 둘은 답하는 질문이 다르다. SFT는 무엇을 정답으로 삼아 학습할 것인가라는 학습 목적이고, LoRA와 QLoRA는 그 목적을 달성할 때 어떤 파라.. 2026. 7. 28.
ChatGPT Work vs Codex 차이: 기능은 겹치는데 왜 나눴을까? (한도·용도 정리) 새 ChatGPT 데스크톱 앱을 열면 왼쪽 위에서 ChatGPT와 Codex를 고를 수 있다. ChatGPT 안에는 다시 Chat과 Work가 있다. 메뉴 설명만 보면 Work는 문서 작업, Codex는 코딩으로 구분되는 듯하다.그런데 직접 써보면 바로 의문이 생긴다. Codex도 웹을 검색하고, 파일을 읽고, 보고서와 스프레드시트를 만들 수 있다. Work도 데스크톱에서는 로컬 폴더를 열고 앱을 조작한다. 그렇다면 왜 굳이 둘로 나눴을까?결론부터 말하면 능력의 경계가 아니라 작업 환경의 경계다. 같은 회사에 다니는 두 직원이 아니라, 비슷한 두뇌에 서로 다른 책상과 도구를 배치한 것에 가깝다. Work는 일반 업무의 결과물과 연결 앱을 중심으로, Codex는 저장소와 터미널을 중심으로 설계됐다.이 글은.. 2026. 7. 26.
모델 안 바꾸고 토큰 41% 줄였다? Writer 하네스 효과 논문 상세 해설 (2026) AI 에이전트를 쓰다 보면 이상한 일이 생긴다. 더 똑똑하다는 모델로 갈아탔는데 청구서가 안 줄어든다. 오히려 늘기도 한다. 왜일까?AI 기업 Writer의 연구가 답을 준다. 문제는 모델이 아니라 모델을 감싸서 돌리는 방식이라는 것이다. 이 "감싸는 껍데기"를 하네스(harness)라고 부른다. 논문 제목이 그대로 결론이다. The Harness Effect — 하네스만 잘 바꿔도 토큰은 38%, 비용은 41% 줄었다.원문: The Harness Effect (arXiv:2607.06906), AI타임스 보도 기준. 하네스가 뭔데?비유하면 이렇다. 요리사(모델)가 아무리 실력이 좋아도, 주방 동선이 엉망이면 요리가 느리고 재료가 낭비된다. 하네스는 그 주방 동선이다. 모델에게 무엇을 언제 넣어주고, 어.. 2026. 7. 23.