moa1 Mixture-of-Agents(MoA) 해설: 같은 모델도 층층이 쌓으면 GPT-4o를 넘는 이유 (arXiv 2406.04692) 질문 하나를 GPT에 던지면 답이 하나 나온다. 그런데 답이 애매할 때, 우리는 보통 다른 모델에도 물어보고 비교한다. 여기서 한 걸음 더 나가면 이런 질문이 된다. "여러 모델의 답을 고르지 말고 합치면 더 좋아지지 않을까?"2024년 Together AI·Duke·Stanford 팀의 Mixture-of-Agents(MoA)가 정확히 이 아이디어다. 그리고 놀랍게도, 오픈소스 모델만 합쳤는데 GPT-4o를 이겼다. 이 글은 "왜 합치면 좋아지는가"의 메커니즘까지 파고든다.원문: arXiv:2406.04692 출발점: LLM의 "협력성"이라는 발견논문의 핵심 관찰은 하나의 실험에서 나온다. 모델 A에게 그냥 답을 시키면 승률이 X다. 그런데 다른 모델들의 답을 같이 보여준 뒤 다시 답하게 하면 승률이 .. 2026. 7. 24. 이전 1 다음
