본문 바로가기

로컬llm2

맥북에서 OpenManus를 이용해 나만의 로컬 AI 에이전트 만들기 (Ollama 연동 가이드) 최근, 로컬 환경에서 ChatGPT와 유사한 LLM(Large Language Model)을 사용하는 사례가 늘어나고 있습니다. 그중에서도 주목받는 프로젝트가 OpenManus입니다.OpenManus는 Ollama를 활용하여 로컬 환경에서 작동하는 오픈소스 AI 에이전트로, 개인 정보 보호는 물론 인터넷 연결 없이도 작동할 수 있다는 장점이 있습니다.이번 글에서는 Mac(macOS) 환경에서 OpenManus를 설치하고 실행하는 방법을 단계별로 자세히 알려드리겠습니다.🚀 1단계: OpenManus 설치하기📌 GitHub에서 소스 코드 다운로드먼저, 터미널을 열고 다음 명령어를 입력하여 OpenManus 프로젝트를 다운로드합니다.git clone https://github.com/mannaandpoem.. 2025. 3. 26.
로컬 LLM 구축·추천: 맥·윈도우에서 어떤 툴, 몇 GB RAM이 필요할까? (2026) 로컬 LLM 구축이 처음이라면 화면에서 모델을 고르고 싶을 때는 LM Studio, 자동화와 로컬 API가 필요할 때는 Ollama를 선택하면 됩니다. 16GB 메모리에서는 7~9B Q4 모델부터 시작하고, 24GB는 14B Q4, 32GB 이상은 30B급 Q4를 시험하되 긴 컨텍스트는 메모리를 더 쓴다는 점을 감안해야 합니다.로컬 LLM은 질문과 모델 계산을 내 맥이나 윈도우 PC에서 처리하는 방식입니다. 다만 모델 다운로드, 웹 검색, 클라우드 연동, MCP 도구를 켜면 네트워크 통신이 생길 수 있으므로 “로컬 설치=모든 데이터가 무조건 외부로 나가지 않음”은 아닙니다.로컬 LLM 툴 추천: 네 가지의 역할이 다르다아래 표는 같은 종류의 앱 네 개를 비교한 것이 아닙니다. LM Studio와 Olla.. 2025. 3. 25.