본문 바로가기
반응형

 

 

 

 

 

오늘은 내가만들진 않았지만 누군가 만들어준 MCP를 모델에게 직접 사용할 수 있도록 제공해 보려고 합니다.

 

 

0. pip, uv, uvx 설치

powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

 

0-1. 환경변수 설정.

$env:DATA_DIR="C:\open-webui\data"; uvx --python 3.11 open-webui@latest serve

 

 

1. ollama 가 없다면 설치하세요!

https://ollama.com/

 

Ollama

Get up and running with large language models.

ollama.com

 

 

2. Ollama Web-ui 설치

cmd 를 이용하여 아래 명령어를 실행합니다. 

pip install open-webui

 

모두 설치가 완료되면

마찬가지로 cmd 에서 아래 명령어를 실행시켜 줍니다.

open-webui serve

 

실행이되면 웹으로 접속시 아래와 같은 화면이 나오게 됩니다.

URL : http://localhost:8080/

 

 

 

 

3. 날씨정보를 가져오는 api를 로컬에서 바로 제공하기 위해 mcpo를 사용하여 바로 api를 제공합니다.

uvx mcpo --port 8000 -- uvx mcp-server-time --local-timezone=Asia/Seoul

추가 하시게 되면 Swagger로 바로 테스트 해볼 수 있는 url 을 제공합니다.

URL : http://localhost:8000/openai

 

 

 

4. 모델에게 도구를 지정해줍니다.

설정 => 도구 => 우상단의 + 버튼 클릭

 

 

 

 

5. 결과

보시면 모델이 직접 도구를 호출하여 사용하고 있음을 알려줍니다.

 

 

 

 

 

 

반응형