반응형
오늘은 내가만들진 않았지만 누군가 만들어준 MCP를 모델에게 직접 사용할 수 있도록 제공해 보려고 합니다.
0. pip, uv, uvx 설치
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"
0-1. 환경변수 설정.
$env:DATA_DIR="C:\open-webui\data"; uvx --python 3.11 open-webui@latest serve
1. ollama 가 없다면 설치하세요!
Ollama
Get up and running with large language models.
ollama.com
2. Ollama Web-ui 설치
cmd 를 이용하여 아래 명령어를 실행합니다.
pip install open-webui
모두 설치가 완료되면
마찬가지로 cmd 에서 아래 명령어를 실행시켜 줍니다.
open-webui serve
실행이되면 웹으로 접속시 아래와 같은 화면이 나오게 됩니다.
URL : http://localhost:8080/
3. 날씨정보를 가져오는 api를 로컬에서 바로 제공하기 위해 mcpo를 사용하여 바로 api를 제공합니다.
uvx mcpo --port 8000 -- uvx mcp-server-time --local-timezone=Asia/Seoul
추가 하시게 되면 Swagger로 바로 테스트 해볼 수 있는 url 을 제공합니다.
URL : http://localhost:8000/openai
4. 모델에게 도구를 지정해줍니다.
설정 => 도구 => 우상단의 + 버튼 클릭
5. 결과
보시면 모델이 직접 도구를 호출하여 사용하고 있음을 알려줍니다.
반응형
'AI' 카테고리의 다른 글
[Ollama] 허킹페이스 양자화 파일을 이용한 모델 생성 gguf (0) | 2025.03.24 |
---|---|
[POSTGRES] PgVector 설치. (윈도우10) (0) | 2025.03.17 |
[POSTGRES] Windows 설치. (0) | 2025.03.17 |
[ChatGPT] 기본 대화를 java Streming으로 구연해보자. (0) | 2025.02.13 |
[AI] Ollama 윈도우에 설치 후 사용해보기 (0) | 2025.01.15 |