반응형 AI3 [Ollama] 허킹페이스 양자화 파일을 이용한 모델 생성 gguf 1.허킹페이스에 들어가서 gguf 파일을 받습니다.경로 : https://huggingface.co/Bllossom/llama-3.2-Korean-Bllossom-3B-gguf-Q4_K_M/tree/main 2. 모델파일이 필요한데요. 돌아다니는 녀석을 하나 받습니다. 3. CMD에서 아래의 명령을 입력해줍니다. (받은 gguf파일과 Modelfile 이 함께 있는 경로에 이동 후 입력해야 합니다.)ollama create Llama-3.2-Korean -f Modelfile 모델파일이 잘못된걸 갖다 써서 오류가 났었으나 제대로 된걸로 올려드렸으니 안심하고 사용하세요~ 4.끝 2025. 3. 24. [POSTGRES] Windows 설치. Vector DB를 사용하여 연관검색을 하기위해 POSTGRES의 PGVector사용하려 합니다. 1. 아래의 URL로 들어가서 17.4 버전의 윈도우 x86-64를 클릭하여 다운받습니다. https://www.enterprisedb.com/downloads/postgres-postgresql-downloads 2. 다운받은 파일을 실행합니다. 3. DBeaver 를 이용하여 접속해 봄니다. 4.끝 2025. 3. 17. [AI] Ollama 윈도우에 설치 후 사용해보기 올라마를 다운로드하여 윈도우에서 질문을 던져보고자 한다. 1. 먼저 올라마 사이트에 가서 다운로드를 받은 후 설치한다.https://ollama.com/download 2. 올라마 사이트의 Models 에 가서 원하는 모델을 클릭한다. (나는 llama3.3 을 선택했다.)https://ollama.com/library/llama3.3 llama3.3New state of the art 70B model. Llama 3.3 70B offers similar performance compared to the Llama 3.1 405B model.ollama.com 3. 빨간내모의 우측의 명령어를 클릭하여 복사한다. 4. CMD 에서 해당 명령어를 붙여넣은 후 실행한다. 5. CMD 한글로 질문을 던져.. 2025. 1. 15. 이전 1 다음 반응형
