반응형 AI5 [Ollama] 허킹페이스 양자화 파일을 이용한 모델 생성 gguf 1.허킹페이스에 들어가서 gguf 파일을 받습니다.경로 : https://huggingface.co/Bllossom/llama-3.2-Korean-Bllossom-3B-gguf-Q4_K_M/tree/main 2. 모델파일이 필요한데요. 돌아다니는 녀석을 하나 받습니다. 3. CMD에서 아래의 명령을 입력해줍니다. (받은 gguf파일과 Modelfile 이 함께 있는 경로에 이동 후 입력해야 합니다.)ollama create Llama-3.2-Korean -f Modelfile 모델파일이 잘못된걸 갖다 써서 오류가 났었으나 제대로 된걸로 올려드렸으니 안심하고 사용하세요~ 4.끝 2025. 3. 24. [POSTGRES] PgVector 설치. (윈도우10) POSTGRES의 임베딩 의미검색을 위해 PgVector를 설치해봄니다. 1. 아래의 깃허브에 접속하여 https://github.com/pgvector/pgvector?tab=readme-ov-file#windows GitHub - pgvector/pgvector: Open-source vector similarity search for PostgresOpen-source vector similarity search for Postgres. Contribute to pgvector/pgvector development by creating an account on GitHub.github.com 윈도우에 pgvector를 설치하기전 visual basic의 C++워크로드를 설치하라고 하니 설치해줍니다.. 2025. 3. 17. [POSTGRES] Windows 설치. Vector DB를 사용하여 연관검색을 하기위해 POSTGRES의 PGVector사용하려 합니다. 1. 아래의 URL로 들어가서 17.4 버전의 윈도우 x86-64를 클릭하여 다운받습니다. https://www.enterprisedb.com/downloads/postgres-postgresql-downloads 2. 다운받은 파일을 실행합니다. 3. DBeaver 를 이용하여 접속해 봄니다. 4.끝 2025. 3. 17. [ChatGPT] 기본 대화를 java Streming으로 구연해보자. ChatGPT의 /openai/v1/chat/completions/streaming을 자바, 자바스크립트, jQuery로 구현해봤습니다.참고하세요~ 1. javascript const eventSource = new EventSource("/openai/v1/chat/completions/streaming?msg=" + $("textarea[name=iptChat]").val()); eventSource.onmessage = event => { var chunkJson = JSON.parse(event.data); $(`#${convId}`).append(chunkJson.choices[0].delta.co.. 2025. 2. 13. 이전 1 2 다음 반응형
