ollama 새 버전에서 호환성이 강화 되었다고 함미다

210.55.***.***
11

Ollama 0.30 버전 이 출시되었습니다. llama.cpp를 통해 성능이 향상되고 GGUF 모델 호환성이 강화 되었습니다. 이를 통해 Apple Silicon 기반 Ollama의 MLX 엔진이 더욱 강력해져 더 다양한 하드웨어에서 더 많은 모델을 지원하게 되었습니다.

더 많은 GPU에서 성능 향상

NVIDIA 하드웨어에서 더 빠른 처리량

Ollama 0.30을 사용하면 NVIDIA 하드웨어에서 성능이 최대 20% 향상되며, 이는 NVIDIA 및 llama.cpp 팀이 제공한 최적화 덕분입니다.

NVIDIA RTX 5090에서 Q4_K_M 양자화를 사용하여 Gemma 4 26B 모델로 테스트했습니다.

Vulkan을 통한 더욱 폭넓은 하드웨어 지원

이제 Vulkan이 기본적으로 활성화되어 Ollama의 GPU 가속 기능이 AMD 및 Intel 장치를 포함한 더 넓은 범위의 하드웨어로 확장되었습니다. 이제 더 많은 사용자가 벤더별 라이브러리를 설치하지 않고도 바로 GPU에서 모델을 실행할 수 있습니다.

더 많은 모델 지원

Ollama 0.30은 GGUF 생태계와의 호환성을 확장하여 LFMPrism 과 같은 모델 제품군은 물론 Unsloth 에서 공개한 미세 조정 모델을 포함하여 더 많은 모델을 별도의 설정 없이 바로 실행할 수 있도록 합니다 .

Hugging Face에서 GGUF 모델을 실행하세요

모델을 사용하려면 먼저 GGUF 파일 또는 GGUF 파일이 포함된 디렉토리를 다운로드하세요. 그런 다음 FROM 명령을 사용하여 GGUF 파일(또는 디렉토리)의 경로를 지정하는 Modelfile을 생성합니다.

./my-model.Q4_K_M.gguf에서

다음으로 모델을 생성하고 실행하세요.

ollama create -f Modelfile my-model
ollama run my-model

코딩 에이전트 및 어시스턴트

모델이 도구 호출을 지원하는 경우, 해당 기능은 Ollama에서도 그대로 사용할 수 있습니다. 따라서 선호하는 코딩 에이전트 및 개인 비서와 함께 이러한 모델을 단일 명령으로 사용할 수 있습니다.

클로드 코드

올라마 런치 클로드 --모델 마이모델

헤르메스 에이전트

올라마 런치 헤르메스 --모델 마이모델

오픈클로

ollama launch openclaw --model my-model

GGUF 파일이 툴 호출을 지원하는지 확인하려면 ollama show 명령어를 사용하여 tools 기능을 찾아보세요 .

올라마 쇼 마이 모델

감사의 말씀

저희는 Georgi Gerganov와 llama.cpp 유지 관리 팀, 그리고 NVIDIA, AMD, Qualcomm, Intel을 포함한 하드웨어 파트너들의 노고에 감사를 표하고 싶습니다. 이들은 각자의 플랫폼에서 GGML 생태계의 성능을 최적화하기 위해 많은 노력을 기울였습니다.

의견이 있으시면 Ollama의 Discord에 참여하시거나 hello@ollama.com 으로 연락주세요 .

❤️

BE

이런 메일이 왔는데요

기존에는 허깅페이스에서 다운받은 모델은 한번더 작업을 해서 올라마용으로 바꿔서 적용했었는데 이젠 바로바로 사용할 수 있나 봄미다

제가 기존에 사용하던 버전이 0.24버전이었네요 버전업이 상당히 빠르네요 2달도 안 되서 0.06업이라니요

로그인한 회원만 댓글 등록이 가능합니다.

개발한당

KR | ID | EN
  • IDR
  • KOR
8.36 0.01

2026.07.10 KEB 하나은행 고시회차 866회

다가오는 한인 행사일정

  • 등록 된 일정이 없어요!