Ollama versi 0.30 telah dirilis. llama.cpp telah meningkatkan kinerja dan kompatibilitas model GGUF telah ditingkatkan. Melalui ini, mesin MLX berbasis Apple Silicon di Ollama menjadi lebih kuat dan mendukung lebih banyak model di berbagai perangkat keras. | | Peningkatan Kinerja di Lebih Banyak GPU | Throughput Lebih Cepat di Perangkat Keras NVIDIA | Dengan menggunakan Ollama 0.30, kinerja meningkat hingga 20% pada perangkat keras NVIDIA, berkat optimisasi dari tim NVIDIA dan llama.cpp. | | | Diuji dengan model Gemma 4 26B menggunakan kuantisasi Q4_K_M pada NVIDIA RTX 5090. | | Dukungan Perangkat Keras Lebih Luas Melalui Vulkan | Vulkan kini diaktifkan secara default, memperluas kemampuan akselerasi GPU Ollama ke rangkaian perangkat keras yang lebih luas, termasuk perangkat AMD dan Intel. Sekarang lebih banyak pengguna dapat menjalankan model di GPU tanpa harus memasang perpustakaan khusus vendor. | | Dukungan Lebih Banyak Model | Ollama 0.30 memperluas kompatibilitas dengan ekosistem GGUF, memungkinkan LFM dan Prism serta model penyesuaian halus yang dirilis oleh Unsloth dapat dijalankan tanpa konfigurasi tambahan. | Jalankan Model GGUF dari Hugging Face | Untuk menggunakan model, pertama-tama unduh file GGUF atau direktori yang berisi file GGUF. Kemudian buat Modelfile yang menentukan jalur ke file GGUF (atau direktori) menggunakan perintah FROM. | | FROM ./my-model.Q4_K_M.gguf | | Selanjutnya, buat dan jalankan model. | ollama create -f Modelfile my-model
ollama run my-model | | Agen Pengodean dan Asisten | Jika model mendukung pemanggilan alat, fungsionalitas ini juga tersedia di Ollama. Jadi Anda dapat menggunakan model ini dengan agen pengodean pilihan Anda dan asisten pribadi dengan satu perintah. | | Claude Code | ollama launch claude --model my-model | | Agen Hermes | ollama launch hermes --model my-model | | OpenClaw | ollama launch openclaw --model my-model | | Untuk memeriksa apakah file GGUF mendukung pemanggilan alat, gunakan perintah ollama show untuk mencari kemampuan tools. | | ollama show my-model | | Terima Kasih | Kami ingin mengucapkan terima kasih kepada Georgi Gerganov dan tim pengelola llama.cpp, serta mitra perangkat keras termasuk NVIDIA, AMD, Qualcomm, dan Intel. Mereka telah melakukan banyak pekerjaan untuk mengoptimalkan kinerja ekosistem GGML di platform masing-masing. | | Jika Anda memiliki umpan balik, silakan bergabung dengan Discord Ollama atau hubungi hello@ollama.com. | |  MENJADI |
|
|
|
Saya menerima email seperti ini.
Sebelumnya, model yang diunduh dari Hugging Face harus diproses lagi agar kompatibel dengan Olamalay. Sekarang sepertinya bisa digunakan langsung.
Versi yang saya gunakan sebelumnya adalah 0.24. Pembaruannya cukup cepat, kurang dari dua bulan sudah naik 0.06.
