Sudah lebih dari 2 bulan sejak Qwen3.5 diluncurkan? Dalam waktu 2 bulan, Qwen3.6 telah diluncurkan.
Versi Qwen3.6-35B-A3B moe, dengan skor evaluasi yang lebih tinggi dibandingkan dengan model lain (Qwen3.5, Gemma4).
Model Qwen3.5 27b dense yang saya gunakan terutama untuk coding telah meningkat ke skor yang hampir sama.
Saya menguji dengan memasukkannya ke kartu RTX3090 24g, dan juga menguji dengan model kuantisasi q4.
Saat melakukan uji kecepatan output sederhana, kecepatan decoding output mencapai hampir 100 tok/s,
Jika memperluas konteks maksimal menjadi 200k dan melakukan offloading ke layer CPU,
kecepatan decoding dapat ditingkatkan hingga 70tok/s.
Biasanya saat coding saya menggunakan model Qwen3.5 27b dense dengan konteks 100k yang cukup dapat digunakan,
namun Qwen3.6-35B-A3B memiliki kecepatan output yang luar biasa... jika performa coding-nya bagus, sepertinya layak untuk diganti.
Dan, dari konten diskusi di reddit, sepertinya model Qwen3.6 yang sesuai dengan model Qwen3.5 27b dense juga sedang dalam persiapan.
Karena unsloth sudah mendistribusikan gguf, silakan diperiksa oleh mereka yang melakukan llm lokal.~
