Tepat pukul 00.00, versi kuantisasi dari berbagai pihak diunggah, dan saat saya mengunduh versi 4-bit dari unsloth lalu mengujinya, hasilnya sedikit di atas 11 token
Menguji 512, 1024 dan 2048 token masing-masing 10 kali menghasilkan 10~11,6 token, rata-rata sekitar 11 token
Iseng-iseng saya cari apakah ada versi mtp
Di Ollama tersedia beberapa versi, jadi langsung saya unduh dan uji
Termasuk 1024 dan 2048, saya memastikan hasilnya mendekati 30 token
Jadi iseng saya hubungkan ke OpenCode lalu diuji
Karena tersambung satu, kecepatannya sedikit turun, tapi hasilnya masih cukup lumayan
Katanya mtp belakangan jauh membaik; untuk pemakaian nyata sepertinya 4-bit bagus dan 8-bit terasa lebih andal, tetapi kalau muncul versi nvfp4 yang sudah menerapkan mtp, saya ingin mencobanya
