Awalnya saya memasang Hermes dan menggunakan LLM lokal Gemma4-E4B untuk menjalankan Hermes.
Kinerjanya cukup baik, tetapi tidak cukup kuat untuk menjalankan Hermes.
Jadi saya mengatur glm5.1 sebagai LLM untuk Hermes dan menggunakannya,
kemudian saya mencoba menambahkan sub-agent untuk coding.
Awalnya saya menghubungkan Qwen2.5-coder-14B untuk coding,
tetapi terus muncul kesalahan.
Koneksi baik-baik saja, dan saya pastikan model benar-benar berjalan dengan baik,
tetapi setiap kali Hermes mencoba menggunakan sub-agent, muncul kesalahan.
Saya tanya kepada Hermes mengapa terus ada kesalahan, suruh dia periksa... dan hasilnya..
Ternyata masalahnya adalah saat Hermes memanggil sub-agent, dia melempar pekerjaan
sekali saja memasukkan 10.000 token sekaligus.
Model LLM lokal mana yang bisa menangani ini?
Hermes juga tidak bisa pakai model 14B ini karena terlalu kecil. Tidak mengerti protokol sama sekali. Mengeluh..
Sedangkan diminta untuk menghubungkan minimal model 70B atau lebih besar sebagai sub-agent.
Hmm.. nah, saya juga menyerah untuk menjalankan ini secara lokal.
Saya hubungkan model Qwen3-coder-480b-a35b.
Sekarang berfungsi baik dan tidak ada masalah khusus. Model yang menakutkan.
Mulai hari ini, untuk menghemat token (meskipun gratis jadi tidak ada gunanya), saya bicara dengan kalimat yang lebih pendek dan informal, dan Hermes juga jadi berbicara informal.
Butuh beberapa adaptasi. Tapi tetap harus terus pakai bahasa informal. Ketikan lebih pendek dan hemat token.
