Akhir-akhir ini saya sedang membuat permainan sederhana dengan Hermes.
Jadi, alih-alih sekadar bermain game, saya malah bermain sambil membuat game.
Saya membuat ini menggunakan mesin Godot dengan menghubungkan LLM komersial ke Hermes.
Karena saya menggunakan LLM yang murah, model tanpa kemampuan multimodal (vision) adalah yang utama saya gunakan.
Jadi saya menghubungkan Gemma4-26B-A4B yang memiliki kemampuan multimodal ke Hermes
dan mencobanya sedikit, namun saya cukup kecewa.
Sebelumnya, ketika saya memberikan tugas kecil, dia terlihat cukup pintar, tetapi ketika jumlah file bertambah dan skala membesar,
dia segera menjadi bingung dan hanya menciptakan lebih banyak kesalahan daripada menyelesaikan tugas yang diminta.
Saya tidak menyadari batasannya sampai mencoba memberikan tugas yang lebih besar. Keterbatasan model sekitar 30B.
Sejak saat itu, antusiasme saya terhadap LLM lokal sangat berkurang.
Memang, setelah menggunakan model tingkat 1T, sudah wajar jika model 26B tidak memuaskan, tetapi
perbedaan tingkat kelas sepertinya tidak bisa dihindari.
