요즘 Hermes로 간단한 게임을 만들고 있어요.
그냥 게임하며 노는거 대신 게임을 만들면서 놀고 있는거죠.
Hermes에 상용 LLM을 물려서 Godot engine을 이용해서 만들고 있는데요.
싸게 싸게 LLM을 쓰다 보니, 멀티모달 즉 vision 기능이 없는 녀석이 주력입니다.
그래서 멀티모달 기능이 있는 Gemma4-26B-A4B를 Hermes에 연결해서
조금 써봤는데요. 좀 실망했습니다.
그전에 작은 일 시킬때는 그리 똑똑하던 녀석이, 좀 파일 종류 많아지고 규모가 커지니까
바로 어리버리해지더니 해결하라고 시킨일을 더 오류를 만들어 내기만 하는 겁니다.
큰일 시켜보기전엔 몰랐어요. 30B 근처 모델의 한계를.
그 뒤론 로컬 LLM 에 대한 열기가 팍 식었습니다.
하긴 1T 급의 모델을 쓰다가, 26B 모델을 써보니 마음에 안드는게 당연하겠지만,
체급 차이라는게 어쩔수 없나 봅니다.
