처음 Hermes를 인스톨하고는 Hermes 구동을 위한 LLM로 로컬 Gemma4-E4B를 사용했습니다.
동작은 잘하는데 Hermes같은걸 운영하기에는 좀 성능이 딸리더라구요.
그래서 glm5.1을 Hermes용 llm으로 설정해서 쓰다가,
코딩용 서브에이전트를 추가해 봤습니다.
처음엔 코딩에 쓸려고 Qwen2.5-coder-14B 를 연결했는데,
계속 에러가 나는겁니다.
연결 상태는 이상없고, 실제 모델도 잘 구동되고 있는 걸 확인했는데,
Hermes 가 서브에이젼트를 쓸려고만 하면 에러가 나는겁니다.
Hermes에게 왜 자꾸 에러가 나냐, 확인해 봐라.. 했더니..
그 이유가 글쎄 Hermes가 서브에이전트 call 하면서 일거리를 던져 준다는게
한방에 1만 토큰을 때려 넣는겁니다.
이걸 어떤 로컬 llm 이 견디나요?
Hermes도 이 14B모델은 너무 작아 못 써먹겠어요. 내 프로토콜을 전혀 이해 못합니다. 징징..
그러면서 최소 70B 이상 모델을 서브로 붙여 달랍니다.
흐미.. 뭐 이것도 로컬로 돌리는건 포기.
Qwen3-coder-480b-a35b 모델을 붙여줬습니다.
이젠 잘 동작하고 별 문제가 없네요. 무서운놈.
오늘부터는 토큰(무료라 의미는 없지만)도 아낄겸 말을 좀 짧게 반말로 했더니, Hermes도 반말로 하네요.
좀 적응이 필요합니다. 그래도 꾸준히 반말을 써야 겠어요. 타이핑도 짧고 토큰도 아끼고.
