m4 맥미니 32g를 m6나오기 직전에 중고로 사버려서 ㅠㅠ 눈물을 머금고 열심히 쓰려고 하고 있습니다.
이것저것 하다가 gemma4-26b-a4b가 여러모로 딱 좋아서 상주형 모델로 사용중이었는데 메모리가 살짝 모자라서 더 작은걸 찾고 있던 중이었습니다. 그래서 어제 splash도 테스트 했는데 약간 애매해서 gemma4-e4b로 정착해서 살아가려고 했지만, 오늘 다뫙 형님들의 글을 보고 다시 스플레시에 도전해보려 합니다.
메모리가 낭낭한게 필요해서 더 작은 비트로 테스트하려고 합니다. 그전에는 쳐다도 안 보던 Bonsai2도 테스트 해보려 합니다. 일단 24g기준으로 맞춰달라했고 다음처럼 테스트 예정입니다.
1. Bonsai 2 PQ2_0
2. Qwen3.6 IQ2_XXS
3. Qwen3.6 IQ3_XXS
4. Qwen3.8 IQ3_XXS
5. 현재 Gemma E4B와 최종 비교
(구독 좋아요 눌러쥬세요. ㅎㅎ)
